رفع اتهام از هوش مصنوعی

ساسان شادمان منفرد-روزنامه‌نگار

هشتمین برنامه از مجموعه برنامه‌های «دانستنیها» در تلویزیون همشهری به موضوع چت‌بات‌های هوش مصنوعی اختصاص داشت. در این برنامه میزبان محمد برادران، پژوهشگر حوزه AI و عضو هیأت علمی دانشگاه آزاد تهران شمال بودیم و درخصوص چت‌بات‌ها گفت‌وگو کردیم که بخشی از آن را ملاحظه می‌کنید.

دستیار هوشمند یا جایگزین خطرناک؟
با گسترش چشمگیر هوش مصنوعی، پرسش‌های اساسی درباره‌ کارکرد، فرصت‌ها و تهدیدات این فناوری نوین در حوزه‌های گوناگون، به‌ویژه آموزش و پژوهش مطرح شده است. چت‌بات‌هایی مانند چت‌جی‌پی‌تی، جمینای و دیپ‌سیک در ظاهر به‌عنوان ابزارهای کمکی به انسان معرفی می‌شوند، اما استفاده نادرست از آنها می‌تواند به آسیب‌های جدی علمی، اخلاقی و شغلی منجر شود.

وقتی چت‌بات جای خلاقیت را می‌گیرد
چالش اصلی جایی آغاز شد که کاربران، به‌ویژه دانشجویان به‌جای بهره‌گیری از این ابزار به‌عنوان مکمل، از آن به‌عنوان جایگزین استفاده کردند. بسیاری از دانشجویان پایان‌نامه یا مقاله خود را صرفا از طریق خروجی چت‌بات تهیه می‌کنند، بدون آنکه شناختی از صحت منابع یا تحلیل علمی داشته باشند، حتی برخی برای فریب استادان به‌طور عمدی اشتباهاتی به متن اضافه می‌کنند.

ناآگاهی؛ ریشه اصلی سوءاستفاده‌ها
بسیاری از سوءاستفاده‌ها از هوش مصنوعی ناشی از ناآگاهی است. نبود دوره‌های آموزشی  تخصصی در دانشگاه‌ها، حتی برای استادان موجب شده استفاده از ابزارهایی مانند چت‌جی‌پی‌تی بدون راهنمایی و نظارت انجام شود. نتیجه تولید انبوه متونی است
 که نه‌فقط فاقد اعتبار علمی‌اند، بلکه هویت علمی و تحقیقی دانشجویان را نیز زیر سؤال می‌برند. 

حلقه مفقوده حکمرانی فناوری
در بسیاری از کشورها قوانینی برای استفاده از هوش مصنوعی در آموزش، نشر و مالکیت فکری وضع نشده است. این خلأ قانونی بستر سوءاستفاده‌های‌ گسترده‌ای را فراهم کرده است، تا جایی که حتی مراکزی تبلیغ می‌کنند که پایان‌نامه دکتری را با کمک چت‌بات‌ها ظرف ‌یک ماه تحویل می‌دهند.
منابع جعلی و سوگیری الگوریتمی
یکی از معضلاتai ارائه منابع غیرواقعی و اطلاعات غلط است. الگوریتم‌های یادگیری ماشینی با تکرار و تأیید کاربران ممکن است اطلاعات نادرست را به‌عنوان حقیقت علمی تلقی و منتشر کنند. این امر به‌ویژه در حوزه‌های علمی و دانشگاهی تهدیدی جدی برای اعتبار پژوهش‌هاست.

 اخلاق فردی و مسئولیت پژوهشگر
هر پژوهشگری باید بداند که استفاده از هوش مصنوعی، همچون استفاده از هر منبع خارجی‌، نیازمند رعایت اصول اخلاقی و علمی است. ذکر منابع، درک محدودیت‌های الگوریتمی و استفاده هدفمند از ابزار جزو پایه‌های رفتار مسئولانه است.
3گام برای استفاده‌ درست از هوش مصنوعی 
 آموزش عمومی و تخصصی در مدارس، دانشگاه‌ها و فضای عمومی
 وضع قوانین شفاف، قابل اجرا و بین‌المللی برای صیانت از حقوق مؤلفان و حفظ کیفیت پژوهش
   نهادینه‌سازی اخلاق حرفه‌ای در کاربران، به‌ویژه در جوامع علمی و فرهنگی

تهدید یا فرصت؟
هوش مصنوعی در ذات خود تهدید نیست، بلکه فرصتی بی‌نظیر برای ارتقای کیفیت زندگی، علم و بهره‌وری است، به‌ شرطی که با نگاهی مسئولانه، قانونمند و خلاقانه با آن برخورد شود. همان‌طور که روزگاری قلم، چاپ و رسانه تهدید نبودند، هوش مصنوعی هم ابزاری در دستان انسان است؛ انتخاب با ماست که از آن چگونه استفاده کنیم.