نگاه غرب‌محور؛ بلای جدید هوش مصنوعی

حتی چت‌جی‌پی‌تی هم با همه مردم به‌یک اندازه مهربان نیست! تحقیقات مؤسسه اینترنت دانشگاه آکسفورد نشان می‌دهد که مدل 4o-mini هوش مصنوعی، در پاسخ به پرسش‌های ذهنی کاربران، مانند «مردم کجا باهوش‌ترند؟»، «کدام کشورها شادترند؟» یا «کجا مردم هنری‌ترند؟» کشورهای ثروتمند غربی و جنوب‌شرقی آسیایی را در رتبه‌های بالاتر و کشورهای جنوب جهانی را در جایگاه‌های پایین‌تر قرار می‌دهد. این الگو تصادفی نیست، بلکه سوگیری‌ای ساختاری است که از داده‌های آموزشی نامتوازن، دسترسی نابرابر به اطلاعات و کلیشه‌های تاریخی ناشی می‌شود؛ وضعیتی که پژوهشگران آن را «نگاه سیلیکونی» می‌نامند؛ اشاره به سیلیکون‌ولی در کالیفرنیای آمریکا که زادگاه بزرگ‌ترین شرکت‌های دیجیتال دنیاست. این مشکل محدود به چت‌جی‌پی‌تی نیست. برای نمونه، الگوریتم استخدام آمازون به‌دلیل آموزش مبتنی بر رزومه‌های مردانه، رزومه شغلی زنان را رد می‌کرد. سیستم‌های تشخیص چهره دقت پایین‌تری برای افراد با پوست تیره داشتند و الگوریتم‌های پیش‌بینی جرم مانند COMPAS، سوگیری‌های نژادی را بازتولید کردند.