نگرانی از رفتار تبعیض‌آمیز هوش مصنوعی

اتحادیه اروپا نگران پیشرفت هوش مصنوعی و تبعیض حاصل از آن است. رئیس بخش رقابت این اتحادیه می‌گوید: تبعیض تهدید بزرگ‌‌تری از هوش مصنوعی نسبت به کنار گذاشتن نیروهای انسانی توسط این فناوری است. مارگرت وستاگر گفت: اگرچه خطر وجودی ناشی از پیشرفت در هوش مصنوعی ممکن است نگران‌کننده باشد، اما احتمال تبعیض در این فناوری یک مشکل واقعی است. به گزارش بی‌بی‌سی، وستاگر معتقد است برای هوش مصنوعی باید نرده‌های محافظ ایجاد شود؛ به‌ویژه در موقعیت‌هایی که از این فناوری برای تصمیم‌گیری‌هایی استفاده می‌شود که بر معیشت تأثیر می‌گذارد، مانند درخواست‌های وام مسکن یا دسترسی به خدمات اجتماعی.
وستاگر گفت: جایگزینی تمام و کمال هوش مصنوعی در امور انسانی بعید نیست، اما من فکر می‌کنم احتمال آن بسیار کم است. به‌عقیده من خطرات ناشی از رفتار تبعیض‌آمیز هوش مصنوعی و نادیده گرفتن برخی از جمعیت جهان بیشتر محتمل است. ممکن است بانک یا ارگان دولتی یا شهری با استفاده از این فناوری به درستی به همه اقشار جامعه به واسطه رنگ پوست یا جنسیت و ملیت خدمات‌رسانی نکند. در بریتانیا، دفتر کمیسر اطلاعات در حال بررسی این مورد است که آیا سیستم‌های هوش‌مصنوعی هنگام رسیدگی به درخواست‌های شغلی تعصب نژادی نشان می‌‌دهند یا خیر. نگرانی قانونگذاران این است که ابزارهای هوش‌مصنوعی در مجموعه‌ داده‌هایی که روی آنها آموزش دیده و آزمایش می‌‌شوند، به‌طور دقیق یا منصفانه نمایش داده نشوند که به این ترتیب نتایج آن به ضرر گروه‌های خاصی از جامعه می‌شود. نگرانی‌های وستاگر بازتاب برخی از نگرانی‌های کارشناسان فناوری است که می‌گویند ترس از خطر وجودی مرتبط با هوش مصنوعی بر خطرات فوری‌تری مانند اطلاعات نادرست مبتنی بر هوش مصنوعی سایه می‌اندازد. رئیس رقابت اتحادیه اروپا گفت که درخواست‌ها برای توقف توسعه هوش مصنوعی با حمایت ایلان ماسک و دیگر مقامات ارشد این فناوری، غیرقابل اجراست. ریشی سوناک، نخست‌وزیر بریتانیا، در پاییز امسال یک اجلاس جهانی ایمنی هوش مصنوعی برای کشورهای همفکر تدارک دیده است و مدیران فناوری مانند ساندرا پیچای مدیرعامل گوگل و ایلان ماسک نیز برای ایجاد چارچوب‌های جهانی برای تنظیم این فناوری فرا خوانده شده‌اند.