یادداشت
خطری به نام هوش‌مصنوعی
هنری کیسینجر-مشاور سابق امنیت ملی آمریکا
چند سال پیش در کنفرانسی در مورد مسائل فراآتلانتیک، موضوع هوش مصنوعی در دستور کار قرار گرفت. من در آستانه ترک کردن آن جلسه بودم - این موضوع خارج از نگرانی‌های معمول من بود - اما ابتدای سخنرانی، من را روی صندلی خود نگه داشت.
سخنران عملکرد یک برنامه رایانه‌ای را توضیح داد که به‌زودی قهرمانان بین‌المللی را در بازی «گو» (Go) یا همان ویچی به چالش خواهد کشید. من شگفت‌زده شدم که یک رایانه می‌تواند بر بازی «گو» مسلط شود که از شطرنج پیچیده‌تر است. در آن، هر بازیکن 180یا 181قطعه (بسته به رنگی که انتخاب می‌کند) را به‌طور متناوب روی یک تخته خالی در ابتدا قرار می‌دهد. پیروزی به کسی تعلق می‌گیرد که با اتخاذ تصمیمات استراتژیک بهتر، حریف خود را با کنترل مؤثرتر قلمرو بی‌حرکت کند.
سخنران اصرار داشت که این توانایی را نمی‌توان از قبل برنامه‌ریزی کرد. او گفت که دستگاه او با آموزش خود از طریق تمرین، تسلط بر بازی را آموخت. با توجه به قوانین اساسی Go، رایانه بازی‌های بی‌شماری را علیه خودش انجام داد، از اشتباهات خود درس گرفت و الگوریتم‌های خود را براساس آن اصلاح کرد. در این فرایند، از مهارت‌های مربیان انسانی خود فراتر رفت و در واقع، در ماه‌های بعد از سخنرانی، یک برنامه هوش مصنوعی به نام AlphaGo به‌طور قاطع بزرگ‌ترین بازیکنان Go را در جهان شکست داد.
وقتی به سخنران گوش می‌دادم تجربه‌ام به‌عنوان یک تاریخ‌نگار و سیاستمدار، من را به مکث و تامل وامی‌داشت. آیا این ماشین‌ها یاد می‌گیرند که با یکدیگر ارتباط برقرار کنند؟ آیا ما در آستانه مرحله جدیدی از تاریخ بشر بودیم؟
با آگاهی از عدم‌صلاحیت فنی خود در این زمینه، با مشاوره و همکاری آشنایان در زمینه فناوری و علوم انسانی، تعدادی گفت‌وگوی غیررسمی در این زمینه ترتیب دادم. این بحث‌ها باعث شده که نگرانی‌های من بیشتر شود. پیش از این، پیشرفت فناوری که بیش از همه مسیر تاریخ مدرن را تغییر داد، اختراع ماشین چاپ در قرن پانزدهم بود. عصر اینترنت که در حال حاضر در آن زندگی می‌کنیم، برخی از سؤالات و مسائلی را که هوش مصنوعی حادتر می‌کند، پیش‌بینی می‌کند. هدف اینترنت تأیید دانش از طریق انباشت و دستکاری داده‌های روزافزون است. افراد به داده تبدیل و داده‌ها غالب می‌شوند.
کاربران اینترنت بر بازیابی و دستکاری اطلاعات و زمینه‌سازی یا مفهوم‌سازی معنای آن تأکید دارند. آنها به ندرت تاریخ یا فلسفه را مورد بازبینی قرار می‌دهند. به‌عنوان یک قاعده، آنها اطلاعات مربوط به نیازهای عملی فوری خود را طلب می‌کنند. در این فرایند، الگوریتم‌های موتور جست‌وجو توانایی پیش‌بینی اولویت‌های مشتریان را به‌دست می‌آورند و الگوریتم‌ها را قادر می‌سازند تا نتایج را شخصی‌سازی کنند و آنها را برای اهداف سیاسی یا تجاری در اختیار طرف‌های دیگر قرار دهند. حقیقت نسبی می‌شود و اطلاعات، خرد را تهدید می‌کند.
کاربران از طریق رسانه‌های اجتماعی غرق درنظرات بسیاری از افراد هستند و از درون‌نگری منحرف می‌شوند. در حقیقت بسیاری از عاشقان فناوری از اینترنت استفاده می‌کنند تا از تنهایی که از آن می‌ترسند، اجتناب کنند. تأثیر فناوری اینترنت بر سیاست مشهودتر است. توانایی هدف قراردادن گروه‌های خرد، اجماع قبلی در مورد اولویت‌ها را با تمرکز بر اهداف تخصصی، از بین برده است. رهبران سیاسی که تحت‌تأثیر فشارهای خاص قرار گرفته‌اند، از فرصت فکر کردن یا تأمل در این زمینه محروم می‌شوند و فضای موجود را برای توسعه بینش محدود می‌کنند. همانطور که اینترنت و افزایش قدرت محاسباتی، انباشت و تجزیه و تحلیل داده‌های گسترده را تسهیل کرده است، همانگونه نیز باید گفت که چشم‌اندازهای بی‌سابقه‌ای برای درک بشر پدیدار شده است. شاید مهم‌ترین پروژه، تولید هوش مصنوعی باشد؛ فناوری‌ای که قادر به اختراع و حل مسائل پیچیده و به ظاهر انتزاعی با فرایندهایی است که به‌نظر می‌رسد شبیه‌سازی ذهن انسان است.
پژوهش‌های هوش مصنوعی که تاکنون محدود به حوزه‌های فعالیت خاصی بوده، اکنون به‌دنبال ایجاد یک هوش مصنوعی «عموماً هوشمند» است که قادر به اجرای وظایف در زمینه‌های مختلف خواهد بود. درصد فزاینده‌ای از فعالیت‌های انسانی در یک دوره زمانی قابل اندازه‌گیری توسط الگوریتم‌های هوش مصنوعی هدایت می‌شود. اما این الگوریتم‌ها که تفسیرهای ریاضی داده‌های مشاهده‌شده هستند، واقعیت زیربنایی را که آنها را تولید می‌کند، توضیح نمی‌دهند. به طرز متناقضی، با شفاف‌تر شدن، جهان مرموزتر می‌شود. چه چیزی آن دنیای جدید را از دنیایی که ما می‌شناسیم متمایز می‌کند؟ چگونه در آن زندگی خواهیم کرد؟ چگونه هوش مصنوعی را مدیریت می‌کنیم، آن را بهبود می‌دهیم یا حداقل از آسیب رساندن به آن جلوگیری می‌کنیم که به شوم‌ترین نگرانی منتهی می‌شود: اینکه هوش مصنوعی، با تسلط سریع‌تر و قطعی‌تر بر برخی از شایستگی‌ها نسبت به انسان‌ها، می‌تواند به مرور زمان شایستگی و موقعیت انسان را کاهش دهد و آن را به داده تبدیل کند.
