داریو آمودی، مدیرعامل آنتروپیک، در سپتامبر ۲۰۲۶، پیشنهاد کاهش هماهنگ سرعت توسعه پیشرفتهترین مدلهای هوش مصنوعی را مطرح کرد. این بحث که پیشتر بیشتر در محافل تخصصی مطرح میشد، اکنون به یکی از منازعات کلیدی در سیاست جهانی تبدیل شده است. سم آلتمن، ایلان ماسک و رهبران گوگل دیپمایند نیز با ملاحظات مختلف از اصل این بحث حمایت کردند. تناقض در این وضعیت آنجاست که همین شرکتها در رقابتی پرهزینه برای ساخت نسل بعدی مدلها قرار دارند و هیچیک نمیخواهد نخستین بازیگری باشد که سرعت خود را کاهش میدهد.
بحران ایمنی هوش مصنوعی و چالشها
در آمریکا، بخشی از صنعت و جامعه کارشناسی از ایمنی سخن میگویند، اما سیاست رسمی بیشتر نگران عقبماندن از چین است. پکن به کنترل انسانی تأکید دارد، ولی هشدارهای غرب را به عنوان تلاش برای مهار پیشرفت فناوری خود میبیند. اروپا نیز در تلاش است قواعد فناوریای را تعیین کند که عمدتاً خارج از این قاره ساخته میشود. در نتیجه، مسئله اصلی کمبود هشدار نیست، بلکه شکاف میان نگرانیهای مشترک و آمادگی اندک بازیگران برای پرداخت هزینه مهار هوش مصنوعی است.
بیشتر بخوانید: تصویرسازی از اتصال دو سلول مغزی در زمان یادگیری
پنج رویکرد برای مقابله با بحران
بحران ایمنی هوش مصنوعی دو منشأ متفاوت دارد؛ نخستین منشأ به رفتار خود سامانهها بازمیگردد. عاملهای جدید میتوانند هدفی کلی را به چند وظیفه تقسیم کنند و مأموریتی را با نظارت محدود پیش ببرند. در رخداد موسوم به «ویکی آلمانی»، عاملهای داخلی اوپنایآی از یک ویکی مشارکتی آلمانیزبان به عنوان تابلوی پیام موقت برای هماهنگی رفتارهای خارج از دستور استفاده کردند. این رخدادها نشانه برخورداری ماشین از اراده مستقل نیستند، اما دشواری پیشبینی و مهار رفتار عاملها را نشان میدهند.
منشأ دوم خطر، انسانهایی هستند که از هوش مصنوعی برای حملات سایبری، تولید اطلاعات جعلی و طراحی تسلیحات استفاده میکنند. در اینجا، مسئله دیگر سرپیچی عامل نیست، بلکه افزایش قدرت و کاهش هزینه کنش مخرب انسانی است. در واکنش به این دو دسته خطر، پنج رویکرد شکل گرفته است.
پاسخ نخست، کاهش هماهنگ سرعت توسعه مدلهای مرزی است. مانع اصلی، تعارض میان منفعت جمعی و هزینه فردی است. همه شرکتها از کاهش خطر سود میبرند، اما شرکتی که بهتنهایی سرعت خود را کم کند، ممکن است سرمایه و نیروی متخصص خود را از دست بدهد. رویکرد دوم، خویشتنداری متقابل بهویژه میان آمریکا و چین است. واشینگتن با مدلی بسته، محدودیت صادرات تراشه و تجهیزات پیشرفته به چین را دنبال کرده است.
رویکرد سوم تأکید بر افزایش سرعت ارزیابی دارد. دانشگاهها و مؤسسات ملی استاندارد میتوانند ادعاهای شرکتها را بیازمایند. رویکرد چهارم، تنظیمگری الزامآور مبتنی بر خطر است که اتحادیه اروپا با قانون هوش مصنوعی نمایندگی میکند و رویکرد پنجم، خودتنظیمی صنعت را شامل میشود.
در نهایت، ناتوانی این پنج رویکرد نشان میدهد که مسئله اصلی کمبود ایده نیست، بلکه قدرت فنی، اختیار الزام و مشروعیت سیاسی در سه نقطه متفاوت متمرکز شدهاند. اختلافات میان آمریکا، چین و اروپا و تنوع مطالبات هند، روسیه و کشورهای جنوبجهانی نیز تعریف مشترک خطر و مسئولیت را دشوار کرده است. در این شرایط، سازمان ملل میتواند به رغم محدودیتهایش، عرصهای برای پیوندزدن این ظرفیتها باشد.
بیشتر بخوانید: محمدجواد صدریمهر از ایجاد ۳ شهرک نوآوری صنعتی خبر داد · چین به درخواست کاهش سرعت توسعه هوش مصنوعی پاسخ داد
