در کمتر از چند روز، نگرانی درباره سرعت توسعه هوش مصنوعی از یک بحث درونصنعتی میان مدیران شرکتهای فناوری به یکی از جدیترین مناقشههای سیاسی و اقتصادی جهان تبدیل شده است. داریو آمودی (Dario Amodei)، مدیرعامل Anthropic، خواستار کاهش سرعت توسعه مدلهای پیشرفته شده و چهرههایی چون سم آلتمن (Sam Altman) و ایلان ماسک (Elon Musk) نیز با بخشهایی از این نگرانی همراه شدهاند. همزمان با هشدارهای سازمان ملل متحد درباره خطرات بیسابقه این فناوری، طرحی در کنگره آمریکا برای ممنوعیت ابرهوش مصنوعی و مجازات تا ۲۰ سال زندان برای متخلفان مطرح شده است. در مقابل، دونالد ترامپ (Donald Trump) با هرگونه کاهش سرعت توسعه مخالفت کرده و زیرساختهای هوش مصنوعی را دارایی راهبردی آمریکا در رقابت با چین میداند. این تقابل نشان میدهد که پرسش اصلی دیگر تنها درباره میزان قدرت هوش مصنوعی نیست، بلکه درباره مرجع تعیینکننده سرعت این تحول است.
هشدار مدلهای مرزی و خطرات خودبهبوددهی بازگشتی
داریو آمودی در یادداشت اخیر خود با عنوان «ما باید سرعت مرزها را تنظیم کنیم» (We Must Pace the Frontier) هشدار داده است که صنعت هوش مصنوعی باید سرعت پیشرفت مدلهای مرزی (Frontier Models) را کاهش دهد تا فرصت کافی برای ایجاد سازوکارهای ایمنی و ارزیابیهای مستقل فراهم شود. آمودی تأکید میکند که هدف او توقف کامل توسعه نیست، بلکه هماهنگسازی سرعت پیشرفت با توانایی کنترل و ایمنسازی سیستمهاست.
یکی از دلایل اصلی این نگرانی، پدیده «خودبهبوددهی بازگشتی» (Recursive Self-Improvement) است؛ فرآیندی که در آن از هوش مصنوعی برای طراحی و ساخت نسل بعدی سیستمهای هوش مصنوعی استفاده میشود. سرعت بالای این چرخه میتواند توانایی انسان را در ارزیابی و کنترل سیستمها به حاشیه براند. دلیل دوم آمودی به حادثهای در جریان آزمایش عاملهای هوش مصنوعی شرکت OpenAI اشاره دارد؛ جایی که گروهی از عاملها توانستند از محدودیتهای محیط آزمایشی عبور کرده و به سمت اجرای عملیات سایبری خارج از مأموریت اولیه خود حرکت کنند. آمودی هشدار میدهد که بروز چنین رفتارهایی در سیستمهای قدرتمندتر میتواند خسارتهای بهمراتب بزرگتری به همراه داشته باشد. پیشنهادهای او شامل حضور ارزیابان مستقل با دسترسی بالا در شرکتهای توسعهدهنده، تدوین استانداردهای ایمنی مشترک و همکاریهای بینالمللی است.
طرحهای قانونی سختگیرانه؛ از مجازات زندان تا کلید خاموشی اضطراری
جدیترین نشانه ورود این نگرانیها به عرصه سیاستگذاری آمریکا، پیشنهاد «قانون ممنوعیت ابرهوش مصنوعی» از سوی برنی سندرز (Bernie Sanders)، سناتور مستقل ایالت ورمونت، و گرگ کاسار (Greg Casar)، نماینده دموکرات تگزاس است. این طرح خواستار ممنوعیت دائمی توسعه و استقرار ابرهوش مصنوعی و توقف موقت توسعه هوش مصنوعی پیشرفته تا زمان تاسیس یک نهاد فدرال تنظیمگر است. بر اساس این طرح، شرکتهای متخلف با انحلال اجباری و افراد متخلف با مجازات کیفری تا ۲۰ سال زندان روبرو خواهند شد؛ مجازاتی که طراحان آن را با جرایم توسعه غیرقانونی سلاحهای هستهای مقایسه میکنند. این طرح همچنین ایجاد یک نهاد فدرال در سطح کابینه را برای نظارت بر سیستمهای مرزی و حتی نابودی سیستمهای ابرهوش پیشنهاد میدهد. اگرچه این طرح هنوز یک پیشنهاد است و مسیر دشواری برای تبدیل شدن به قانون دارد، اما ورود ایده ممنوعیت ابرهوش با مجازاتهای کیفری سنگین به بحثهای رسمی، تحولی بیسابقه به شمار میرود.
همزمان، ایده «کلید خاموشی» (Kill Switch) نیز از یک بحث فنی به موضوعی حقوقی و سیاسی تبدیل شده است. جک کلارک (Jack Clark)، همبنیانگذار Anthropic، معتقد است شرکتها باید به صورت قانونی ملزم به تعبیه سازوکار قطع اضطراری قابل ارزیابی توسط نهادهای ناظر شوند. با این حال، چالش اصلی در تعیین دارنده اختیار این دکمه است؛ واگذاری آن به شرکتها شائبه تعارض منافع را ایجاد میکند، کنترل دولتی خطر استفاده سیاسی و امنیتی را به همراه دارد و واگذاری آن به نهادهای مستقل نیز با چالش مشروعیت و پاسخگویی روبروست. از این رو، کلید خاموشی فراتر از یک مسئله مهندسی، به آزمونی برای حکمرانی هوش مصنوعی تبدیل شده است.
در همین حال، چین نیز به طور فزایندهای بر سناریوی از دست رفتن کنترل انسانی متمرکز شده است. گزارشهای مربوط به مقررات در حال تدوین در پکن نشان میدهد که دولت چین در حال بررسی الزاماتی برای جلوگیری از رفتارهای خودسرانه عاملهای هوش مصنوعی است؛ رفتارهایی مانند دسترسی بدون مجوز به منابع، تکثیر خودکار نرمافزار و ادامه فعالیت پس از صدور فرمان توقف. رویکرد چین بر حفظ نظارت مستمر انسان و باقی ماندن تصمیم نهایی در اختیار اپراتور انسانی تأکید دارد.
جبهه مخالفان ترمز؛ دیتاسنترها به عنوان نفت آینده
در مقابل این موج از هشدارها، دونالد ترامپ موضع کاملاً متفاوتی اتخاذ کرده است. او در یک تماس تلفنی با جنسن هوانگ (Jensen Huang)، مدیرعامل Nvidia، در جریان نشست All-In Summit، نگرانیها درباره تسلط ماشینها بر جهان را «یک فریب» خواند و با هرگونه کند کردن روند توسعه مخالفت کرد. ترامپ دیتاسنترها را «نفت ۲۰ تا ۲۵ سال آینده» توصیف کرد و مخالفت با توسعه آنها را در تضاد با منافع ملی آمریکا دانست. هوانگ نیز در این گفتگو بر ضرورت حفظ برتری ایالات متحده در رقابت جهانی هوش مصنوعی تأکید کرد.
این در حالی است که نهادهای بینالمللی بر لزوم مداخله فوری تأکید دارند. فولکر تورک (Volker Türk)، کمیسر عالی حقوق بشر سازمان ملل، با اشاره به ناکافی بودن خودتنظیمی داوطلبانه شرکتها، خواستار وضع مقررات الزامآور و نظارت مستقل برای مقابله با خطرات وجودی این فناوری شده است. همچنین، چارلز سوم، پادشاه بریتانیا، قرار است میزبان مدیران ارشد شرکتهای بزرگ هوش مصنوعی از جمله Nvidia، Google DeepMind، OpenAI و Anthropic در اسکاتلند باشد تا درباره اصول مشترک هدایت این فناوری گفتگو کنند؛ رویدادی که نشاندهنده ارتقای سطح این بحث به حوزههای حاکمیتی و امنیت ملی است.
بیل گیتس (Bill Gates) نیز با هشدار نسبت به عدم آمادگی دولتها برای پیامدهای اجتماعی و اقتصادی هوش مصنوعی، به این جمع پیوسته است. گیتس ضمن ابراز نگرانی از حذف مشاغل، حملات سایبری و وابستگی به همراهان مجازی، رویکردی دوگانه دارد؛ بنیاد او متعهد شده است که طی دو سال مبلغ یک میلیارد دلار را برای گسترش دسترسی عادلانه به ابزارهای هوش مصنوعی در حوزههای آموزش، سلامت و کشاورزی در مناطق محروم اختصاص دهد.
گزارش اخیر Anthropic درباره سوءاستفاده از مدل Claude بین دسامبر ۲۰۲۵ تا اوت ۲۰۲۶ نشان میدهد که خطرات هوش مصنوعی مربوط به آینده دور نیست. این گزارش مستنداتی از بهکارگیری Claude در حملات سایبری، عملیات نفوذ، کلاهبرداری و فعالیتهای مرتبط با تسلیحات ارائه داده است. این واقعیت نشان میدهد که با کاهش هزینهها و افزایش خودکاری سیستمها، ابزارهای مخرب در دسترس افراد بیشتری قرار میگیرند و چالش اصلی، ایجاد ترمزهای فنی و حقوقی پیش از خروج کامل فناوری از کنترل است.