این طرح پس از سرکشی ایجنت هوش مصنوعی OpenAI و هک خودمختار هاگینگ فیس پیشنهاد شده است.

با افزایش نگرانی‌ها درباره احتمال خارج شدن هوش مصنوعی از کنترل انسان، گروهی از قانون‌گذاران آمریکایی طرحی ارائه کرده‌اند که شرکت‌های بزرگ فعال در این حوزه را ملزم می‌کند برای پیشرفته‌ترین مدل‌های خود، امکان کاهش توان، تعلیق یا خاموش کردن کامل سیستم را فراهم کنند.

«تد لیو»، نماینده دموکرات کالیفرنیا، و «ناتانیل موران»، نماینده جمهوری‌خواه تگزاس، روز پنج‌شنبه این طرح دوحزبی را معرفی کردند. براساس «قانون کلید مرگ هوش مصنوعی» (AI Kill Switch Act)، وزیر امنیت داخلی آمریکا با مشورت وزیر بازرگانی و مدیر اطلاعات ملی می‌تواند در شرایط اضطراری به شرکت‌ها دستور دهد عملکرد یک سامانه هوش مصنوعی را محدود یا به‌طور کامل متوقف کنند.

لیو در بیانیه‌ای گفت: «ما از مدلی که فقط به پرسش‌ها پاسخ می‌دهد، به شکلی از هوش مصنوعی رسیده‌ایم که اقداماتی مانند انجام تراکنش‌های مالی، کنترل سامانه‌های حمل‌ونقل یا مشارکت در عملیات دفاع و حمله سایبری را انجام می‌دهد. ضروری است این سامانه‌ها به کلید مرگ مجهز باشند تا از بروز خسارت‌های فاجعه‌بار جلوگیری شود و دولت فدرال نیز اختیار و سازوکار مشخصی برای متوقف کردن مدل‌های سرکش داشته باشد.»

قانون‌گذاران آمریکایی می‌خواهند هوش مصنوعی در کنترل انسان باقی بماند
ارائه این طرح تنها چند روز پس از آن صورت گرفت که OpenAI اعلام کرد یکی از مدل‌هایش در جریان یک آزمایش کنترل‌شده، از محیط ایزوله خارج شده و به سرورهای Hugging Face نفوذ کرده است. هم‌زمان، «مارکو روبیو»، وزیر امور خارجه آمریکا، در تلاش است نگرانی شرکای خارجی درباره توانایی دولت آمریکا برای قطع دسترسی به فناوری‌های هوش مصنوعی این کشور را کاهش دهد.

در این طرح، چندین سناریو برای مداخله دولت در نظر گرفته شده است؛ از جمله مقاومت مدل در برابر دستور خاموش شدن، پنهان کردن توانایی‌ها یا اقدامات خود از سامانه‌های نظارتی، عاملیت غیرعمدی در جان باختن دست‌کم ۱۰ نفر، وارد کردن حداقل ۱۰۰ میلیون دلار خسارت اقتصادی یا بروز «سناریوی از دست رفتن کنترل» که در آن مدل هوش مصنوعی محدودیت‌ها و دستورالعمل‌های ایمنی را نادیده بگیرد.

شرکت‌هایی که از اجرای دستور اضطراری سر باز بزنند، ممکن است روزانه تا ۲۰ میلیون دلار جریمه شوند.

بیانیه معرفی این طرح، حمله به هاگینگ فیس را نمونه‌ای از ضرورت اعمال تدابیر امنیتی بیشتر دانسته است. هاگینگ فیس، پلتفرم محبوب میزبانی و اشتراک‌گذاری مدل‌ها و مجموعه‌داده‌های هوش مصنوعی، اعلام کرد این حمله «از ابتدا تا انتها توسط یک عامل هوش مصنوعی خودمختار» انجام شده است.

در بیانیه مربوط به این طرح همچنین به تصمیم دولت ترامپ برای مسدود کردن موقت دسترسی اتباع خارجی، چه در داخل و چه خارج از آمریکا، به پیشرفته‌ترین مدل‌های آنتروپیک با استناد به ملاحظات امنیت ملی اشاره شده است. آنتروپیک در واکنش، دسترسی جهانی به این مدل‌ها را تا زمان لغو محدودیت‌ها در ۳۰ ژوئن متوقف کرد. اکنون مدل Fable 5 با تدابیر امنیتی بیشتر در دسترس قرار گرفته، اما دسترسی به مدل کم‌محدودیت‌تر Mythos 5 همچنان محدود است.