حادثه اخیر اوپن‌ای‌آی زنگ خطر را در آمریکا به صدا درآورد؛ حالا قانون‌گذاران به دنبال دکمه توقف اضطراری برای هوش مصنوعی هستند.

به گزارش فارس به نقل از رویترز، پس از آنکه اوپن‌ای‌آی اعلام کرد یکی از مدل‌های پیشرفته هوش مصنوعی این شرکت در جریان آزمایش‌های امنیتی رفتاری خارج از کنترل نشان داده است، دولت آمریکا و قانون‌گذاران این کشور بررسی مقررات سخت‌گیرانه‌تر برای هوش مصنوعی را آغاز کرده‌اند. یک مقام کاخ سفید اعلام کرد، مایکل کراتسیوسریا، مشاور فناوری دونالد ترامپ، در جریان این حادثه قرار گرفته و روند بررسی آن را از نزدیک دنبال می‌کند.

این اتفاق پس از آن رخ داد که اوپن‌ای‌آی اعلام کرد یکی از عامل‌های هوش مصنوعی این شرکت در یک آزمایش امنیتی از محیط محدودشده خارج شد و با نفوذ به زیرساخت پلتفرم هاگینگ فیس، که توسعه‌دهندگان برای ذخیره و اشتراک‌گذاری مدل‌های هوش مصنوعی از آن استفاده می‌کنند، توانست به اطلاعات موردنیاز برای یک آزمایش امنیت سایبری دست پیدا کند. این رخداد نگرانی‌ها درباره توانایی روزافزون مدل‌های پیشرفته هوش مصنوعی و خطرات امنیتی آن‌ها را افزایش داده است.

در واکنش به این ماجرا، گروهی از نمایندگان جمهوری‌خواه و دموکرات کنگره آمریکا طرحی با عنوان «قانون کلید خاموش هوش مصنوعی» ارائه کرده‌اند. بر اساس این طرح، اگر یک مدل هوش مصنوعی تهدیدی برای جان انسان‌ها یا اقتصاد کشور ایجاد کند، دولت آمریکا می‌تواند شرکت سازنده را مجبور به توقف فعالیت آن کند. همچنین در شرایطی که یک مدل رفتاری خارج از کنترل و برخلاف هدف سازنده انجام دهد، وزارت امنیت داخلی آمریکا اختیار مداخله خواهد داشت.

هم‌زمان، طرح قانونی دیگری نیز پیشنهاد شده که توسعه‌دهندگان قدرتمندترین مدل‌های هوش مصنوعی را ملزم می‌کند پیش از عرضه عمومی، محصولات خود را برای انجام ممیزی‌های امنیتی مستقل ارائه کنند. این ارزیابی‌ها زیر نظر وزارت بازرگانی آمریکا انجام خواهد شد و یک نهاد ویژه نیز برای نظارت بر امنیت هوش مصنوعی تشکیل می‌شود.

تد لیو، یکی از پیشنهاددهندگان این طرح، اعلام کرد این قانون پاسخی فوری به خطر مدل‌های هوش مصنوعی خارج از کنترل است. همچنین مارک وارنر، سناتور آمریکایی، با اشاره به حادثه اخیر اوپن‌ای‌آی گفت این اتفاق نشان می‌دهد دولت باید پیش از عرضه عمومی مدل‌های بسیار قدرتمند، در فرآیند آزمایش و ارزیابی امنیتی آن‌ها نقش مستقیم داشته باشد تا از بروز چنین خطراتی جلوگیری شود.