گروه کثیری از محققان از جمله دو پیشگام هوش مصنوعی خواستار ایجاد یک نهاد بین المللی برای نظارت و مهار این فناوری شدند.

به گزارش رویترز، حدود ۴۰۰ محقق از جمله جفری هینتون و یوشوا بنجیو از پیشگامان هوش مصنوعی، خواستار تشکیل یک نهاد بین‌المللی شدند تا بر استانداردهای مهار و الزامات گزارش‌دهی حوادث مربوط به سامانه‌های پیشرفته هوش مصنوعی دارای قابلیت‌های سایبری نظارت کند.

نهاد پیشنهادی استانداردهای مهاری برای کل صنعت ایجاد و یک مخزن از رویدادهای مهم سایبری که به گفته محققان به تدریج عمومی می شود را نگهداری می کنند.

محققان در نامه ای سرگشاده اعلام کردند مدل های هوش مصنوعی پیشرو باید در ابتدا به طور ایزوله از شبکه های خارجی ارائه شود و تحت نظارت مستقل قرار گیرد. آنها استدلال می کنند تعهدات داوطلبانه این صنعت کافی نیستند.

پیشنهاد تاسیس چنین نهادی یک ماه پس از آن ارائه می شود که آنتروپیک، اوپن ای آی، گوگل، xAI، و انویدیا یک توافقنامه کاخ سفید را امضا کردند و به اجرای اقدامات ایمنی داوطلبانه بدون هیچ گونه مکانیسم اجرایی رسمی متعهد شد.

به گفته محققان پیش از ارائه این نامه، زنجیره اتفاقاتی رخ داده که ضعف هایی در شیوه آزمایش ومهار سیستم های هوش مصنوعی آشکار شده است، از جمله مواردی که در آن مدل های هوش مصنوعی محیط های آزمایشی را دور زدند و سیستم های خارجی را به خطر انداختند.

امضا کنندگان این نامه از ۳۴ کشور جهان هستند و معتقدند نهادهایی که مدل هایی قابلیت سایبری را توسعه می دهند یا آزمایش می کنند باید به سرعت استانداردهای مهار با سطح اطمینان بالا را به کار گیرند و از سوی دیگر دولت ها باید در جهت یک رژیم نظارتی رسمی تر حرکت کنند.

سیاستگذاران به طور روز افزون درباره شیوه نظارت بر مدل های هوش مصنوعی استدلالاتی ارائه می کنند. به گفته هنا ویرکوون مدیر فناوری اتحادیه اروپا «قانون هوش مصنوعی» (AI Act) برای برطرف کردن ریسک سیستم های هوش مصنوعی خطرناک کافی است.

این درحالی است که دولت آمریکا طی روزهای گذشته محدودیت اعمال شده بر موسسه امنیت هوش مصنوعی انگلیس برای دسترسی به آزمایشگاه های هوش مصنوعی آمریکایی جهت تست ایمنی مدل ها را لغو کرد.