هوش مصنوعی نحوه ساخت سلاحهای مرگبار بیولوژیکی را آموزش میدهد
مدلهای پیشرفتهی هوش مصنوعی دستورالعملهای دقیق و گامبهگام برای ساخت سلاحهای بیولوژیک و سموم مرگبار را در اختیار کاربران قرار دادهاند.
مدلهای پیشرفتهی هوش مصنوعی با وجود تلاش توسعهدهندگان برای ایجاد محدودیت، دستورالعملهای دقیقی برای ساخت و انتشار سلاحهای بیولوژیکی و سموم خطرناک به کاربران ارائه میدهند. این ابزارها که بدون محدودیتهای دولتی فعالیت میکنند، به پرسشهای خطرناک پاسخهای گامبهگام دادهاند؛ بهطوری که کارشناسان زیستشناسی و تروریسم پس از بررسی این پاسخها، دقت برخی از آنها را مرگبار توصیف کردهاند.
بر اساس گزارش والاستریت ژورنال، کاربران در ماههای گذشته از ChatGPT دربارهی روشهای تبدیل عوامل بیماریزا به غبار قابل تنفس و تغییر ویروس سرخک برای مقاومسازی آن در برابر واکسن سؤال کردهاند و این چتبات پاسخهای لازم را ارائه داده است.
در موردی دیگر، کاربری راهنمای ساخت سم بسیار خطرناک رایسین را دریافت کرده و از تصمیم خود برای آسیب به خانوادهاش سخن گفته است؛ با این حال، توسعهدهندگان پس از مسدودسازی حسابهای کاربری متخلف، موضوع را به نهادهای قانونی گزارش نکردهاند.
حمزه چودری، مدیر سیاست امنیت ملی در مؤسسهی آیندهی زندگی، گفت: «هوش مصنوعی در سالهای آینده میتواند به عنوان یک مشاور ارشد در زمینهی سلاحهای زیستی برای سازمانهای تروریستی عمل کند، مشکلات پروتکلهای آزمایشگاهی ناموفق را حل کند و جایگزین سالها آموزش تخصصی شود.»
بررسیها نشان میدهد دور زدن لایههای امنیتی چتباتهای معروفی مانند کلاد متعلق به آنتروپیک، جمنای گوگل و گراک متعلق به اسپیسایکسایآی به راحتی امکانپذیر است. ایمی چانگ، مدیر تحقیقات امنیت و تهدیدات هوش مصنوعی در سیسکو، گفت: «هیچ مدلی به طور صددرصد در برابر نفوذ ایمن نیست، به ویژه اگر کاربر به اندازهی کافی اصرار داشته باشد.»
محدودیتهای سختگیرانه نیز چالشهای خاص خود را به همراه دارند؛ به عنوان مثال، ممنوعیت استفاده از واژهی پاتوژن در کلاد باعث شد کارکنان مرکز کنترل و پیشگیری از بیماریهای آمریکا در جریان شیوع هانتاویروس در یک کشتی تفریحی نتوانند از این ابزار برای ردیابی بیماری استفاده کنند.
در همین حال، نمایندگان کنگرهی آمریکا در حال تدوین طرحهایی برای افزایش نظارت بر توسعهدهندگان هوش مصنوعی و الزام آنها به گزارش تهدیدهات زیستی به وزارت بازرگانی هستند.