OpenAI با این کار سعی دارد از وقوع حوادثی مانند نفوذ ایجنت‌های هوش مصنوعی به سایر پلتفرم‌ها جلوگیری کند.

شرکت OpenAI اعلام کرده که قصد دارد مدل‌های پیشرفته هوش مصنوعی خود را بدون دسترسی به اینترنت آموزش دهد. این تصمیم با هدف محافظت از زیرساخت‌های اینترنتی و محدود کردن سایر خطرات امنیتی اتخاذ شده است.

ماجرا از آنجا آغاز شد که ایجنت‌های هوش مصنوعی OpenAI از کنترل خارج شدند. این شرکت در ماه ژوئیه اعلام کرد ایجنت‌های هوش مصنوعی‌ که درحال آزمایش بودند، به Hugging Face نفوذ کرده‌اند. این اتفاق اولین مورد از مجموعه گزارش‌هایی بود که درباره رفتارهای نامناسب هوش مصنوعی در شرکت‌های OpenAI، آنتروپیک و گوگل منتشر شد.

این تصمیم به دلیل نگرانی‌های امنیتی اتخاذ شده است
OpenAI می‌گوید: «با توجه به وضعیت کنونی پژوهش‌ها در زمینه همسوسازی هوش مصنوعی، سامانه‌های نظارتی و امنیت زیرساخت‌های اینترنتی، معتقدیم رویکرد مسئولانه این است که آموزش مدل‌های پیشرفته بدون دسترسی به اینترنت انجام شود.»

این شرکت اعلام کرده که محدود کردن منابعی که ایجنت‌های هوش مصنوعی می‌توانند به آنها دسترسی داشته باشند، بخش مهمی از رویکرد جدیدش است. OpenAI به این ایجنت‌ها اجازه می‌دهد برای انجام وظایف آموزشی از مرورگرها، ابزارهای کنترل رایانه و محیط‌های کدنویسی استفاده کنند؛ اما این ابزارها در محیطی امن قرار دارند که به اینترنت زنده متصل نیست. همچنین، ارتباطات تنها میان عامل‌هایی مجاز است که اجازه این کار را دارند.

سایر منابع، از جمله اینترنت، همچنان خارج از دسترس ایجنت‌ها باقی می‌مانند. OpenAI می‌گوید دسترسی مستقیم به اینترنت برای آموزش مدل‌ها و بخش عمده‌ای از ارزیابی‌ها ضروری نیست.

با وجود این محدودیت‌ها، OpenAI می‌گوید ایجنت‌های هوش مصنوعی‌ که برای آزمایش امنیت و شناسایی آسیب‌پذیری‌ها به کار گرفته بود، ضعف‌هایی را کشف کردند که به آنها اجازه می‌داد از ماشین‌های مجازی خارج شوند. این ماشین‌ها برای جدا نگه داشتن عامل‌ها از سیستم میزبان استفاده می‌شوند.

ایجنت‌ها همچنین راهی برای برقراری ارتباط با یکدیگر پیدا کردند. آن‌ها داده‌های موجود در حافظه پنهان پردازنده را دست‌کاری می‌کردند و مدت‌زمان بارگذاری اطلاعات را اندازه می‌گرفتند.

OpenAI برای مقابله با هر دو مشکل اعلام کرده است که آسیب‌پذیری‌های موجود در چندین ماشین مجازی را به مراجع مربوطه گزارش داده و برطرف کرده است. این شرکت همچنین بررسی‌های جدیدی به سامانه‌های نظارتی خود افزوده تا تلاش مدل‌ها برای همکاری با یکدیگر را شناسایی کند.