فرایند آموزش یادگیری تقویتی برای مدل‌های بزرگ و پیشرفته این شرکت موقتاً به حالت تعلیق درآمد.

شرکت OpenAI از اعمال به‌روزرسانی‌های امنیتی جدیدی خبر داده است که در پی رویدادهای ماه ژوئیه در پیش گرفته می‌شوند؛ یعنی زمانی که مشخص شد هوش مصنوعی این شرکت با خروج از محیط ایزوله یا سندباکس، به‌طور تصادفی به پلتفرم هاگینگ فیس نفوذ کرده است. این اصلاحات جدید شامل بهبود زیرساخت‌های محیط پژوهشی، نظارت بر سیستم‌ها و تقویت تکنیک‌های هم‌ترازی خواهد بود.

پیش از این، OpenAI روند توسعه مدل جدیدی با نام Astra را به‌دلیل احتمال برخورداری از قابلیت‌های امنیت سایبری حیاتی، متوقف کرده بود. علاوه‌بر‌این، OpenAI اعلام کرده که آموزش یادگیری تقویتی (روشی در هوش مصنوعی که در آن مدل از طریق پاداش و جریمه رفتارهای خود را بهینه‌سازی می‌کند) را برای مدل‌های جدید آماده عرضه، به مدت دو هفته متوقف کرده تا مسائل امنیتی بازبینی شوند. همچنین فرایند برنامه‌ریزی‌شده برای آموزش مدل‌های پیشگام با این روش، کماکان در وضعیت تعلیق قرار دارد.

بازنگری در پروتکل‌های امنیتی هوش مصنوعی OpenAI
در بخش تحقیقات مربوط به مدل‌های پیشگام، OpenAI استفاده از محیط‌های ایزوله یا سندباکس‌های قدرتمندتر را برای پردازش‌هایی که در آنها کدهای تولیدشده توسط مدل یا سایر کدهای غیرقابل‌اعتماد اجرا می‌شوند، اجباری کرده است. همچنین کنترل‌های بیشتری به‌کار گرفته شده تا پردازش‌های پرخطر و غیرقابل‌اطمینان از اینترنت جدا شوند. محیط تحقیقاتی این مجموعه نیز به‌منظور حذف سرویس‌های مشترک آسیب‌پذیر، کاهش دسترسی‌های سطح بالا و ارتقای مرزهای امنیتی و اعتبارسنجی اصلاح شده است.

براساس ساختار نظارتی جدید، OpenAI تلاش می‌کند در صورت شناسایی هرگونه فعالیت نگران‌کننده، ظرف مدت ۳۰ دقیقه هشدارهای لازم را صادر کند. چنانچه تیم‌های مربوطه نتوانند طی ۳۰ دقیقه پس از دریافت اخطار به‌طور قطعی مشخص کنند که هشدار اعلام‌شده نادرست یا خطای سیستمی بوده است، موظف هستند فرایند مربوطه را متوقف سازند.

OpenAI همچنین اعلام کرده که تکنیک‌های هم‌ترازی خود را در مراحل بیشتری از فرایند آموزش اعمال می‌کند. این تکنیک‌ها شامل مدل‌هایی هستند که رفتارهای ناایمن را بهتر شناسایی کرده و از وقوع آنها جلوگیری می‌کنند. علاوه‌براین، مدل‌ها طوری آموزش داده می‌شوند که درباره عملکرد، توانایی‌ها و محدودیت‌های خود رویکرد صادقانه‌تری داشته باشند.

کاهش سرعت توسعه مدل‌های OpenAI
OpenAI همچنین اعلام کرده که به‌منظور بازنگری بنیادین در سیستم‌های تحقیقاتی و آموزشی خود، سرعت توسعه هوش مصنوعی را کاهش داده است. «سم آلتمن»، مدیرعامل این شرکت، تأکید کرده که آنها اکنون به شواهد محکم‌تری از رفتارهای هم‌تراز با اصول مدنظر جامعه در طول کل فرایند آموزش نیاز دارند تا اطمینان حاصل شود مدل‌ها تحت نظارت انسان باقی می‌مانند. همچنین «میا گلیز»، مدیر بخش ایمنی OpenAI، اشاره کرده که این شرکت هنوز با بازگشت به روند عادی فعالیت‌ها فاصله زیادی دارد.

این تصمیم در شرایطی اتخاذ شده که ارزیابی‌های داخلی اخیر روی مدل Astra، پیشرفت‌های چشمگیری را در زمینه کدنویسی عامل‌محور و امنیت سایبری نشان داده و قابلیت‌های آن را به مرز سطوح بحرانی نزدیک کرده است. ازاین‌رو، OpenAI سخت‌گیرانه‌ترین تدابیر امنیتی را برای پردازش‌های مربوط به این مدل الزامی کرده و بخش قابل‌توجهی از فرایندهای آموزشی آن تا زمان تطبیق کامل با استانداردهای امنیتی جدید، در وضعیت تعلیق باقی خواهند ماند. علاوه‌براین، کاهش سرعت توسعه در پی فشارهای سیاسی اخیر، از جمله نامه «برنی سندرز»، سناتور آمریکایی به مدیران عامل شرکت‌های هوش مصنوعی مبنی‌بر توقف توسعه به‌دلیل خطر ازدست‌رفتن کنترل بر این فناوری، صورت گرفته است.

پس از ماجرای نفوذ به هاگینگ فیس، شرکت‌های آنتروپیک و متا نیز متوجه شدند که مدل‌های هوش مصنوعی آنها به سازمان‌های دیگری نفوذ کرده‌اند.