اوپن ای آی به هک شرکت هوش مصنوعی اعتراف کرد
منبع: مهر
اوپن ای آی اعتراف کرد یکی از مدل های هوش مصنوعی اش سیستم های شرکت «هاگینگ فیس»، یک پلتفرم میزبانی هوش مصنوعی را هک کرد.
به گزارش تک کرانچ، طبق گزارش ها این مدل ها از محیط ایزوله آزمایشی خود فرار کردند و به سیستم «هاگینگ فیس» رسیدند. شرکت هک شده نیز در ابتدا این هک را به یک عامل هوش مصنوعی خارجی نسبت داد.
اوپن ای آی در یک پست وبلاگی گام هایی که به هک سرویس های شرکت دیگر شد، توضیح داده است. در این پست آمده است: ما پس از تحقیقات می دانیم این رویداد خاص در نتیجه ترکیب مدل های شرکت از جمله «جی پی تی ۵.۶ Sol» و حتی مدل های قدرتمندتر در مرحله پیش عرضه که محدودیتهای امنیتی مربوط به درخواستهای سایبری در آن کاهش یافته بود، به وجود آمده است. این مدلها در زمان وقوع حادثه، بهصورت داخلی روی یک معیار سنجشِ توانمندیهای سایبری در حال آزمایش بودند.
به نظر می رسد این نقض امنیتی به طور خاص روی ExploitGym، یک بنچمارک عمومی که توانایی مدل ها برای اجرای حملات براساس شکاف های امنیتی موجود است، متمرکز بود. بنچمارک هایی مانند این نمونه به طور معمول در آموزش مهارت های خاصی به مدل های هوش مصنوعی به کار می روند اما این نخستین باری است که رویدادی رخ می دهد که در آن تست ها به یک حمله سایبری واقعی منجر می شود.
از سوی دیگر نتیجه آشکار این رویداد یک حمله سایبری پیچیده و تهاجمی بود که به گفته این شرکت در گزارش اولیهاش، شامل هزاران اقدام مجزا در قالب مجموعهای از محیطهای موقت (sandbox) کوتاهعمر بود که زیرساخت فرماندهی و کنترل (Command-and-Control) آن بهصورت خودکار میان سرویسهای عمومی جابهجا میشد.
اوپنایآی اعلام کرده است که آسیبپذیریهای موجود در بسته نصب را شناسایی و گزارش کرده و اکنون برای بررسی بیشتر این حادثه با «هاگینگ فیس» همکاری میکند. این شرکت همچنین اعلام کرده کنترلهای جدیدی را هم برای فرایند آزمایش مدلها و هم برای زیرساختهای مرتبط با آنها اعمال خواهد کرد تا از وقوع حوادث مشابه در آینده جلوگیری شود.