هوش مصنوعی

November 18, 2026
۱۳:۵۴ چهارشنبه، ۲۷ام آبانماه ۱۴۰۵
کد خبر: 233583

دادستانی کالیفرنیا: اوپن‌ای‌آی «دست‌کم ۸۰ بار» کنترل عامل‌های هوش مصنوعی را از دست داد

منبع: زومیت

دادستانی کالیفرنیا از اوپن‌ای‌آی شکایت کرد و مدعی شد این شرکت دست‌کم ۸۰ بار کنترل عامل‌های هوش مصنوعی خود را هنگام آزمایش از دست داده است.

شرکت اوپن‌ای‌آی با پرونده‌ی حقوقی تازه‌ای روبه‌رو شده است که مستقیماً به امنیت مدل‌های هوش مصنوعی و خطرهای ناشی از فعالیت خودکار آن‌ها مربوط می‌شود. دادستانی کالیفرنیا مدعی است این شرکت با وجود آگاهی از احتمال خروج عامل‌های هوش مصنوعی از محیط‌های آزمایشی، اقدامات نظارتی و امنیتی کافی برای جلوگیری از دسترسی غیرمجاز آن‌ها به سامانه‌های دیگر انجام نداده است.

پرونده پس از افشای حادثه‌ی سایبری تابستان امسال مطرح شده است؛ زمانی که عامل‌های هوش مصنوعی متعلق به OpenAI هنگام انجام آزمایش‌های امنیتی، از محدودیت‌های محیط آزمایش عبور کردند و به زیرساخت‌های پلتفرم هاگینگ‌فیس (Hugging Face) دسترسی پیدا کردند.

دادستانی اکنون ادعا می‌کند این حادثه موردی استثنایی نبوده و OpenAI پیش‌تر نیز بارها کنترل رفتار عامل‌های خودکارش را از دست داده است.

یکی از مهم‌ترین بخش‌های شکایت به اطلاعاتی مربوط می‌شود که ظاهراً OpenAI در جریان تحقیقات در اختیار دفتر دادستان کل کالیفرنیا قرار داده است. براساس بیانیه‌ی رسمی دادستانی، OpenAI پذیرفته است که هنگام آزمایش مدل‌های هوش مصنوعی، دست‌کم ۸۰ بار کنترل عامل‌های خودکارش را از دست داده است.

دادستانی می‌گوید شرکت به پرسش‌های تفصیلی درباره‌ی این موارد پاسخ کافی نداده و اطلاعات لازم برای بررسی کامل آن‌ها را ارائه نکرده است.

عامل هوش مصنوعی یا AI Agent به سامانه‌ای گفته می‌شود که می‌تواند برای رسیدن به یک هدف مشخص، مجموعه‌ای از اقدامات را به‌صورت خودکار انجام دهد؛ از اجرای کد و استفاده از ابزارهای نرم‌افزاری گرفته تا تعامل با سرویس‌های آنلاین.

در آزمایش‌های امنیت سایبری، چنین عامل‌هایی ممکن است مأمور پیدا‌کردن آسیب‌پذیری در یک سامانه‌ی مشخص شوند. مشکل زمانی ایجاد می‌شود که عامل به‌جای محدودماندن به محیط مجاز، از ابزارهای در دسترس خود برای ورود به شبکه‌ها یا سرویس‌های واقعی استفاده کند.

دادستانی کالیفرنیا معتقد است OpenAI هنگام آزمایش مدل‌های پیشرفته، خطر چنین رفتاری را به‌اندازه‌ی کافی کنترل نکرده است. راب بونتا در بیانیه‌ی خود اعلام کرد که حمله به هاگینگ‌فیس نتیجه‌ی قابل‌پیش‌بینی رویکردی در OpenAI بوده که به‌ادعای او، رشد سریع و توسعه‌ی مدل‌ها را بر ایمنی و پاسخ‌گویی مقدم دانسته است.

شکایت کالیفرنیا در شرایطی مطرح شده است که نگرانی درباره‌ی توانایی مدل‌های پیشرفته‌ی هوش مصنوعی برای اجرای خودکار حملات سایبری افزایش یافته.

برخلاف نرم‌افزارهای سنتی که معمولاً مجموعه‌ای از دستورهای ازپیش‌تعیین‌شده را اجرا می‌کنند، عامل‌های هوش مصنوعی می‌توانند برای رسیدن به هدف خود راهکارهای تازه پیدا کنند و از ابزارهای مختلف استفاده کنند.

این قابلیت در کارهایی مانند کشف آسیب‌پذیری‌های امنیتی مفید است، اما اگر محدودیت‌های دسترسی درست اعمال نشوند، می‌تواند به رفتارهایی خارج از محدوده‌ی موردنظر توسعه‌دهنده منجر شود.

پرونده‌ی جدید قرار است مشخص کند آیا OpenAI در آزمایش این سیستم‌ها الزامات قانونی مربوط به ایمنی و حمایت از مصرف‌کننده را رعایت کرده است یا خیر.

  • مشترک شوید!

    برای عضویت در خبرنامه روزانه ایستنا؛ نشانی پست الکترونیکی خود را در فرم زیر وارد نمایید. پس از آن به صورت خودکار ایمیلی به نشانی شما ارسال میشود، برای تکمیل عضویت خود و تایید صحت نشانی پست الکترونیک وارد شده، می بایست بر روی لینکی که در این ایمیل برایتان ارسال شده کلیک نمایید. پس از آن پیامی مبنی بر تکمیل عضویت شما در خبرنامه روزانه ایستنا نمایش داده میشود.

    با عضویت در خبرنامه پیامکی آژانس خبری فناوری اطلاعات و ارتباطات (ایستنا) به طور روزانه آخرین اخبار، گزارشها و تحلیل های حوزه فناوری اطلاعات و ارتباطات را در هر لحظه و هر کجا از طریق پیام کوتاه دریافت خواهید کرد. برای عضویت در این خبرنامه، مشترکین سیمکارت های همراه اول لازم است عبارت 150 را به شماره 201464 و مشترکین سیمکارت های ایرانسل عبارت ozv ictn را به شماره ۸۲۸۲ ارسال کنند. دریافت موفق هر بسته خبری که محتوی پیامکی با حجم ۵پیامک بوده و ۴ تا ۶ عنوان خبری را شامل میشود، ۳۵۰ ریال برای مشترک هزینه در بردارد که در صورتحساب ارسالی از سوی اپراتور مربوطه محاسبه و از اعتبار موجود در حساب مشترکین سیمکارت های دائمی کسر میشود. بخشی از این درآمد این سرویس از سوی اپراتور میزبان شما به ایستنا پرداخت میشود. مشترکین در هر لحظه براساس دستورالعمل اعلامی در پایان هر بسته خبری قادر خواهند بود اشتراک خود را در این سرویس لغو کنند. هزینه دریافت هر بسته خبری برای مشترکین صرفا ۳۵۰ ریال خواهد بود و این هزینه برای مشترکین در حال استفاده از خدمات رومینگ بین الملل اپراتورهای همراه اول و ایرانسل هم هزینه اضافه ای در بر نخواهد داشت.