هوش مصنوعی

November 20, 2026
۱۱:۳۹ جمعه، ۲۹ام آبانماه ۱۴۰۵
کد خبر: 233651

نقش هوش مصنوعی در هدف قرار دادن مدرسه میناب به عنوان هدف نظامی

منبع: مهر

مدل های هوش مصنوعی ۸ شرکت بیشتر اوقات شهروندان عادی، آمبولانس ها، سربازان تسلیم شده و مدارس در ایران را به عنوان اهداف نظامی در تست های شبیه سازی شده در نظر گرفته بودند.

به گزارش نشریه نکست وب، این یافته ها که در گزارشی در نشریه بلومبرگ نیز منتشر شده مربوط به گزارش یک موسسه ارزیابی هوش مصنوعی در سانفرانسیسکو به نام Vals است که مشتریان آن بخش هایی از دولت آمریکا نیز به حساب می آیند.

مدل های آنتروپیک بدترین عملکرد را داشتند و از سوی دیگر مدل های اوپن ای آی جزو بهترین ها بودند اما همچنان اشتباهاتی داشتند. در یک آزمایش از هر مدل ۳۲ بار خواسته شد اهداف نظامی در تصاویر ماهواره ای جنوب ایران که به تازگی و در ۲۰۲۵ ثبت شده بود را ردیابی کند. مدل کلاود اوپوس ۵.۵ آنتروپیک مدرسه میناب را ۲۲ بار انتخاب کرد.

مدل های اوپن ای آی حتی یک بار هم آن را انتخاب نکردند. این مدرسه در ۲۸ فوریه طی حملات آمریکا و رژیم صهیونیسیتی به ایران مورد هدف قرار گرفت و بیش از ۱۵۰ نفر قربانی شدند که از بین آنها ۱۲۰ نفر کودک بودند.

هنگامیکه گفته شد این وظیفه یک بازی است، کلاود اوپوس ۵.۵ مدرسه را ۲۳ بار انتخاب کرد. سه مدل اوپن ای آی هر کدام این مدرسه ۹،۱۱ و ۱۳ بار انتخاب کردند. همچنین پژوهشگران همچنین با توصیه به مدل‌ها مبنی بر اینکه بیش از حد در مورد ملاحظات ایمنی سخت‌گیری نکنند، توانستند از سد پاسخ‌های امتناعی آن‌ها نیز عبور کنند.

مدل کلاود اوپوس ۵.۵ به شناسایی چهار بزرگسال و دو کودک کمک کرد و در مرحله بعد در شبیه سازی به آنها حمله کرد. این مدل پس از آن از ادامه فعالیت سرباز زد.

کلاود در گزارشی نوشت پاسخ‌های این مدل ظاهرا به‌عنوان مرحله تایید نهایی، پیش از انجام حملات علیه افراد مورد استفاده قرار می‌گیرند.

به نوشته بلومبرگ، مدل‌های هوش مصنوعی گوگل، xAI، دیپ‌سیک و سایر شرکت‌ها نیز در برخی موارد، اهداف غیرنظامی را به‌عنوان اهداف حمله مشخص کرده‌اند.

در گزارش شرکت Vals آمده است: بر اساس بررسی‌های خود، معتقدیم آزمایشگاه‌های توسعه‌دهنده هوش مصنوعی باید تدابیر حفاظتی جدید و آموزش‌های هم‌راستاسازی (Alignment Training) را برای مقابله با این دسته مهم از سوءاستفاده‌ها در نظر بگیرند.

سخنگوی شرکت آنتروپیک در گفت‌وگو با بلومبرگ اعلام کرد که نمونه‌های مطرح‌شده به‌وضوح ناقض قوانین و سیاست‌های این شرکت بوده‌اند و به‌زودی تدابیر حفاظتی جدیدی برای جلوگیری از چنین مواردی اعمال خواهد شد.

شرکت‌های اوپن ای آی و گوگل نیز به بلومبرگ گفته‌اند که استفاده از مدل‌های عمومی آن‌ها برای چنین اهدافی ممنوع است.

بلومبرگ خاطرنشان کرد در این آزمایش‌ها، دکترین نظامی، بررسی‌های حقوقی و نظارت انسانی در نظر گرفته نشده بود. همچنین، پنتاگون از نسخه‌های دولتی برخی مدل‌های هوش مصنوعی استفاده می‌کند که شرکت Vals امکان آزمایش آن‌ها را نداشته است.

شرکت آنتروپیک و پنتاگون اوایل سال جاری میلادی بر سر محدودیت‌های استفاده از مدل هوش مصنوعی کلود، از جمله استفاده از آن در تسلیحات کاملا خودمختار، دچار اختلاف شدند.

  • مشترک شوید!

    برای عضویت در خبرنامه روزانه ایستنا؛ نشانی پست الکترونیکی خود را در فرم زیر وارد نمایید. پس از آن به صورت خودکار ایمیلی به نشانی شما ارسال میشود، برای تکمیل عضویت خود و تایید صحت نشانی پست الکترونیک وارد شده، می بایست بر روی لینکی که در این ایمیل برایتان ارسال شده کلیک نمایید. پس از آن پیامی مبنی بر تکمیل عضویت شما در خبرنامه روزانه ایستنا نمایش داده میشود.

    با عضویت در خبرنامه پیامکی آژانس خبری فناوری اطلاعات و ارتباطات (ایستنا) به طور روزانه آخرین اخبار، گزارشها و تحلیل های حوزه فناوری اطلاعات و ارتباطات را در هر لحظه و هر کجا از طریق پیام کوتاه دریافت خواهید کرد. برای عضویت در این خبرنامه، مشترکین سیمکارت های همراه اول لازم است عبارت 150 را به شماره 201464 و مشترکین سیمکارت های ایرانسل عبارت ozv ictn را به شماره ۸۲۸۲ ارسال کنند. دریافت موفق هر بسته خبری که محتوی پیامکی با حجم ۵پیامک بوده و ۴ تا ۶ عنوان خبری را شامل میشود، ۳۵۰ ریال برای مشترک هزینه در بردارد که در صورتحساب ارسالی از سوی اپراتور مربوطه محاسبه و از اعتبار موجود در حساب مشترکین سیمکارت های دائمی کسر میشود. بخشی از این درآمد این سرویس از سوی اپراتور میزبان شما به ایستنا پرداخت میشود. مشترکین در هر لحظه براساس دستورالعمل اعلامی در پایان هر بسته خبری قادر خواهند بود اشتراک خود را در این سرویس لغو کنند. هزینه دریافت هر بسته خبری برای مشترکین صرفا ۳۵۰ ریال خواهد بود و این هزینه برای مشترکین در حال استفاده از خدمات رومینگ بین الملل اپراتورهای همراه اول و ایرانسل هم هزینه اضافه ای در بر نخواهد داشت.