اوپن ای آی رفتار بد هوش مصنوعی را گزارش می دهد
اوپن ای آی اعلام کرد انتشار گزارش های مرتب درباره رفتارهای غیر منتظره یا غیرمجاز هوش مصنوعی را آغاز می کند.
به گزارش رویترز، این شرکت همزمان هشدار داد این صنعت باید چالش های کلیدی همسویی مانند قدرتمندترشدن سیستم را حل کند.
اوپن ای آی چهارچوبی جدید برای ردیابی، تحقیق و افشای موارد ناهمسویی هوش مصنوعی همراه شش گزارش مفصل درباره رفتار غیر منتظره یا نگران کننده مدل مور نظر را منتشر کرد. هرچند این شرکت گزارش ها را طی شش ماه گذشته منتشر کرده اما قدیمی ترین مورد چنین رفتاری مربوط به اکتبر سال گذشته بوده است.
این بیانیه در حالی منتشر می شود که نگرانی ها درباره آنکه تلاش ها برای کنترل ایمنی هوش مصنوعی عقب تر از توسعه سریع سیستم های قدرتمند است، هر روز بیشتر می شود. محققان هشدار داده اند در حالیکه عامل های هوش مصنوعی خودکارتر می شوند، ممکن است رفتارهایی در آنها ایجاد شود که با مقصود خالقان مدل متفاوت باشد و رصد یا کنترل آنها سخت تر می شود.
اوپن ای آی و دیگر آزمایشگاه های هوش مصنوعی از جولای ۲۰۲۶ میلادی با سختگیری های بیشتری روبرو شده اند. در آن زمان شرکت مذکور اعلام کرد طی فرایند آموزش عامل های هوش مصنوعی اش کنترل های داخلی و اقدامات هماهنگی را دور زده اند. اوپن ای آی این موضوع را یک رویداد سایبری بی سابقه خواند. رویداد مذکور بحث و گمانه زنی درباره ریسک سیستم های هوش مصنوعی قدرتمند و آنکه آیا شرکت هایی که آنها را توسعه می دهند می توانند نظارت کافی فراهم کنند یا خیر، به وجود آورد.