آغاز توسعه هوش مصنوعی پرچمدار GPT-5
OpenAI ضمن تأیید توسعهی مدل هوش مصنوعی جدیدش از تشکیل تیم امنیتی خبر داد.
OpenAI در بیانیهای مطبوعاتی میگوید که «کمیتهی امنیت و ایمنی» را با رهبری سم آلتمن (مدیرعامل) تشکیل داده؛ این کمیته درحالی تشکیل میشود که OpenAI توسعهی مدل زبانی بزرگ بعدیاش را شروع کرده است.
برت تیلور، آدام دیآنجلو و نیکول سلیگمن در کنار سم آلتمن در کمیتهی امنیت و ایمنی OpenAI حضور خواهند داشت.
OpenAI اخیراً برخی از پژوهشگران ارشد خود را از دست داده است و اکثر این افراد پس از جدایی، نگرانیهایی دربارهی امنیت هوش مصنوعی مطرح کردند. ایلیا سوتسکور و جان لیک که مدیر تیم سوپر الاینمنت OpenAI بودند، جزو معروفترین کسانی هستند که این استارتاپ را ترک کردهاند.
OpenAI حدوداً چهار هفته پیش تیم سوپر الاینمنت را منحل کرد؛ آن هم در حالی که کمتر از یک سال از تولد تیم سوپر الاینمنت میگذشت. گفته میشود برخی از اعضای تیم منحلشده، وارد سایر تیمها شدهاند.
کمیتهی ایمنی و امنیت OpenAI وظیفه دارد که توصیههایی با محوریت امنیت پروژهها و عملیاتها در اختیار تیم هیئتمدیره قرار دهد.
اولین وظیفهی کمیتهی جدید، ارزیابی و توسعهی سیستمهای امنیتی فعلی OpenAI طی ۹۰ روز آینده است. پس از این دوره، توصیهها در اختیار هیئتمدیره قرار میگیرند و در صورت تأیید هیئتمدیره، تغییرات سیاستهای OpenAI بهصورت عمومی اعلام خواهد شد.
سایر اعضای کمیتهی امنیت OpenAI شامل الکساندر مدی و لیلیان ونگ (متخصصان فنی و سیاست OpenAI)، جان شولمن (دانشمند)، جیکوب پاچوکی (دانشمند ارشد) و مت نایت (مدیر امنیت) میشوند.