یادداشت حاضر از سوی OpenAI پس از درخواست مشابه آنتروپیک برای توقف توسعه مدل‌های پیشرفته اعلام شده است.

شرکت OpenAI با انتشار مطلبی در وبلاگ خود، خواستار تشکیل یک سازمان بین‌المللی برای نظارت بر توسعه هوش مصنوعی و در صورت لزوم، کاهش سرعت پیشرفت آن شده است.

«سم آلتمن»، مدیرعامل OpenAI، و «یاکوب پاچوکی»، دانشمند ارشد این شرکت، در یادداشتی مشترک اعلام کرده‌اند یکی از اهداف این سازمان باید فراهم کردن امکان اقدام هماهنگ جهانی، از جمله کاهش سرعت توسعه هوش مصنوعی پیشرو در مواقع ضروری باشد تا انعطاف‌پذیری، امنیت و همگام‌سازی جامعه با این فناوری حفظ شود.

این موضع‌گیری پس از بیانیه مشابه رقیب اصلی آنها، یعنی شرکت آنتروپیک، مطرح می‌شود. آنتروپیک هفته گذشته اعلام کرده بود توقف توسعه جهانی هوش مصنوعی، در صورت امکان، احتمالاً اتفاق خوبی خواهد بود. استدلال آنتروپیک بر پایه شواهد داخلی از پدیده‌ای موسوم به «خودبهبودی بازگشتی» مطرح شده بود؛ یعنی مدل‌های هوش مصنوعی که می‌توانند نسخه‌های پیشرفته‌تر بعدی خود را آموزش دهند و ریسک از دست رفتن کنترل انسان را به همراه داشته باشند.

پیش از این نیز در سال ۲۰۲۳ میلادی نامه‌ای سرگشاده برای توقف ۶ ماهه توسعه مدل‌های پیشرو توسط افرادی چون «ایلان ماسک» و «یاشوا بنجیو» پدرخوانده هوش مصنوعی و برنده جایزه تورینگ، امضا شده بود.

جزئیات یادداشت OpenAI درباره اهمیت نظارت بر هوش مصنوعی
شرکت OpenAI در یادداشت جدید خود به پتانسیل «خودبهبودی هوش مصنوعی» (یعنی سیستمی که می‌تواند خودش را ارتقا دهد) اشاره کرده است. به باور این شرکت، اینکه خود هوش مصنوعی بتواند کارهای تحقیقاتی‌ انجام دهد، عامل اصلی تعیین‌کننده سرعت پیشرفت فناوری در چند سال آینده خواهد بود. در همین راستا، آلتمن و پاچوکی پیش‌بینی کرده‌اند که تا مارس ۲۰۲۸، بخش زیادی از تحقیقات OpenAI به‌طور مشترک توسط سیستم‌های هوش مصنوعی و محققان انسانی پیش خواهد رفت.

در بخشی از یادداشت OpenAI نوشته شده است:

«خودکارسازی کاملِ همه‌چیز، آینده‌ای نیست که ما می‌خواهیم. چنین آینده‌ای هم ناامیدکننده خواهد بود و هم خطرناک. با افزایش توانمندی سیستم‌های هوش مصنوعی، نقش انسان نه‌تنها کم‌رنگ نمی‌شود، بلکه حیاتی‌تر خواهد شد؛ نقشی که شامل جهت‌دهی، ایجاد تعادل، اعمال قضاوت و تزریق ارزش‌ها، سلیقه، مراقبت و مسئولیت‌پذیری در قبال کارها می‌شود. در بلندمدت، کلیدی‌ترین نقش انسان این خواهد بود که تصمیم بگیرد چه کاری ارزش انجام دادن دارد.»

همچنین OpenAI در این یادداشت به توسعه نسخه‌ای از AGI یا هوش جامع مصنوعی اشاره کرده که می‌تواند برای همه انسان‌ها مفید باشد. صنعت هوش مصنوعی هنوز تعریف واحدی برای AGI ندارد، اما عموماً به سیستمی اطلاق می‌شود که بتواند هر کار شناختی را حداقل هم‌سطح مغز انسان انجام دهد؛ هرچند امکان‌پذیری آن با ساختار مدل‌های زبانی بزرگ همچنان محل بحث است. این وعده مبهم سال‌ها استراتژی مالی موفقی برای OpenAI بوده و آنها را به ارزشمندترین استارتاپ جهان تبدیل کرده بود، تا اینکه ماه گذشته آنتروپیک این جایگاه را تصاحب کرد.

این درخواست‌ها در شرایطی مطرح می‌شوند که هر دو شرکت در آستانه ورود به بازار بورس هستند.