چه می‌شود اگر هوش مصنوعی آن‌قدر پیشرفت کند که بشر دیگر تنها ساکن باهوش زمین نباشد؟ هشدار عجیب، اما واقعی OpenAI در این زمینه چیست؟
رومن یامپولسکی، پژوهشگر امنیت هوش مصنوعی هشدار داد که احتمال نابودی بشر با هوش مصنوعی نزدیک به صد درصد است. بسیاری از کارشناسان ازجمله او معتقدند که پیشرفت‌های سریع در این حوزه‌ی، ما را به‌سوی دست‌یابی به هوش عمومی مصنوعی (AGI) سوق می‌دهد؛ نقطه‌ای که ماشین‌ها می‌توانند از انسان پیشی بگیرند.

طبق گزارش آتلانتیک، شرکت‌هایی مانند OpenAI و آنتروپیک پیش‌بینی کرده‌اند هوش مصنوعی فوق‌پیشرفته احتمالاً تا پایان همین دهه محقق شود. بااین حال، سم آلتمن مدیرعامل OpenAI، اعتقاد دارد که AGI برخلاف تصور عموم، می‌تواند بدون پیامد فوری و جدی برای جامعه به وقوع بپیوندد.

ایلیا سوتسکور، دانشمند سابق OpenAI دیدگاه متفاوتی دارد. او بارها در جلسات داخلی از ساخت «پناهگاه آخرالزمانی» برای محافظت از پژوهشگران در صورت بروز بحران پس از عرضه‌ی AGI صحبت کرده است؛ موضوعی که در کتاب جدیدی از کارن هاو نیز مطرح شده است.

نگرانی‌های سوتسکور فقط دیدگاه شخصی او نیست؛ بسیاری از همکارانش نیز خطرات احتمالی هوش مصنوعی انسان‌گونه را جدی می‌دانند. او که اکنون در رأس شرکت Safe Superintelligence Inc قرار دارد، از اظهارنظر درباره‌ی این موضوع خودداری کرد، اما نقش کلیدی‌اش در توسعه‌ی ChatGPT نگرانی‌ها را تشدید می‌کند.

از طرف دیگر، مدیرعامل دیپ‌مایند به خطرات قریب‌الوقوع AGI اشاره کرد و گفت جامعه هنوز برای چنین تحولی آماده نیست. در همین حال، مدیرعامل آنتروپیک اذعان کرد که هنوز نحوه‌ی عملکرد دقیق مدل‌هایشان مشخص نیست. این ابهامات، آینده‌ای نگران‌کننده را در دل فناوری ترسیم می‌کند.