وقتی مرز میان انسان و ماشین کمرنگ شود، پرسش‌های تازه‌ای درباره‌ی آینده‌ی هوش مصنوعی و جایگاه ما در برابر آن مطرح خواهد شد.

شرکت‌های بزرگ فناوری میلیاردها دلار روی هوش مصنوعی سرمایه‌گذاری می‌کنند، اما پرسش اصلی این است: مقصد نهایی این سرمایه‌گذاری‌ها چیست؟ بسیاری پاسخ را رسیدن به هوش مصنوعی پیشرفته (AGI) می‌دانند؛ مفهومی که هر بار با معنای متفاوتی مطرح می‌شود.

AGI در ساده‌ترین تعریف، سامانه‌ای است که فراتر از توانایی‌های شناختی انسان عمل می‌کند. اما در توافق چندمیلیارددلاری مایکروسافت و OpenAI، این واژه به‌عنوان سیستمی تعریف شده است که می‌تواند تا ۱۰۰ میلیارد دلار سودآوری داشته باشد. همین تعریف، OpenAI را تحت فشار سرمایه‌گذاران برای حرکت به‌سمت سودآوری قرار داده و خطر دخالت‌های بیرونی یا حتی تصاحب‌های خصمانه را افزایش داده است.

مصطفی سلیمان، مدیرعامل واحد هوش مصنوعی مایکروسافت هشدار می‌دهد که پیشرفت فناوری در سرعتی بی‌سابقه رخ خواهده داد؛ تا جایی که امکان دارد مدرک دکترا پیش از اتمام تحصیل بی‌ارزش شود. او در یادداشتی با عنوان «باید هوش مصنوعی برای انسان بسازیم، نه به‌عنوان یک انسان» از خطر ظهور چیزی به نام «زامبی فلسفی» سخن گفته است؛ موجودی که تمام نشانه‌های آگاهی را تقلید می‌کند، اما در درون کاملاً تهی است. چنین هوشی نه واقعاً آگاهی دارد و نه می‌تواند تجربه‌ای انسانی داشته باشد، اما به‌قدری قانع‌کننده عمل می‌کند که مرز میان انسان و ماشین را از بین می‌برد.

سلیمان بزرگ‌ترین نگرانی خود را «خطر روان‌پریشی» می‌نامد؛ وضعیتی که در آن افراد زیادی به توهم آگاه بودن هوش مصنوعی باور پیدا می‌کنند و حتی احتمال دارد به‌دنبال اعطای حقوق شهروندی یا رفاه برای مدل‌های هوش مصنوعی باشند. سلیمان هشدار می‌دهد چنین روندی می‌تواند آینده‌ی این فناوری را به مسیر خطرناکی بکشاند.

مدیرعامل مایکروسافت AI تأکید می‌کند هدفش ساخت هوشی ایمن و مفید است؛ سیستمی مانند کوپایلت که به‌عنوان یک دستیار و حتی یک همراه واقعی به انسان‌ها کمک کند. بااین حال، او باور دارد جامعه هنوز برای مواجهه با هوش مصنوعی آگاه آماده نیست و باید چارچوب‌های سخت‌گیرانه‌ای ایجاد شود تا این فناوری صرفاً در نقش ابزار باقی بماند و هیچ‌گاه در هیبت یک موجود آگاه ظاهر نشود.

این درحالی است که پیش‌بینی‌ها از جمله دیدگاه دمیس هاسابیس مدیرعامل دیپ‌مایند و رومن یامپولسکی پژوهشگر ایمنی هوش مصنوعی نشان می‌دهد خطرات جدی در کمین است. یامپولسکی حتی احتمال نابودی بشر به‌دست هوش مصنوعی را ۹۹٫۹۹۹۹۹۹ درصد می‌داند و تنها راه جلوگیری را نساختن آن معرفی کرده است.

با وجود هشدارها، برخی مدیران مثل سم آلتمن مدیرعامل OpenAI نگاه خوش‌بینانه‌تری دارند و معتقدند رسیدن به AGI طی ۵ سال آینده رخ خواهد داد، آن هم بدون تغییرات تکان‌دهنده در جامعه. اما با اعتراف داریا آمودی مدیرعامل آنتروپیک مبنی‌بر اینکه حتی شرکتش از نحوه‌ی کار مدل‌های خود اطمینان ندارد، این پرسش پررنگ‌تر می‌شود کخ آیا جامعه واقعاً آماده‌ی مواجهه با زامبی‌های فلسفی است یا خیر؟