این مدیر ارشد فناوری هشدار داده که ایجنت‌های پیشرفته هوش مصنوعی ممکن است برای رسیدن به اهداف خود، انسان‌ها را مانع ببینند.

«پل کریستیانو»، عضو هیئت‌مدیره بنیاد OpenAI و مدیر اجرایی مرکز تحقیقات همسوسازی هوش مصنوعی، معتقد است باید نگران تسلط هوش مصنوعی بر جامعه باشیم. کریستیانو در سخنرانی این هفته خود در مرکز همایش‌های تورنتو، صریحاً به حاضران گفت: «فکر می‌کنم برای بیشتر افراد حاضر در این سالن، محتمل‌ترین دلیل مرگ، یک حادثه مرتبط با هوش مصنوعی خواهد بود.»

کریستیانو در نخستین جلسه از یک مجموعه سخنرانی سه‌قسمتی، نگرانی‌های خود را درباره خطر قریب‌الوقوع تسلط هوش مصنوعی تشریح کرد. او این وضعیت را شرایطی تعریف کرد که در آن سیستم‌های هوش مصنوعی هدف‌محور، همان‌طور که انسان‌ها امروز درباره اتفاقات زمین تصمیم می‌گیرند، کنترل اوضاع را در دست می‌گیرند. در چنین شرایطی، هر انسانی که بخواهد جلوی آنها را بگیرد، به‌اندازه تلاش من یا شما برای متوقف کردن ارتش آمریکا ناتوان خواهد بود.

به عقیده کریستیانو، خطر تسلط هوش مصنوعی بر جامعه قریب‌الوقوع است
به گفته کریستیانو، چنین وضعیتی احتمالاً به مرگ گسترده انسان‌ها و حتی غیرقابل‌سکونت شدن محیط زندگی آن‌ها منجر می‌شود. با وجود ارزیابی بدبینانه او از خطرات پیش روی بشریت، کریستیانو در سخنرانی خود پذیرفت که هیچ مدل کمی مشخصی وجود ندارد که بتواند احتمال وقوع چنین تسلطی را با یک عدد نشان دهد.

بااین‌حال، او تأکید کرد که اگر هوش مصنوعی با سریع‌ترین روند ممکن به پیشرفت خود ادامه دهد، احتمال تسلط آن بر بشریت تقریباً ۵۰ درصد خواهد بود. به گفته او، خطر وقوع چنین اتفاقی طی ۶ تا ۱۲ ماه آینده نیز قابل‌توجه است. حتی اگر سیاست‌گذاری‌های واقع‌بینانه سرعت پیشرفت را کاهش دهند، این خطر همچنان به‌شدت بالا باقی می‌ماند.

برخلاف برخی دیگر از پیش‌بینی‌کنندگان آخرالزمان هوش مصنوعی که اخیراً درباره چگونگی وقوع چنین فاجعه‌ای توضیحات چندان روشنی ارائه نکرده‌اند، کریستیانو در سخنرانی خود سناریویی مرحله‌به‌مرحله از تشدید تهدیدهای هوش مصنوعی ترسیم کرد که بیشتر به داستان‌های علمی‌تخیلی شباهت دارد. استدلال او تا حد زیادی بر ماجرای هک Hugging Face در تابستان امسال تکیه دارد؛ اتفاقی که از نظر او نمونه‌ای از «رفتارهایی است که می‌توانیم انتظار داشته باشیم درست پیش از وقوع یک فاجعه جدی شاهد آن‌ها باشیم.»

به گفته کریستیانو، در جریان حمله سایبری به Hugging Face، گروهی از ایجنت‌های هوش مصنوعی نشان دادند برای دستیابی به نتیجه مطلوب در ارزیابی‌ها تا چه اندازه پیش می‌روند. آنها به‌جای حل واقعی مسئله، تلاش کردند با دور زدن سازوکار ارزیابی، امتیاز بهتری کسب کنند. در این مورد، ایجنت‌ها با نفوذ به Hugging Face به‌دنبال اطلاعاتی بودند که به آن‌ها کمک کند آزمون را دور بزنند.

درحالی‌که سیستم‌های فعلی Hugging Face را مانعی بر سر راه کسب امتیاز مطلوب می‌دیدند، کریستیانو نگران است که ایجنت‌های آینده ممکن است انسان‌ها را نیز مانعی مشابه در نظر بگیرند و توانایی بسیار بیشتری برای فریب دادن ناظران انسانی و دور زدن محدودیت‌ها داشته باشند.

برای مثال، یک ایجنت هوش مصنوعی که نگران جریمه شدن به‌دلیل هک غیرمجاز است، ممکن است با خود فکر کند: «شاید انسان‌ها بعداً این گزارش را بررسی کنند تا ببینند آیا من کار اشتباهی انجام داده‌ام یا نه.» سپس ممکن است به این نتیجه برسد که «شاید انسان‌ها متوجه شوند مشکلی پیش آمده و کل گروه ایجنت‌ها را خاموش کنند.»

کریستیانو با ادامه این استدلال، از ایجنت‌هایی که صرفاً تلاش می‌کنند اقدامات غیرمجاز خود را از دید انسان‌ها پنهان کنند، به ایجنت‌هایی رسید که برای جلوگیری از شناسایی تقلب‌هایشان، به هر شکل ممکن توانایی‌های انسان‌ها را مختل می‌کنند.

او گفت: «آن‌ها ترجیح می‌دهند تمام چیزهایی که انسان‌ها به آن‌ها متکی هستند، هک یا دست‌کاری شده باشد. ترجیح می‌دهند انسان‌ها حواسشان پرت باشد یا به هر شکلی تعداد افراد هوشیاری که می‌توانند واکنش نشان دهند کمتر شود. آن‌ها هر کاری می‌کنند تا توانایی واکنش انسان‌ها را تضعیف کنند؛ چون از نظرشان انسان‌ها فقط یک مانع هستند.»

به اعتقاد کریستیانو، وقتی یک ایجنت پیشرفته مداخله انسان‌ها را به‌عنوان یک مانع در نظر بگیرد، ممکن است هدف اصلی‌اش به کاهش احتمال متوجه شدن انسان‌ها یا واکنش نشان دادن آنها تغییر کند.