برنده جایزه نوبل: شاید بهتر بود هرگز هوش مصنوعی را توسعه نمی‌دادیم
«جفری هینتون» حادثه‌ای شبیه به چرنوبیل را برای هوش مصنوعی متصور شده که می‌تواند خاموشی گسترده شبکه برق را به‌همراه داشته باشد.
«جفری هینتون»، دانشمند برجسته علوم کامپیوتر، برنده نوبل و یکی از افرادی که از او به‌عنوان پدرخوانده هوش مصنوعی یاد میشود، اعلام کرد شاید درنهایت مشخص شود انسان‌ها در صورتی که هرگز این فناوری را توسعه نمی‌دادند، وضعیت بهتری داشتند. او هشدار داد که هوش مصنوعی می‌تواند در سال جاری یا سال آینده میلادی بحرانی در مقیاس وسیع، مانند قطع موقت شبکه‌های مالی یا خاموشی گسترده در سیستم‌های برق‌رسانی ایجاد کند.
این برنده جایزه نوبل که تحقیقات پیشگامانه‌اش در زمینه شبکه‌های عصبی مصنوعی پایه و اساس فناوری‌های نوین کنونی محسوب میشود، تأکید کرده که دیدگاه آخرالزمانی ندارد و همچنان معتقد است این فناوری می‌تواند به یک «آینده فوق‌العاده» منجر شود، اما احتمال دارد بشر در وضعیتی قرار بگیرد که توسعه‌ندادن آن گزینه بهتری بوده باشد.
هینتون ۷۸ ساله توضیح داده که انسان‌ها ظرف یک دهه آینده یا حتی زودتر خواهند فهمید که آیا قادر به مهار خطرات این ابزارها برای دستیابی به وضعیتی با نام «فراوانی بنیادین» هستند یا اینکه با شکست در مدیریت آن، وارد بحران‌هایی مانند شکاف عمیق میان فقیر و غنی، مشکلات فرهنگی شدید، بیکاری گسترده و فروپاشی کامل جامعه خواهند شد. هینتون پیش از اکران یک مستند بلند به نام «هوش مصنوعی: احتمالاً موضوع نگران‌کننده‌ای نیست» که عنوان آن توسط یک چت‌بات پیشنهاد شده، اعلام کرد احساس وظیفه می‌کند از اعتبار خود در این حوزه برای هشدار به عموم هزینه کند.
هشدارهای جفری هینتون درباره خطرات هوش مصنوعی
او با انتقاد شدید از ریسک‌پذیری مدیران شرکت‌های بزرگ هوش مصنوعی که در رقابت برای دستیابی به برتری و سهم بازار، مدل‌های قدرتمندتری عرضه می‌کنند، تأکید کرده که به‌هیچ‌وجه به «سم آلتمن»، مدیرعامل OpenAI، اعتماد ندارد:
«فکر می‌کنم زاکربرگ، ماسک و سم آلتمن خطرات را به‌خوبی درک می‌کنند، اما اصلاً برایشان اهمیتی ندارد؛ آنها پول را ترجیح می‌دهند. این باور من است.»
این دانشمند متولد لندن که بخش عمده فعالیت حرفه‌ای خود را در دانشگاه تورنتو گذرانده، قرار گرفتن آلتمن در رأس یکی از معدود شرکت‌های پیشتاز آمریکایی در رقابت با چین را «به‌شدت نگران‌کننده» خواند؛ موضوعی که در تضاد با ادعای ماه سپتامبر آلتمن قرار دارد که گفته بود:
«جهان باید به ما اعتماد کند که کار درست را انجام می‌دهیم، چراکه این اقدام درستی است و ما اهمیت این موضوع را درک می‌کنیم.»
هینتون همچنین وقایع تابستان امسال را که طی آن ایجنت‌های هوش مصنوعی OpenAIبه وب‌سایت هاگینگ فیس نفوذ کردند، مانند حادثه ذوب جزئی راکتور هسته‌ای چرنوبیل در سال ۱۹۷۹ دانست و آن را یک هشدار تلقی کرد. وی در ادامه صراحتاً گفت:
«اواخر امسال یا سال آینده شاهد چرنوبیل هوش مصنوعی خواهیم بود، و این شاید برای آنکه توجه مردم واقعاً به موضوع جلب شود کافی باشد.»
براساس توضیحات او، این فاجعه از جنس حوادث هسته‌ای نخواهد بود، بلکه می‌تواند شامل حمله‌ای با هدایت هوش مصنوعی به سیستم تولید برق باشد که «خاموشی گسترده‌ای» به بار بیاورد یا رویدادی که کل سامانه مالی را برای یک هفته از کار بیندازد:
«می‌توانید تصور کنید چه اتفاقی خواهد افتاد؟ ما توانایی بازیابی و عبور از آن را داریم، اما چنین اتفاقی کاری می‌کند که آنها بالاخره سر جایشان بنشینند و به خطر توجه کنند.»
هنگامی که از او پرسیده شد منظورش در جمله قبلی از «آنها» چه کسانی هستند، پاسخ داد: «رهبران جهان، به جز ترامپ.»