پدرخوانده‌های هوش مصنوعی در بحثی درباره این صحبت کرده‌اند که آیا مدل‌های زبانی بزرگ واقعاً متوجه می‌شوند که ما به آن‌ها چه می‌گوییم یا خیر.

به‌ازای هر طرفدار هوش مصنوعی، یک منتقد برای این فناوری وجود دارد. این مسئله در میان افرادی که اصطلاحاً پدرخوانده AI شناخته می‌شوند نیز صادق است. به‌تازگی میان دو پدرخوانده هوش مصنوعی، یعنی «جفری هینتون» و «یان لکان» در شبکه اجتماعی ایکس بحثی درباره خودآگاهی هوش مصنوعی شکل گرفته که این مسئله را از دیدگاهی متفاوت نشان می‌دهد.

این بحث با پستی از سوی جفری هینتون آغاز شد که به‌طور مستقیم یان لکان، دانشمند ارشد هوش مصنوعی متا را خطاب قرار داده بود. هینتون که گوگل را ترک کرد تا درباره خطرات هوش مصنوعی صحبت کند، می‌گوید لکان باور دارد که خطر این فناوری بسیار کوچک است و این یعنی او برای اعتقاد خود نسبت به اعتقاد کارشناسان دیگری که به همان اندازه واجد شرایط اظهارنظر هستند، ارزش بسیار بیشتری قائل است.

در پاسخ، لکان نوشت که باور دارد مفروضات هینتون و همفکران او اشتباه است. به‌علاوه، او یادآور شد که بسیاری از دیگر همکاران آن‌ها که شایستگی کمتری ندارند نیز با او هم‌نظرند.

اینجا بود که بحث جدی‌تر و دقیق‌تر شد. هینتون در پستی نوشت: «مسئله اصلی که ما بر سرش اختلاف‌نظر داریم این است که مدل‌های زبانی بزرگ (LLM) درواقع متوجه حرف‌های ما می‌شوند یا خیر. شما فکر می‌کنید که آن‌ها قطعاً درکی از حرف‌های ما ندارند، اما من معتقدم که احتمالاً حرف‌های ما را می‌فهمند. آیا می‌پذیرید که این مسئله اصلی‌ترین اختلاف میان ماست؟»

یان لکان: هوش مصنوعی هنوز نمی‌تواند حرف‌های ما را درک کند
یان لکان در پستی پاسخ داد: «LLMها واضحاً تا حدی متوجه آنچه می‌خوانند و می‌نویسند، هستند؛ ولی این ادراک بسیار محدود و سطحی است. در غیر این صورت، تا این اندازه خیال‌بافی نمی‌کردند و مرتکب اشتباهاتی که مغایر با عقل سلیم است، نمی‌شدند.»

او تأکید کرد که سیستم‌های هوش مصنوعی باید یک مدل داخلی از دنیا داشته باشند تا بتوانند پیامدها را پیش‌بینی کنند، قدرت استدلال داشته باشند و برنامه‌ریزی انجام دهند. در این مباحثه آنلاین، «اندرو ان‌جی»، مدیر سابق Google Brain هم حاضر شد و از لکان دفاع کرد.

لکان همچنین در پاسخ به کاربری که درباره قابلیت‌های خارق‌العاده مدل هوش مصنوعی GPT-4 پرسیده بود، نوشت این مدل هم هنوز به خودآگاهی نرسیده است و صرفاً به‌خاطر اطلاعات بیشتری که در آموزش آن استفاده شده، می‌تواند کارهای بیشتری انجام دهد. لکان گفت بازیابی اطلاعات را نباید با ادراک اشتباه گرفت.

مدیر هوش مصنوعی متا می‌گوید LLMها درحال‌حاضر قادر به درک و حل مسائل جهان واقعی مثل تمیزکردن میز یا روشن‌کردن ماشین لباس‌شویی که یک بچه ده‌ساله هم می‌تواند آن‌ها را انجام دهد، نیستند. او باور دارد که این فناوری در شرایط فعلی خود نمی‌تواند چنین کارهایی انجام دهد و هنوز به چنین سطحی از پیشرفت نرسیده است.