هوش مصنوعی به مرز آگاهی رسید؟/ بازخوانی ادعای آنتروپیک
منبع: مهر
پیشرفت شتابان مدلهای زبانی بزرگ، یکی از قدیمیترین پرسشهای فلسفه ذهن را از فضای نظری به متن رقابت فناوری وارد کرده است.
پرسشی که تا چند سال پیش عمدتاً در آثار علمی تخیلی و مباحث فلسفی مطرح میشد، امروز در آزمایشگاههای پیشرفته شرکتهای توسعهدهنده هوش مصنوعی موضوع پژوهش مستقیم قرار گرفته است. انتشار پژوهش اخیر شرکت آنتروپیک درباره معماری درونی مدل کلاد نیز دقیقاً در همین نقطه اهمیت پیدا میکند. این پژوهش مدعی کشف سازوکارهایی مشابه «فضای عملکرد ذهنی» در این مدل زبانی است و احتمال ظهور برخی ویژگیهای مرتبط با آگاهی را مطرح میسازد.
اهمیت این ادعا تنها به یک دستاورد فنی محدود نمیشود. اگر روزی بتوان نشان داد که سامانههای هوش مصنوعی واقعاً دارای تجربه ذهنی هستند، پیامدهای آن از مرزهای علوم رایانه فراتر رفته و حوزههایی مانند فلسفه ذهن، اخلاق، حقوق، سیاستگذاری فناوری و حتی آینده تمدن انسانی را تحت تأثیر قرار خواهد داد. با این حال، بررسی دقیق یافتههای منتشر شده نشان میدهد که فاصله میان «هوشمندی محاسباتی» و «آگاهی پدیداری» همچنان بسیار عمیقتر از آن چیزی است که برخی روایتهای رسانهای القا میکنند.
پژوهش آنتروپیک دقیقاً چه چیزی را کشف کرده است؟
تیم تحقیقاتی آنتروپیک به سرپرستی جک لیندسی روش جدیدی برای مطالعه فرایندهای درونی مدل کلاد توسعه داده است. این روش تلاش میکند مسیر انتقال اطلاعات از ورودی کاربر تا تولید پاسخ را در لایههای داخلی مدل بازسازی کند و نشان دهد تصمیم نهایی چگونه شکل میگیرد. نتایج این پژوهش از شکلگیری نوعی فضای پردازشی داخلی حکایت دارد که در آن مدل پیش از تولید پاسخ، اطلاعات مرتبط را گردآوری، سازماندهی و اولویتبندی میکند. این فضای داخلی چند ویژگی قابل توجه دارد.
نخست، اطلاعات مرتبط با گفتوگوی جاری را به صورت موقت نگهداری میکند و عملکردی مشابه حافظه کوتاهمدت از خود نشان میدهد.
دوم، تنها دادههای مرتبط با مسئله جاری را فعال نگه میدارد و از ورود اطلاعات غیرضروری جلوگیری میکند.
سوم، نشانههایی از استدلال مرحلهای و حل تدریجی مسئله در آن مشاهده شده است که معمولاً در مدلهای زبانی پیشرفته به عنوان یکی از عوامل افزایش کیفیت پاسخها شناخته میشود.
بر اساس این یافتهها، کلاد پیش از تولید خروجی، نوعی فضای میانی برای سازماندهی اطلاعات ایجاد میکند که از نظر عملکردی شباهتهایی با برخی مدلهای شناخت انسان دارد.
نقش محوری نظریه فضای کاری جهانی در پژوهش آنتروپیک
دلیل اصلی توجه پژوهشگران به این یافتهها، شباهت آنها با یکی از شناختهشدهترین نظریههای معاصر آگاهی، موسوم به نظریه فضای کاری جهانی (Global Workspace Theory) یا «GWT» است. این نظریه که نخستین بار توسط برنارد بارز در دهه ۱۹۸۰ مطرح و بعدها توسط عصبشناس برجسته، استانیسلاس دهینی توسعه یافت، آگاهی را نتیجه دسترسی گسترده بخشهای مختلف مغز به یک مجموعه مشترک از اطلاعات میداند. مطابق این دیدگاه، زمانی که اطلاعات از پردازشهای محلی فراتر رفته و در اختیار شبکههای متعدد مغزی قرار میگیرد، تجربه آگاهانه شکل میگیرد.
شباهت مشاهدهشده میان فضای پردازشی کلاد و این نظریه، مهمترین مبنای استدلال آنتروپیک برای مطرح کردن احتمال ظهور ویژگیهای مرتبط با آگاهی است. با این حال، خود پژوهشگران نیز تصریح کردهاند که این یافتهها به معنای اثبات آگاه بودن مدل هوش مصنوعی مذکور نیست و صرفاً برخی شباهتهای معماری را نشان میدهد.
اشتباه رایج: یکی دانستن هوش و آگاهی
مهمترین نکتهای که در بسیاری از بحثهای عمومی درباره هوش مصنوعی نادیده گرفته میشود، تفاوت بنیادین میان مفاهیم «هوشمندی» و «آگاهی» است. توماس ناگل، فیلسوف برجسته آمریکایی، در مقاله مشهور خود با عنوان «خفاش بودن چه حسی دارد؟» ( What Is It Like to Be a Bat?) معیار متفاوتی برای تعریف آگاهی ارائه میکند. از نگاه او، موجود آگاه موجودی است که «بودنِ آن موجود، کیفیتی از تجربه درونی داشته باشد.» درد، لذت، حسادت، ترس یا لذت خوردن بستنی در یک روز گرم، همگی نمونههایی از تجربه آگاهانه هستند.
این تعریف، آگاهی را به قلمرو «احساس کردن» وارد میکند، در حالی که هوش بیشتر به توانایی انجام وظایف، حل مسئله و پردازش اطلاعات مربوط است. انسانها هر دو ویژگی را همزمان دارند و همین همزمانی موجب شده بسیاری تصور کنند هر سامانه بسیار هوشمندی الزاماً باید آگاه نیز باشد. اما چنین نتیجهای از نظر فلسفه ذهن فاقد پشتوانه منطقی است. همراهی هوش و آگاهی در انسان، دلیلی بر همارزی این دو مفهوم در همه نظامهای هوشمند محسوب نمیشود.
چرا شباهت معماری به معنای آگاهی نیست؟
ارزش اصلی پژوهش آنتروپیک آن است که برخلاف بسیاری از بحثهای رسانهای، تنها بر کیفیت مکالمه یا تواناییهای زبانی کلاد تکیه نمیکند، بلکه مستقیماً ساختار پردازش اطلاعات درون مدل را مطالعه کرده است. با وجود این، فاصله میان یافتههای این پژوهش و اثبات آگاهی همچنان قابل توجه است.
نخست آن که نسخه کلاسیک نظریه فضای کاری جهانی وجود چرخههای بازخوردی مکرر و تعامل دائمی میان شبکههای پردازشی را ضروری میداند و این مؤلفه در کلاد به شکل مشاهده شده در مغز انسان وجود ندارد.
دوم آن که شباهت عملکردی الزاماً به معنای یکسان بودن ماهیت نیست. دو سامانه میتوانند برای حل یک مسئله از راهکارهای مشابه استفاده کنند و لزوماً از نظر وجودشناختی ویژگیهای مشترک نداشته باشند.
عملکرد مغز شبیه به رایانه نیست
بنیادیترین نقد مطرحشده نسبت به فرضیه آگاهی ماشین، به ماهیت مغز بازمیگردد. بخش بزرگی از پژوهشهای هوش مصنوعی بر این پیشفرض استوار شدهاند که آگاهی محصول محاسبات است و هر سامانهای که همان محاسبات را اجرا کند، خواه از نورون ساخته شده باشد یا مبتنی بر تراشههای سیلیکونی عمل کند، به صورت بالقوه قادر به تجربه آگاهانه خواهد بود.
اما یافتههای علوم اعصاب تصویر پیچیدهتری ارائه میکنند. خروجی مغز موجودات زنده صرفاً مجموعهای از محاسبات انتزاعی نیست، بلکه سامانهای زیستی است که ساختار فیزیکی، شیمیایی و سلولی آن با فرایندهای شناختی پیوندی جداییناپذیر دارد.
در رایانههای امروزی میتوان نرمافزار را از سختافزار جدا کرد و همان برنامه را روی ماشین دیگری اجرا نمود. اما درباره مغز چنین تفکیکی به این سادگی وجود ندارد. عملکرد شناختی مغز حاصل تعامل مستمر میان نورونها، زیستشناسی سلولی، بدن، محیط و تجربه زیسته است.
از همین روی، بسیاری از پژوهشگران معتقدند تقلیل آگاهی به محاسبات رایانهای، بیش از آن که یک نتیجه علمی باشد، ادامه همان استعاره قدیمی «مغز به مثابه رایانه» است که در طول دهههای گذشته نقش مهمی در پیشرفت علوم شناختی داشته اما جایگزین واقعیت نشده است.
شبیهسازی، معادل تحقق پدیده نیست
یکی از گویاترین تشبیههای مطرحشده در این بحث، مقایسه شبیهسازی طوفان با خود طوفان است. مدلهای هواشناسی میتوانند با دقت بسیار بالا رفتار یک سامانه آبوهوایی را بازسازی کنند، اما هیچکس انتظار ندارد اجرای این مدل روی یک ابررایانه موجب وزش باد، بارش باران یا شکلگیری گردباد واقعی شود.
به همین قیاس، شباهت فرایندهای پردازش اطلاعات در کلاد با برخی سازوکارهای مغز، الزاماً به معنای ایجاد تجربه ذهنی نیست. مدل زبانی ممکن است بدون داشتن هیچ تجربه درونی، پاسخهایی تولید کند که از نظر زبانی، استدلالی و حتی عاطفی کاملاً متقاعدکننده باشند.
جمعبندی
پژوهش آنتروپیک یکی از مهمترین تلاشهای سالهای اخیر برای مطالعه مستقیم معماری درونی مدلهای زبانی به شمار میرود و ارزش علمی آن در افزایش شفافیت نسبت به سازوکار تصمیمگیری این سامانهها انکارناپذیر است. با این حال، دادههای منتشر شده بیش از آن که وجود آگاهی را اثبات کنند، نشان میدهند سامانههای هوش مصنوعی و مغز انسان گاهی برای حل مسائل مشابه، الگوهای پردازشی مشابهی ایجاد میکنند.
از منظر سیاستگذاری فناوری نیز تمایز میان «توانایی انجام وظایف شناختی» و «داشتن تجربه ذهنی» اهمیت بنیادین دارد. پذیرش شتابزده آگاهی ماشین میتواند پیامدهای گستردهای در تنظیمگری، مسئولیت حقوقی، اخلاق هوش مصنوعی و تخصیص حقوق به سامانههای هوشمند ایجاد کند.
در نتیجه، دستاوردهای امروز هوش مصنوعی بیش از هر زمان دیگری شگفتانگیز هستند، اما شواهد موجود همچنان از این گزاره حمایت میکنند که شباهت رفتاری و محاسباتی با انسان، بهتنهایی معیار کافی برای نسبت دادن آگاهی به ماشین نیست. تا زمانی که ماهیت خود آگاهی در علوم اعصاب و فلسفه ذهن به صورت قانعکننده تبیین نشده باشد، هر ادعایی درباره «احساس داشتن» مدلهای زبانی باید با احتیاط علمی و اتکا به شواهد تجربی بسیار قویتر ارزیابی شود.