آنتروپیک از کشف فضای پردازش مخفی J-Space در هوش مصنوعی Claude خبر داد. در این فضا مدل‌ها پیش از پاسخگویی در سر خود فکر می‌کنند.

آنتروپیک می‌گوید یک فضای کاری داخلی کوچک را در Claude شناسایی کرده است که هوش مصنوعی از آن برای نگهداری و دستکاری ایده‌ها، بدون تبدیل آن‌ها به کلمات خروجی، استفاده می‌کند. این شرکت می‌گوید ساختار کشف‌شده شباهت‌های جالبی با نحوه دسترسی آگاهانه انسان‌ها به افکارشان دارد و توانسته است مرزبندی شگفت‌انگیز و انسان‌گونه‌ای میان محاسبات پس‌زمینه و استدلال‌های عمدی این مدل پیدا کند.

آنتروپیک این فضای جدید را J-Space نامیده است که از نام ژاکوبی (تکنیک ریاضی استفاده‌شده برای کشف این فرایند) گرفته شده است. این شرکت در ویدیوی جالبی توضیح می‌دهد که کلاد از این ناحیه مجزا برای برنامه‌ریزی استراتژی‌هایی استفاده می‌کند که می‌توانند هیچ ارتباطی با وظیفه فعلی او نداشته باشند و از زنجیره افکاری که کاربران می‌بینند، جدا هستند. آنتروپیک در شبکه اجتماعی ایکس نوشته است که محققان می‌توانند کلاد را درحالی‌که بی‌صدا مراحل استدلال را در سر خود انجام می‌دهد تماشا کنند؛ کارهایی مانند پیداکردن باگ در کدها یا شناسایی تصاویر که در پس‌زمینه پردازش می‌شوند.

برای درک بهتر این موضوع، آنتروپیک در یک مثال از کلاد خواست تا در حین کپی‌کردن یک جمله نامربوط، به پل معلق گلدن گیت فکر کند. درحالی‌که کلاد مشغول کپی‌کردن جمله بود، J-Space داستان متفاوتی را روایت می‌کرد و نشان می‌داد که کلماتی مانند پل و ایالت کالیفرنیا ذهن پنهان این مدل را اشغال کرده‌اند.

آیا هوش مصنوعی Claude آنتروپیک به خودآگاهی رسیده است؟
تحقیق جدید آنتروپیک نشان می‌دهد که جی‌اسپیس شباهت زیادی به یکی از نظریه‌های پیشرو درباره خودآگاهی انسان، یعنی نظریه فضای کاری جهانی (Global Workspace Theory) دارد. براساس این نظریه، دریایی از افکار ناخودآگاه در ذهن انسان به‌طور مداوم درحال پردازش اطلاعات هستند و خودآگاهی زمانی پدیدار می‌شود که این افکار به بخش قشر پیش‌پیشانی مغز برسند.

آنتروپیک ادعا می‌کند که قابلیت کلاد برای فعال‌کردن مفاهیم و محاسبات در جی‌اسپیس که مستقل از خروجی‌های آن کار می‌کنند، شبیه به توانایی انسان برای فکرکردن به یک موضوع در حین انجام یک کار دیگر است. بااین‌حال، استفاده بیش از دویست بار از کلمه خودآگاهی در این مقاله، توجه بسیاری از رسانه‌ها و کارشناسان را به خود جلب کرده است.

یکی از مهمترین کاربردهای این کشف، امکان شناسایی ناهماهنگی یا دسیسه‌چینی در مدل‌های زبانی است. آنتروپیک می‌گوید با نظارت بر جی‌اسپیس، توسعه‌دهندگان می‌توانند متوجه شوند که کلاد به چه چیزی فکر می‌کند، اما آن را به زبان نمی‌آورد.

این شرکت اعلام کرده است که برخی از یافته‌های آن‌ها در این فضا نگران‌کننده بوده‌اند. برای مثال، محققان یک مدل هوش مصنوعی را به صورت مخفیانه برای خرابکاری در کدنویسی آموزش دادند. زمانی که این مدل درحال ارائه پاسخ‌های عادی به کاربران بود و خروجی آن بی‌خطر به نظر می‌رسید، کلماتی مانند جعلی، مخفیانه و تقلب در جی‌اسپیس آن پدیدار شدند که نشان‌دهنده نیت پنهان و مخرب ماشین بود.

با وجود جذابیت این تحقیق، بسیاری از کارشناسان و منتقدان معتقدند که آنتروپیک در تلاش است تا با استفاده از استعاره‌های انسانی، مخاطبان را به سمت پذیرش خودآگاهی هوش مصنوعی سوق دهد. منتقدان استفاده از عباراتی مانند انجام محاسبات ذهنی، فکرکردن در فضای داخلی سر یا ناتوانی مدل در کنترل خودش را زیر سؤال برده‌اند. آن‌ها استدلال می‌کنند که اگر یک مدل هوش مصنوعی برای حل مسائل ریاضی از محاسبات پایه استفاده کند، نمی‌گوییم که ماشین با انگشتانش درحال شمردن است؛ بنابراین استفاده از کلمه سر یا ذهن برای یک هوش مصنوعی نیز گمراه‌کننده است.

البته آنتروپیک در بیانیه رسمی خود تأکید کرده است که آزمایش‌های آن‌ها ثابت نمی‌کند کلاد می‌تواند مانند انسان‌ها چیزهایی را احساس یا تجربه کند و حتی مشخص نیست که هیچ آزمایش علمی بتواند این موضوع را اثبات کند. بااین‌حال، منتقدان بر این باورند که این شرکت با بازی با کلمات، قصد دارد ذهن مخاطبان را برای پذیرش یک فرم بیگانه از خودآگاهی آماده کند؛ اقدامی که احتمالاً برای ایجاد هیاهو پیش از فرایند عرضه اولیه سهام این شرکت طراحی شده است.