زوال شناختی با هوش مصنوعی
دنیای اقتصاد: پژوهش تازهای از محققان دانشگاههای فرانسه و ایتالیا نشان میدهد دسترسی به توصیههای هوش مصنوعی، بیش از آنکه کیفیت تصمیمگیری انسان را بهبود دهد، میتواند توانایی افراد در تشخیص ندانستههای خود را تضعیف کند. یافتههای این مطالعه حاکی از آن است که همزمان با کاهش چشمگیر دقت پاسخها، میزان اعتمادبهنفس کاربران به شکل محسوسی افزایش یافته است؛ الگویی که میتواند پیامدهای مهمی برای آموزش، جستوجوی اطلاعات و استفاده روزمره از ابزارهای هوش مصنوعی داشته باشد.
دیگر کسی نمیگوید نمیدانم!
بر اساس این پژوهش، زمانی که شرکتکنندگان بدون کمک هوش مصنوعی به پرسشها پاسخ میدادند، ۴۴ درصد از آنان در مواردی که از پاسخ مطمئن نبودند، گزینه «نمیدانم» را انتخاب میکردند. اما با در دسترس قرار گرفتن مشاوره هوش مصنوعی، این نسبت به تنها ۳ درصد سقوط کرد.
همزمان، دقت پاسخها نیز از ۲۷ درصد به ۹ درصد کاهش یافت، درحالیکه اعتمادبهنفس افراد از ۳۰ درصد به ۷۶ درصد افزایش پیدا کرد. به بیان دیگر، شرکتکنندگان نهتنها عملکرد ضعیفتری داشتند، بلکه اطمینان بیشتری نیز به پاسخهای خود پیدا کردند.
والریو کاپرارو، دانشیار دانشگاه میلان و یکی از نویسندگان پژوهش، این وضعیت را چنین توصیف میکند: «عملکرد افراد بهمراتب بدتر شد؛ دقت پاسخها به حدود یکسوم کاهش یافت، اما اعتمادبهنفس آنها تقریبا دو برابر شد».
نشانههایی از زوال هوش انسانی
پژوهشگران برای سنجش میزان اتکای کاربران به هوش مصنوعی، پرسشهایی را انتخاب کردند که مدلهای زبانی معمولا در پاسخ به آنها دچار خطا میشوند؛ از جمله جزئیات بصری فیلمها، مانند رنگ لباس تیم فوتبال در فیلم Bend It Like Beckham.
در این آزمایش از مدل Step ۳.۵ Flash استفاده شد. مدلی که پژوهشگران از پیش میدانستند در این نوع پرسشها عملکرد ضعیفی دارد. هدف این طراحی آن بود که کاهش کیفیت تصمیمگیری انسان را نتوان تنها با اتکا به یک ابزار دقیق و قابل اعتماد توضیح داد. نتیجه قابلتوجه بود: برخی از شرکتکنندگان که در حالت عادی پاسخ صحیح را میدانستند، پس از دریافت پیشنهاد هوش مصنوعی نظر خود را تغییر دادند و پاسخ نادرست را انتخاب کردند.
وقتی که به عقل خودمان شک میکنیم
یافتههای این مطالعه با نتایج پژوهشی دیگر که اوایل امسال از سوی پژوهشگران مدرسه وارتون منتشر شد، همراستا است. آنان پدیدهای را با عنوان «تسلیم شناختی» (Cognitive Surrender) معرفی کردند؛ وضعیتی که در آن افراد، حتی زمانی که پاسخ هوش مصنوعی نادرست است، آن را میپذیرند و در عین حال نسبت به پاسخ خود اطمینان بیشتری دارند. مطالعه جدید این تصویر را دقیقتر میکند. مساله اعتماد به پاسخهای اشتباه نیست؛ بلکه خودِ حضور هوش مصنوعی، عادت ذهنی انسان به تشخیص مرزهای دانستهها و نادانستههایش را تضعیف میکند.
یک ریسک غیرقابل قبول
کاپرارو تاکید میکند که توانایی گفتن «نمیدانم» یکی از مهمترین مهارتهای شناختی انسان است، زیرا نشان میدهد فرد به محدودیتهای دانش خود آگاه است.
از نگاه او، این موضوع برای کودکان اهمیت دوچندانی دارد؛ نسلی که پیش از شکلگیری کامل مهارتهای تفکر انتقادی، با ابزارهای هوش مصنوعی رشد میکند. پژوهشگران همچنین یادآور میشوند که بسیاری از محصولات هوش مصنوعی امروزی برای ارائه پاسخ طراحی شدهاند، نه برای اعلام عدم قطعیت. در همین راستا، به تغییرات اخیر در جستوجوی گوگل و جایگزینی فهرست لینکها با خلاصههای تولیدشده توسط هوش مصنوعی اشاره شده است؛ تغییری که سازمان Common Sense Media آن را «ریسکی غیرقابل قبول» برای دانشآموزان توصیف کرده است.
آیا هوش مصنوعی در حال تغییر شیوه اندیشیدن ماست؟
این پژوهش ضرورتا استدلالی علیه استفاده از هوش مصنوعی ارائه نمیکند، بلکه بر یکی از مخاطرات کمتر دیدهشده آن انگشت میگذارد: وابستگی شناختی. اگر ابزارهای هوش مصنوعی همواره با قاطعیت پاسخ دهند، کاربران نیز ممکن است بهتدریج توانایی ارزشمند تردید کردن و پذیرش «ندانستن» را از دست بدهند. در شرایطی که هوش مصنوعی با سرعتی بیسابقه وارد آموزش، پژوهش، کسبوکار و زندگی روزمره شده است، شاید مهمترین پرسش دیگر این نباشد که این فناوری تا چه اندازه میتواند به جای انسان پاسخ بدهد؛ بلکه احتمالا باید پرسید که آیا انسان، در کنار آن، هنوز میتواند تشخیص دهد چه زمانی واقعا پاسخ را نمیداند.