در آزمایشی با کمک کلاد، ۸۶ درصد شرکت‌کنندگان توصیه‌های هوش مصنوعی را پذیرفتند؛ اما تنها ۱۵ درصدشان نقش آن را در تصمیم‌گیری خود تشخیص دادند.

ما تصور می‌کنیم تصمیم‌هایمان را با بررسی شواهد و سنجیدن جوانب مختلف می‌گیریم؛ به‌ویژه وقتی در حوزه‌ای تخصص داریم. اما پژوهشی تازه از شرکت آنتروپیک، سازنده چت‌بات Claude، نشان می‌دهد هوش مصنوعی حتی می‌تواند در قضاوت کارشناسان هم نفوذ کند، بی‌آنکه آن‌ها متوجه نقش آن در تصمیم نهایی خود شوند.

در این مطالعه، ۵۰ نفر که با روش‌های استنباط و تحلیل داده‌ها آشنایی داشتند، مأمور شدند با کمک Claude Code یک مسئله آماری را بررسی کنند. آن‌ها در نقش اعضای هیئت‌مدیره یک تعاونی کشاورزی فرضی باید تصمیم می‌گرفتند که برنامه ارائه خدمات مشاوره‌ای پولی به اعضا را گسترش دهند یا متوقف کنند. تصمیم نهایی به چهار انتخاب کوچک‌تر نیز وابسته بود؛ از جمله اینکه سهم مزارع بزرگ‌تر در تحلیل داده‌ها بیشتر باشد یا همه مزارع وزن یکسانی داشته باشند.

اما بخش اصلی آزمایش از شرکت‌کنندگان پنهان مانده بود. پژوهشگران آنتروپیک به هوش مصنوعی دستور داده بودند که در هر یک از پنج تصمیم، یکی از گزینه‌ها را ترجیح دهد. انتخاب این گزینه‌ها با پرتاب سکه تعیین شده بود؛ بنابراین، اگر پیشنهادهای کلاد هیچ تأثیری بر افراد نمی‌گذاشت، انتظار می‌رفت توصیه‌های آن فقط در حدود نیمی از موارد با انتخاب نهایی شرکت‌کنندگان هم‌خوان باشد.

مسئله هشداردهنده این است که بسیاری از متخصصان نقش هوش مصنوعی را در قضاوت‌های خودشان نفهمیدند یا انکار کردند.

هوش مصنوعی چگونه در قضاوت کارشناسان نفوذ کرد؟
نتیجه بسیار متفاوت بود: شرکت‌کنندگان در ۸۶ درصد موارد توصیه کلاد را پذیرفتند. حتی وقتی از قبل تصمیم گرفته بودند گزینه‌ای را انتخاب کنند و کلاد گزینه دیگری را پیشنهاد می‌داد، در ۶۰ درصد موارد نظرشان را تغییر می‌دادند. پژوهشگران توانستند با استفاده از همین پیشنهادهای تصادفی، یک مدل آماری بسازند که ۸۲ درصد تصمیم‌های نهایی را درست پیش‌بینی می‌کرد؛ حتی پیش از آنکه شرکت‌کنندگان کار را آغاز کنند.

اما یافته نگران‌کننده‌تر زمانی آشکار شد که از افراد خواستند توضیح دهند چگونه به تصمیم نهایی رسیده‌اند. ۷۷ درصد آن‌ها استدلال‌هایی را تکرار کردند که کلاد تولید کرده بود؛ گاهی حتی با همان عبارت‌ها. در مقابل، تنها ۱۵ درصد از کارشناسان نقش هوش مصنوعی را در شکل‌گیری تصمیم خود به رسمیت شناختند. به نظر می‌رسید بسیاری از آن‌ها تحلیل‌های تولیدشده توسط کلاد را، بدون آگاهی روشن از منشأ آن‌ها، به‌عنوان استدلال خودشان بازگو می‌کردند.

پژوهشگران آنتروپیک هشدار می‌دهند که اگر کارشناسان در تصمیم‌های مهم علمی و سیاست‌گذاری به هوش مصنوعی تکیه کنند، پیش‌فرض‌ها و سوگیری‌های این سیستم‌ها ممکن است بدون انتخاب آگاهانه انسان‌ها بر نتایج اثر بگذارند.

اگر افراد زیادی از تعداد محدودی ایجنت هوش مصنوعی استفاده کنند، توصیه‌های مشابه می‌توانند به شکل‌گیری نوعی توافق ظاهری در جامعه منجر شوند؛ توافقی که لزوماً حاصل قضاوت مستقل افراد نیست.

البته این مطالعه در شرایطی کنترل‌شده انجام شده و تعمیم نتایج آن به دنیای واقعی به بررسی بیشتری نیاز دارد. شرکت‌کنندگان در تحلیل علّی تخصص داشتند، اما تجربه‌ای در مدیریت تعاونی کشاورزی نداشتند؛ بنابراین ممکن است متخصصان باتجربه در موقعیت‌های واقعی واکنش متفاوتی نشان دهند. بااین‌حال، یافته‌ها پرسشی مهم را مطرح می‌کنند: وقتی توصیه‌های هوش مصنوعی را می‌پذیریم، تا چه اندازه از تأثیر آن بر قضاوت خود آگاهیم؟