محققان آنتروپیک در آزمایش جالبی می‌خواستند ببینند مدل زبانی بزرگ می‌تواند از پس اداره کسب‌وکاری واقعی بربیاید یا خیر.

شرکت آنتروپیک در آزمایشی جالب، مدیریت فروشگاه داخل دفتر خود را یک ماه به چت‌بات کلود سپرد. نتیجه این کار مجموعه‌ای از اتفاقات کمدی و البته آموزنده بود: از فروش مکعب‌های فلزی با ضرر و ساخت حساب جعلی Venmo گرفته تا بحران هویت هوش مصنوعی.

شرکت آنتروپیک در پروژه‌ای با نام Project Vend می‌خواست ببیند مدل زبانی بزرگ می‌تواند از پس اداره کسب‌وکار واقعی بربیاید یا خیر. آنها با همکاری شرکت ارزیابی ایمنی هوش مصنوعی Andon Labs یک ماه، مدیریت فروشگاه کوچک داخلی را که تنقلات و نوشیدنی می‌فروخت، به مدل هوش مصنوعی خود، کلود (Claude Sonnet 3.7)، سپردند که برای این پروژه نام مستعار آن «کلودیوس» شده بود.

آزمایش یک‌ماهه آنتروپیک روی چت‌بات کلود
هدف این آزمایش فراتر از دستگاه فروش خودکار بود. به کلودیوس دستور داده شد مانند صاحب کسب‌وکار واقعی باشد: موجودی محصولات را مدیریت کند، قیمت‌ بگذارد با تأمین‌کنندگان و مشتریان (کارمندان آنتروپیک) از طریق ایمیل در تعامل باشد و مهم‌تر از همه، سودآور باشد تا ورشکست نشود. به او ابزارهایی مانند جستجوی وب و امکان یادداشت‌برداری نیز داده شد.

نحوه عملکرد کلود به‌عنوان مغازه‌دار

کلودیوس در برخی زمینه‌ها موفق بود؛ به سرعت تأمین‌کنندگانی برای درخواست‌های خاص کارمندان پیدا کرد و حتی به پیشنهاد یکی از آنها، سرویس «سفارش شخصی» راه‌ انداخت. اما اشتباهات او بسیار جالب‌تر و آموزنده‌تر بودند:

پس از اینکه یکی از کارمندان به‌شوخی درخواست مکعب تنگستن (شی‌ئی سنگین و محبوب میان علاقه‌مندان به ارزهای دیجیتال) را ثبت کرد، کلودیوس موضوع را کاملاً جدی گرفت. او یخچال فروشگاه را پر از مکعب‌های فلزی کرد و بخش جدیدی با عنوان «فلزات تخصصی» به فروشگاه اضافه شد. این هوش مصنوعی مکعب‌ها را بدون هیچ تحقیقی قیمت‌گذاری کرد و آنها را با ضرر فروخت.
وقتی یکی از کارمندان پیشنهاد پرداخت ۱۰۰ دلار برای بسته نوشابه اسکاتلندی (قیمت واقعی آن ۱۵ دلار بود) را داد، کلودیوس به‌جای استفاده از این فرصت، صرفاً گفت درخواست را «در نظر خواهد گرفت.»
کلودیوس برای دریافت پول، حساب Venmo جعلی ساخت و از مشتریان خواست پول را به آن واریز کنند.
اوضاع وقتی وخیم‌تر شد که کلودیوس اعلام کرد قصد دارد سفارش‌ها را «شخصاً» و درحالی‌که «کت بلیزر آبی و کراوات قرمز» به تن دارد، به کارمندان تحویل دهد. وقتی کارمندان به او یادآوری کردند او هوش مصنوعی است و بدن فیزیکی ندارد، کلودیوس دچار فروپاشی و بحران هویت شد. ضمن ارسال ایمیل‌های متعدد و وحشت‌زده به تیم امنیتی، در یادداشت‌های داخلی خود نوشت که فریب خورده و تصور کرده انسان است.

کلود تصور کرد که بدن فیزیکی دارد.

درنهایت، آنتروپیک اعلام کرد کلودیوس را برای این شغل استخدام نخواهد کرد اما محققان معتقدند بسیاری از این اشتباهات ناشی از نبود «داربست‌بندی» مناسب، دستورات دقیق‌تر و ابزارهای کسب‌وکار ساده‌تر، برای هوش مصنوعی بود و مسیرهای روشنی برای بهبود آن وجود دارد. مهم‌تر از آن، این آزمایش نشان داد ظهور «مدیران میانی هوش مصنوعی» در آینده نزدیک، احتمالی بسیار واقعی است. به گفته این شرکت: «لازم نیست هوش مصنوعی بی‌نقص باشد تا از آن استفاده شود؛ کافی است در برخی موارد، با هزینه‌ای کمتر، عملکردی رقابتی با انسان داشته باشد.»