در این پرونده، هوش مصنوعی گوگل دو ناشر آلمانی را به اشتباه کلاهبردار معرفی کرده بود.

بر اساس گزارش منتشرشده توسط رسانه The Decoder، یک دادگاه در آلمان حکم داده که شرکت گوگل به‌طور مستقیم مسئول اطلاعات نادرستی است که توسط پلتفرم هوش مصنوعی این شرکت یعنی AI Overviews ارائه می‌شود. هرچند در کشور آلمان قوانینی برای محافظت از اپراتورهای موتورهای جستجو در برابر مسئولیت حقوقی محتوا وجود دارد، اما دادگاه در حکم خود اعلام کرده که این مصونیت شامل خلاصه‌های تولیدشده توسط هوش مصنوعی نمی‌شود.

براساس گزارش دیکودر، این دادگاه گوگل را به عنوان مسئول طبقه‌بندی کرده است؛ چرا که بخش AI Overview محتوای اختصاصی خود گوگل محسوب می‌شود.

این پرونده زمانی آغاز شد که الگوریتم خلاصه هوش مصنوعی گوگل، ادعاهای دروغینی را درباره دو ناشر مستقر در مونیخ منتشر کرد. در پاسخ به برخی عبارات جستجو، این دو ناشر به کلاهبرداری، فریب و رفتارهای تجاری مشکوک متصل شده بودند. دادگاه اعلام کرده است که هوش مصنوعی گوگل اطلاعات مربوط به شرکت‌های کاملاً مجزا را با هم ترکیب کرده و ارتباطاتی را شکل داده است که در هیچ‌کدام از منابع لینک‌شده وجود نداشتند و در واقعیت نیز هرگز رخ نداده‌اند.

شاکیان پرونده پیش از این یک اظهارنامه رسمی برای توقف نمایش این پاسخ‌ها به گوگل ارسال کرده بودند، اما به گفته آنها، گوگل پاسخ مناسبی به این درخواست نداده بود. در نهایت، دادگاه منطقه‌ای مونیخ با صدور یک حکم موقت، گوگل را از انتشار مجدد اطلاعات نادرست درباره این دو شرکت منع کرد.

در این پرونده، هوش مصنوعی با اطمینان کامل اعلام کرده بود که یکی از ناشران «به رفتارهای تجاری مشکوک شهرت دارد» و ساختار اطلاعاتی اختصاصی خود را شامل یک چکیده، هشدارهایی درباره این اقدامات مشکوک و توصیه‌هایی برای کاربران ایجاد کرده بود. مشکل اصلی این است که AI Overview در واقع اطلاعات مربوط به یک نهاد دیگر را استخراج کرده و حتی ادعاهایی را از خود ایجاد کرده بود که اصلاً در نتایج جستجو وجود نداشتند.

استدلال گوگل درباره این پرونده
گوگل در جلسه دادگاه استدلال کرده که کاربران می‌توانند لینک‌های منبع را برای بررسی صحت خلاصه هوش مصنوعی بررسی کنند. این شرکت همچنین مدعی شده که کاربران می‌دانند نباید به اطلاعات تولیدشده توسط هوش مصنوعی اعتماد کرد. این ادعا در شرایطی مطرح می‌شود که بررسی‌ها نشان می‌دهند تنها ۱ درصد از کاربران پس از خواندن این خلاصه‌ها، روی لینک منابع کلیک می‌کنند.

براساس مطالعه‌ای که اخیراً توسط نیویورک تایمز گزارش شده، بخش AI Overview حدود ۹ درصد از مواقع اطلاعات اشتباه درج می‌کند. با توجه به اینکه گوگل اعلام کرده است ماهانه دو میلیارد کاربر با AI Overviews تعامل دارند، این درصد خطا نشان‌دهنده حجم عظیمی از اطلاعات نادرست در سال است.