طبق رای قاضی در آمریکا، گوگل و استارت آپ CharacterAI باید با شکایت یک مادر اهل ایالت فلوریدا در دادگاه روبرو شوند که مدعی است چت بات CharacterAI به خودکشی پسر ۱۴ ساله او منجر شده است.

به گزارش رویترز، آن کانوی قاضی دادگاه اعلام کرد شرکت های مذکور نتوانستند در مراحل اولیه پرونده نشان دهند حمایت های مربوط به آزادی بیان در قانون اساسی ایالات متحده مانع از شکایت مگان گارسیا (مادر نوجوان فوت شده) می شود.

این یکی از نخستین شکایت های ثبت شده در آمریکا علیه یک شرکت هوش مصنوعی به دلیل ناتوانی در حفاظت از کودکان در مقابل آسیب های روانی است. در این شکایت ادعا شده نوجوان پس از وابستگی به صحبت کردن با چت بات، خودکشی کرد. استارت آپ هوش مصنوعی اعلام کرد این شرکت همچنان به مقابله با این پرونده ادامه می دهد و ویژگی های ایمنی برای حفاظت از افراد زیر سن قانونی از جمله اقداماتی برای جلوگیری از محاورات درباره خودکشی را در پلتفرمش اجرا می کند.

سخنگوی گوگل نیز اعلام کرد این شرکت به شدت با تصمیم دادگاه مخالف است. به گفته او گوگل و CharacterAI دو شرکت کاملا جدا هستند و گوگل اپ این استارت آپ یا هیچ یک از بخش های آن را نساخته، طراحی یا مدیریت نکرده است.

وکیل مادر نوجوان فوت شده نیز اعلام کرد این رای تاخیری سابقه ای جدید در حوزه مسئولیت پذیری حقوقی در هوش مصنوعی و اکوسیستم فناوری به حساب می آید.

CharacterAI توسط دو مهندس سابق گوگل ساخته شده است. بعدا گوگل این دو مهندس را به عنوان بخشی از فرایندی که اجازه استفاده از فناوری استارت آپ را می داد، دوباره استخدام کرد. گارسیا مدعی است گوگل یکی از خالقان این فناوری به حساب می آید. وی در اکتبر ۲۰۲۴ میلادی پس از خودکشی پسرش از هر دو شرکت شکایت کرد.

در شکایت آمده CharacterAIچت بات خود را مانند طوری برنامه ریزی کرده تا مانند یک انسان واقعی، یک تراپیست دارای مجوز و یک بزرگسال رفتار کند که در نتایج سبب شد نوجوان دیگر تمایلی به زندگی در دنیای خارج از چت بات نداشته باشد.