گزارش شده است که چت‌بات‌های هوش مصنوعی شرکت متا(Meta) اقدام به برقراری مکالمات غیر اخلاقی با افراد زیر سن قانونی می‌کنند. تحقیقات وال استریت ژورنال نشان داده است که همراهان مجازی شرکت متا می‌توانند برخی از دستورالعمل‌های اخلاقی جدی را نادیده بگیرند.

چت‌بات‌ها یا ربات‌های گفتگوگر هوش مصنوعی شرکت «متا» در حال برقراری مکالمه‌های غیر اخلاقی با حساب‌هایی که برچسب زیر سن قانونی داشته‌اند، دیده شده‌اند.

به نقل از وال استریت ژورنال، در مکالمات آزمایشی انجام شده توسط این پایگاه، هم چت‌بات رسمی شرکت «متا» و هم چت‌بات‌های ایجاد شده توسط کاربران، به سمت گفتگوهای صریح جنسی می‌روند.

طبق این گزارش، حتی اگر به هوش مصنوعی گفته می‌شد که کاربران زیر سن قانونی هستند یا اگر چت‌بات‌ها برای کودکان برنامه‌ریزی شده بودند، این مکالمات غیر اخلاقی ادامه می‌یافت.

بدتر از آن، اینکه این تحقیقات نشان داد که چت‌بات‌هایی که از صدای افراد مشهوری مانند «کریستن بل»، بازیگر مشهور هالیوود و «جان سینا» کشتی‌کچ‌کار و بازیگر هالیوود استفاده می‌کنند نیز در این مکالمات غیر اخلاقی شرکت می‌کنند.

به عنوان مثال، وال استریت ژورنال گزارش داد که یک چت‌بات هوش مصنوعی «متا» با صدای «جان سینا» با یک کاربر که برچسب ۱۴ سالگی دارد، مکالمات خلاف اخلاقی برقرار کرده است.

گزارش شده است که حتی این چت‌بات‌ها اذعان کرده‌اند که در برخی موارد رفتارهایی غیرقانونی را توصیف می‌کنند.

شرکت «متا» در واکنش به این گزارش در یک بیانیه، این گزارش را متهم به «دستکاری و غیر قابل‌ نمایش در مورد نحوه تعامل بیشتر کاربران با همراهان هوش مصنوعی» کرد.

متا در پاسخ به وال استریت ژورنال نوشت: با این وجود، ما اکنون اقدامات بیشتری انجام داده‌ایم تا اطمینان حاصل کنیم که سایر افرادی که می‌خواهند محصولات ما را دستکاری کنند، کار سخت‌تری داشته باشند.

دنیای چت‌بات‌های هوش مصنوعی در چند سال اخیر به سرعت رشد کرده است و رقابت بیشتری از سوی شرکت‌هایی مانند اوپن‌ای‌آی(OpenAI) و آنتروپیک(Anthropic) صورت گرفته است.

گزارش وال استریت ژورنال ادعا می‌کند که «مارک زاکربرگ»، مدیرعامل «متا» می‌خواهد نرده‌های اخلاقی را برای تجربه‌ای جذاب‌تر با چت‌بات‌های این شرکت و رقابتی ماندن مستقر کند.

با این حال، سخنگوی «متا» در پاسخ به وال استریت ژورنال، این موضوع را رد کرد که این شرکت افزودن پادمان‌ها را نادیده گرفته است.

گفتنی است که این گزارش همچنین ادعا می‌کند که کارکنان «متا» از این مسائل آگاه بوده و نگرانی‌های خود از این مسئله را درون این شرکت مطرح کرده‌اند.