طبق گزارش‌های حاکی از یک پرونده حقوقی، «مارک زاکربرگ» در ابتدا با کنترل والدین برای چت‌بات‌های هوش مصنوعی مخالف بوده است. مدیرعامل «متا» با وجود اینکه نمی‌خواست افراد زیر سن قانونی مکالمات مشکل‌دار داشته باشند، ظاهراً این اقدام ایمنی خاص را رد کرده است.

شرکت متا(Meta) با سؤالات جدی در مورد چگونگی اجازه دادن به کاربران زیر سن قانونی خود برای تعامل با چت‌بات‌های مبتنی بر هوش مصنوعی مواجه شده است.

اخیراً ارتباطات داخلی به دست آمده توسط دفتر دادستان کل نیومکزیکو نشان داد که اگرچه مارک زاکربرگ، مدیرعامل متا، مخالف گفتگوهای مشکل‌دار چت‌بات‌ها با افراد زیر سن قانونی بود، اما ایده قرار دادن کنترل والدین بر این ویژگی را نیز رد کرده است.

رویترز گزارش داد که در تبادل نظر بین دو کارمند ناشناس متا، یکی نوشت که ما برای خاموش کردن کنترل والدین سخت تلاش کردیم، اما مدیریت با خاطرنشان کردن تصمیم مارک زاکربرگ در این باره، با آن مخالفت کرد.

متا در بیانیه خود، دادستان کل نیومکزیکو را به دستچین کردن اسناد برای ترسیم تصویری ناقص و نادرست متهم کرد.

گفتنی است که دادستان نیومکزیکو از شرکت متا به اتهام اینکه در جلوگیری از موج آسیب‌های جنسی و پیشنهادات جنسی ارائه شده به کودکان شکست خورده است، شکایت کرده است و قرار است این پرونده در ماه فوریه به دادگاه برود.

با وجود اینکه چت‌بات‌های متا فقط برای مدت کوتاهی در دسترس بوده‌اند، اما سابقه‌ رفتاری نسبتاً طولانی دارند که اگر نگوییم کاملاً غیرقانونی، زننده ظاهر شده‌اند.

نشریه «وال استریت ژورنال» در آوریل ۲۰۲۵ تحقیقاتی را منتشر کرد که نشان می‌داد چت‌بات‌های متا می‌توانند در مکالمات جنسی فانتزی با افراد زیر سن قانونی شرکت کنند یا می‌توانند طوری هدایت شوند که از یک فرد زیر سن قانونی تقلید کرده و در مکالمات جنسی شرکت کنند. این گزارش ادعا می‌کرد که زاکربرگ می‌خواسته است که محافظان آزادتری برای چت‌بات‌های متا اعمال شود، اما سخنگوی این شرکت این ادعا را که متا از حمایت‌های مربوط به کودکان و نوجوانان چشم‌پوشی کرده است، رد کرد.

اسناد بررسی داخلی که در اوت ۲۰۲۵ فاش شد، چندین موقعیت فرضی را در مورد رفتارهای مجاز چت‌بات شرح داد و مرز بین گفتگوهای شهوت‌آمیز و جنسی بسیار مبهم به نظر می‌رسید. این سند همچنین به چت‌بات‌ها اجازه می‌داد تا در مورد مفاهیم نژادپرستانه بحث کنند. در آن زمان، نماینده‌ای به رسانه «انگجت» گفت که این عبارات توهین‌آمیز، به جای سیاست واقعی، فرضی بوده‌اند که در واقع پیشرفت چندانی به نظر نمی‌رسد و اینکه از سند حذف شده‌اند.

متا با وجود موارد متعدد استفاده مشکوک از چت‌بات‌های خود، تازه هفته گذشته بود که تصمیم گرفت دسترسی حساب‌های نوجوانان به آنها را به حالت تعلیق درآورد. این شرکت اعلام کرد که به طور موقت دسترسی‌ها را حذف می‌کند تا کنترل‌های والدینی را که زاکربرگ ظاهراً از استفاده از آنها خودداری کرده بود، توسعه دهد.

نماینده شرکت متا گفت: والدین مدت‌هاست که می‌توانند ببینند آیا نوجوانانشان با هوش مصنوعی در اینستاگرام چت می‌کنند یا خیر و در ماه اکتبر نیز ما برنامه‌های خود را برای پیشرفت بیشتر و ساخت ابزارهای جدید برای کنترل بیشتر والدین بر تجربیات نوجوانانشان با شخصیت‌های هوش مصنوعی اعلام کردیم. هفته گذشته ما بار دیگر تعهد خود را برای عمل به وعده خود در مورد کنترل والدین برای هوش مصنوعی تقویت کردیم و دسترسی نوجوانان به شخصیت‌های هوش مصنوعی را تا زمان آماده شدن نسخه به‌روز شده به طور کامل متوقف کردیم.

دادستان نیومکزیکو این شکایت را در دسامبر 2023 علیه متا به دلیل ادعاهایی مبنی بر اینکه پلتفرم‌های این شرکت نتوانسته‌اند از خردسالان در برابر آزار و اذیت بزرگسالان محافظت کنند، مطرح کرد. اسناد داخلی که در اوایل آن شکایت فاش شد، نشان می‌داد که روزانه ۱۰۰ هزار کاربر کودک در سرویس‌های متا مورد آزار و اذیت قرار می‌گیرند.