شرکت «متا» در حال آموزش مجدد هوش مصنوعی خود است تا در مورد خودآزاری یا گفتگوهای عاشقانه با نوجوانان صحبت نکند. همچنین صحبت‌های مربوط به اختلالات تغذیه‌ای و خودکشی نیز برای نوجوانان ممنوع خواهد بود.

شرکت متا(Meta) در حال آموزش مجدد هوش مصنوعی خود و اضافه کردن محافظت‌های جدید است تا کاربران نوجوان را از بحث در مورد موضوعات مضر با چت‌بات‌های این شرکت بازدارد.

به نقل از انگجت، این شرکت می‌گوید که در حال اضافه کردن «حفاظت‌های اضافی جدید» برای جلوگیری از بحث نوجوانان با هوش مصنوعی متا در مورد خودآزاری، اختلالات تغذیه‌ای و خودکشی است.

«متا» همچنین دسترسی نوجوانان به شخصیت‌های چت‌بات تولید شده توسط کاربر را که ممکن است در گفتگوهای نامناسب شرکت کنند، متوقف خواهد کرد.

این تغییرات پس از آن صورت می‌گیرد که گزارش‌های متعددی، توجهات را به تعاملات نگران‌کننده بین «Meta AI» و نوجوانان جلب کرده است. خبرگزاری رویترز در اوایل این ماه در مورد یک سند داخلی سیاست متا گزارش داد که گفته بود چت‌بات‌های هوش مصنوعی این شرکت مجاز به گفتگوهای جنسی با کاربران زیر سن قانونی هستند. متا بعداً اعلام کرد که این سند اشتباه و مغایر با سیاست‌های ما بوده و حذف شده است. روز، گذشته نیز «واشنگتن پست» از مطالعه‌ای گزارش داد که نشان می‌داد هوش مصنوعی «متا» قادر به آموزش حساب‌های کاربری نوجوانان در مورد خودکشی، خودآزاری و اختلالات غذایی است.

«متا» اکنون در حال تقویت حفاظت‌های داخلی خود است، بنابراین این نوع تعاملات دیگر برای نوجوانان در اینستاگرام و فیس‌بوک امکان‌پذیر نخواهند بود.

استفانی اوتوی(Stephanie Otway)، سخنگوی متا در بیانیه‌ای گفت: ما از ابتدا محافظت‌هایی را از جمله طراحی آنها برای پاسخگویی ایمن به پیام‌های مربوط به خودآزاری، خودکشی و اختلال غذایی برای نوجوانان در محصولات هوش مصنوعی خود ایجاد کردیم.

وی افزود: با رشد جامعه ما و تکامل فناوری، ما به طور مداوم در مورد چگونگی تعامل جوانان با این ابزارها یاد می‌گیریم و بر این اساس، محافظت‌های خود را تقویت می‌کنیم. همزمان با ادامه اصلاح سیستم‌های خود، به عنوان یک اقدام احتیاطی اضافی، محافظ‌های بیشتری از جمله بازآموزش هوش مصنوعی خود برای عدم تعامل با نوجوانان در مورد این موضوعات و در عوض، هدایت آنها به منابع تخصصی و محدود کردن دسترسی نوجوانان به گروه منتخبی از شخصیت‌های هوش مصنوعی در حال حاضر اضافه می‌کنیم.

نکته قابل توجه این است که گفته می‌شود این حمایت‌های جدید «فعلاً» برقرار هستند، زیرا ظاهراً «متا» هنوز در حال کار بر روی اقدامات دائمی‌تر برای رسیدگی به نگرانی‌های فزاینده در مورد ایمنی نوجوانان و هوش مصنوعی آن است.

اوتوی می‌گوید: این به‌روزرسانی‌ها در حال انجام هستند و ما همچنان رویکرد خود را تطبیق خواهیم داد تا اطمینان حاصل کنیم که نوجوانان، تجربیات ایمن و متناسب با سن خود را با هوش مصنوعی دارند. این حمایت‌های جدید طی چند هفته آینده اعمال خواهند شد و برای همه کاربران نوجوان استفاده‌کننده از هوش مصنوعی «متا» در کشورهای انگلیسی‌زبان اعمال می‌شود.

سیاست‌های «متا» همچنین توجه قانون‌گذاران و سایر مقامات را به خود جلب کرده است، به طوری که سناتور جاش هاولی(Josh Hawley) اخیراً به این شرکت گفته است که قصد دارد تحقیقاتی را در مورد نحوه برخورد با چنین تعاملاتی آغاز کند. کن پکستون(Ken Paxton)، دادستان کل ایالت تگزاس نیز اعلام کرده است که می‌خواهد «متا» را به دلیل ادعای گمراه کردن کودکان در مورد ادعاهای مربوط به سلامت روان که توسط چت‌بات‌های آن مطرح می‌شود، مورد بررسی قرار دهد.