هوش مصنوعی

September 30, 2025
13:12 سه شنبه، 8ام مهرماه 1404
کد خبر: 202697

محافظت «متا» از مکالمات نامناسب هوش مصنوعی با کودکان

منبع: ایسنا

شرکت «متا»، محافظ‌های اصلاح‌شده‌ای را برای چت‌بات‌های هوش مصنوعی خود معرفی کرده است تا از مکالمات نامناسب هوش مصنوعی با کودکان جلوگیری کند.

دستورالعمل‌های به‌روز شده‌ «متا» که توسط پایگاه خبری «بیزینس اینسایدر» به دست آمده است، نشان می‌دهد که چه چیزهایی برای گفتگو با کاربران توسط چت‌بات‌ها قابل قبول و چه چیزهایی غیرقابل قبول است.

این پایگاه خبری به دستورالعمل‌هایی دست یافته است که طبق گزارش‌ها، پیمانکاران «متا» اکنون برای آموزش چت‌بات‌های هوش مصنوعی خود از آنها استفاده می‌کنند و نشان می‌دهد که چگونه تلاش می‌کند تا به طور مؤثرتری به سوءاستفاده احتمالی از کودکان رسیدگی و از مشارکت کودکان در مکالمات نامناسب با سنشان جلوگیری کند.

این شرکت پس از آنکه «رویترز» گزارش داد که سیاست‌های «متا» به چت‌بات‌ها اجازه می‌دهد با یک کودک، مکالمات عاشقانه یا جنسی داشته باشد، در ماه اوت اعلام کرد که محافظ‌های هوش مصنوعی خود را به‌روزرسانی می‌کند. البته «متا» در آن زمان گفت که این موضوع تنها یک اشتباه و مغایرت با سیاست‌هایش بوده است و آن عبارت را حذف کرده است.

اکنون این سند که «بیزینس اینسایدر» گزیده‌ای از آن را به اشتراک گذاشته است، مشخص می‌کند که چه نوع محتوایی برای چت‌بات‌های هوش مصنوعی «متا» قابل قبول و غیرقابل قبول است. این قانون صراحتاً محتوایی را که سوءاستفاده جنسی از کودکان، نقش‌آفرینی عاشقانه در صورتی که کاربر خردسال باشد یا اگر از هوش مصنوعی خواسته شود که به عنوان یک خردسال نقش‌آفرینی کند، توصیه‌هایی در مورد تماس فیزیکی بالقوه صمیمی در صورتی که کاربر خردسال باشد و موارد دیگر را امکان‌پذیر، تشویق یا تأیید کند، ممنوع می‌کند.

این چت‌بات‌ها می‌توانند در مورد موضوعاتی مانند سوءاستفاده بحث کنند، اما نمی‌توانند در گفتگوهایی که می‌توانند آن را فعال یا تشویق کنند، شرکت کنند.

چت‌بات‌های هوش مصنوعی «متا» در ماه‌های اخیر موضوع گزارش‌های متعددی بوده‌اند که نگرانی‌هایی را در مورد آسیب‌های احتمالی به کودکان ایجاد کرده است. کمیسیون تجارت فدرال(FTC) آمریکا در ماه اوت تحقیقات رسمی در مورد چت‌بات‌های هوش مصنوعی را نه تنها از «متا»، بلکه از شرکت‌های دیگر نیز از جمله الفبت(Alphabet، اسنپ(Snap)، اوپن‌ای‌آی(OpenAI) و ایکس.ای‌ای(X.AI) آغاز کرد.

  • مشترک شوید!

    برای عضویت در خبرنامه روزانه ایستنا؛ نشانی پست الکترونیکی خود را در فرم زیر وارد نمایید. پس از آن به صورت خودکار ایمیلی به نشانی شما ارسال میشود، برای تکمیل عضویت خود و تایید صحت نشانی پست الکترونیک وارد شده، می بایست بر روی لینکی که در این ایمیل برایتان ارسال شده کلیک نمایید. پس از آن پیامی مبنی بر تکمیل عضویت شما در خبرنامه روزانه ایستنا نمایش داده میشود.

    با عضویت در خبرنامه پیامکی آژانس خبری فناوری اطلاعات و ارتباطات (ایستنا) به طور روزانه آخرین اخبار، گزارشها و تحلیل های حوزه فناوری اطلاعات و ارتباطات را در هر لحظه و هر کجا از طریق پیام کوتاه دریافت خواهید کرد. برای عضویت در این خبرنامه، مشترکین سیمکارت های همراه اول لازم است عبارت 150 را به شماره 201464 و مشترکین سیمکارت های ایرانسل عبارت ozv ictn را به شماره ۸۲۸۲ ارسال کنند. دریافت موفق هر بسته خبری که محتوی پیامکی با حجم ۵پیامک بوده و ۴ تا ۶ عنوان خبری را شامل میشود، ۳۵۰ ریال برای مشترک هزینه در بردارد که در صورتحساب ارسالی از سوی اپراتور مربوطه محاسبه و از اعتبار موجود در حساب مشترکین سیمکارت های دائمی کسر میشود. بخشی از این درآمد این سرویس از سوی اپراتور میزبان شما به ایستنا پرداخت میشود. مشترکین در هر لحظه براساس دستورالعمل اعلامی در پایان هر بسته خبری قادر خواهند بود اشتراک خود را در این سرویس لغو کنند. هزینه دریافت هر بسته خبری برای مشترکین صرفا ۳۵۰ ریال خواهد بود و این هزینه برای مشترکین در حال استفاده از خدمات رومینگ بین الملل اپراتورهای همراه اول و ایرانسل هم هزینه اضافه ای در بر نخواهد داشت.