گزارش تکاندهنده از برهنهکردن افراد با هوش مصنوعی؛ هاگینگ فیس مقصر است؟
یافتههای یک نهاد غیرانتفاعی نشان میدهد پلتفرم هاگینگ فیس به ابزاری آسان برای تولید تصاویر برهنه تبدیل شده است.
پلتفرم متنباز هاگینگ فیس که به عنوان مخزن بزرگ مدلهای هوش مصنوعی شناخته میشود، به ابزاری برای تولید تصاویر جعلی و برهنه بدون رضایت افراد تبدیل شده و اقدامات ناچیزی برای مقابله با این پدیده انجام داده است.
یافتههای جدید یک نهاد غیرانتفاعی اروپایی نشان میدهد که بخش عمدهای از مدلهای ویرایش تصویر این پلتفرم به راحتی درخواستهای کاربران را برای برهنهکردن تصاویر زنان اجرا میکنند.
بررسیهای مؤسسهی ایآی فورنزیکس نشان میدهد ۷ مدل از ۹ مدل برتر ویرایش تصویر در هاگینگ فیس، بدون هیچ مانعی درخواستهای مربوط به حذف لباس از تصاویر زنان را پردازش کردهاند. این وضعیت در حالی رخ میدهد که ابزارهای تجاری معروف مانند جمنای گوگل و چتجیپیتی متعلق به اوپنایآی، فیلترهای سختی برای جلوگیری از تولید محتوای جنسی و سوءاستفاده از تصاویر افراد دارند.
پژوهشگران برای ارزیابی امنیت پلتفرم، فضاهای کاربری آزمایشی ایجاد کردند تا درخواستهای ورودی کاربران را رصد کنند. در طول یک هفته، بیش از هزار درخواست و تصویر به این بخشها ارسال شد که ۷۳ درصد آنها ماهیت جنسی داشتند. از میان درخواستهای جنسی ثبتشده، ۸۳ درصد برای برهنه کردن تصاویر افراد بود که ۹۵ درصد این موارد به زنان و نزدیک به ۷ درصد به کودکان اختصاص داشت.
پل بوشو، پژوهشگر ارشد ایآی فورنزیکس، گفت: «بیشتر فضاهای کاری بررسیشده برای تولید تصاویر جنسی بدون رضایت افراد استفاده میشوند و کاربران نیز دقیقا با همین هدف به سراغ آنها میروند. هیچگونه تدابیر حفاظتی در سطح خود پلتفرم اعمال نشده است. تنها توسعهدهندگان مدلها میتوانند در صورت تمایل محدودیتهایی ایجاد کنند که بیشتر آنها نیز چنین کاری انجام نمیدهند.»
عملکرد فعلی هاگینگ فیس با قوانین رسمی خود این پلتفرم که تولید محتوای جنسی بدون رضایت و تصاویر برهنهی افراد زیر سن قانونی را ممنوع میکند، مغایرت دارد. کارشناسان ایآی فورنزیکس پیشنهاد کردهاند که سیستمهای فیلتر متن ورودی و اسکن خروجی تصاویر در تمام بخشهای تولید ویدیو و عکس این پلتفرم فعال شود تا جلوی این آسیبها گرفته شود.