پلتفرم ایکس ویژگی مستهجن سازی عکس های افراد واقعی در گروک را که سروصدای زیادی به پا کرد، محدود کرده اما مشخص شده هوش مصنوعی حدود سه میلیون عکس مستهجن از افراد ساخته است.

به گزارش انگجت، چندی قبل دستیار هوش مصنوعی گروک پلتفرم ایکس را با انبوهی از تصاویر مستهجن ساختگی از افراد پر کرده بود. اکنون اطلاعات جدیدی در این زمینه مشخص شده است. طبق گزارش ها گروک در یک بازه ۱۱ روزه حدود سه میلیون عکس هرزنگاری تولید کرد که حدود ۲۳ هزار مورد آن به کودکان مربوط بود.

به بیان دیگر گروک در بازه ۱۱ روزه، حدود ۱۹۰ میلیون عکس مستهجن در هر دقیقه تولید کرده است. همچنین این هوش مصنوعی هر ۴۱ ثانیه یک عکس هرزنگاری شده از کودکان ساخته است.

این موارد یافته های مرکز مقابله با نفرت پراکنی دیجیتال(CCDH) در همین زمینه است. این موسسه ناسودآور انگلیسی یافته های خود را براساس یک نمونه تصافی از ۲۰ هزار عکس گروک از ۲۹ سپتامبر تا ۹ ژانویه اعلام کرده است. CCDH در مرحله بعد بر اساس ۴.۶ میلیون تصویری که گروک در آن دوره تولید کرده بود، تخمین وسیع‌تری را استخراج کرد.

CCDH ازیک ابزار هوش مصنوعی برای شناسایی نسبت نمونه عکس هایی که هرزنگاری شده اند، استفاده کرد.

شرکت xAI در نهم ژانویه ۲۰۲۶ میلادی قابلیت گروک برای ادیت عکس های کاربرانی که حق عضویت پرداخت می کنند را محدود کرد. اما این چالش را به طور کامل حل نکرد. ایکس پنج روز بعد ویژگی گروک برای مستهجن کردن تصاویر افراد واقعی به طور دیجیتال را محدود کرد اما این محدودیت فقط مخصوص ایکس بود و اپ جداگانه گروک همچنان به تولید این تصاویر ادامه می دهد. این اپ احتمالا در فروشگاه های اپل و گوگل حذف می شود زیرا سیاست های این دو شرکت مخالف این ویژگی گروک هستند. البته تاکنون اپل و گوگل این اپ را حذف نکرده اند.