چت‌بات‌ هوش مصنوعی گروک شرکت «ایکس» ایلان ماسک پس از آنکه تصاویر موهن دیپ‌فیک که برخی از آنها سوءاستفاده از کودکان را نشان می‌دهند را به درخواست کاربرانش تولید کرد، با تحقیقات نظارتی در اروپا، هند و مالزی روبرو است.

سازمان نظارت بر رسانه‌های بریتانیا (آفکام)، نیز اعلام کرد که از «ایکس» که متعلق به «ایکس ای آی» (xAI) است، در مورد مسائل گروک، اطلاعات درخواست کرده است. و روز یکشنبه، یکی از اعضای پارلمان برزیل در شبکه‌های اجتماعی گفت که از دادستان عمومی فدرال و مرجع حفاظت از داده‌ها خواسته است تا زمان تکمیل تحقیقات، استفاده از گروک را به حالت تعلیق درآورند.

این تحقیقات در پی افزایش جهانی استفاده کاربران از گروک در چند هفته گذشته برای ایجاد و به اشتراک گذاشتن تصاویر موهن که با استفاده از عکس‌ها یا ویدیوهای افراد واقعی و بدون اجازه آنها تولید شده‌اند، انجام می‌شود. تصاویر نگران‌کننده به طور گسترده در «ایکس» به اشتراک گذاشته شده‌اند.

شرکت ماسک اخیرا ویژگی‌های «گروک ایمجین» خود را به‌روزرسانی کرده است که امکان تولید آسان‌تر تصویر برای درخواست‌های متنی را در این پلتفرم فراهم می‌کند.

در حالی که کارشناسان ایمنی و منتقدان فناوری، تکثیر تصاویر و کلیپ‌های موهن در «ایکس» را محکوم کردند، به نظر می‌رسید که ماسک با به اشتراک گذاشتن مجموعه‌ای از تصاویر تولید شده توسط گروک، این وضعیت را به سخره می‌گیرد.

توماس رگنیر، سخنگوی کمیسیون اروپا، در یک کنفرانس مطبوعاتی در روز دوشنبه گفت: این مرجع «بسیار جدی در حال بررسی این موضوع است». او گفت: «این «تند» نیست. این غیرقانونی است. این وحشتناک است. این منزجرکننده است. ما آن را اینگونه می‌بینیم و این جایی در اروپا ندارد.»

اواخر هفته گذشته، وزارت الکترونیک و فناوری اطلاعات هند به «ایکس» دستور داد تا «بررسی جامع فنی، رویه‌ای و سطح حاکمیتی» گروک را انجام دهد. به این شرکت تا پنجم ژانویه فرصت داده شد تا از این دستور پیروی کند.

کمیسیون ارتباطات و چندرسانه‌ای مالزی در آخر هفته اعلام کرد که در حال بررسی شرکت «ایکس» است و نمایندگان این شرکت را احضار خواهد کرد.

در همین حال، در آمریکا، مرکز ملی سوءاستفاده جنسی (NCOSE) در مصاحبه‌ای با سی‌ان‌بی‌سی از وزارت دادگستری و کمیسیون تجارت فدرال خواست تا این موضوع را بررسی کنند. دنی پینتر، مدیر ارشد حقوقی و مدیر مرکز حقوقی این نهاد گفت که «اولویت قانونی زیادی برای این مسائل خاص وجود ندارد.»

سخنگوی وزارت دادگستری عصر دوشنبه در بیانیه‌ای گفت: «وزارت دادگستری مطالب سوءاستفاده‌کننده از کودکان که توسط هوش مصنوعی تولید می‌شوند را بسیار جدی می‌گیرد و هر تولیدکننده یا دارنده چنین محتوایی را به شدت تحت پیگرد قانونی قرار خواهد داد. ما همچنان به بررسی راه‌هایی برای بهینه‌سازی اجرای قانون در این فضا برای محافظت از کودکان و پاسخگو نگه داشتن افرادی که از فناوری برای آسیب رساندن به آسیب‌پذیرترین افراد سوءاستفاده می‌کنند، ادامه می‌دهیم.»

شرکت «ایکس»، روز شنبه، اولین بیانیه عمومی خود را در این مورد منتشر کرد و نوشت: «ما با حذف محتوای غیرقانونی در «ایکس»، با تعلیق دائمی حساب‌ها و همکاری با دولت‌های محلی و نیروهای انتظامی در صورت لزوم، علیه محتوای غیرقانونی در «ایکس» اقدام می‌کنیم.»

ماسک در پستی جداگانه در «ایکس» نوشت: «هر کسی که از گروک برای تولید محتوای غیرقانونی استفاده کند، همان عواقبی را متحمل خواهد شد که اگر محتوای غیرقانونی بارگزاری کند، متحمل خواهد شد.»

بر اساس گزارش شبکه سی‌ان‌بی‌سی، با این حال، ماسک و «ایکس» پیش از این، به کاربرانی که پست‌هایی با محتوای سوءاستفاده از کودکان ایجاد کرده‌اند، اجازه داده‌اند در این پلتفرم بمانند.