شرکت هوش مصنوعی xAI در اتحادیه اروپا، انگلیس و ایالت کالیفرنیای آمریکا به دلیل تولید تصویر هوش مصنوعی بدون کنترل تحت بررسی است.

به گزارش انگجت، «جس آساتو» نماینده پارلمان انگلیس از حزب کارگر از xAI به دلیل تصاویر جنسی هرزنگاری تولید شده با هوش مصنوعی «گراک» شکایت کرده است. براساس گزارش فایننشال تایمز این شکایت یک آزمون رده بالا از آن است که آیا در انگلیس می توان شرکت های هوش مصنوعی را برای محتوایی که مردم با ابزارهایشان تولید می کنند، مسئولیت پذیر کرد یا خیر.

کاربران گراک از ماه ژانویه ۲۰۲۶ میلادی، درزمانی که برای نخستین بار گزارش شد از این دستیار هوش مصنوعی برای ایجاد CSAM استفاده شده است، شروع به تولید و اشتراک‌گذاری تصاویر آساتو کردند.

آساتو ادعا می کند کاربران به گراک دستور داده اند تصاویری از وی را با لباس نامناسب و همچنین یک ویدئو هرزنگاری بسازد.

کاربران بعداً تصاویر هوش مصنوعی بیشتری را در ایکس، پلتفرم اجتماعی متعلق به xAI، دوباره به اشتراک گذاشتند و در مورد آنها بحث کردند و تولید کردند.

در شکایت آساتو ادعا شده این شرکت هوش مصنوعی قوانین مربوط به سواستفاده از اطلاعات خصوصی وحفاظت از داده را نقض کرده هرچند که کاربران در واقع از گراک برای این منظور استفاده کرده اند. او خواستار غرامت مالی و دستوری است که xAI وادار به پیروی از قانون انگلیس می کند. وی در این باره گفت: امیدوارم این اقدام حقوق افراد را در برابر شرکت‌های فناوری بسیار بزرگی که باید قبل از آسیب رساندن به زنان و کودکان، اقدامات حفاظتی را اعمال می‌کردند، دوباره متعادل کند.

xAI مدعی است در ژانویه محدودیت‌هایی را برای توانایی گراک در تولید تصاویر هرزنگاری جنسی اعمال کرده، اما این محدودیت‌ها هنگام آزمایش به راحتی قابل دور زدن بودند.

واکنش منفی به توانایی گراک در تولید دیپ‌فیک بدون رضایت صاحبان عکس ها و ویدئوها گسترده بوده است. xAI یا پلتفرم ایکس علاوه بر اینکه در اتحادیه اروپا، انگلیس و ایالت کالیفرنیا در آمریکیا تحت بررسی هستند، با شکایت از شهرهای بالتیمور، مریلند، گروهی از نوجوانان و اشلی سنت کلیر، مادر یکی از فرزندان ایلان ماسک، نیز روبرو هستند.

همه این اتفاقات در حالی رخ می‌دهد که اسپیس ایکس مالک جدید هر دو شرکت xAI وایکس، در تلاش برای عرضه عمومی سهام خود است.