هوش مصنوعی گراک با قابلیت ویرایش تصویر جدید خود، مرزهای اخلاقی و حریم خصوصی را در هم شکسته و پلتفرم ایکس را با بحران جدی روبرو کرده است.
هوش مصنوعی گراک متعلق به xAI با قابلیت ویرایش تصویر جدید خود، جنجال بزرگی در حریم خصوصی کاربران ایجاد کرده است. این ابزار اکنون به کاربران شبکه‌ی اجتماعی ایکس اجازه می‌دهد بدون‌نیاز به اجازه یا اطلاع صاحب اصلی عکس، آن‌ها را برهنه کنند. نبودِ سد امنیتی مؤثر در این سیستم باعث شده است تا تصاویر معمولی افراد در چند ثانیه به محتوای غیراخلاقی تبدیل شود و قربانیان حتی متوجه دستکاری عکس خود نشوند.

به‌نوشته‌ی ورج، در روزهای اخیر، پلتفرم ایکس با سیلی از تصاویر دستکاری‌شده روبرو شده است که در آن‌ها زنان و حتی کودکان در وضعیت‌های نامناسب دیده می‌شوند. گزارش‌ها نشان می‌دهد این روند را تولیدکنندگان محتوای بزرگسال آغاز کرده‌اند، اما به سرعت توسط کاربران دیگر مورد سوءاستفاده قرار گرفت.

وضعیت زمانی نگران‌کننده‌تر شد که گراک تصویر دو نوجوان را به شکلی غیراخلاقی تغییر داد. وقتی کاربری از هوش مصنوعی بابت این «حادثه» توضیح خواست، ربات آن را شکست در پروتکل‌های ایمنی خواند و حتی پیشنهاد گزارش به FBI را داد؛ هرچند این پاسخ‌های ماشینی لزوماً بازتاب‌دهنده‌ب نگرانی واقعی مدیران xAI نیست.

واکنش رسمی شرکت xAI به انتقادات رسانه‌ها فقط سه کلمه بود: «دروغ‌های رسانه‌های سنتی». در همین حین، ایلان ماسک شخصاً با درخواست از گراک برای قرار دادن خودش در لباس شنا به‌جای بن افلک، موجی از شوخی با این قابلیت را به راه انداخت و حتی با انتشار تصویر توستر با لباس شنا، نوشت که گراک می‌تواند اینکار را انجام دهد؛ واکنشی که منتقدان آن را عادی‌سازی بحران اخلاقی می‌دانند.

محصولات هوش مصنوعی ماسک برخلاف رقبایی مثل مدل‌های OpenAI یا گوگل، با حداقل محدودیت‌های نظارتی و گاردریل‌های ایمنی عرضه می‌شوند. درحالی‌که سایر شرکت‌ها فیلترهای سخت‌گیرانه‌ای برای جلوگیری از تولید محتوای بزرگسالان دارند، بررسی‌ها نشان می‌دهد گراک حتی با درخواست‌هایی مبنی‌بر برهنه کردن تصاویر یا ساخت دیپ‌فیک از سلبریتی‌ها به‌سادگی کنار می‌آید.

در نهایت، وقتی از گراک پرسیده شد چرا تصاویر را به این شکل تغییر می‌دهد، این چت‌بات ادعا کرد که کارش خلق تصویر جدید بر اساس درخواست است و نه ویرایش عکس واقعی بدون رضایت. توجیهی عجیب از سمت هوش مصنوعی که نشان می‌دهد مرزهای اخلاقی و حریم خصوصی در امپراتوری هوش مصنوعی ایلان ماسک، بیش از هر زمان دیگری مخدوش شده است.