قابلیت تولید عکس افراد در جمنای به‌علت ساخت تصاویر نادرست از افراد، موقتاً غیرفعال شده است.

گوگل اعلام کرده است که توانایی تولید عکس افراد در ابزار هوش مصنوعی جمنای را تا زمان معینی متوقف می‌کند. این تصمیم گوگل پس از آن گرفته‌شده است که جمنای اقدام به ساخت تصاویر جنجالی از شخصیت‌های تاریخی کرد.

جمنای عکس‌های متنوعی از بنیانگذاران ایالات متحده و سربازان آلمان نازی دوران جنگ جهانی دوم ایجاد کرده بود و به‌نظر می‌رسید که هوش مصنوعی مولد گوگل، این کار را به‌منظور شکستن کلیشه‌های جنسیتی و نژادی آن زمان انجام داده است. این کار جمنای باعث تولید چهره‌ی بعضی از شخصیت‌های تاریخی با رنگ پوست و ظاهری غلط شده بود.

قابلیت تولید عکس از توصیف متنی به‌تازگی به ابزار هوش مصنوعی گوگل افزوده شده است و از مدل زبانی بزرگ جمنای پرو قدرت می‌گیرد. این ویژگی بر خلاف قابلیت مشابه در ChatGPT پلاس که نیاز به اشتراک پولی دارد، به‌طور رایگان در اختیار کاربران قرار گرفته است.

گوگل در بیانیه‌ی خود در ایکس اعلام کرده است: «ما در حال حاضر مشغول رفع مشکلات اخیر مربوط به قابلیت ساخت عکس جمنای هستیم و فعلاً قصد داریم تولید تصویر از افراد را متوقف کنیم و به‌زودی نسخه‌ی بهبود یافته را مجدداً منتشر خواهیم کرد.»

تصمیم گوگل برای توقف تولید تصاویر افراد در جمنای کمتر از ۲۴ ساعت پس از عذرخواهی این شرکت به‌علت اشتباهات موجود در تصاویر تاریخی ساخته‌شده توسط مدل هوش مصنوعی جمنای گرفته شد.

برخی از کاربران جمنای درخواست تصاویر گروه‌ها یا اشخاص تاریخی مانند جورج واشنگتون یا حتی سربازان آلمانی را داده بودند و با چهره‌های غیر سفیدپوست مواجه شدند. این موضوع منجربه تئوری‌های توطئه‌ی آنلاینی شد که می‌گفتند گوگل افراد را عمداً با رنگ پوست سفید نشان نمی‌دهد.

اکنون که گوگل امکان تولید تصویر انسان در جمنای را غیرفعال کرده است، چنانچه درخواستی در این رابطه به این مدل داده شود بدین صورت پاسخ می‌دهد: «ما در حال کار روی بهبود توانایی Gemini برای ایجاد تصاویر افراد هستیم. انتظار داریم که این ویژگی به‌زودی بازگردد و شما را به‌محض انتشار آن مطلع خواهیم کرد.»

گوگل در بهمن‌ماه قابلیت ساخت تصویر از درخواست متنی را توسط ابزار جمنای که ابتدا با نام بارد شناخته می‌شد، به‌منظور رقابت با مدل GPT-4 شرکت OpenAI و کوپایلت مایکروسافت ارائه داد.