نگرانی محققان آمریکایی از تولید تصاویر تقلبی انتخاباتی توسط هوش مصنوعی
محققان اعلام کردند ابزارهای شرکت‌های اپن ای آی و مایکروسافت تصاویر انتخاباتی گمراه کننده ایجاد می‌کنند.
محققان در گزارشی اعلام کردند که ابزارهای ایجاد تصویر با استفاده از هوش مصنوعی از شرکت‌هایی مانند اپن ای آی و مایکروسافت اطلاعات نادرست مربوط به انتخابات یا رای‌گیری را تبلیغ می‌کنند، علی‌رغم اینکه هر کدام از آنها ادعا می کنند که سیاست‌هایی علیه ایجاد محتوای گمراه‌کننده دارند.
محققان مرکز مقابله با نفرت دیجیتال (CCDH) گفتند : « چنین تصاویری که توسط هوش مصنوعی ارائه می‌شوند، می‌تواند گسترش ادعاهای نادرست را تشدید و چالشی مهم برای حفظ یکپارچگی انتخابات ایجاد کند.»
این محققان تولید کننده های تصاویر هوش مصنوعی مربوط به شرکت های اپن ای آی و مایکروسافت را بررسی کردند.
این مساله درحالی مطرح می شود که گروهی متشکل از 20 شرکت فناوری که این دو شرکت هم جزو آنها بودند توافق نامه ای را برای همکاری با یکدیگر جهت جلوگیری از تداخل محتوای فریبنده هوش مصنوعی در انتخابات امسال امضا کردند.
در این گزارش آمده است که چت جی پی تی پلاس و ایمج کریتور در مسدود کردن تمام درخواست‌ها هنگام درخواست تصاویر نامزدها موفق بودند. با این حال، میدجرنی در بین تمام ابزارها بدترین عملکرد را داشت و در 65 درصد از آزمایش‌های محققان تصاویر گمراه‌کننده ایجاد کرد.