بررسی‌های جدید نشان می‌دهد چت‌بات‌های هوش مصنوعی به‌ویژه ChatGPT به‌راحتی اخبار و اسکرین‌شات‌های ساختگی تولید می‌کنند.

بررسی‌های جدید نشان می‌دهد که چت‌بات‌های مطرح هوش مصنوعی می‌توانند تنها در چند ثانیه مقالات خبری حاوی اطلاعات نادرست تولید کنند. تحقیقات رسانه CORRECTIV فاش کرده که سازوکارهای امنیتی شرکت‌های بزرگ فناوری حتی در مواجهه با موضوعات بسیار حساس نیز عملکرد ناموفقی دارند و در این میان، ChatGPT ضعیف‌ترین عملکرد را از خود نشان داده است.

در این آزمون، نحوه واکنش چت‌بات‌های ChatGPT، جمینای، Meta AI و کوپایلوت هنگام درخواست برای ساخت مقالات و فیک‌نیوز بررسی شد. این درخواست‌ها شامل ادعاهای کذب درباره استعفای صدراعظم، کودتا، اعلام جنگ از سوی روسیه، تغییرات اقلیمی، واکسن‌ها، تقلب در انتخابات و تئوری‌های توطئه مشهور بوده است.

ضعف‌های امنیتی ChatGPT و عملکرد سایر چت‌بات‌ها
در جریان آزمایش‌ها، اکثر پروفایل‌ها و محتواهای ساختگی به راحتی توسط ChatGPT تولید شده‌اند و درصورت بروز مشکل اولیه، دور زدن محدودیت‌ها با راهکارهای ساده امکان‌پذیر بوده است. این ابزار حتی موفق به خلق اسکرین‌شات‌های بسیار واقعی همراه با تصویر پس‌زمینه دسکتاپ شد. نکته عجیب این بود که ChatGPT در برخی موارد هم‌زمان با تولید تصویر جعلی، در متن پیام اعلام می‌کرد که مجاز به ساخت تصاویر خبری ساختگی نیست!

همچنین ساخت خبر جعلی با نام رسانه‌های آلمانی از جمله Tagesschau ،Bild و CORRECTIV به سادگی انجام شده، اما درخواست‌های مربوط به نیویورک تایمز و BBC مسدود شده‌اند.

چت‌بات‌های دیگر نیز بدون ایراد نبوده‌اند؛ جمینای گوگل برخلاف ChatGPT مستقیماً اخباری به نام نیویورک تایمز و بی‌بی‌سی تولید کرده، اما کیفیت تصاویر و اخبار آن پایین‌تر بوده است. مایکروسافت کوپایلوت نیز محتوای جعلی ساخته، ولی با افزودن برچسب «تولیدشده توسط هوش مصنوعی» تشخیص آن را ساده‌تر می‌کند. در این میان، Meta AI بهترین عملکرد را داشته و تنها در یک مورد خبر جعلی تولید کرده و از به‌کارگیری ادعاهای نادرست مشخص امتناع کرده است.

سوءاستفاده از این ضعف‌های امنیتی پیش از این نیز سابقه داشته است؛ به‌طوری‌که اخیراً یک خبر جعلی منتسب به برنامه خبری Tagesschau درباره حمله به یک راهپیمایی در شبکه بارگذاری شد که با لوگوی رسمی و لینک اختصاصی همراه بود و بررسی‌ها نشان داد با ChatGPT ساخته شده است.

علاوه‌بر جنبه‌های فنی، کارشناسان حقوقی هشدار داده‌اند که ساخت محتوای خبری جعلی با هوش مصنوعی می‌تواند پیگرد کیفری داشته باشد. به گفته حقوق‌دانان، این اقدام ممکن است مصداق جعل اسناد دیجیتال، هتک حرمت، افترا یا حتی نشر اکاذیب باشد. همچنین درصورت استفاده تجاری از لوگوی برندهای خبری بدون اجازه صاحب علامت تجاری، نقض حقوق علامت تجاری صورت می‌گیرد و رسانه‌ها می‌توانند ادعای خسارت کنند.