کارشناسان می‌گویند به احتمال زیاد، مدل زبانی بزرگ ChatGPT «مسموم» شده و اطلاعات مخرب به دیتابیس آن راه پیدا کرده است.

طبق گزارش‌های جدید، ChatGPT به دلیل دستکاری و به اصطلاح «مسمومیت» اطلاعاتی مدل‌های زبانی خود، ناخواسته ممکن است کاربران را برای خرید آنلاین به وب‌سایت‌های جعلی هدایت کند؛ اتفاقی که در نهایت منجر به کلاهبرداری مالی و سرقت اطلاعات بانکی افراد می‌شود. کارشناسان امنیت سایبری هشدار می‌دهند که مجرمان با نفوذ به منابع یادگیری هوش مصنوعی، لینک فروشگاه‌های تقلبی را در میان پیشنهادها و نتایج جستجوی این چت‌بات جایگذاری می‌کنند.

سرویس بررسی کلاهبرداری Ask Silver اخیراً در تحقیقات خود متوجه حضور سایت‌های شبیه‌سازی‌شده و جعلی در پاسخ‌های ChatGPT شده است. به عنوان نمونه، زمانی که کاربران از هوش مصنوعی درباره محصولات برندهای بریتانیایی مانند Russell & Bromley یا Dunelm راهنمایی می‌خواهند، این چت‌بات گزینه‌هایی با قیمت و تخفیف‌های جذاب ارائه می‌دهد که لینک آنها کاربر را به سایت‌های جعلی و نامعتبر هدایت می‌کند.

خریداران با ورود به این سایت‌ها و پرداخت وجه، نه‌تنها کالایی دریافت نمی‌کنند، بلکه اطلاعات حسابشان را در اختیار هکرها قرار می‌دهند.

«آنا جونز» از Ask Silver توضیح می‌دهد که به احتمال زیاد، مدل زبانی بزرگ ChatGPT «مسموم» شده است. این اتفاق زمانی رخ می‌دهد که محتوای مخرب، از طریق صفحات وب جعلی که توسط کلاهبرداران ساخته شده‌اند، وارد دیتابیس اطلاعاتی هوش مصنوعی شود. او در ادامه می‌گوید:

«در یک مورد، کلاهبرداران از این واقعیت سوءاستفاده کردند که یک برند به تازگی تغییر مالکیت داده و سایت رسمی آن از دسترس خارج شده است؛ در نتیجه سایت‌های جعلی خود را به عنوان مرجع معتبر به خورد هوش مصنوعی دادند.»

نحوه عملکرد کلاهبرداری در نتایج جستجوی هوش مصنوعی
«لوییس بکستر»، رئیس تیم کلاهبرداری در سازمان استانداردهای تجارت ملی بریتانیا، تأکید می‌کند که مردم نباید صرفاً به این دلیل که یک وب‌سایت توسط ابزار هوش مصنوعی پیشنهاد شده است، به آن اعتماد کنند. او می‌گوید:

«مصرف‌کنندگان به‌طور فزاینده‌ای برای دریافت مشاوره به ابزارهای هوش مصنوعی روی می‌آورند، اما مجرمان نیز به همان سرعت خود را با این شرایط تطبیق می‌دهند. ظاهر شدن وب‌سایت‌های کلاهبرداری در نتایج هوش مصنوعی نگران‌کننده است و نشان می‌دهد که کلاهبرداران از هر فناوری جدیدی برای رسیدن به قربانیان استفاده می‌کنند.»

بررسی‌ها نشان می‌دهد سایت‌های جعلی معرفی‌شده توسط ChatGPT، ظاهر بسیار فریبنده‌ای دارند و گاهی تخفیف‌های غیرمنطقی تا ۸۰ درصد را به کاربران پیشنهاد می‌دهند. همچنین این سایت‌های شبیه‌سازی‌شده اغلب از آدرس‌هایی بسیار نزدیک به نام اصلی برندها (مانند استفاده از پسوندهای onlineuk یا official در کنار نام برند) استفاده می‌کنند تا کاربر متوجه جعلی بودن آنها نشود.

کارشناسان توصیه می‌کنند هنگام خرید آنلاین، آدرس اینترنتی (URL) سایت‌ها را با دقت بررسی کنید و مراقب کلمات اضافی در دامنه باشید. سایت‌های کلاهبرداری اغلب فقط پرداخت از طریق حواله بانکی را می‌پذیرند که این موضوع یک زنگ خطر جدی محسوب می‌شود.

در صورت امکان، به‌جای کلیک روی لینک‌های پیشنهادی هوش مصنوعی، نام فروشگاه‌ها را جستجو کرده و مستقیماً وارد وب‌سایت رسمی آنها شوید. در همین راستا، سخنگوی OpenAI اعلام کرده است که وب‌سایت‌های کلاهبرداری شناسایی‌شده را از فهرست جستجوی این مدل حذف کرده و کاربران می‌توانند سایت‌های ناقض قوانین را به طور مستقیم گزارش کنند.