شرکت «اوپن‌ای‌آی»(OpenAI)، خالق چت‌بات مشهور ChatGPT، حساب‌های چینی بیشتری را که از این چت‌بات برای ایجاد ابزارهای نظارت بر رسانه‌های اجتماعی استفاده می‌کردند، مختل کرد. این شرکت همچنین به سایر کاربردهای مخرب از جمله ایجاد کلاهبرداری، توسعه بدافزار و موارد دیگر اشاره کرده است.

شرکت «اوپن‌ای‌آی»(OpenAI) فاش کرده است که یک حساب کاربری که اکنون مسدود شده و منشأ آن در چین است، از ChatGPT برای کمک به طراحی مطالب تبلیغاتی و برنامه‌های پروژه‌ای برای یک ابزار شنود رسانه‌های اجتماعی استفاده می‌کرده است.

این شرکت می‌گوید که ظاهراً این کار برای یک مشتری دولتی انجام شده است. این ابزار یک «کاوشگر» بوده که می‌توانسته سایت‌های رسانه‌های اجتماعی مانند ایکس، فیس‌بوک، اینستاگرام، ردیت، تیک‌تاک و یوتیوب را برای محتوای خاص سیاسی، قومی یا مذهبی که توسط اپراتور تعریف شده است، دستکاری کند. البته این شرکت اعلام کرد که نمی‌تواند به طور مستقل تأیید کند که آیا این ابزار توسط یک نهاد دولتی چین استفاده شده است یا خیر.

شرکت «اوپن‌ای‌آی» تلاش‌های مشابهی را در اوایل سال جاری انجام داد.

این شرکت همچنین می‌گوید حسابی را که از ChatGPT برای توسعه پیشنهادی برای ابزاری که به عنوان «مدل هشدار جریان ورودی پرخطر مرتبط با اویغور» توصیف می‌شود و به ردیابی حرکات افراد مرتبط با منطقه اویغور کمک می‌کند، مسدود کرده است. چین مدت‌هاست که به نقض حقوق بشر علیه مسلمانان اویغور در این کشور متهم شده است.

شرکت «اوپن‌ای‌آی» از فوریه 2024 شروع به انتشار گزارش‌هایی از این موضوع کرد و آگاهی از عاملان وابسته به دولت‌ها را که از مدل‌های زبانی بزرگ برای اشکال‌زدایی کد مخرب، توسعه کلاهبرداری‌های فیشینگ و موارد دیگر استفاده می‌کنند، افزایش داد. آخرین پست وبلاگ این شرکت، خلاصه‌ای از تهدیدهای قابل توجه و حساب‌های مسدود شده در سه ماهه گذشته است.

این شرکت همچنین توسعه‌دهندگان روسی، کره‌ای و چینی‌زبان را که از ChatGPT برای اصلاح بدافزار استفاده می‌کردند و همچنین کل شبکه‌های کامبوج، میانمار و نیجریه را که با استفاده از این چت‌بات برای کلاهبرداری از مردم استفاده می‌کردند، شناسایی کرد. طبق برآوردهای «اوپن‌ای‌آی»، ChatGPT برای شناسایی کلاهبرداری‌ها سه برابر بیشتر از ایجاد آنها استفاده می‌شود.

«اوپن‌ای‌آی» ادعا می‌کند که تابستان امسال، عملیات‌هایی را در ایران، روسیه و چین که از ChatGPT برای ایجاد پست، نظر و ایجاد تعامل و تفرقه به عنوان بخشی از کمپین‌های نفوذ آنلاین استفاده می‌کردند، مختل کرده است. محتوای تولید شده توسط هوش مصنوعی در پلتفرم‌های مختلف رسانه‌های اجتماعی، چه در کشورهای مبدأ و چه در سطح بین‌المللی مورد استفاده قرار گرفته است.