شرکت چینی Geedge Networks درحال استفاده از مدل‌های هوش مصنوعی برای تحلیل داده‌های موقعیت مکانی و اطلاعات شخصی شهروندان است.

تصور کنید در جایی زندگی می‌کنید که حکومت می‌تواند براساس کتاب‌هایی که می‌خوانید یا مکان‌هایی که می‌روید، شما را پیش از انجام هرگونه عمل خلاف قانون، به‌عنوان یک تهدید سیاسی دستگیر کند. این سناریوی دلهره‌آور که پیش‌تر فقط در فیلم‌ها و کتاب‌ها دیده شده بود، به لطف هوش مصنوعی شاید به واقعیت تبدیل شود. اسناد فاش‌شده نشان می‌دهند که یک شرکت فناوری در چین درحال توسعه نسل جدیدی از سیستم‌های نظارتی است که هدفش پیش‌بینی بروز رفتارهای اعتراضی پیش از وقوع آن‌هاست.

به گزارش نیویورک تایمز، شرکت چینی Geedge Networks که پیش‌ازاین نرم‌افزارهای امنیتی به کشورهایی مانند اتیوپی، قزاقستان، میانمار و پاکستان می‌فروخت، اکنون تمرکز خود را روی تحلیل رفتار شهروندان گذاشته است.

براساس اسنادی که توسط محققان دانشگاه Vanderbilt بررسی شده، این شرکت چینی درحال استفاده از مدل‌های هوش مصنوعی برای تحلیل داده‌های موقعیت مکانی، الگوهای استفاده از اینترنت، تماس‌های تلفنی و حتی تاریخچه تماشای فیلم و مطالعه کتاب شهروندان است.

هدف نهایی این پردازش‌ها، ساخت پروفایل‌های رفتاری دقیق برای شناسایی «نیت» افراد است تا سیستم بتواند کسانی را که ممکن است در آینده به منتقدان دولت تبدیل شوند، شناسایی کند. براساس صورت‌جلسه یکی از نشست‌های این شرکت در تاریخ ۵ فوریه ۲۰۲۴، تمرکز تیم تحقیقاتی روی «کشف اطلاعات مضر» بوده است؛ عبارتی که حزب کمونیست چین معمولاً برای توصیف نارضایتی‌های سیاسی یا محتوای مخالف دولت به کار می‌برد.

«برت بنسون» (Brett V. Benson)، استاد علوم سیاسی دانشگاه وندربیلت، درباره این پروژه می‌گوید:

«پژوهشگران Geedge فقط به مستندسازی الگوهای رفتاری بسنده نکرده‌اند، بلکه در تلاشند تا پیش‌بینی کنند که شهروندان در قدم بعدی چه خواهند کرد و با چه کسانی ارتباط خواهند گرفت.»

شناسایی مخالفان سیاسی چین با هوش مصنوعی
یکی از نگرانی‌های اصلی کارشناسان این است که فناوری «پلیس پیشگیرانه» (Predictive Policing) به‌زودی به لیست محصولات صادراتی پرطرفدار چین برای دولت‌های تمامیت‌خواه اضافه شود. درحالی‌که هنوز شواهدی مبنی‌بر نهایی‌شدن پروژه Geedge وجود ندارد، اما استفاده گسترده نهادهای امنیت عمومی چین از مدل‌های زبانی مانند دیپ‌سیک نشان می‌دهد که پکن عزمی جدی برای استفاده از هوش مصنوعی در ساختار امنیتی خود دارد.

«برت گلدشتاین» (Brett J. Goldstein)، مدیر آزمایشگاه مسائل پیچیده در مؤسسه امنیت ملی وندربیلت، نیز با هشدار درباره گسترش این فناوری می‌گوید:

«این همان اتفاقی است که وقتی نظارت جمعی با هوش مصنوعی ترکیب می‌شود رخ می‌دهد. آنچه چین روی شهروندان خود انجام می‌دهد، پیش‌نمایشی از آن چیزی است که در صورت عدم کنترل این ابزارها در سراسر جهان اتفاق خواهد افتاد.»

البته توسعه سیستم‌های پردازشی با این حجم از داده، نیازمند قدرت محاسباتی بسیار بالایی است؛ نیازی که درحال‌حاضر به پاشنه آشیل شرکت‌های چینی تبدیل شده است. اسناد فاش‌شده از سال ۲۰۲۴ نشان می‌دهند که شرکت Geedge و بازوی تحقیقاتی آن یعنی MESA Lab، در تأمین پردازنده‌های گرافیکی قدرتمند مورد نیاز برای مدل‌های پیشرفته هوش مصنوعی با مشکل مواجه بوده‌اند و مجبور به استفاده از تراشه‌های قدیمی‌تر و ضعیف‌تر شده‌اند.