یک مطالعه جدید توسط تیم تحقیقاتی Sysdig Threat (TRT) یک حمله سایبری جدید به نام “LLMjacking” را شناسایی کرده است که از اعتبارنامه‌های سرقت شده کلود برای هدف قرار دادن سرویس‌های مدل‌های زبانی بزرگ (LLM) میزبانی شده در فضای ابری استفاده می‌کند.

بر اساس یک پست وبلاگ منتشر شده در ۶ می، مهاجمان از نسخه آسیب‌پذیر Laravel (CVE-2021-3129) برای دسترسی به این اعتبارنامه‌ها استفاده کرده‌اند.

برخلاف حملات قبلی به سیستم‌های هوش مصنوعی (AI) مبتنی بر LLM که بر سو‌ءاستفاده از داده‌های آموزشی متمرکز بودند، هدف این حمله فروش دسترسی LLM به دیگر مجرمان سایبری است، در حالی که مالک قانونی حساب ابری متحمل هزینه‌ها می‌شود.

کریستال مورین، استراتژیست امنیت سایبری در Sysdig، می‌گوید: “مهاجمان در حال پیدا کردن راه‌های بیشتری برای بهره‌برداری از مدل‌های هوش مصنوعی هستند. این یافته نشان می‌دهد که مهاجمان نه تنها به داده‌های شما بلکه به دسترسی به LLM‌ها نیز علاقه دارند.”

در این مثال، مهاجمان با استفاده از اعتبارنامه‌های سرقت شده به محیط ابری دسترسی پیدا کرده و مدل‌های محلی LLM میزبانی شده توسط ارائه‌دهندگان خدمات ابری را هدف قرار داده‌اند. به‌عنوان مثال، آنها مدل محلی Claude (v2/v3) LLM از Anthropic را هدف قرار دادند که اگر شناسایی نشود، می‌تواند روزانه بیش از ۴۶۰۰۰ دلار هزینه برای قربانی ایجاد کند.

این تحلیلگر افزود: “استفاده از LLM پرهزینه است. مهاجمان ممکن است منابع LLM را به هر دلیلی با پول شما مصرف کنند، از جمله تلاش برای استخراج داده‌های حساس، ایجاد کد‌های مخرب یا یافتن آسیب‌پذیری‌ها. گزینه‌های پیش‌رویشان در این مرحله بی‌انتها هستند.”

محققان همچنین شواهدی از استفاده مهاجمان از پروکسی معکوس (Reverse Proxy) برای دسترسی به حساب‌های در معرض خطر را کشف کردند. علاوه بر این، مهاجمان علاقه خود به دسترسی به مدل‌های LLM در سرویس‌های مختلف نشان دادند و از ابزارهایی برای بررسی اعتبارنامه ده سرویس هوش مصنوعی مختلف، از جمله AWS Bedrock، Azure و GCP Vertex AI استفاده کردند.

مورین در پایان گفت: “مهاجمان می‌دانند که LLM‌ها و داده‌های آنها مورد توجه دیگران است. اگر بتوانند دسترسی به آنها را بفروشند، چرا خودشان زحمت تحلیل و دسته‌بندی همه داده‌ها را به خود بدهند؟”

برای کاهش چنین حملاتی، Sysdig توصیه می‌کند که شیوه‌های مدیریت آسیب‌پذیری به همراه راه‌حل‌های مدیریت وضعیت امنیتی ابری (CSPM) یا مدیریت مجوزهای زیرساخت ابری (CIEM) برای به حداقل رساندن مجوزها و جلوگیری از دسترسی غیرمجاز اجرا شود.