هشدار مایکروسافت در مورد استفاده بدافزارها از مدل‌های زبان بزرگ
همان طور که فناوری‌های مرتبط با هوش مصنوعی مولد روز به روز پیشرفته‌تر می‌شوند، حملات سایبری نیز به کمک آنها پیچیده‌تر شده‌اند. دو شرکت مایکروسافت و OpenAI می‌گویند یافته‌های تحقیقاتی در مورد استفاده مخرب از مدل‌های زبان بزرگ (LLM) را شناسایی کرده‌اند که توسط سوءاستفاده گران اینترنتی مورد حمایت دولت‌ها مورد استفاده قرار می‌گیرند.
مایکروسافت روز گذشته گزارش «سیگنال‌های سایبری 2024» خود را منتشر کرد و در آن به جزییات حملات دولتی اشاره کرد که از جانب کشورهای روسیه، کره شمالی و چین مورد پشتیبانی قرار می‌گرفتند و همچنین طی آن به اقداماتی اشاره کرد که افراد و سازمان‌ها به کمک هوش مصنوعی و مدل‌های زبان بزرگ خود را برای حملات مخرب گسترده آماده می‌کردند.
این دو شرکت بزرگ فناوری حملات هکرها به دولت‌ها را از طریق بدافزارهای Forest Blizzard، Emerald Sleet، Crimson Sandstorm، Charcoal Typhoon و Salmon Typhoon ردیابی کردند. در این بررسی مشخص شد هر حمله ازیک مدل زبان بزرگ برای تقویت عملیات سایبری خود در برخی ظرفیت‌ها از جمله کمک به تحقیق، عیب یابی و تولید محتوا استفاده کرده است.
به عنوان مثال بدافزار Emerald Sleet به عنوان یکی از ابزارهای وابسته به دولت کره شمالی از مدل زبان بزرگ برای تحقیق در اندیشکده‌ها و کارشناسان در مورد کره شمالی، محتوایی که احتمالا در کمپین‌های فیشینگ هم به کار گرفته می‌شد را جمع آوری می‌کرد و پس از درک آسیب پذیری‌های شناخته شده عمومی، عیب یابی مسایل فنی و حتی کمک به استفاده از آنها مورد استفاده قرار می‌گرفت.