گوگل می‌گوید یک آسیب‌پذیری خطرناک را متوقف کرده است که با استفاده از هوش مصنوعی طراحی شده بود.
گوگل موفق به توقف یک آسیب‌پذیری روز صفر شده است که شناسایی و توسعه‌ی ابزاری برای بهره‌برداری از آن، توسط هوش مصنوعی انجام شده بود. این حمله توسط گروهی از مجرمان سایبری سازمان‌یافته طراحی شد تا در یک عملیات گسترده، سیستم‌های امنیتی را هدف قرار دهند.

منظور از آسیب‌پذیری روز صفر، نوعی آسیب‌پذیری است که پیش‌تر ناشناخته بوده و کارشناسان امنیتی برای مقابله با آن صفر روز فرصت داشته‌اند. این نوع آسیب‌پذیری‌ها بسیار خطرناک‌اند.

بر اساس گزارش تیم امنیت گوگل، هدف این حمله دور زدن سیستم احراز هویت دو مرحله‌ای (2FA) در یک ابزار مدیریت سیستم متن‌باز بود. پژوهشگران امنیتی گوگل متوجه ردپای هوش مصنوعی در اسکریپت‌های پایتون مورد استفاده در این حمله شدند.

گوگل می‌گوید که حمله با موفقیت دفع شد، اما هکرها به‌طور فزاینده‌ای از هوش مصنوعی برای یافتن و بهره‌برداری از ضعف‌های امنیتی استفاده می‌کنند. محققان گوگل معتقدند در این مورد خاص، از مدل جمنای استفاده نشده است. علاوه بر تولید کد مخرب، مهاجمان اکنون خودِ سیستم‌های هوش مصنوعی را هم هدف قرار می‌دهند.

گزارش گوگل نشان می‌دهد که هکرها از تکنیک جیل‌بریکِ شخصیت‌محور استفاده می‌کنند. در این روش، آن‌ها از هوش مصنوعی می‌خواهند نقش یک متخصص امنیتی را بازی کند تا محدودیت‌های اخلاقی مدل کنار برود و نقاط ضعف امنیتی را شناسایی کند.

همچنین مهاجمان با تغذیه‌ی مخازن عظیم داده‌های مربوط به آسیب‌پذیری‌ها به مدل‌های هوش مصنوعی و استفاده از ابزارهایی مانند OpenClaw، تلاش می‌کنند تا دقت کدهای مخرب خود را پیش از اجرای نهایی افزایش دهند.