هوش مصنوعی Claude آنتروپیک خودش به‌تنهایی حدود ۹۰ درصد از یک حمله‌ی سایبری را انجام داده است.
براساس اعلام آنتروپیک، هکر‌های وابسته به دولت چین، از هوش مصنوعی Claude این شرکت به‌عنوان ابزاری برای اجرای حملات سایبری استفاده می‌کنند. گفته می‌شود هکر‌های چینی از Claude برای نفوذ به ۳۰ هدف سیاسی و شرکتی استفاده کرده‌اند و تا حدودی موفق بوده‌اند.

آنتروپیک استفاده‌ی هکر‌های چینی از هوش مصنوعی Claude را «نخستین مورد مستندشده از یک حمله سایبری در مقیاس بزرگ بدون نیاز به مداخله‌ی قابل‌توجه انسانی» توصیف کرد. هکر‌ها در گام اول اهداف خود شامل شرکت‌های فناوری، نهادهای مالی و سازمان‌های دولتی را انتخاب کرده بودند و سپس با موفقیت آموزش‌های درنظر گرفته‌شده برای Claude را دور زدند؛ آموزش‌هایی که باعث می‌شوند این هوش مصنوعی از انجام رفتار‌های مضر و مخرب خودداری کند.

آنتروپیک می‌گوید هکر‌های چینی از Claude Code به‌منظور توسعه‌ی یک چارچوب برای انجام حملات سایبری خودکار استفاده کرده‌اند. هکر‌ها به Claude گفته بودند که یک شرکت امنیت سایبری هستند و از این هوش مصنوعی برای اهداف آموزشی-دفاعی استفاده می‌کنند.

Claude در نهایت موفق شد تا نام کاربری و رمز‌های عبور درخواستی را سرقت کند و سپس حجم عظیمی از داده‌های خصوصی را از طریق بک‌دور استخراج کرد. این هوش مصنوعی حتی زحمت مستندسازی حملات و ذخیره‌سازی اطلاعات دزدیده‌شده در فایل‌های جداگانه را به‌خود داد.

آنتروپیک سهم هوش مصنوعی Claude در حملات سایبری هکر‌های چینی را ۸۰ تا ۹۰ درصد برآورد کرد و خودِ هکر‌ها فقط در موارد معدودی مجبور به مداخله شده بودند. هکر‌ها با استفاده از Claude تا حد زیادی در زمان صرفه‌جویی کردند.

آنتروپیک و متخصصان امنیتی می‌گویند اجرای حملات سایبری با هوش مصنوعی می‌تواند در آینده بسیار پیچیده‌تر شود.

آنتروپیک اعتقاد دارد Claude توانایی بالایی در دفاع سایبری دارد و این هوش مصنوعی را ابزاری کمکی برای متخصصان امنیت سایبری عنوان می‌کند. عملکرد Claude در اجرای عملیات هکر‌های چینی فوق‌العاده بوده است و همین مورد ادعای آنتروپیک را تایید می‌کند؛ البته به‌شرطی که برای دفاع استفاده شود، نه حمله.

Claude تنها مدل هوش مصنوعی مورداستفاده‌ی هکر‌ها نیست و هکر‌های چین و کره شمالی در گذشته از مدل‌های OpenAI هم بهره برده بودند.