دیپ‌سیک در آزمایش ایمنی بیولوژیکی «بدترین» عملکرد را داشت
مشکلات امنیتی هوش مصنوعی دیپ‌سیک همچنان ادامه دارد و اکنون مدیرعامل آنتروپیک به ناتوانی این مدل در جلوگیری از تولید اطلاعات خطرناک اشاره کرده است.
داریو آمودِی، مدیرعامل آنتروپیک، نگرانی‌هایی جدی درباره‌ی هوش مصنوعی چینی دیپ‌سیک دارد؛ استارتاپی که با مدل R1 خود دنیا را تحت‌تأثیر قرار داده است؛ اما این نگرانی‌ها فقط به موضوع انتقال داده‌های کاربران به چین محدود نمی‌شود و ابعاد گسترده‌تری دارد.
آمودی در مصاحبه با پادکست ChinaTalk اعلام کرد که دیپ‌سیک در یکی از آزمایش‌های ایمنی آنتروپیک اطلاعاتی درباره‌ی سلاح‌های بیولوژیکی تولید کرده است. او این عملکرد را بدترین عملکردی یک مدل هوش مصنوعی توصیف کرد و افزود که دیپ‌سیک هیچ‌گونه محدودیتی برای جلوگیری از تولید چنین اطلاعاتی نداشت.
آمودی توضیح داد که تیم او به‌صورت منظم مدل‌های هوش مصنوعی مختلف را برای ارزیابی ریسک‌های امنیت ملی آزمایش می‌کند. هدف این است که مشخص شود آیا مدل‌های هوش مصنوعی قابلیت ارائه‌ی اطلاعات درباره‌ی سلاح‌های بیولوژیکی را که در منابع عمومی مانند گوگل یا کتاب‌های درسی به‌راحتی یافت نمی‌شود، دارند یا خیر. آنتروپیک همواره خود را به‌عنوان شرکتی معرفی می‌کند که ایمنی مدل‌های هوش مصنوعی را در اولویت قرار می‌دهد.
مدیرعامل آنتروپیک تأکید کرد که مدل‌های دیپ‌سیک درحال‌حاضر به‌طور مستقیم خطرناک نیستند اما امکان دارد در آینده چنین شوند. او همچنین تیم دیپ‌سیک را گروهی از مهندسان بااستعداد توصیف کرد اما از آن‌ها خواست که ملاحظات ایمنی هوش مصنوعی را جدی بگیرند.
نگرانی‌ها درباره‌ی دیپ‌سیک به اینجا ختم نمی‌شود. هفته‌ی گذشته، محققان امنیتی سیسکو اعلام کردند که مدل DeepSeek R1 در آزمایش‌های ایمنی هیچ‌گونه درخواست مضر یا خطرناکی را مسدود نکرده و نرخ موفقیت حملات برای دور زدن محدودیت‌های آن ۱۰۰ درصد بوده است. اگرچه سیسکو اشاره‌ای به سلاح‌های بیولوژیکی نکرد، تأیید کرد که این مدل می‌تواند اطلاعاتی درباره‌ی جرایم سایبری و فعالیت‌های غیرقانونی تولید کند.
با وجود مشکلات دیپ‌سیک، نمی‌دانیم که نگرانی‌های امنیتی تا چه حد بر رشد سریع این هوش مصنوعی تأثیر خواهد داشت. تاکنون شرکت‌هایی مانند آمازون AWS و مایکروسافت ادغام مدل R1 در پلتفرم‌های ابری خود را اعلام و از طرفی برخی کشورها و سازمان‌ها، از جمله نیروی دریایی ایالات متحده و پنتاگون، استفاده از دیپ‌سیک را ممنوع کرده‌اند.
باید دید آیا DeepSeek همچنان به مسیر رشد خود در سطح جهانی ادامه می‌دهد یا خیر. آمودِی تأکید دارد که این شرکت اکنون به یکی از بازیگران اصلی حوزه‌ی هوش مصنوعی تبدیل شده است.