مایکروسافت می‌خواهد امنیت سیستم‌‎های هوش مصنوعی خود را به چالش بکشد.

شرکت مایکروسافت می‌گوید به هرکسی بتواند کلاینت ایمیل مبتنی‌بر مدل زبانی بزرگ (LLM) این شرکت را هک کند، ۱۰ هزار دلار پاداش می‌دهد. توسعه‌دهندگان نرم‌افزار و هکرها می‌توانند برای کشف این نقص‌ها با هم همکاری کنند.

به گزارش تک رادار، این مسابقه را مایکروسافت با همکاری مؤسسه علم و فناوری استرالیا و ETH زوریخ برگزار می‌کند و مخصوص کسانی است که هم می‌خواهند مهارت‌های خود را به چالش بکشند هم برای انجام آن پاداش قابل‌توجهی دریافت کنند. شرکت‌کنندگان در این رقابت باید آسیب‌پذیری‌های LLMail را پیدا کنند که کلاینت ایمیل شبیه‌سازی‌شده‌ای حاوی دستیار مبتنی‌بر مدل زبانی بزرگ است که می‌تواند به سؤالات کاربران درباره ایمیل‌ها پاسخ دهد.

پاداش ۱۰ هزار دلاری مایکروسافت به هکرها برای رخنه در کلاینت ایمیل LLM
این چالش LLMail-Inject نام‌گذاری شده و تیم‌های برنده ۱۰ هزار دلار پاداش می‌گیرند. شرکت‌کنندگان باید با استفاده از حساب گیت‌هاب وارد چالش شوند و یک تیم بسازند. سپس از تیم‌ها خواسته می‌شود تا تدابیر دفاعی پیاده‌سازی‌شده برای مقابله با روش‌های تزریق پرامپت را دور بزنند.

با دورزدن سیستم‌های امنیتی، هکرها باید این LLM را وادار به انجام کار یا فاش‌کردن چیزهایی کنند که برای آن آموزش ندیده است. مایکروسافت از این طریق به دنبال پیداکردن نقاط ضعف در برابر روش‌های دفاعی خود مقابل تکنیک‌های تزریق پرامپت، تقویت و توسعه اقدامات امنیتی است.

چنین چالش‌هایی زا معمولاً شرکت‌ها برای پیداکردن آسیب‌پذیری‌های جدی در سیستم‌های خود راه‌اندازی می‌کنند. مایکروسافت نیز از شرکت‌هایی است که به راه‌اندازی چنین چالش‌هایی علاقه خاصی دارد و بارها آنها را برگزار کرده است.

میزان جوایزی که در این چالش‌ها به هکرها داده می‌شود، از چند هزار دلار تا چند صد هزار دلار متغیر است. در برخی موارد نیز ممکن است برخی شرکت‌ها جوایزی میلیون دلاری در نظر بگیرند؛ برای مثال، صرافی رمزارز Uniswap به‌تازگی جایزه‌ای ۱۵ میلیون دلاری برای پیداکردن باگ‌های سیستم خود در نظر گرفته بود.