انویدیا برای مهار عامل‌های هوش مصنوعی افسارگسیخته ناظر امنیتی مستقل ساخت.

به گزارش تک‌کرانچ، جنسن هوانگ، مدیرعامل انویدیا، روز جمعه مجموعه‌ای از محصولات نرم‌افزاری و سخت‌افزاری را معرفی کرد که با ایجاد لایه‌های امنیتی مستقل پیرامون عامل‌های هوش مصنوعی، از خروج آنها از محیط‌های آزمایشی جلوگیری می‌کند.

این محصولات در حالی عرضه می‌شوند که طی مجموعه‌ای از رویدادهای امنیتی، مدل‌های هوش مصنوعی شرکت‌هایی از جمله آنتروپیک، گوگل، اوپن‌ای‌آی و متا توانسته‌اند برخی کنترل‌های امنیتی را دور بزنند، از محیط‌های آزمایشی خارج شوند و به سیستم‌های دنیای واقعی دسترسی پیدا کنند.

هوانگ در مصاحبه‌ای با شبکه خبری CNBC اعلام کرد پلتفرم جدید Nvidia Open Agent Safety برای جلوگیری از چنین نفوذهایی طراحی شده است. انویدیا معتقد است به‌جای آنکه کنترل‌های امنیتی به‌طور کامل درون عامل هوش مصنوعی قرار داشته باشند، بخشی از این کنترل‌ها باید به خارج از عامل منتقل شوند؛ رویکردی که به ایجاد یک ناظر امنیتی مستقل و دائمی برای کنترل عملکرد عامل‌های هوش مصنوعی منجر می‌شود.

مدیرعامل انویدیا در بیانیه‌ای گفت: «پتانسیل خارق‌العاده هوش مصنوعی برای جامعه تنها زمانی محقق می‌شود که چالش ایمنی آن را حل کنیم. در حالی که همچنان مرزهای جدید قابلیت‌های هوش مصنوعی را کشف می‌کنیم، باید سرعت اکتشاف در مرزهای ایمنی هوش مصنوعی را نیز افزایش دهیم. ایمنی و امنیت به مهندسی کامل نیاز دارند.»

پلتفرم جدید انویدیا نرم‌افزار متن‌باز OpenShell را که برای کنترل دسترسی‌های عامل‌های هوش مصنوعی هنگام فعالیت آنها طراحی شده، با Sentry ترکیب می‌کند؛ سامانه‌ای برای نظارت مستقل که روی واحدهای پردازش داده BlueField-۴ اجرا می‌شود.