روش عجیب فرار از محیط ایزوله؛ هوش مصنوعی میتواند از طریق حرارت با دیگر کامپیوترها حرف بزند
OpenAI هشدار داده که مدلهای پیشرفته هوش مصنوعی میتوانند با تغییر دمای پردازنده و تولید کدهای حرارتی مورس، محیط ایزوله را دور بزنند.
در سناریویی ترسناک و شبیه به فیلمهای علمیتخیلی آخرالزمانی، محقق OpenAI بر این باور است که یک مدل هوش مصنوعی مصمم و بهاندازه کافی پیشرفته میتواند با ایجاد تغییرات دمایی در سختافزار نوعی کد مورس تولید و میان دو رایانه کاملاً ایزوله اما در مجاورت یکدیگر ارتباط برقرار کند.
«نوام براون»، از محققان برجسته OpenAI، در این رابطه گفته است:
«ما هرگز نمیخواهیم دوباره در موقعیتی قرار بگیریم که تواناییهای هوش مصنوعی را دستکم گرفته باشیم.»
براون با این هشدار جدی، کارآمدی یکی از رایجترین و معتبرترین اقدامات حفاظتی در برابر مدلهای خودمختار یعنی Air-Gapping یا همان ایزولهسازی فیزیکی رایانهها را زیر سؤال برده است.
برای آشنایی بیشتر، مفهوم Air-Gap در این حوزه به معنای جداسازی فیزیکی یک رایانه یا شبکهای از سیستمها است؛ بهگونهای که هیچ اتصال شبکهای یا پیوند دادهای با سامانههای دیگر نداشته باشد تا سدی نفوذناپذیر در برابر استخراج اطلاعات توسط هوش مصنوعی شکل بگیرد. بااینحال، براون با استناد به برخی مطالعات نشان میدهد که یک مدل هوش مصنوعی برای فرار از زندان فیزیکی خود تا چه اندازه میتواند پیش برود. وی در این زمینه توضیح داده است:
«مطالعاتی وجود دارد که عمدتاً دانشگاهی هستند و نشان میدهند دو رایانه کنار هم که از نظر فیزیکی ایزوله هستند، همچنان میتوانند با یکدیگر ارتباط برقرار کنند؛ چراکه از حسگرهای حرارتی بهره میبرند.»
کانال ارتباطی مخفی هوش مصنوعی با سنسورهای حرارتی
پردازندههای مرکزی (CPU)، پردازشگرهای گرافیکی (GPU) و مادربردهای امروزی مجهز به حسگرهای دمایی مانند دیودهای حرارتی داخلی هستند. هدف اصلی تعبیه این قطعات، مدیریت حرارت سیستم، تنظیم سرعت چرخش فنها، کاهش فرکانس پردازشی یا خاموشکردن دستگاه در صورت داغشدن بیشازحد است. بااینحال، تعدادی از پژوهشها ثابت کردهاند که میتوان یک کانال مخفی با پهنای باند بسیار پایین میان دو رایانه ایزوله برقرار کرد؛ به این ترتیب که یک رایانه پردازنده خود را داغ کرده و نوسانات حرارتی حاصل از آن به کدهایی تبدیل میشود که رایانه دیگر با حسگرهای خود آن را تفسیر میکند.
این سناریوهای پرخطر چالش بزرگی برای OpenAI ایجاد کردهاند؛ بهویژه در شرایطی که این آزمایشگاه معتقد است با هوشمندتر شدن مدلها در مخفیکردن سازوکارهای درونیشان، قابلیت پایش زنجیره تفکر آنها روبهکاهش است. تبوتاب پیرامون ایمنی و همسوسازی هوش مصنوعی پیشتر در تابستان شدت گرفت؛ زمانی که ایجنتهای سایبری OpenAI برای حل یک ارزیابی امنیتی، با سوءاستفاده از یک آسیبپذیری ناشناخته از محیطهای آزمایشی ایزوله خود خارج شدند و به مخزن هاگینگ فیس حمله کردند. البته برخی کارشناسان معتقد بودند که آن سامانهها کاملاً ایزوله نبودند و از طریق یک واسطه متصل به اینترنت به نرمافزارها دسترسی یافتند.
موضوع همسوسازی هوش مصنوعی با انتشار نامه سرگشاده «داریو آمودی»، مدیرعامل آنتروپیک، وارد مرحله جدیتری شد. آمودی متعهد شد ارزیابیهای ایمنی را به شرکتهای مستقل شخص ثالث واگذار کند و خواستار هماهنگی جهانی برای کنترل سرعت پیشرفت هوش مصنوعی شد؛ پیشنهادی که «سم آلتمن»، مدیرعامل OpenAI، و «ایلان ماسک» نیز سریعاً با آن موافقت کردند.