آنتروپیک سامانه‌ای جدید معرفی کرده است که با استفاده از رمزنگاری، صحت خروجی‌های تولیدشده توسط یک مدل هوش مصنوعی را بدون افشای وزن‌های آن تأیید می‌کند.

به گزارش اینترستینگ انجینرینگ، آنتروپیک از «فلش پرو» (Flashproof)، یک سامانه متن‌باز رمزنگاری، رونمایی کرده است که با هدف تأیید صحت پاسخ‌های تولیدشده توسط مدل‌های هوش مصنوعی طراحی شده است. این فناوری مشخص می‌کند آیا یک مدل واقعاً پاسخ موردنظر را تولید کرده است، بی‌آنکه وزن‌های اختصاصی آن افشا شوند.

این فناوری به کاربران، ارزیابان مستقل و نهادهای نظارتی امکان می‌دهد بررسی کنند آیا ارائه‌دهندگان خدمات، واقعاً از همان مدل‌هایی استفاده می‌کنند که ادعای آن را دارند یا خیر. فلش پرو با بهره‌گیری از رمزنگاری دانش صفر، اثبات‌های ریاضی تولید می‌کند که نشان می‌دهند یک مدل مشخص، در پاسخ به یک درخواست معین، توکن‌های خروجی موردنظر را تولید کرده است.

این فناوری به رفع یکی از چالش‌های فزاینده در حوزه هوش مصنوعی، یعنی اعتماد به ارائه‌دهندگان خدمات، کمک می‌کند؛ به‌ویژه در شرایطی که شرکت‌ها برای دسترسی به سامانه‌های پیشرفته هوش مصنوعی، بیش از گذشته به ارائه‌دهندگان شخص ثالث مدل و خدمات وابسته شده‌اند.

فلش پرو از روشی رمزنگاری به نام «استدلال دانش غیرتعاملی فشرده مبتنی بر دانش صفر» (zkSNARK) استفاده می‌کند. این روش به ارائه‌دهندگان امکان می‌دهد صحت فرایند محاسباتی را اثبات کنند، بدون آنکه اطلاعات حساس درباره مدل‌های زیربنایی خود را افشا کنند.

این سامانه در دو مرحله کار می‌کند. ابتدا، ارائه‌دهنده یک تعهد رمزنگاری‌شده به وزن‌های مدل منتشر می‌کند. این تعهد در واقع نوعی اثر انگشت دیجیتال از مدل است که امکان شناسایی آن را فراهم می‌کند، درحالی‌که وزن‌های مدل همچنان محرمانه باقی می‌مانند.

سپس، هنگامی که کاربر درخواستی ثبت می‌کند، ارائه‌دهنده اثباتی رمزنگاری‌شده تولید می‌کند که نشان می‌دهد مدل موردنظر، توکن‌های خروجی ارائه‌شده را در پاسخ به آن درخواست تولید کرده است. هر فردی که به تعهد رمزنگاری‌شده، متن ورودی و پاسخ دسترسی داشته باشد، می‌تواند بدون دسترسی به وزن‌های مدل، صحت این اثبات را بررسی کند.

آنتروپیک این فناوری را با استفاده از مدل «لاما ۴ ماوریک» (Llama 4 Maverick) به نمایش گذاشت؛ مدلی با ۴۰۰ میلیارد پارامتر که از معماری ترکیبی متخصصان (Mixture of Experts) بهره می‌برد.

فلش پرو هنگام اجرا روی پردازنده گرافیکی انویدیا H100، با سرعت تقریبی ۱۱۰ توکن در ثانیه، اثبات‌های رمزنگاری‌شده را تولید کرد. حجم هر اثبات برای درخواستی شامل ۱۰۲۴ توکن نیز حدود ۱۹ مگابایت بود.

فرایند بررسی و تأیید هر اثبات با استفاده از یک پردازنده مرکزی ۲۴ هسته‌ای حدود ۱۷ ثانیه طول کشید و به پردازنده گرافیکی نیازی نداشت.