گام بزرگ مایکروسافت برای مهار هوش مصنوعی؛ معرفی پروتکل جدید کنترل رفتار ایجنتها
مایکروسافت از سازوکاری تازه برای کنترل و مهار ایجنتهای هوش مصنوعی پرده برداشت.
با افزایش توانایی ایجنتهای هوش مصنوعی، شرکتهایی که در تلاشاند از این فناوری در نرمافزارها، فرایندهای کاری و محصولات خود استفاده کنند، با چالشی تازه روبهرو شدهاند: چگونه اطمینان حاصل کنند ایجنتهای هوش مصنوعی در محیطهای مختلف دقیقاً مطابق انتظار عمل میکنند؟
مایکروسافت برای حل مشکل، استاندارد متنباز جدیدی با نام Agent Control Specification یا ACS معرفی کرد. هدف از توسعهی این استاندارد، فراهمکردن روشی یکپارچهتر و دقیقتر برای تعیین حدود اختیارات ایجنتهای هوش مصنوعی عنوان شده است.
ACS به تیمهای توسعه، امنیت و تطبیق مقررات اجازه میدهد سیاستهای اختصاصی خود را تعریف کنند. این قوانین مشخص میکنند ایجنتها چه اقداماتی را مجاز است انجام دهند، از چه کارهایی باید اجتناب کنند، در چه شرایطی نیاز به تأیید انسانی وجود دارد و چه اطلاعاتی باید برای بررسیهای بعدی ثبت شوند.
Microsoft
سیاستها در چندین نقطه از فرآیند کاری ایجنت بررسی میشوند تا از پایبندی آن به محدودیتهای تعیینشده اطمینان حاصل شود.
معرفی ACS در شرایطی صورت میگیرد که توسعهدهندگان تاکنون از روشهای پراکندهای برای کنترل رفتار ایجنتهای هوش مصنوعی استفاده میکردند؛ از جمله تعریف دستورالعملها در سیستمپرامپت، افزودن بررسیهای سفارشی در کد برنامه یا استفاده از طبقهبندها برای شناسایی ورودیها و خروجیهای مسئلهساز. هرچند این راهکارها کارآمد بودهاند، اما معمولاً به مجموعهای از کنترلهای جداگانه منجر میشوند که حسابرسی و استفادهی مجدد از آنها در چارچوبها و سامانههای مختلف دشوار است.
مایکروسافت میگوید ACS میتواند بهعنوان لایهای مشترک برای حاکمیت بر ایجنتهای هوش مصنوعی عمل کند. این استاندارد امکان بررسی عملکرد ایجنت را در مراحل مختلف فراهم میکند؛ از پیش از دریافت ورودی گرفته تا قبل از فراخوانی ابزارها، پس از دریافت نتیجهی ابزار و حتی پیش از ارسال پاسخ نهایی به کاربر.
در چنین فرایندی، یک سیاست میتواند اجرای اقدام را مجاز بداند، آن را مسدود کند، اطلاعات حساس را حذف کند یا تأیید انسانی درخواست کند.
توسعهدهندگان قادر خواهند بود از طبقهبندهای ورودی و خروجی برای دستهبندی اطلاعات، پیشبینی نتایج یا تعیین نحوهی پاسخگویی عامل استفاده کنند. بهعلاوه، امکان بهرهگیری از مدلهای زبانی بزرگ بهعنوان «داور» برای ارزیابی سیاستها و افزودن منطقهای کنترلی برای بررسی فراخوانی ابزارها، انتخاب ابزار مناسب، صحت ورودیها، نحوهی استفاده از خروجیها و پاسخهای تولیدشده وجود دارد.
یکی دیگر از مزایای ACS، قابلیت ذخیرهسازی سیاستها در قالب فایلهای واحد است. چنین قابلیتی باعث میشود سیاستهای امنیتی همراه عاملهای هوش مصنوعی جابهجا شوند و در چارچوبها و محیطهای مختلف نیز قابل استفاده باقی بمانند.
مایکروسافت استاندارد ACS را در قالب کیت توسعهی نرمافزار منتشر کرده و افزونههایی برای پلتفرمها و ابزارهایی مانند LangChain و OpenAI Agents SDK و Anthropic Agents SDK و AutoGen و CrewAI و Semantic Kernel و Microsoft.Extensions.AI و ابزارهای مبتنیبر MCP ارائه داده است.