هوش مصنوعی

۱۴۰۵-۰۳-۱۷
۱۳:۴۶ یکشنبه، ۱۷ام خردادماه ۱۴۰۵
کد خبر: 220938

امنیت در برابر حملات هوش مصنوعی؛ OpenAI حالت Lockdown را معرفی کرد

منبع: زومیت

اوپن‌ای‌آی حالت امنیتی Lockdown را برای مقابله با حملات هکری منتشر کرد؛ حالتی که به گفته‌ی این شرکت بیشتر مردم نیازی به آن ندارند.
اوپن‌ای‌آی انتشار قابلیت جدیدی به نام Lockdown Mode را آغاز کرد؛ تنظیمی امنیتی که برای محافظت بیشتر کاربران در برابر حملات «تزریق دستور» (Prompt Injection) طراحی شده است. در این نوع حملات، مهاجمان با قراردادن دستورهای مخفی در صفحات وب یا منابع مختلف، تلاش می‌کنند مدل‌های هوش مصنوعی را فریب دهند و به اطلاعات حساس دسترسی پیدا کنند.

اوپن‌ای‌آی لاک‌داون را لایه‌ای امنیتی برای کاربران و سازمان‌هایی می‌داند که با داده‌های حساس سروکار دارند. به گفته‌ی شرکت، این قابلیت برای همه‌ی کاربران ضروری نیست و بیشتر افرادی را هدف قرار می‌دهد که نگران خطر استخراج اطلاعات از طریق حملات مبتنی‌بر هوش مصنوعی هستند.

فعال‌کردن این حالت، دسترسی به برخی قابلیت‌های ChatGPT را محدود می‌کند. کاربران همچنان می‌توانند تصویر تولید کنند یا عکس‌های خود را بارگذاری کنند؛ اما ChatGPT در این حالت تصاویر را از اینترنت دریافت نمی‌کند و در پاسخ‌ها نمایش نمی‌دهد. همچنین امکان دانلود فایل‌ها برای تحلیل غیرفعال می‌شود. بارگذاری دستی اسناد همچنان امکان‌پذیر خواهد بود.

برخی قابلیت‌ها به‌طور کامل از دسترس خارج می‌شوند. برای مثال، ویژگی‌های Deep Research و Agent Mode هنگام فعال‌بودن حالت لاک‌داون کار نمی‌کنند. اوپن‌ای‌آی تأکید کرده این قابلیت روی حافظه‌ی ChatGPT، اشتراک‌گذاری چت‌ها یا نحوه‌ی استفاده از داده‌ها برای آموزش مدل‌ها تأثیری ندارد و بسیاری از این تنظیمات به‌صورت جداگانه توسط مدیران سازمانی قابل مدیریت هستند.

اوپن‌ای‌آی توضیح می‌دهد که حالت لاک‌داون مانع نمایش محتوای حاوی حملات تزریق دستور نمی‌شود؛ بلکه هدف آن جلوگیری از سوءاستفاده‌ی مهاجمان از درخواست‌های شبکه و کاهش احتمال دسترسی به اطلاعات حساس کاربران است.

لاک‌داون برای همه‌ی حساب‌های شخصی، از جمله کاربران نسخه‌ی رایگان ChatGPT، در دسترس قرار گرفته است. برای فعال‌سازی‌اش باید به بخش Settings > Safety and Security مراجعه و گزینه‌ی Lockdown Mode را روشن کنید. کاربران در صورت نیاز می‌توانند این لایه‌ی امنیتی اضافی را به‌صورت موقت فقط برای یک چت غیرفعال کنند.

همزمان با انتشار این قابلیت، اوپن‌ای‌آی ابزار جدیدی برای مدیریت دستگاه‌های فعال روی یک حساب کاربری را معرفی کرد. این ابزار فهرست دستگاه‌ها و مرورگرهایی را که به حساب کاربر دسترسی داشته‌اند نمایش می‌دهد و امکان خروج از یک حساب یا همه‌ی حساب‌های فعال را فراهم می‌کند.

  • مشترک شوید!

    برای عضویت در خبرنامه روزانه ایستنا؛ نشانی پست الکترونیکی خود را در فرم زیر وارد نمایید. پس از آن به صورت خودکار ایمیلی به نشانی شما ارسال میشود، برای تکمیل عضویت خود و تایید صحت نشانی پست الکترونیک وارد شده، می بایست بر روی لینکی که در این ایمیل برایتان ارسال شده کلیک نمایید. پس از آن پیامی مبنی بر تکمیل عضویت شما در خبرنامه روزانه ایستنا نمایش داده میشود.

    با عضویت در خبرنامه پیامکی آژانس خبری فناوری اطلاعات و ارتباطات (ایستنا) به طور روزانه آخرین اخبار، گزارشها و تحلیل های حوزه فناوری اطلاعات و ارتباطات را در هر لحظه و هر کجا از طریق پیام کوتاه دریافت خواهید کرد. برای عضویت در این خبرنامه، مشترکین سیمکارت های همراه اول لازم است عبارت 150 را به شماره 201464 و مشترکین سیمکارت های ایرانسل عبارت ozv ictn را به شماره ۸۲۸۲ ارسال کنند. دریافت موفق هر بسته خبری که محتوی پیامکی با حجم ۵پیامک بوده و ۴ تا ۶ عنوان خبری را شامل میشود، ۳۵۰ ریال برای مشترک هزینه در بردارد که در صورتحساب ارسالی از سوی اپراتور مربوطه محاسبه و از اعتبار موجود در حساب مشترکین سیمکارت های دائمی کسر میشود. بخشی از این درآمد این سرویس از سوی اپراتور میزبان شما به ایستنا پرداخت میشود. مشترکین در هر لحظه براساس دستورالعمل اعلامی در پایان هر بسته خبری قادر خواهند بود اشتراک خود را در این سرویس لغو کنند. هزینه دریافت هر بسته خبری برای مشترکین صرفا ۳۵۰ ریال خواهد بود و این هزینه برای مشترکین در حال استفاده از خدمات رومینگ بین الملل اپراتورهای همراه اول و ایرانسل هم هزینه اضافه ای در بر نخواهد داشت.