«متا» از برطرف شدن مشکلی خبر داد که می‌توانست پیام‌های هوش مصنوعی کاربران و محتوای تولیدشده را فاش کند.

شرکت «متا»(Meta) یک مشکل امنیتی را که به کاربران چت‌بات هوش مصنوعی آن اجازه می‌داد به پیام‌های خصوصی و پاسخ‌های تولیدشده توسط هوش مصنوعی سایر کاربران دسترسی داشته باشند و آنها را ببینند، برطرف کرده است.

به نقل از تک کرانچ، «سندیپ هودکاسیا»(Sandeep Hodkasia) بنیان‌گذار شرکت تست امنیتی «AppSecure» گفت که متا به دلیل افشای خصوصی مشکلی که او در ۲۶ دسامبر ۲۰۲۴ ثبت کرده بود، ۱۰ هزار دلار به عنوان پاداش به او پرداخت کرده است. به گفته هودکاسیا، متا هیچ مدرکی را مبنی بر سوءاستفاده از این مشکل پیدا نکرد.

هودکاسیا گفت پس از بررسی این که چگونه هوش مصنوعی متا به کاربران واردشده خود اجازه می‌دهد تا دستورات هوش مصنوعی را برای بازسازی متن و تصاویر ویرایش کنند، این مشکل را شناسایی کرده است. هودکاسیا دریافت که وقتی یک کاربر دستور خود را ویرایش می‌کند، سرورهای متا یک شماره منحصربه‌فرد را به دستور و پاسخ تولیدشده توسط هوش مصنوعی اختصاص می‌دهند. هودکاسیا با تحلیل ترافیک شبکه در مرورگر خود هنگام ویرایش یک دستور هوش مصنوعی متوجه شد که می‌تواند آن شماره منحصربه‌فرد را تغییر دهد و سرورهای متا یک دستور و پاسخ تولیدشده توسط هوش مصنوعی را که کاملاً متعلق به شخص دیگری است، برمی‌گردانند.

این مشکل به این معنی بود که سرورهای متا به درستی بررسی نمی‌کردند تا مطمئن شوند که کاربر درخواست‌کننده مجاز به دیدن پاسخ است یا خیر. هودکاسیا گفت که شماره‌های پاسخ تولیدشده توسط سرورهای متا به راحتی قابل حدس زدن هستند و احتمالا به یک عامل مخرب اجازه می‌دهند تا با تغییر سریع پاسخ به روش‌های خودکار، پاسخ ‌های اصلی کاربران را بدزدد.

«رایان دنیلز»(Ryan Daniels) سخن‌گوی متا گفت: متا این مشکل را در ماه ژانویه برطرف کرده و هیچ مدرکی را دال بر سوءاستفاده پیدا نکرده و به پژوهشگر(هودکاسیا) پاداش داده است.

این خبر در زمانی منتشر شده است که غول‌های فناوری با وجود خطرات فراوان امنیتی و حریم خصوصی مرتبط با استفاده از محصولات هوش مصنوعی، در تلاش برای عرضه و اصلاح آنها هستند.

اپلیکیشن مستقل هوش مصنوعی متا که اوایل امسال برای رقابت با اپلیکیشن‌های رقیب مانند «چت‌جی‌پی‌تی»(ChatGPT) عرضه شد، پس از آن که برخی از کاربران ناخواسته مکالمات خصوصی خود با این چت‌بات را منتشر کردند، شروع ضعیفی داشت.