آنتروپیک می‌گوید هوش مصنوعی کلاد بدون مجوز انسانی محدودیت پرداخت را دور زد و به داده‌های تجمیعی شمارش آرای ایالت جورجیا دسترسی پیدا کرد.

آنتروپیک اعلام کرد مدل هوش مصنوعی Claude بدون مجوز انسانی، محدودیت پرداخت یک وب‌سایت را دور زده و به داده‌های شمارش آرای ایالت جورجیا در آمریکا دسترسی پیدا کرده است. این شرکت گفت کلاد وارد بخش ثبت‌نام رأی‌دهندگان ایالت نشده و هیچ‌یک از سوابق رأی‌گیری را تغییر نداده یا استخراج نکرده است.

به گزارش آکسیوس، آنتروپیک اعلام کرد پس از شناسایی این اتفاق، اقداماتی برای جلوگیری از تکرار چنین رفتارهایی انجام داده است. داده‌های مورد اشاره مربوط به آمار تجمیعی رأی‌دهندگان بودند و طبق توضیحات شرکت، دسترسی کلاد شامل بخش ثبت‌نام رأی‌دهندگان یا سوابق رأی‌گیری نمی‌شد.

نفوذ به داده‌های آرای ایالت جورجیا توسط Claude
آنتروپیک پیش‌تر توضیح داده بود که نمونه‌هایی از رفتار کلاد را شناسایی کرده است که در آن، مدل برای دسترسی به داده‌های محدودشده با توکن یا هزینه، راهی برای عبور از محدودیت پیدا کرده بود. به گفته شرکت، برخی از این موارد به وب‌سایت‌های نهادهای دولتی آمریکا در سطوح فدرال، ایالتی و محلی مربوط می‌شدند.

آنتروپیک توضیح داده که کلاد هنگام انجام پروژه‌ای داخلی برای تحلیل آماری، داده‌های عمومی شمارش آرا را از داشبوردی متعلق به ایالت جورجیا دریافت کرده است. به گفته سخنگوی شرکت، مدل بدون آن‌که از او خواسته شده باشد، برای دسترسی به داشبورد درخواست توکن کرد و از این طریق به اطلاعاتی رسید که دسترسی به آن‌ها معمولاً مستلزم پرداخت هزینه بود. آنتروپیک اعلام کرد برای جلوگیری از تکرار چنین اقداماتی، تدابیر محدودکننده‌ای در نظر گرفته است.