هوش مصنوعی

۱۴۰۵-۰۵-۲۰
۱۶:۰۳ سه‌شنبه، ۲۰ام مردادماه ۱۴۰۵
کد خبر: 227679

آنتروپیک برای پیروی از قوانین اروپا، در متن‌های Claude واترمارک مخفی می‌گذارد

منبع: دیجیاتو

این نشان‌گذاری‌ها به‌صورت جهانی اعمال خواهند شد و تنها محدود به کاربران اروپایی نخواهد بود.

شرکت آنتروپیک اعلام کرده که از تاریخ ۲ آگوست (۱۱ مرداد)، روند افزودن واترمارک‌های قابل خواندن توسط ماشین را به متون تولیدشده توسط مدل‌های جدید Claude آغاز کرده است. این اقدام در پاسخ به الزامات مطرح‌شده در ماده ۵۰ قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) انجام می‌شود؛ چرا که آنتروپیک دستورالعمل‌های رفتاری این اتحادیه در زمینه محتوای تولیدشده توسط هوش مصنوعی را امضا کرده است.

با این‌ تغییر، مدل‌های جدید Claude که از این تاریخ عرضه می‌شوند، محتوای تولیدی را در سطح مدل نشان‌گذاری می‌کنند و به گفته آنتروپیک، این نشان‌گذاری‌ها به‌صورت جهانی اعمال خواهند شد و تنها محدود به کاربران اروپایی نخواهد بود. همچنین این سیستم برای متن و فایل از دو روش جداگانه استفاده می‌کند؛ متن‌ها واترمارک مخفی می‌گیرند و روی فایل‌ها هم شناسنامه دیجیتالی ثبت می‌شود.

متن‌های تولیدشده با هوش مصنوعی Claude علامت‌گذاری می‌شوند
کاربران هنگام خواندن عادی متن، متوجه این نشان خاص نخواهند شد. با‌این‌حال، هنگام کپی و پیست کردن پاسخ‌ها، این واترمارک همراه متن باقی می‌ماند و انتظار می‌رود که حتی پس از برخی ویرایش‌ها نیز پابرجا بماند. مشتریان ابری که از طریق پلتفرم‌های بزرگی مانند آمازون (AWS)، گوگل (Google Cloud) و مایکروسافت Foundry به مدل‌های پشتیبانی‌شده Claude دسترسی دارند نیز خروجی‌های نشان‌گذاری‌شده دریافت خواهند کرد.

رویکرد جدید آنتروپیک ابزار دیگری در اختیار سازمان‌ها و پلتفرم‌ها قرار می‌دهد تا ارزیابی کنند که آیا یک متن توسط هوش مصنوعی پردازش شده است یا خیر. آنتروپیک اعلام کرده که جزئیات فنی ابزارهای تشخیص این واترمارک‌ها را منتشر خواهد کرد تا کاربران و اشخاص ثالث بتوانند محتوا را بررسی کنند. مدل‌های قدیمی‌تر Claude بلافاصله این ویژگی را دریافت نمی‌کنند، اما آنتروپیک درحال کار روی افزودن این قابلیت به آنها است.

Claude برای فایل‌های پشتیبانی‌شده، از جمله فرمت‌های تصویری رایج، از سیستم مجزایی بهره می‌برد. فایل‌های تولیدشده می‌توانند متادیتای اصالت‌سنجی امضاشده بر پایه استاندارد «ائتلاف برای اصالت و منشأ محتوا» یا C2PA را دریافت کنند. این استاندارد، چارچوبی مشترک برای ثبت اطلاعات درباره محتوای دیجیتال فراهم می‌کند و یک رکورد معتبر می‌تواند نشان دهد که فایل توسط Claude پردازش شده و آیا تغییر یافته است یا خیر.

باید به این نکته اشاره کرد که متادیتای فایل و واترمارک متن‌ها تفاوت دارند؛ درحالی‌که واترمارک همراه با متن کپی و منتقل می‌شود، متادیتای فایل ممکن است هنگام تغییر فرمت، گرفتن اسکرین‌شات یا ذخیره مجدد از بین برود.

البته آنتروپیک هشدار داده که هیچ‌یک از این سیگنال‌ها نباید ‌عنوان اثبات قطعی مالکیت یا نویسندگی تلقی شوند. کاربران ممکن است از Claude برای خلاصه کردن، ترجمه یا ویرایش متون انسانی استفاده کنند که در این صورت نیز متن خروجی دارای نشان خواهد بود. عکس این موضوع نیز صادق است و نبود نشان لزوماً به معنی تولید متن توسط انسان نیست، چرا که ویرایش‌های سنگین می‌تواند واترمارک را تضعیف کند یا عبارات کوتاه محتوای کافی برای تشخیص ارائه ندهند.

  • مشترک شوید!

    برای عضویت در خبرنامه روزانه ایستنا؛ نشانی پست الکترونیکی خود را در فرم زیر وارد نمایید. پس از آن به صورت خودکار ایمیلی به نشانی شما ارسال میشود، برای تکمیل عضویت خود و تایید صحت نشانی پست الکترونیک وارد شده، می بایست بر روی لینکی که در این ایمیل برایتان ارسال شده کلیک نمایید. پس از آن پیامی مبنی بر تکمیل عضویت شما در خبرنامه روزانه ایستنا نمایش داده میشود.

    با عضویت در خبرنامه پیامکی آژانس خبری فناوری اطلاعات و ارتباطات (ایستنا) به طور روزانه آخرین اخبار، گزارشها و تحلیل های حوزه فناوری اطلاعات و ارتباطات را در هر لحظه و هر کجا از طریق پیام کوتاه دریافت خواهید کرد. برای عضویت در این خبرنامه، مشترکین سیمکارت های همراه اول لازم است عبارت 150 را به شماره 201464 و مشترکین سیمکارت های ایرانسل عبارت ozv ictn را به شماره ۸۲۸۲ ارسال کنند. دریافت موفق هر بسته خبری که محتوی پیامکی با حجم ۵پیامک بوده و ۴ تا ۶ عنوان خبری را شامل میشود، ۳۵۰ ریال برای مشترک هزینه در بردارد که در صورتحساب ارسالی از سوی اپراتور مربوطه محاسبه و از اعتبار موجود در حساب مشترکین سیمکارت های دائمی کسر میشود. بخشی از این درآمد این سرویس از سوی اپراتور میزبان شما به ایستنا پرداخت میشود. مشترکین در هر لحظه براساس دستورالعمل اعلامی در پایان هر بسته خبری قادر خواهند بود اشتراک خود را در این سرویس لغو کنند. هزینه دریافت هر بسته خبری برای مشترکین صرفا ۳۵۰ ریال خواهد بود و این هزینه برای مشترکین در حال استفاده از خدمات رومینگ بین الملل اپراتورهای همراه اول و ایرانسل هم هزینه اضافه ای در بر نخواهد داشت.