هوش مصنوعی

۱۴۰۵-۰۶-۲۱
۱۷:۵۲ شنبه، ۲۱ام شهریورماه ۱۴۰۵
کد خبر: 230152

ردپای نفوذ غیرمجاز OpenAI به حداقل ۱۰ وب سایت دیگر

منبع: مهر

شش تیم مستقل تحقیقاتی اعلام کرده اند عامل‌های هوش مصنوعی اوپن ای آی در نیمهٔ نخست امسال، بی‌سروصدا از بیش از ۱۰ وب‌سایت به‌عنوان مراکز ارتباطی موقت وغیررسمی استفاده کرده‌اند.

به گزارش کوارتز، این دامنه‌ از رفتارهای سرکشانه بسیار فراتر از چیزی است که این شرکت پیش‌تر اعلام کرده بود. یافته های این شش محقق توسط خبرگزاری رویترز بررسی شده است.

اندرو یون، پژوهشگر مؤسسهٔ غیرانتفاعی CivAI در کالیفرنیا، به رویترز گفت که طبق شمارش او، این عامل‌ها بین ماه‌های می و جولای سال جاری میلادی به ۱۸ وب‌سایت دسترسی پیدا کرده‌اند که پیش‌تر نامی از آنها منتشر نشده بود.

سیدنی فون آرکس که گروه تحقیقاتی او هفتهٔ گذشته برای نخستین بار ماجرای نفوذ به وب سایت آلمانی را گزارش کرد نیز گفت: تیمش شواهد قابل‌اعتمادی از فعالیت این عامل‌ها در ۲۳ وب‌سایت دیگر پیدا کرده که قبلا گزارش نشده بودند.

کنت راسل دگراف، توسعه‌دهندهٔ نرم‌افزار، نیز گفت که چنین فعالیت‌هایی را حداقل در ۱۰ وب‌سایت پیدا کرده است. هر سه پژوهشگر هشدار دادند که شمارش آنها کامل نیست.

فون آرکس در این باره گفت: ما هیچ ایده‌ای نداریم که چه مقدار از این فعالیت‌ها در فضای اینترنت وجود دارد.

بیشتر پژوهشگران در بررسی‌های خود به مجموعه‌ای مشترک از وب‌سایت‌ها رسیدند: وب سایت های wiki‌ که به‌صورت مشارکتی اداره می‌شوند، سرویس‌های آنلاین ذخیرهٔ متن و سرویس‌های کوتاه‌کنندهٔ لینک که توسط دانشگاه وندربیلت در ایالت تنسی و دانشگاه تورنتو در کانادا اداره می‌شوند.

عامل‌های هوش مصنوعی همچنین ردپاهایی در یک wiki مربوط به شیمی دورهٔ Advanced Placement (AP) ـ که توسط یک معلم دبیرستان در ایالت ماساچوست راه‌اندازی شده بود ، دو وب‌سایت شخصی متعلق به کارکنان حوزه فناوری در لهستان، ویکی‌های اختصاص‌یافته به بازی‌های فکری و معمایی، و یک وب‌سایت علاقه‌مندان به نرم‌افزارهای ویرایش متن بر جای گذاشته‌اند.

در برخی موارد، پژوهشگران توانستند این فعالیت‌ها را به آدرس‌های پروتکل اینترنت (IP) ردیابی کنند که به زیرساخت ابری Microsoft Azure اشاره داشتند.

این شرکت از اعلام تعداد وب‌سایت‌های درگیر خودداری کرد و همچنین توضیحی دربارهٔ سکوت چندماههٔ خود در قبال این موضوع ارائه نداد.

اوپن ای آی در بیانیه‌ای اعلام کرد در حال انجام بررسی گسترده‌تری دربارهٔ فعالیت عامل‌های هوش مصنوعی است و تاکنون فعالیت دیگری با شدت یا مقیاسی مشابه حادثه هاگینگ فیس شناسایی نکرده است.

این شرکت همچنین گفت در حال تدوین دستورالعمل‌هایی برای نحوهٔ افشای مواردی است که متخصصان حوزه هوش مصنوعی از آنها با عنوان ناهمسویی (misalignment) یاد می‌کنند. این اصطلاح زمانی به کار می رود که یک سیستم هوش مصنوعی برخلاف دستورها یا اهداف تعیین‌شده برای آن رفتار می‌کند.

  • مشترک شوید!

    برای عضویت در خبرنامه روزانه ایستنا؛ نشانی پست الکترونیکی خود را در فرم زیر وارد نمایید. پس از آن به صورت خودکار ایمیلی به نشانی شما ارسال میشود، برای تکمیل عضویت خود و تایید صحت نشانی پست الکترونیک وارد شده، می بایست بر روی لینکی که در این ایمیل برایتان ارسال شده کلیک نمایید. پس از آن پیامی مبنی بر تکمیل عضویت شما در خبرنامه روزانه ایستنا نمایش داده میشود.

    با عضویت در خبرنامه پیامکی آژانس خبری فناوری اطلاعات و ارتباطات (ایستنا) به طور روزانه آخرین اخبار، گزارشها و تحلیل های حوزه فناوری اطلاعات و ارتباطات را در هر لحظه و هر کجا از طریق پیام کوتاه دریافت خواهید کرد. برای عضویت در این خبرنامه، مشترکین سیمکارت های همراه اول لازم است عبارت 150 را به شماره 201464 و مشترکین سیمکارت های ایرانسل عبارت ozv ictn را به شماره ۸۲۸۲ ارسال کنند. دریافت موفق هر بسته خبری که محتوی پیامکی با حجم ۵پیامک بوده و ۴ تا ۶ عنوان خبری را شامل میشود، ۳۵۰ ریال برای مشترک هزینه در بردارد که در صورتحساب ارسالی از سوی اپراتور مربوطه محاسبه و از اعتبار موجود در حساب مشترکین سیمکارت های دائمی کسر میشود. بخشی از این درآمد این سرویس از سوی اپراتور میزبان شما به ایستنا پرداخت میشود. مشترکین در هر لحظه براساس دستورالعمل اعلامی در پایان هر بسته خبری قادر خواهند بود اشتراک خود را در این سرویس لغو کنند. هزینه دریافت هر بسته خبری برای مشترکین صرفا ۳۵۰ ریال خواهد بود و این هزینه برای مشترکین در حال استفاده از خدمات رومینگ بین الملل اپراتورهای همراه اول و ایرانسل هم هزینه اضافه ای در بر نخواهد داشت.