فناوری اطلاعات

September 27, 2023
16:15 چهارشنبه، 5ام مهرماه 1402
کد خبر: 149921

هوش مصنوعی فوت‌ کوزه‌گری را از انسان می‌آموزد

کید متز طی مقاله‌ای در نیویورک تایمز به ارتشی از انسان‌ها اشاره کرده که در پشت پرده به اصلاح و نصیحت هوش مصنوعی می‌پردازند. ابزارهای هوشمند امروزی از جمله ChatGPT، محصول اصلاحات بیشمار انسانی هستند که در نقاط مختلف جهان، با سنین و تحصیلات مختلف، به این ابزار راه درست را نشان می‌دهند.
 
 
شاید کمتر کسی تجربه صحبت با گالکتیکا (Galactica)، چت‌بات متا ساخته متا را داشته باشد. این شرکت نوامبر سال گذشته گالکتیکا را منتشر کرد و اعتراض کاربران از پاسخ‌های ساختگی و اشتباه باعث شد تا متا این چت‌بات را از اینترنت حذف کند.
 
اما تنها دو هفته بعد، ChatGPT به پدیده جدید و محبوب اینترنت بدل شد. با وجود تکنولوژی مشابه، این دو یک تفاوت مهم داشتند. اوپن‌ای‌آی، سازنده ChatGPT،‌ با تکنیک جدیدی هوش مصنوعی را تقویت کرده بود.
 
صدها نفر از بخش‌های مختلف جهان به خدمت این شرکت درآمدند تا با تکنیک «یادگیری تقویتی براساس بازخورد انسانی»، پاسخ‌های ChatGPT را اصلاح کنند. این تکنیک حالا به یکی از بخش‌های مهم توسعه هوش مصنوعی تبدیل شده و نظر بسیاری از کاربران را به خود جلب کرده است.
 
وظیفه این کارکنان، جهت‌دهی، اصلاح و در برخی موارد حتی خلق اطلاعات است. شرکت‌هایی مثل گوگل و اوپن‌ای‌آی مدت‌ها است که از تیم‌های مشابهی در کشورهایی مثل هند و آفریقا برای آماده‌سازی داده‌های هوش مصنوعی، از جمله تشخیص اشیا مختلف و نشانه‌گذاری، استفاده می‌کنند.
 
این روند برای چت‌بات‌ها مشابه است اما افرادی که به کار گرفته می‌شوند معمولا تحصیلات بیشتری دارند زیرا یادگیری تقویتی از بازخورد انسانی، پیچیده‌تر از نشانه‌گذاری اطلاعات است. در این حالت، این کارمندان در نقش یک راهنما، بازخوردی مشخص و عمیق در اختیار کارکنان می‌گذارند.
 
سال گذشته، اوپن‌ای‌آی و آنتروپیک، یکی از رقبای این شرکت، از کارکنان فریلنس وبسایت آپ‌ورک برای اصلاح مدل‌های هوش مصنوعی خود استفاده کردند. حقوق کارکنان آمریکایی بین ۱۵ تا ۳۰ دلار در ساعت بوده اما در دیگر کشور‌ها، حقوق آنها بسیار کمتر از این مبلغ است.
 
روند کار شامل ساعت‌ها نوشتن، اصلاح و امتیاز‌دهی است. افراد ممکن است برای نوشتن یک پرامپت و پاسخ آن تا ۲۰ دقیقه زمان بگذارند. همین بازخورد انسانی باعث شده تا چت‌بات‌ها به جای ارائه یک پاسخ جامع در جواب چند سوال، پله‌پله به سوالات پاسخ می‌دهند. این کار به شرکت‌هایی مثل اوپن‌ای‌آی در مبارزه با اطلاعات نادرست و دیگر محتوای نامناسب سیستم‌ها کمک می‌کند.
 
اما پژوهشگران معتقدند که این تکنیک ممکن است پیامد‌های ناخواسته‌ای داشته باشد. برای مثال مطالعه جدیدی از دانشگاه استفورد و دانشگاه برکلی کالیفرنیا نشان می‌دهد که دقت مدل زبانی اوپن‌ای‌آی در برخی حوزه‌ها نسبت از جمله حل مسائل ریاضی، تولدی کد کامپیوتر و استدلال، ضعیف‌تر شده است.
 
با اینکه افراد زیادی در سراسر جهان به نوشتن پرامپت و پاسخ آن مشغول هستند، اما هدف اوپن‌ای‌آی یا دیگر شرکت‌ها، پیش‌نویس کردن همه چیز نیست. سیستم هوش مصنوعی در واقع الگوهای رفتاری را یاد گرفته و در شرایط متفاوت اعمال می‌کند و در نهایت این چت‌بات‌ها همه کلمات خود را با احتمالات ریاضی انتخاب می‌کنند.
 
درنتیجه راهنمایی و نصیحت انسانی حلال تمام مشکلات نیست اما در حال حاضر به محدود کردن یک سری معضلات، از جمله اطلاعات وارونه و نادرست، کمک کرده است.
 
یان لکان، پژوهشگر ارشد هوش مصنوعی در شرکت متا، باور دارد که برای اعتماد کامل به چت‌بات‌ها به تکنیک تازه‌ای نیاز است. به گفته او بازخورد انسانی «بسیار خوب عمل کرده و از چیزهای بد جلوگیری می‌کند اما بی‌نقص نیست.»
  • مشترک شوید!

    برای عضویت در خبرنامه روزانه ایستنا؛ نشانی پست الکترونیکی خود را در فرم زیر وارد نمایید. پس از آن به صورت خودکار ایمیلی به نشانی شما ارسال میشود، برای تکمیل عضویت خود و تایید صحت نشانی پست الکترونیک وارد شده، می بایست بر روی لینکی که در این ایمیل برایتان ارسال شده کلیک نمایید. پس از آن پیامی مبنی بر تکمیل عضویت شما در خبرنامه روزانه ایستنا نمایش داده میشود.

    با عضویت در خبرنامه پیامکی آژانس خبری فناوری اطلاعات و ارتباطات (ایستنا) به طور روزانه آخرین اخبار، گزارشها و تحلیل های حوزه فناوری اطلاعات و ارتباطات را در هر لحظه و هر کجا از طریق پیام کوتاه دریافت خواهید کرد. برای عضویت در این خبرنامه، مشترکین سیمکارت های همراه اول لازم است عبارت 150 را به شماره 201464 و مشترکین سیمکارت های ایرانسل عبارت ozv ictn را به شماره ۸۲۸۲ ارسال کنند. دریافت موفق هر بسته خبری که محتوی پیامکی با حجم ۵پیامک بوده و ۴ تا ۶ عنوان خبری را شامل میشود، ۳۵۰ ریال برای مشترک هزینه در بردارد که در صورتحساب ارسالی از سوی اپراتور مربوطه محاسبه و از اعتبار موجود در حساب مشترکین سیمکارت های دائمی کسر میشود. بخشی از این درآمد این سرویس از سوی اپراتور میزبان شما به ایستنا پرداخت میشود. مشترکین در هر لحظه براساس دستورالعمل اعلامی در پایان هر بسته خبری قادر خواهند بود اشتراک خود را در این سرویس لغو کنند. هزینه دریافت هر بسته خبری برای مشترکین صرفا ۳۵۰ ریال خواهد بود و این هزینه برای مشترکین در حال استفاده از خدمات رومینگ بین الملل اپراتورهای همراه اول و ایرانسل هم هزینه اضافه ای در بر نخواهد داشت.