فناوری اطلاعات

January 21, 2023
11:08 شنبه، 1ام بهمنماه 1401
کد خبر: 142496

کارگران کنیایی با حقوق ناچیز، عامل سلامت چت بات ChatGPT

مجله‌ی تایم در گزارشی اختصاصی می‌گوید OpenAI برای جلوگیری از نمایش متن‌های جنسیت‌زده و نژادپرستانه در ChatGPT با کارگران کنیایی همکاری کرده است.
چت‌بات ChatGPT در سال ۲۰۲۲ به یکی از تحسین‌برانگیزترین نوآوری‌های تکنولوژیک دنیا تبدیل شد. این چت‌باتِ مبتنی‌بر هوش مصنوعی در هر حوزه‌ای که فکرش را بکنید اظهارنظر می‌کند. ChatGPT تنها یک هفته پس از انتشار عمومی، به بیش از یک میلیون کاربر دست پیدا کرد.
 
OpenAI، شرکت سازنده‌ی ChatGPT، در حال مذاکره با سرمایه‌گذاران احتمالی است تا با جذب سرمایه، به ارزش بازار ۲۹ میلیارد دلار برسد. یکی از مهم‌ترین سرمایه‌گذاری‌ها از سوی مایکروسافت انجام می‌شود. ردموندی‌ها در پی امضا قرارداد ۱۰ میلیارد دلاری با OpenAI هستند تا از ChatGPT در سرویس‌های نرم‌افزاری‌ خود استفاده کنند.
 
با جذب سرمایه، OpenAI که در سال ۲۰۱۵ در سان فرانسیسکو با هدف تولید دستگاه‌های فوق‌هوشمند بنیان‌گذاری شد، به یکی از باارزش‌ترین شرکت‌های هوش مصنوعی دنیا تبدیل می‌شود.
 
مجله‌ی تایم در گزارشی جنجالی به مسیری که OpenAI برای موفقیت طی کرده، پرداخته است. این شرکت برای کاهش خطرات و آزارهای احتمالی ناشی از ChatGPT، سراغ استخدام کارگران کنیایی با حقوق کمتر از دو دلار در ساعت رفت.
 
همکاری با کارگران کنیایی برای بهبود چت‌بات، اهمیت بسیار زیادی برای OpenAI داشت. نسخه‌ی قبلی ChatGPT که با نام GPT-3 شناخته می‌شود، توانایی خود در جمله‌بندی را به رخ کشیده بود، اما نتوانست به محبوبیت زیادی دست پیدا کند. یکی از دلایل اصلی این بود که GPT-3 گاهی اوقات اظهارات خشونت‌آمیز، جنسیت‌زده و نژادپرستانه مطرح می‌کرد.
 
GPT-3 بر پایه‌ی صدها میلیارد کلمه‌ای که در اینترنت استفاده شده بودند تعلیم داده شد. همان دیتاست بزرگ عامل پاسخ‌های هوشمندانه‌ی GPT-3 بود، اما همزمان به‌عنوان بزرگ‌ترین نقطه‌ی ضعفش شناخته می‌شد.
 
بخش‌‌های قابل‌توجهی از اینترنت شامل محتوای نژادپرستانه و تبعیض‌گرایانه است. همین موضوع باعث شد OpenAI نتواند جلوی اظهارات نژادپرستانه‌ی GPT-3 را بگیرد. تیمی متشکل‌از صدها نیروی انسانی به دهه‌ها زمان نیاز داشت تا عبارات نژادپرستانه و جنسیت‌زده را از دیتاست استفاده‌شده برای GPT-3 حذف کند. OpenAI مکانیزم ایمنی جدیدی بر پایه‌ی هوش مصنوعی توسعه داد تا مشکلات را از بین ببرد و چت‌باتی بسازد که همه بتوانند از آن استفاده کنند.
 
OpenAI برای ساخت سیستم امنیتی موردبحث از تجربیات شرکت‌هایی مثل فیسبوک استفاده کرد. شبکه‌های اجتماعی در سال‌های اخیر ثابت کرده‌اند که می‌توان با هوش مصنوعی سیستم‌هایی برای مبارزه با نفرت‌پراکنی و نژادپرستی توسعه داد.
 
طرح کلی OpenAI ساده به نظر می‌رسید: تزریق نمونه‌هایی از خشونت‌پراکنی، نفرت‌پراکنی و سوءاستفاده‌ی جنسی به یک هوش مصنوعی تا این سیستم با شناسایی محتواهای موردبحث، آن‌ها را از چت‌بات پاک کند. سیستم هوش مصنوعی قرار بود محتواهای آزاردهنده را در ChatGPT شناسایی کند و جلوی دیده شدن آن‌ها توسط کاربر را بگیرد.
 
تحقیقات مجله‌ی تایمز نشان می‌دهد OpenAI برای توسعه‌ی سیستم امنیتی‌اش، در اواخر سال ۲۰۲۱ ده‌ها هزار نمونه متن را برای یک شرکت فعال در کشور کنیا ارسال کرده است. بخش قابل‌توجهی از این متن‌ها، از تاریک‌ترین ناحیه‌های اینترنت استخراج شده بودند. برخی از این متن‌ها مباحثی مثل سوءاستفاده‌ی جنسی از کودکان، وحشی‌گری انسان‌ها، قتل، خودکشی، شکنجه، خودآزاری و محرم‌آمیزی را با جزئیات بسیار زیاد شرح می‌دادند.
 
شریک تجاری OpenAI برای توسعه‌ی سیستم امنیتی، شرکتی به نام Sama است که در سان فرانسیسکو بنیان‌گذاری شده اما در کشورهای کنیا، اوگاندا و هند کارگر استخدام می‌کند. این کارگران، داده‌ها را برای غول‌های سیلیکون ولی مثل گوگل و متا و مایکروسافت برچسب‌گذاری می‌کنند. Sama خودش را یک شرکت هوش مصنوعی «اخلاق‌مدار» خطاب می‌کند و می‌گوید بیش از ۵۰٬۰۰۰ نفر را از فقر نجات داده است.
 
تحقیقات مجله‌ی تایم نشان می‌دهد کارگران استخدام‌شده توسط Sama به نیابت از OpenAI، بسته‌به جایگاه‌ و مدت‌زمان کار، حقوق ساعتی بین ۱٫۳۲ تا دو دلار دریافت کرده‌اند. تایم می‌گوید این ادعا بر اساس مطالعه‌ی صدها صفحه از اسناد داخلی Sama و OpenAI شامل فیش حقوقی کارگران مطرح شده است. تایم همچنین با چهار کارمند Sama که روی این پروژه کار کردند مصاحبه کرد.
 
OpenAI در واکنش به افشاگری مجله‌ی تایم، در بیانیه‌ای همکاری با کارگران کنیایی Sama را تأیید کرد. این شرکت می‌گوید ابزاری که به کمک کارگران کنیایی توسعه داده شد، در نهایت به ChatGPT راه پیدا کرد.
 
یکی از کارکنان Sama که وظیفه‌ی خواندن متن‌ها و برچسب‌گذاری آن‌ها را برعهده داشته است می‌گوید پس از مطالعه‌ی متنی با محوریت رابطه‌ی جنسی یک مرد با یک سگ در برابر کودکی خردسال، بارها این صحنه را تصور کرده و آزار دیده است.
 
تایم می‌گوید به دلیل انتقادات فراوان، Sama در فوریه‌ی ۲۰۲۲ (بهمن و اسفند ۱۴۰۰) یعنی هشت ماه زودتر از حد انتظار، پروژه‌ی مشترک با OpenAI را لغو کرد. بررسی‌ها نشان می‌دهد OpenAI و Sama سه قرارداد به ارزش حدودا ۲۰۰٬۰۰۰ دلار امضا کرده بودند.
  • مشترک شوید!

    برای عضویت در خبرنامه روزانه ایستنا؛ نشانی پست الکترونیکی خود را در فرم زیر وارد نمایید. پس از آن به صورت خودکار ایمیلی به نشانی شما ارسال میشود، برای تکمیل عضویت خود و تایید صحت نشانی پست الکترونیک وارد شده، می بایست بر روی لینکی که در این ایمیل برایتان ارسال شده کلیک نمایید. پس از آن پیامی مبنی بر تکمیل عضویت شما در خبرنامه روزانه ایستنا نمایش داده میشود.

    با عضویت در خبرنامه پیامکی آژانس خبری فناوری اطلاعات و ارتباطات (ایستنا) به طور روزانه آخرین اخبار، گزارشها و تحلیل های حوزه فناوری اطلاعات و ارتباطات را در هر لحظه و هر کجا از طریق پیام کوتاه دریافت خواهید کرد. برای عضویت در این خبرنامه، مشترکین سیمکارت های همراه اول لازم است عبارت 150 را به شماره 201464 و مشترکین سیمکارت های ایرانسل عبارت ozv ictn را به شماره ۸۲۸۲ ارسال کنند. دریافت موفق هر بسته خبری که محتوی پیامکی با حجم ۵پیامک بوده و ۴ تا ۶ عنوان خبری را شامل میشود، ۳۵۰ ریال برای مشترک هزینه در بردارد که در صورتحساب ارسالی از سوی اپراتور مربوطه محاسبه و از اعتبار موجود در حساب مشترکین سیمکارت های دائمی کسر میشود. بخشی از این درآمد این سرویس از سوی اپراتور میزبان شما به ایستنا پرداخت میشود. مشترکین در هر لحظه براساس دستورالعمل اعلامی در پایان هر بسته خبری قادر خواهند بود اشتراک خود را در این سرویس لغو کنند. هزینه دریافت هر بسته خبری برای مشترکین صرفا ۳۵۰ ریال خواهد بود و این هزینه برای مشترکین در حال استفاده از خدمات رومینگ بین الملل اپراتورهای همراه اول و ایرانسل هم هزینه اضافه ای در بر نخواهد داشت.