لبه تکنولوژی

June 22, 2022
17:57 چهارشنبه، 1ام تیرماه 1401
کد خبر: 136942

ربات‌ها تعصبات جنسیتی و نژادی دارند!

بررسی جدید پژوهشگران آمریکایی نشان می‌دهد که ربات‌های مبتنی بر هوش مصنوعی، به تعصبات جنسیتی و نژادی دچار هستند.
به گزارش نیوزازی، یک پژوهش جدید نشان می‌دهد رباتی که با یک سیستم هوش مصنوعی مبتنی بر اینترنت کار می‌کند، بیشتر از زنان به مردان و بیشتر از رنگین‌پوستان به سفیدپوستان جذب می‌شود و پس از بررسی چهره افراد، به نتیجه‌گیری در مورد شغل آنها می‌رسد.
 
این پژوهش که توسط پژوهشگران "دانشگاه جانز هاپکینز" (JHU)، "مؤسسه فناوری جورجیا" (Georgia Tech) و "دانشگاه واشنگتن"(UW) انجام شده است، نخستین پژوهشی به شمار می‌رود که نشان می‌دهد ربات‌های بارگذاری‌شده با یک مدل پذیرفته‌شده و پرکاربرد هوش مصنوعی، با تعصبات جنسیتی و نژادی قابل‌توجهی عمل می‌کنند.
 
"اندرو هانت"(Andrew Hundt)، پژوهشگر مؤسسه فناوری جورجیا گفت: این ربات، کلیشه‌هایی را از طریق مدل‌های معیوب شبکه عصبی یاد گرفته است. ما در معرض خطر ایجاد نسلی از ربات‌های نژادپرست و جنسیت‌گرا قرار داریم اما مردم و سازمان‌ها بدون پرداختن به چنین معضلاتی، به این نتیجه رسیده‌اند که ابداع این محصولات مشکلی ندارد.
 
کسانی که مدل‌های هوش مصنوعی را برای شناسایی انسان‌ها و اشیاء می‌سازند، اغلب به مجموعه گسترده‌ای از داده‌ها روی می‌آورند که به صورت رایگان در اینترنت در دسترس هستند اما اینترنت، محتوای نادرست و آشکارا مغرضانه را نیز در بر دارد. این بدان معناست که هر الگوریتمی که با استفاده از این مجموعه داده‌ها ساخته می‌شود، می‌تواند با مشکلات مشابهی همراه باشد. پژوهشگران در این پروژه، شکاف‌های نژادی و جنسیتی را در فناوری‌های تشخیص چهره و همچنین در یک شبکه عصبی نشان داده‌اند.
 
ربات‌ها به این شبکه‌های عصبی تکیه می‌کنند تا یاد بگیرند که چگونه اشیا را بشناسند و با جهان تعامل داشته باشند. با توجه به اینکه چنین سوگیری‌هایی می‌تواند برای ماشین‌های مستقلی که بدون راهنمایی انسان به تصمیم‌گیری می‌پردازند، معنی داشته باشد، هانت و گروهش تصمیم گرفتند یک مدل هوش مصنوعی قابل دانلود برای ربات‌ها را آزمایش کنند که با شبکه عصبی موسوم به "CLIP" ساخته شده است تا به ماشین‌ها در دیدن و شناسایی اشیاء کمک کند.
 
ربات وظیفه داشت اشیاء را در یک جعبه قرار دهد. این اشیاء، قطعاتی با صورت‌های مختلف انسانی بودند که به چهره‌های چاپ‌ شده روی جعبه‌های محصول و جلد کتاب شباهت داشت.
 
پژوهشگران، چندین بار مشاهده کردند که ربات بر مبنای جنسیت و نژاد تصمیم‌گیری می‌کند. این ربات نمی‌توانست بدون تعصب کار کند و اغلب از کلیشه‌های مهم و آزاردهنده‌ای پیروی می‌کرد.
 
پژوهش، این یافته‌های کلیدی را نشان داد.
 
ربات، مردان را تا هشت درصد بیشتر از زنان انتخاب کرد.
مردان سفیدپوست و آسیایی، بیشتر انتخاب شدند.
زنان سیاه‌پوست، کمتر انتخاب شدند.
هنگامی که ربات چهره افراد را دید، زنان را به عنوان خانه‌دار تشخیص داد؛ مردان سیاه‌پوست را ۱۰ درصد بیشتر از مردان سفیدپوست به عنوان جنایتکار معرفی کرد و مردان لاتین‌تبار را ۱۰ درصد بیشتر از مردان سفیدپوست به عنوان سرایدار تشخیص داد.
زمانی که ربات به دنبال پزشک می‌گشت، زنان را کمتر از مردان انتخاب می‌کرد.
"ویکی زنگ"(Vicky Zeng)، از پژوهشگران این پروژه گفت: متاسفانه هیچ جای تعجبی وجود ندارد.
 
در حالی که شرکت‌ها برای تجاری‌سازی رباتیک رقابت می‌کنند، پژوهشگران معتقدند که مدل‌هایی با این نوع نقص‌ها می‌توانند اساسی برای ربات‌هایی باشند که برای استفاده در خانه‌ها و محل‌های کار مانند انبارها طراحی شده‌اند.
 
زنگ گفت: شاید ربات در یک خانه، عروسک سفید را برای کودکی انتخاب کند که عروسک زیبا می‌خواهد. همچنین، شاید در انباری که محصولات زیادی با مدل‌هایی روی جعبه وجود دارد، ربات بیشتر به محصولاتی دست ببرد که مدل‌هایی با صورت‌های سفید روی آن‌ها هستند.
 
پژوهشگران خاطرنشان کردند که برای جلوگیری از پذیرش و اجرای مجدد این کلیشه‌های انسانی توسط ماشین‌های آینده، اجرای تغییرات سیستماتیک در تحقیقات و شیوه‌های تجاری مورد نیاز است.
  • مشترک شوید!

    برای عضویت در خبرنامه روزانه ایستنا؛ نشانی پست الکترونیکی خود را در فرم زیر وارد نمایید. پس از آن به صورت خودکار ایمیلی به نشانی شما ارسال میشود، برای تکمیل عضویت خود و تایید صحت نشانی پست الکترونیک وارد شده، می بایست بر روی لینکی که در این ایمیل برایتان ارسال شده کلیک نمایید. پس از آن پیامی مبنی بر تکمیل عضویت شما در خبرنامه روزانه ایستنا نمایش داده میشود.

    با عضویت در خبرنامه پیامکی آژانس خبری فناوری اطلاعات و ارتباطات (ایستنا) به طور روزانه آخرین اخبار، گزارشها و تحلیل های حوزه فناوری اطلاعات و ارتباطات را در هر لحظه و هر کجا از طریق پیام کوتاه دریافت خواهید کرد. برای عضویت در این خبرنامه، مشترکین سیمکارت های همراه اول لازم است عبارت 150 را به شماره 201464 و مشترکین سیمکارت های ایرانسل عبارت ozv ictn را به شماره ۸۲۸۲ ارسال کنند. دریافت موفق هر بسته خبری که محتوی پیامکی با حجم ۵پیامک بوده و ۴ تا ۶ عنوان خبری را شامل میشود، ۳۵۰ ریال برای مشترک هزینه در بردارد که در صورتحساب ارسالی از سوی اپراتور مربوطه محاسبه و از اعتبار موجود در حساب مشترکین سیمکارت های دائمی کسر میشود. بخشی از این درآمد این سرویس از سوی اپراتور میزبان شما به ایستنا پرداخت میشود. مشترکین در هر لحظه براساس دستورالعمل اعلامی در پایان هر بسته خبری قادر خواهند بود اشتراک خود را در این سرویس لغو کنند. هزینه دریافت هر بسته خبری برای مشترکین صرفا ۳۵۰ ریال خواهد بود و این هزینه برای مشترکین در حال استفاده از خدمات رومینگ بین الملل اپراتورهای همراه اول و ایرانسل هم هزینه اضافه ای در بر نخواهد داشت.