تلاش IBM برای مبارزه با تبعیض بواسطه هوش مصنوعی
صنعت تبلیغات یکی از صنایع پردرآمد جهان است و در قرن ۲۱ تبلیغات دیجیتال با روش‌هایی مثل تبلیغات هدفمند و رفتارشناسی کاربران به یکی از پربازده ترین روش‌های تبلیغات تبدیل شده و سهم خود در تبلیغات را افزایش داده است. گزارشها نشان می‌ددهد که تبلیغات در این بازار دچار تبعیض‌هایی شده است که کار را برای گروهی نسبت به گروه دیگر سختر‌تر می‌کند. حال شرکت IBM در حال توسعه ابزار‌هایی است که تضمین می‌کند الگوریتم‌های تبلیغات آنلاین را به صورت غیرمنصفانه نمایش ندهند و قرار است نگرانی‌های موجود درمورد تبعیض در این صنعت با کمک هوش مصنوعی رفع کند.
طبق گزارش استاتیستا (Statista) در سراسر جهان نزدیک به ۳۸۰ میلیارد دلار صرف تبلیغات دیجتال شده است و این آمار هر سال در حال رشد است و موضوعی مثل پاندمی کرونا که بسیاری از تجارت‌ها را با مشکل مواجه کرد بر این بخش تاثیری نداشته و حتی می‌توان گفت حکم شتاب دهنده را داشته است.
اما در یک دهه اخیر ناظران بازار متوجه یک سری تبعیض‌ها علیه گروه‌ها و گاهی اقلیت‌ها شده‌اند که شاید برای شرکت‌ها بازده مالی داشته باشد اما از لحاظ اخلاقی، اجتماعی و در برخی موارد قانونی درست نیست.
براساس گزارش رویترز، شرکت IBM در حال توسعه ابزار‌هایی است که تضمین می‌کند الگوریتم‌های تبلیغات آنلاین تبلیغات را به صورت غیرمنصفانه به گروه‌های خاصی مثل عمدتا مرد یا ثروتمند نمایش ندهند و قرار است نگرانی‌های موجود درمورد تبعیض در این صنعت را رفع کند.
این شرکت روز پنجشنبه ۲۴ ژوئن در مصاحبه با رویترز اعلام کرد که تیمی متشکل از ۱۴ نفر مسئله «انصاف» در تبلیغات را به مدت شش ماه بررسی کرده و روش‌های شناسایی و جلوگیری از تبعیض ناخواسته از جمله در مخاطبان و پیغام‌ها را بررسی می‌کنند.
محققان و گروه‌های حقوق بشری در مطالعات مختلف دریافتند که مخاطبانی مثل سیاه پوستان یا بانوان از تبلیغاتی مثل مشاغل، مسکن و برخی تبلیغات دیگر کنار گذاشته می‌شوند.
در سال ۲۰۱۶ پروپابلیکا (ProPublica)، یک مرکز خبری خیریه که موضوعات مربوط به منافع اجتماعی را بررسی می‌کند، نگاه دقیقی به پلتفرم تبلیغاتی فیسبوک که یکی از بزرگترین بازیگران تبلیغات دیجیتال است داشت و نشان داد که ابزار‌های هدفگیری تبلیغات این شرکت به خریداران تبلیغات اجازه می‌دهد تا سیاه پوستان را از تبلیغات تبلیغات فروش مسکن مستثنی کنند که نقض قوانین فدرال است. فیسبوک در آن زمان گزینه‌هایی را تحت عنوان «قرابت قومی» برای هدفگیری تبلیغات داشت و مدعی بود که قرابت قومی کاربر برای یک سری صفحات، گروه‌ها و دیگر محتوای فیسبوک ارتباطی با پس زمینه نژادی یا مذهبی آنها ندارد.
مطالعه دیگری از پروپابلیکا نشان داد که هدف گیری تبلیغات براساس جغرافیا باعث شده تا آسیایی‌های ساکن آمریکا برای محصولی یکسان قیمت پیشنهادی بالاتری را نسبت به دیگر شهروندان آمریکایی دریافت کنند.
مطالعه دیگری توسط مجله تجاری هاروارد (HBR) نشان داد که چطور تصمیم گیری الگوریتم درمورد قیمت‌ها باعث تبعیض میشود. آنها با بررسی پاسخ مردم آمریکا به پیشنهادهای قیمت تایید کردند که «افراد مناطق ثروتمند نسبت به مناطق فقیر پاسخ بهتری نسبت به تخفیف‌های تجارت الکترونیک داشتند و از آنجایی که الگوریتم‌های قیمت به گونه‌ای طراحی شده‌اند که به کاربرانی با بیشترین احتمال پاسخ تخفیف پیشنهاد دهند»، پس تخفیف بیشتر و قیمت‌های بهتری به افراد پر درآمد پیشنهاد میشود.
پروپابلیکا و چند مرجع خبری دیگر در چندین گزارش نشان دادند که این ابزار‌ها به خریداران تبلیغات اجازه می‌دهد تا گروه‌های قومی مختلفی از جمله گروه‌های قومی، مذهبی و دیگر دسته‌های محافظت شده را نه تنها در تبلیغات مسکن، بلکه در تبلیغات کاری و بیمه نیز نادیده بگیرند. بررسی‌های بیشتر نشان داد که تکنیک‌هایی مثل استفاده از کد پستی و دیگر تکنیک‌های هدف گیری به خریداران تبلیغات اجازه می‌داد یک سری مناطق جغرافیایی را نادیده بگیرند.
فیسبوک و گوگل نهایتا در توافقی با واشنگتن استفاده از دسته بندی‌های نژادی و مذهبی را برای هدف گیری تبلیغات ممنوع کردند و متعهد شدند که با تبعیض‌هایی براساس وضعیت نظامی، نقص عضو، محل تولد و جهت گیری‌های جنسی مقابله کنند.
با وجود تلاش این شرکت‌ها، مشکل همچنان باقی است و مسئله نگرانی درمورد حریم خصوصی داده نیز شکل تازه‌ای به بازار اینترنت می‌دهد.
باب لورد، نماینده ارشد IBM، در مصاحبه با رویترز می‌گوید: «بنیان تبلیغات به مشکل خورده و ما باید این خانه را از نو بسازیم. حالا که باید این کار را انجام دهیم بیایید انصاف را در قلب آن قرار دهیم.»
رابرد ردموند، مسئول طراحی هوش مصنوعی برای تبلیغات، بررسی‌های اولیه IBM روی خرید تبلیغات همین شرکت نشان داد که می توان تبلیغات را منصفانه به تمامی گروه‌ها نمایش داد و این موضوع تاثیری بر شاخص‌هایی مثل درصد کاربرانی که روی تبلیغات کلیک می‌کنند ندارد.
ردموند در یک مثال فرضی توضیح داد که اگر یک تبلیغ کننده در وضعیت فعلی تصمیم بگیرد که تبلیغات را تنها به مردان آمریکایی نمایش دهد، تبلیغات احتمالا به ساکنان شهر‌های بزرگ و سفید پوستان نمایش داده میشود زیرا این افراد بیشتر روی تبلیغات کلیک می‌کنند. IBM در حال بررسی است که آیا برنامه‌های هوش مصنوعی می‌توانند این موضوع را شناسایی و سپس تبلیغات را به صورتی برابر هدایت کنند.
این شرکت سپس داده‌های مربوط به بیانیه‌های عمومی کنسول تبلیغات درمورد واکسن‌های کوئید-۱۹ را بررسی کند. لیزا شرمن، نماینده و مدیر اجرایی این کنسول، می‌گوید: «تبعیض سیستماتیک متاسفانه در هر گوشه و کناری از صنعت تبلیغات دیده میشود. ما امیدواریم که این تحقیقات گام‌هایی که ما برای رفع تبعیض ناخواسته برمی‌داریم را تایید و قسمت‌هایی که ما و دیگران باید به اصلاح آن بپردازیم را مشخص کنند.»