پژوهشهای جدید حاکی از این هستند که هوش مصنوعی، سن را به عنوان یکی از راههای تبعیض به کار میبرد و به همین دلیل، به وضع کردن قوانین و اصول اخلاقی نیاز دارد.
به گزارش فوربس، یکی از نادیدهگرفتهشدهترین و فراموششدهترین انواع تبعیض، سنگرایی است. به گفته "انجمن روانشناسی آمریکا"(APA)، تعداد آمریکاییهای ۶۰ سال و بالاتر در حال افزایش است اما جامعه، جمعیت سالخورده را نمیپذیرد. علاوه بر این، انجمن روانشناسی آمریکا میگوید: افرادی که ۶۰ سال یا بالاتر هستند، چه در مبارزه با کلیشههای قدیمی و چه در تلاش برای به دست آوردن موقعیت برابر در محل کار، اغلب ممکن است خود را قربانی سنگرایی ببینند.
تعریف رسمی که توسط "سازمان جهانی بهداشت"(WHO) ارائه شده، این است که پیری مواردی را شامل میشود. سنگرایی، به کلیشهها(نحوه فکر کردن)، تعصب(چگونه احساس کردن) و تبعیض(نحوه رفتار ما) نسبت به دیگران یا خود براساس سن اشاره دارد.
توجه داشته باشید که براساس تعریف سازمان جهانی بهداشت، سنگرایی را میتوان در تمام سنین، چه جوان و چه مسن هدایت کرد. به عنوان مثال، به احتمال زیاد میتوانید موقعیتهایی را به یاد بیاورید که مربوط به سن افراد جوان است؛ مانند اظهار نظر کردن در محل کار مبنی بر اینکه یک کارمند تازهکار برای ارائه بینشهای مربوط به کار، بسیار جوان است یا اینکه مدیران کارکشته مانند حامی آنها رفتار میکنند زیرا بیجهت تصور میکنند شخصی که جوان است، هوش محیطی کمی دارد.
به خاطر داشته باشید که سنگرایی را میتوان برای افراد جوانتر و اساسا هر شخصی در هر سنی اعمال کرد. با توجه به آنچه گفته شد، بسیاری تمایل دارند که سنگرایی را به عنوان تمرکزی بر افراد مسن تعبیر کنند. بنابراین، در این گزارش به این نوع خاص از تبعیض سنی پرداخته میشود.
پژوهشگران تمایل دارند که تحقق سنگرایی را به عنوان پدیدهای که ارزش مطالعه و تحلیل متمایز دارد، بیان کنند. تحلیلهای این ایده را میتوان در مقاله سال ۱۹۶۹ دکتر "رابرت باتلر"(Robert Butler)، با عنوان "سنگرایی: شکل دیگری از تعصب"(Age-Ism: Another Form of Bigotry) مطالعه کرد.
باتلر در این مقاله پیشگام در مورد سنگرایی، انواع مختلف تبعیض مانند نژاد، جنسیت و موارد مشابه را بازگو میکند و سپس، به بیان این نکته شگفتانگیز(در آن زمان) میپردازد: در هر حال، ممکن است به زودی مجبور شویم شکلی از تعصب را که اکنون مایل به نادیده گرفتن آن هستیم، جدی بگیریم. این شکل از تعصب، تبعیض سنی یا سنگرایی است که به عنوان تعصب یک گروه سنی نسبت به گروههای سنی دیگر تعریف میشود. اگر چنین تعصبی وجود داشته باشد، آیا ممکن است به ویژه در آمریکا دیده نشود؟ جامعهای که بهطور سنتی عملگرایی، قدرت و نیروی جوان را بر تفکر، تأمل، تجربه و خرد سنی ارج نهاده است.
باتلر برای تأکید بر تأثیرات قوی و مخرب سنگرایی، این تأمل نسبتا خشن اما دقیق را در مورد این موضوع مطرح کرد و ادامه داد: سنگرایی در اظهارات تمسخرآمیز درباره انسانهای قدیمیمسلک، در آسیبپذیری ویژه سالمندان در برابر دزدی، تبعیض سنی در استخدام شدن مستقل از صلاحیت فردی و نابرابریهای احتمالی در تخصیص بودجه تحقیقاتی آشکار میشود.
تصور نکنید که پس از اظهارات باتلر در اواخر دهه ۱۹۶۰ و در دهه ۱۹۷۰ و پس از آن، سنگرایی در جامعه به طرز جادویی از بین رفته است. این گونه نیست. با یک استدلال معقول میتوان ادعا کرد که ما در حال حاضر نیز به اندازه گذشته، سنگرایی داریم. حتی شاید به خاطر جمعیت بیشتر امروزی و افزایش جمعیت سالمندان، سنگرایی بیشتر هم شده باشد.
همچنین، میتوان مخالفت کرد که ما نسبت به گذشته آگاهی بیشتری در مورد سنگرایی داریم. به علاوه قوانین و دستورالعملهای اخلاقی بیشتری در ارتباط با تشخیص سنگرایی و غلبه بر آن وجود دارد. نکته اصلی این است که اگرچه امروزه سنگرایی یک عامل نگرانکننده است اما هنوز این تمایل وجود دارد که سنگرایی را در ذهن نداشته باشیم یا باور کنیم که سنگرایی به اندازه سایر انواع تبعیض، جدی یا شایسته توجه نیست.
برای مقابله با سنگرایی چه کنیم؟
ممکن است بگویید که سنگرایی نادیده گرفته میشود و فراموش میشود. همچنین، ممکن است این پرسش ایجاد شود که در مورد سنگرایی چه کنیم.
طبق گفته سازمان جهانی بهداشت، ما باید به طور کلی سه کار را برای مبارزه با سنگرایی انجام دهیم.
۱. اتخاذ سیاستها و قوانین مناسب در خصوص غلبه بر سنگرایی
۲. تلاشهای آموزشی و اطلاعاتی مناسب در مورد سنگرایی
۳. انجام دادن مداخلات بین نسلی در زمینه سنگرایی
به عنوان یک نسخه قابل نقل کردن از بیانیه رسمی سازمان جهانی بهداشت، این چیزی است که آنها توصیه میکنند: سیاست و قانون میتواند تبعیض و نابرابری براساس سن را مورد توجه قرار دهد و از حقوق همه انسانها در همه جا محافظت کند. فعالیتهای آموزشی میتوانند با ارائه اطلاعات دقیق و مثالهای ضدکلیشهای، همدلی را افزایش دهند، باورهای غلط را در مورد گروههای سنی مختلف از بین ببرند و تعصبات را کاهش دهند. مداخلات بین نسلی که نسلهای مختلف را گردهم میآورند، میتوانند به کاهش تعصبات بین گروهی و کلیشهها کمک کنند.
هوش مصنوعی
میتوان یک عامل دیگر را نیز به ملاحظات مربوط به مقابله با سنگرایی اضافه کرد. این عامل، هوش مصنوعی است. هوش مصنوعی میتواند برای مقابله با سنگرایی و تبعیض براساس سن استفاده شود.
این موضوع ممکن است تعجبآور باشد. آیا هوش مصنوعی چیزی نیست که قهرمانانه به از بین بردن اقدامات تبعیضآمیز مانند موارد مربوط به سنگرایی کمک کند؟ مطمئنا به نظر میرسد که هوش مصنوعی باید بیشتر از این که مانعی در کاهش سنگرایی باشد، نقش کمککننده را ایفا کند اما معلوم شده است که هوش مصنوعی این پتانسیل را دارد که سنگرایی را حتی بدتر کند.
هوش مصنوعی میتواند نه تنها به افزایش سنگرایی منجر شود، بلکه ممکن است ترویج و گسترش سنگرایی را نیز افزایش دهد. در نوعی حالت استفاده دوگانه، هوش مصنوعی با گستردگی و فراگیر بودن محاسبات میتواند سنگرایی را به گونهای افزایش دهد که پیشتر هرگز تصور نمیشد.
در مجموع، سنگرایی مبتنی بر هوش مصنوعی یا تقویتشده با هوش مصنوعی، ملاحظات اخلاقی و قانونی را در مورد هوش مصنوعی افزایش میدهد.
هوش مصنوعی اخلاقی و قانون هوش مصنوعی
دوره جدید هوش مصنوعی در ابتدا به عنوان "AI For Good" در نظر گرفته شد؛ به این معنی که ما میتوانیم از هوش مصنوعی برای بهبود بشریت استفاده کنیم. پس از AI For Good متوجه شدیم که ما در "AI For Bad" نیز غوطهور هستیم. این مورد شامل هوش مصنوعی میشود که تبعیضآمیز است و انتخابهای محاسباتی را با تعصبات ناروا میآمیزد.
در حال حاضر، هیچ هوش مصنوعی وجود ندارد که دستخوش احساسات باشد اما نمیدانیم که آیا هوش مصنوعی دستخوش احساسات خواهد شد یا خیر.
هوش مصنوعی که این گزارش روی آن تمرکز دارد، هوش مصنوعی غیر حساسی است که امروز در اختیار داریم. اگر بخواهیم در مورد هوش مصنوعی حساس حدس بزنیم، این بحث میتواند در جهتی کاملا متفاوت پیش برود. این نوع هوش مصنوعی ظاهرا یک هوش مصنوعی با کیفیت انسانی خواهد بود. باید در نظر داشت که هوش مصنوعی حساس، معادل توانایی شناختی یک انسان است. علاوه بر این، از آنجا که برخی گمان میکنند که ممکن است هوش مصنوعی فوق هوشمند داشته باشیم، میتوان تصور کرد که چنین هوش مصنوعی ممکن است در نهایت از انسانها باهوشتر باشد.
بهتر است که هوش مصنوعی محاسباتی غیر حساس امروزی را در نظر بگیریم. هوش مصنوعی امروزی به هیچ وجه قادر به فکر کردن در حد تفکر انسان نیست. وقتی با دستیار صوتی "الکسا"(Alexa) یا "سیری"(Siri) در تعامل قرار میگیرید، ظرفیتهای مکالمه ممکن است شبیه به ظرفیتهای انسانی به نظر برسند اما واقعیت این است که این ظرفیتها محاسباتی و فاقد شناخت انسانی هستند. دوره جدید هوش مصنوعی، استفاده گستردهای از یادگیری ماشینی و یادگیری عمیق کرده است که تطبیق الگوی محاسباتی را به کار میبرند. این امر به ارائه سیستمهای هوش مصنوعی انجامیده است که ظاهری شبیه به انسان دارند. در عین حال، هیچ هوش مصنوعی وجود ندارد که شباهتی به عقل سلیم داشته باشد و شگفتیهای شناختی تفکر قوی انسانی را شامل شود.
مراقب انسانانگاری هوش مصنوعی امروزی باشید!
"ML/DL" نوعی تطبیق الگوی محاسباتی است. روش معمول این است که شما دادهها را در مورد یک موضوع جمعآوری میکنید. سپس، دادهها را به مدلهای رایانهای ML/DL وارد میکنید. این مدلها به دنبال یافتن الگوهای ریاضی هستند. پس از یافتن چنین الگوهایی، سیستم هوش مصنوعی هنگام مواجهه با دادههای جدید از آنها استفاده خواهد کرد. پس از ارائه دادههای جدید، الگوهای مبتنی بر دادههای قدیمی برای ارائه یک تصمیم کنونی اعمال میشوند.
میتوان حدس زد که این راه به کجا میرود. اگر انسانهایی که تصمیمگیریها را الگوپردازی میکنند، سوگیریهای نامطلوب داشته باشند، این احتمال وجود دارد که دادهها نیز سوگیریها را به روشهای ظریف اما قابل توجهی منعکس کنند. تطبیق الگوی محاسباتی یادگیری ماشینی یا یادگیری عمیق، به سادگی سعی میکند تا دادهها را به صورت ریاضی تقلید کند. هیچ شباهتی با عقل سلیم یا سایر جنبههای حساس در مدلسازی مبتنی بر هوش مصنوعی به خودی خود وجود ندارد.
علاوه بر این، توسعهدهندگان هوش مصنوعی نیز ممکن است متوجه نباشند که چه اتفاقی در حال رخ دادن است. ریاضیات محرمانه در ML/DL ممکن است کشف سوگیریهای پنهان را در حال حاضر دشوار کند. این امید و انتظار وجود دارد که توسعهدهندگان هوش مصنوعی، سوگیریهای نهان را آزمایش کنند اما این کار دشوارتر از آن چیزی است که به نظر میرسد. یک احتمال قوی وجود دارد که حتی با آزمایش نسبتا گسترده نیز سوگیریهایی در مدلهای تطبیق الگوی ML/DL وجود داشته باشند.
همه این موارد، پیامدهای قابل توجه اخلاق هوش مصنوعی را نشان میدهند و حاکی از اهمیت تلاش برای قانونگذاری در مورد هوش مصنوعی هستند.
علاوه بر به کارگیری اصول اخلاقی هوش مصنوعی به طور کلی، یک پرسش نیز در رابطه با این موضوع وجود دارد که آیا ما باید قوانینی را برای کنترل کاربردهای مختلف هوش مصنوعی داشته باشیم یا خیر. قوانین جدیدی در سطوح فدرال، ایالتی و محلی وضع میشوند که به محدوده و ماهیت چگونگی ابداع هوش مصنوعی مربوط هستند. تلاش برای تدوین و تصویب چنین قوانینی، تدریجی است. اخلاق هوش مصنوعی حداقل به عنوان یک توقفگاه عمل میکند و تقریباً تا اندازهای مستقیما در آن قوانین جدید گنجانده میشود.
برخی قاطعانه استدلال میکنند که ما به قوانین جدیدی که هوش مصنوعی را پوشش میدهند، نیازی نداریم و قوانین موجود کافی هستند. آنها پیشبینی میکنند که اگر برخی از این قوانین هوش مصنوعی را به اجرا بگذاریم، با مهار پیشرفتهای هوش مصنوعی که مزایای اجتماعی قابل توجهی را ارائه میدهد، شانس طلایی را از بین خواهیم برد.
در اینجا یک فهرست کلیدی سودمند در مورد معیارها یا ویژگیهای هوش مصنوعی اخلاقی در رابطه با سیستمهای هوش مصنوعی ارائه میشود.
شفافیت
عدالت و انصاف
عدم سوءاستفاده
مسئولیتپذیری
حریم شخصی
سود رسانی
آزادی و خودمختاری
اعتماد
پایداری
همبستگی
این اصول اخلاقی هوش مصنوعی قرار است با جدیت مورد استفاده توسعهدهندگان هوش مصنوعی، افرادی که توسعه هوش مصنوعی را مدیریت میکنند و حتی افرادی که در نهایت با سیستمهای هوش مصنوعی کار میکنند، قرار بگیرد.
همه ذینفعان در طول چرخه عمر توسعه و استفاده هوش مصنوعی، در محدوده رعایت هنجارهای تثبیتشده هوش مصنوعی اخلاقی در نظر گرفته میشوند. این نکته مهمی به شمار میرود زیرا فرض معمول این است که فقط رمزنویسها یا کسانی که هوش مصنوعی را برنامهریزی میکنند، ملزم به رعایت مفاهیم اخلاقی هوش مصنوعی هستند. برای ابداع و به کار گرفتن هوش مصنوعی در یک روستا نیاز است که کل روستا با اصول اخلاقی هوش مصنوعی آشنا باشد و از آن پیروی کند.
منشور حقوق هوش مصنوعی
"منشور حقوق هوش مصنوعی"(AI Bill of Rights)، عنوان سند رسمی دولت آمریکا با عنوان "طرح اولیه منشور حقوق هوش مصنوعی: ساخت سیستمهای خودکار برای مردم آمریکا" است که نتیجه تلاش یک ساله "دفتر سیاست علم و فناوری آمریکا"(OSTP) به شمار میرود. این سازمان، یک نهاد فدرال است که به رئیس جمهور آمریکا و اداره اجرایی این کشور در مورد جنبههای مختلف فنی، علمی و مهندسی اهمیت ملی مشاوره میدهد. از این نظر میتوان گفت که منشور حقوق هوش مصنوعی، سندی است که توسط کاخ سفید تایید شده است.
در منشور حقوق هوش مصنوعی، پنج دسته اصلی وجود دارد.
۱. سیستمهای ایمن و کارآمد
۲. حفاظت از تبعیض الگوریتمی
۳. حریم خصوصی دادهها
۴. تذکر و توضیح
۵. جایگزینهای انسانی، توجه و بازگشت
سنگرایی هوش مصنوعی
پیش از این که به سنگرایی هوش مصنوعی بپردازیم، باید چند اخطار و نظر حیاتی را در نظر بگیریم. وقتی صحبت از سنگرایی هوش مصنوعی پیش میآید، گاهی اوقات این موضوع به اشتباه تفسیر میشود تا ظاهرا نشان دهد که افراد براساس سن خود نسبت به هوش مصنوعی، تبعیضآمیز برخورد میکنند. پژوهشهای بسیاری در مورد این موضوع انجام شده است که سن چگونه میتواند عاملی در انتخاب نحوه استفاده از هوش مصنوعی باشد و این که آیا تمایلی برای اعتماد کردن به هوش مصنوعی یا اعتقاد به استفاده از آن وجود دارد یا خیر.
ما میتوانیم این تصور را که هوش مصنوعی دارای سوگیریهای مرتبط با سن افراد است، بلافاصله کنار بگذاریم. اکنون نیازی نیست در مورد این موضوع صحبت کنیم که آیا هوش مصنوعی هوشیار، براساس سن افراد نسبت به آنها تبعیضآمیز خواهد بود یا خیر. اگر ما به هوش مصنوعی دست پیدا کنیم، مطمئنا احتمال چنین ذهنیت تبعیضآمیزی وجود خواهد داشت اما اگر به هوش مصنوعی فوق هوشمند دست یابیم، همیشه این امید وجود دارد که از انسانها باهوشتر باشد و هرگونه تبعیض را قاطعانه رد کند.
فرض کنید یک شرکت تصمیم میگیرد هوش مصنوعی را به کار بگیرد تا به استخدام کمک کند. توسعهدهندگان هوش مصنوعی، از یادگیری ماشینی و یادگیری عمیق استفاده میکنند. در این حالت، هزاران داده به دست آمده از پایگاههای داده موجود این شرکت برای آموزش هوش مصنوعی استفاده میشود. تمام استخدامهای انجامشده در چهل سال گذشته تاریخ شرکت، به ML/DL انتقال مییابند.
پس از تنظیم ML/DL، اکنون سیستمی برای مدیرانی که به دنبال استخدام هستند، در دسترس قرار دارد. مدیران، رزومه یک متقاضی را در هوش مصنوعی وارد میکنند. هوش مصنوعی، امتیازی را نشان میدهد که میگوید آیا متقاضی برای استخدام شایسته است یا خیر. اگر امتیاز پایین باشد، مدیر قرار است متقاضی را به طور کامل رد کند. نیازی به تلف کردن زمان برای کسی نیست که هوش مصنوعی توصیه میکند ارزشی ندارد.
این کار در ابتدا یک روش عالی برای صرفهجویی در زمان شرکت به نظر میرسد. دیگر نیازی به کاوش در فهرست متقاضیانی وجود ندارد که هوش مصنوعی از نظر ریاضی و محاسباتی مشخص کرده که برای کار در شرکت قابل اعتماد نیستند. مدیران میتوانند از زمان گرانبها و محدود خود فقط برای بررسی دقیق متقاضیانی استفاده کنند که امتیاز کافی را توسط هوش مصنوعی کسب کردهاند. روند استخدام، چندین برابر بهبود یافته است و همه خوشحال هستند.
پس از ممیزی هوش مصنوعی، کاشف به عمل میآید که دادههای قدیمی مورد استفاده برای آموزش هوش مصنوعی شامل استخدام افراد بالای ۶۰ سال نمیشوند. هر کسی که ۶۰ سال یا بالاتر باشد، به طور مستقیم امتیاز بسیار پایینی میگیرد زیرا متقاضیان فقط براساس فاکتور سن، توسط هوش مصنوعی بررسی شدهاند.
بدین ترتیب، ممکن است این شرکت در تمام مدت دارای یک گرایش نامشخص تبعیض سنی بوده باشد. این نکته در هیچ دفترچه استخدامی چاپ نشده و هیچکس این موضوع را با صدای بلند هنگام انجام گرفتن فرآیند استخدام نگفته است. دادههای ارائهشده در نهایت این سوگیری را در سکوت نشان دادهاند.
احتمال دیگری مبنی بر این که سنگرایی آشکاری در جریان دارد نیز نگرانکننده است. از این نظر، هوش مصنوعی مبتنی بر همان سوگیری است و این کار را از طریق تجزیه و تحلیل دادههای ریاضی انجام میدهد؛ نه به دلیل یک هدف آشکار در برنامهنویسی.
مطمئنا این امکان وجود دارد که یک سیستم هوش مصنوعی به طور هدفمند برای سنگرایی برنامهریزی شود. بنابراین، حتی اگر از دادههای قدیمی برای آموزش استفاده نشود، یک توسعهدهنده هوش مصنوعی میتواند رمزی را بنویسد که شامل جنبههای سنی باشد. توسعهدهندگان هوش مصنوعی ممکن است آگاه باشند که این کار انجام میشود یا ممکن است ندانند که شیوه رمزنویسی آنها عنصری از سنگرایی را به هوش مصنوعی وارد میکند.
شرایطی وجود دارد که توسط تمایلات ضمنی یا آشکار شکل گرفته است.
هوش مصنوعی که براساس دادههای قدیمی است، بر سنگرایی ضمنی تمرکز دارد.
هوش مصنوعی که براساس دادههای قدیمی است، بر سنگرایی آشکار تمرکز دارد.
هوش مصنوعی که توسط توسعهدهندگان برنامهریزی شده، شامل رمزگذاری سنی ضمنی است.
هوش مصنوعی که توسط توسعهدهندگان برنامهریزی شده، شامل رمزگذاری سنی آشکار است.
انتظار برای ممیزیهای هوش مصنوعی تا مدتها پس از ابداع یا استفاده از آن، برای یک شرکت مشکلساز خواهد بود. زمانی که هوش مصنوعی مورد استفاده قرار بگیرد، متقاضی به دلیل سنگرایی در هوش مصنوعی، مورد تبعیض قرار میگیرد. افرادی که مورد تبعیض قرار میگیرند، میتوانند خسارات ناشی از سنگرایی را از شرکت طلب کنند.
شرکتهایی که در این زمینه همکاری نکنند، خود را در معرض خطرات و بدهیهای زیادی قرار میدهند. یکی از جنبههای آشکار این است که شرکت پس از انتشار اخباری مبنی بر تبعیضآمیز بودن استخدام براساس سنگرایی، متحمل ضرر و اعتبار خواهد شد. همچنین، این امر میتواند دعوای قضایی را در پی داشته باشد. دفاع از مواضع یا حل و فصل مشکلات بعدی، هزینهبر است.
قوانین موجود در کنار قوانین جدید متمرکز بر هوش مصنوعی میتوانند به اجرا درآیند. ممکن است علیه شرکت و مدیران آن، اتهاماتی مطرح شود. دولت میتواند از همه اهرمهای نظارتی برای مقابله با هر شرکتی استفاده کند که تبعیض سنی را با استفاده از هوش مصنوعی نشان داده است. این موارد در حال حاضر، توجه عمومی زیادی را به خود جلب میکنند و به ویژه تیترها را به خود اختصاص میدهند.
بسیاری از مدیران میگویند کاملا تعجب کردهاند از این که دیدهاند هوش مصنوعی برای جلوگیری از استخدام افراد مسنتر ابداع شده است و از آن غافل هستند. آنها ادعا میکنند که برای اطمینان از عدم وجود چنین گرایش تبعیضآمیزی، کاملا به سازنده نرمافزار هوش مصنوعی اعتماد کردهاند و به عنوان مدیران پرمشغله، فرصتی برای بررسی چنین جزئیاتی نداشتهاند.
در هر حال، این بهانه نمیتواند تقصیر آنها را برطرف کند. اگر هوش مصنوعی مورد استفاده شما قرار گرفته باشد، به نوعی مالک آن هستید. اگر هوش مصنوعی پیش از ورود شما کار گذاشته شده باشد، همچنان مالک آن هستید. بهترین گزینه این است که فورا ممیزیهای هوش مصنوعی را انجام دهید.
جنبه دیگر شامل اطمینان از شناسایی و حذف هر گونه تعصبات مربوط به سن در هوش مصنوعی در آغاز کار است. آن دسته از مدیرانی که مجوز استفاده یا خرید هر نوع فناوری مرتبط با استخدام منابع انسانی را دارند، باید دقت لازم را در ابتدای کار داشته باشند.
سنگرایی هوش مصنوعی میتواند به طرق مختلف دیگری نیز وجود داشته باشد. مثالها تا اینجا در مورد استخدام بود. مشکل این است که فرصتهای زیادی برای اعمال سنگرایی در یک شرکت وجود دارد. هنگام انجام دادن تبلیغات، تصمیمگیری در مورد اینکه چه کسی آموزش یا سایر مزایای شرکت را دریافت کند و همچنین در مورد اخراجها ممکن است سنگرایی اعمال شود. هرگونه استفاده از هوش مصنوعی برای هر نوع عملکرد مرتبط با شغل، آسیبپذیر است و میتواند منبعی پنهان از سنگرایی هوش مصنوعی باشد.
سنگرایی هوش مصنوعی را میتوان پنهان کرد. در واقع، این یکی از موذیانهترین جنبههای استفاده از هوش مصنوعی و پتانسیل سنی آن است. یک مدیر که در حال پیر شدن است، شاید در این دام گرفتار شود. سیستم هوش مصنوعی که یک جعبه سیاه است، میتواند این کار را انجام دهد و در عین حال، هیچکس از نحوه عملکرد آن آگاه نباشد.
یک پژوهش جدید که به موضوع سنگرایی هوش مصنوعی اختصاص داده شده است، سکوی پرش سودمند و مهمی را برای کسانی فراهم میکند که علاقمند به دنبال کردن این حوزه مورد نیاز و در حال رشد هستند. شکی وجود ندارد که سنگرایی هوش مصنوعی، روزبهروز بدتر میشود.
"جاستینا استیپینسکا"(Justyna Stypinska)، پژوهشگر این پروژه که با عنوان "عصر هوش مصنوعی: نقشه حیاتی برای مطالعه تبعیض سنی و محرومیت در جوامع دیجیتالی" در مجله "AI & Society" به چاپ رسیده است، گفت: سنگرایی هوش مصنوعی را میتوان به عنوان رویهها و ایدئولوژیهایی تعریف کرد که در حوزه هوش مصنوعی فعالیت میکنند. آنها علایق، تجربیات و نیازهای جمعیت مسنتر را حذف میکنند یا نادیده میگیرند. این موارد را میتوان در پنج دسته به هم پیوسته نشان داد. ۱. سوگیریهای سنی در الگوریتمها و مجموعه دادهها(سطح فنی) ۲. کلیشههای سنی، پیشداوریها و ایدئولوژیهای موثر در هوش مصنوعی(سطح فردی) ۳. نامرئی بودن سالمندی در گفتمانهای مربوط به هوش مصنوعی(سطح گفتمانی) ۴. اثرات تبعیضآمیز استفاده از فناوری هوش مصنوعی در گروههای سنی مختلف(سطح گروهی) ۵. محرومیت به عنوان کاربران فناوری، خدمات و محصولات هوش مصنوعی(سطح کاربری).
این پنج دسته، چارچوبی کارآمد برای فکر کردن در مورد چگونگی بررسی و در نهایت مبارزه با سنگرایی هوش مصنوعی در همه انواع و اندازهها هستند.
به عنوان مثال، در نظر بگیرید که هوش مصنوعی چگونه متناسب با نیازهای افراد مسن ابداع شده و در عین حال ممکن است بدون درک درست از معنای همسویی با نیازهای مربوطه آنها کار کند. این مشکل در حال حاضر در زمینه حملونقل اتفاق میافتد؛ مانند ظهور خودروهای خودران مبتنی بر هوش مصنوعی که افرادی را مد نظر قرار میدهند که به تسهیلات کمکی زندگی نیاز دارند. به همین ترتیب، مسکن هوشمند نیز وجود دارد که متشکل از اقامتگاههایی است که برای ارائه کمکهای تخصصی به افراد مسن طراحی شدهاند.
استیپینسکا ادامه داد: استدلال من این است که جمعیت مسن، یک گروه و دسته اجتماعی است که نه تنها از فرآیندهای توسعه و استقرار هوش مصنوعی حذف میشود، بلکه در بحثهای پیرامون هوش مصنوعی اخلاقی، فراگیر و منصفانه نیز نامرئی است.
استیپینسکا با تاکید بر اینکه سنگرایی ناگزیر به عنوان یک نگرانی برای همه ما در نظر گرفته میشود، گفت: سنگرایی تنها تعصبی است که ناگزیر بر همه افراد، صرف نظر از جنسیت، نژاد، یا ویژگیهای دیگر تأثیر میگذارد. بهرغم ماهیت فراگیر آن، هنوز هم نوعی تبعیض است که به آسانی به عنوان تبعیض جنسی یا نژادپرستی شناخته نمیشود زیرا اغلب به شیوهای ظریفتر و در عین حال مخرب عمل میکند.
هدف گزارش این نیست که کسی را بترساند تا از سنگرایی هوش مصنوعی آگاه شود. واقعیت این است که سنگرایی هوش مصنوعی، به طور کلی ناشناخته است و ما باید هر کاری که میتوانیم انجام دهیم تا این موضوع را به یک موضوع اصلی تبدیل کنیم و روشهای بیشماری را مورد بررسی قرار دهیم که هوش مصنوعی به واسطه آنها اقدامات تبعیضآمیز را انجام میدهد.