گزارش تازه مرکز پژوهش‌های مجلس، با بررسی تأثیر هوش مصنوعی بر زنان و خانواده، نسبت به سوگیری الگوریتمی، تغییرات بازار کار، تهدیدهای حریم خصوصی، سلامت روان و گسترش دیپ‌فیک‌ها هشدار داده است.

ورود هوش مصنوعی به زندگی روزمره، مسئله سیاست‌گذاری این فناوری را به حوزه‌هایی کشانده است که در ادبیات اولیه توسعه هوش مصنوعی ایران کمتر دیده می‌شدند. گزارش تازه مرکز پژوهش‌های مجلس با عنوان «حکمرانی هوش مصنوعی ۱۳: فرصت‌ها و تهدیدهای هوش مصنوعی برای زنان و خانواده» که در روزهای اخیر منتشر شده، تلاشی برای پرکردن بخشی از همین خلأ است. گزارش با مرورپژوهی و رویکرد توصیفی تحلیلی، پیامدهای هوش مصنوعی را در حوزه‌هایی چون سوگیری الگوریتمی، اشتغال، خانواده، آموزش، سلامت، هویت و حکمرانی بررسی می‌کند و نقطه عزیمت خود را بر این فرض قرار می‌دهد که پیامدهای اجتماعی هوش مصنوعی برای گروه‌های مختلف جامعه یکسان نخواهد بود.

اهمیت این گزارش بیش از هر چیز در تغییر واحد تحلیل نهفته است. هوش مصنوعی در این گزارش یک فناوری مستقل نیست که آثار اجتماعی آن پس از توسعه بررسی شود. کیفیت داده، طراحی الگوریتم، ترکیب نیروی انسانی توسعه‌دهنده و نحوه استقرار سامانه از همان ابتدا در شکل‌دادن به پیامدهای اجتماعی دخالت دارند. مرکز پژوهش‌ها بر همین مبنا مجموعه‌ای گسترده از مسائل، شامل سوگیری داده، دگرگونی مشاغل زنان، سلامت جسمی و روانی، جعل عمیق و تحول حکمرانی را در یک چارچوب واحد قرار داده است.

سوگیری الگوریتمی تداوم چالش تبعیض

یکی از فنی‌ترین محورهای گزارش به مسئله سوگیری اختصاص دارد. مدل‌های یادگیری ماشین روابط آماری را از داده‌های آموزشی استخراج می‌کنند و همین سازوکار باعث می‌شود عدم توازن یا تبعیض موجود در داده‌های تاریخی در خروجی الگوریتم بازتولید شود. نمونه مشهور سامانه استخدامی آمازون در گزارش مورد توجه قرار گرفته است. این سامانه با داده‌های استخدامی ده ساله آموزش دیده بود که حضور مردان در مشاغل فناوری در آن بیشتر بود و در نتیجه، مدل به سمت ترجیح متقاضیان مرد سوق پیدا کرد.

مسئله در عصر هوش مصنوعی مولد دامنه گسترده‌تری پیدا می‌کند. مدل‌های زبانی و مولد تصویر می‌توانند کلیشه‌های تاریخی درباره زنان و مردان را در مقیاسی بسیار بزرگ بازتولید کنند. گزارش از این نقطه به یک نتیجه سیاستی مهم می‌رسد. بر همین اساس کیفیت حکمرانی هوش مصنوعی به کیفیت حکمرانی داده وابسته است. مجموعه‌داده‌های فراگیر، مشارکت گروه‌های متنوع در فرایند توسعه و ممیزی مستمر خروجی مدل‌ها، اجزای یک زنجیره واحد برای کنترل سوگیری هستند. گزارش در جمع‌بندی نیز بر آموزش الگوریتم‌ها با داده‌های معرف تجربیات زنان با پیشینه‌های مختلف و نظارت مستمر برای کشف خروجی‌های مغرضانه تأکید می‌کند.

هوش مصنوعی و تحول دوگانه در بازار کار زنان

دومین مسئله کلیدی مورد بررسی در این گزارش، اقتصاد کار به شمار می‌رود. ترکیب مشاغل زنان باعث می‌شود اثر اتوماسیون توزیع یکسانی نداشته باشد. فعالیت‌های اداری، دفتری و خدماتی که بخشی از اشتغال زنان را تشکیل می‌دهند در برابر خودکارسازی آسیب‌پذیری بیشتری دارند. در مقابل، همان تحول فناورانه می‌تواند امکان دورکاری، انعطاف زمانی، کارآفرینی دیجیتال و ورود به حوزه‌هایی چون تحلیل داده، بازاریابی دیجیتال و توسعه هوش مصنوعی را گسترش دهد. مرکز پژوهش‌ها از همین دوگانگی نتیجه می‌گیرد که سرنوشت اشتغال زنان در عصر هوش مصنوعی بیش از خود فناوری به سیاست مهارتی و طراحی بازار کار وابسته خواهد بود.

گزارش این مسئله را به برنامه هفتم پیشرفت پیوند می‌زند. بر همین مبنا، ماده ۷۹ برنامه بر افزایش مهارت‌های شغلی زنان و توسعه زیرساخت‌های نوآوری حوزه زنان و خانواده تأکید دارد. مسئله اساسی از نگاه نویسندگان گزارش، تبدیل این تکالیف کلی به سیاست‌های مشخص برای بازآموزی، یادگیری بلندمدت و ورود زنان به مشاغل جدید است. خلأ داده نیز این سیاست‌گذاری را دشوار کرده است. داده‌های مربوط به جنسیت، سابقه کار، مهارت، جابه‌جایی شغلی و دستمزد در بخش‌های هوش مصنوعی و علم داده پراکنده و ناکافی هستند و بدون ایجاد یک زیرساخت آماری منظم، اندازه‌گیری واقعی آثار تحول فناوری بر اشتغال زنان دشوار خواهد بود.

ورود هوش مصنوعی به خصوصی‌ترین لایه زندگی

یکی از وجوه متمایز گزارش، عبور از اقتصاد و اشتغال و ورود به ساختار خانواده است. دستیارهای هوشمند می‌توانند برنامه‌ریزی امور روزانه را تسهیل کنند و ابزارهای پایش سلامت و مراقبت از راه دور نیز بخشی از بار مراقبتی را کاهش دهند. این موضوع از آن جهت اهمیت دارد که بخش بزرگی از مراقبت از سالمندان در خانواده توسط زنان انجام می‌شود. از همین روی، سامانه‌های یادآوری دارو، دستیارهای مجازی و پایش از راه دور می‌توانند استقلال سالمندان را افزایش دهند و هم‌زمان فشار مراقبتی خانواده را کاهش دهند.

مرز مخاطره زمانی ظاهر می‌شود که ماشین از ابزار کمکی به جانشین رابطه انسانی تبدیل شود. گزارش درباره ربات‌های مراقب، همدم‌های هوشمند و وابستگی عاطفی به سامانه‌های مصنوعی هشدار می‌دهد. همین نگرانی در حوزه سلامت روان نیز تکرار می‌شود. چت‌بات‌ها ظرفیت ارائه آموزش بهداشتی و حمایت روانی دارند، اما اتکای بیش از اندازه به آن‌ها می‌تواند تعامل با متخصص و روابط انسانی واقعی را تضعیف کند. داده‌های مربوط به سلامت باروری و بیماری‌های زنان نیز از حساس‌ترین انواع داده شخصی‌ هستند و سوءاستفاده یا افشای آن‌ها پیامدهای جدی اجتماعی و روانی ایجاد می‌کند. گزارش به همین دلیل نظارت بر داده، اصلاح سوگیری، بومی‌سازی فرهنگی و زبانی و مشارکت متخصصان چندرشته‌ای را بخشی از معماری ایمنی این سامانه‌ها می‌داند.

از سواد هوش مصنوعی تا توانمندی حقوقی

گزارش آموزش را یکی از نقاط اصلی مداخله پیشگیرانه می‌بیند. تعریف ارائه‌شده از سواد هوش مصنوعی از توانایی کار با ابزار فراتر می‌رود و شناخت کاربرد، فهم سازوکار عملکرد و توان یادگیری مستمر همراه با فناوری را شامل می‌شود. در فقدان چنین سوادی، گروه‌های آسیب‌پذیر هم در برابر اطلاعات نادرست آسیب‌پذیرتر می‌شوند و هم فرصت‌های آموزشی و اقتصادی ناشی از هوش مصنوعی را از دست می‌دهند. گزارش بر همین اساس تأمین زیرساخت، آموزش رسمی و عمومی و فراهم‌کردن امکان استفاده آگاهانه از فناوری در خانواده را اجزای یک سیاست فراگیر برای توسعه هوش مصنوعی می‌داند.

این گزارش همچنین به استفاده از مدل‌های زبانی برای افزایش آگاهی حقوقی زنان می‌پردازد. دستیارهای حقوقی هوشمند می‌توانند اطلاعات شخصی‌سازی‌شده درباره حقوق شغلی، آموزشی، سلامت و خانواده ارائه کنند. در سطح کلان‌تر نیز تحلیل داده‌های مربوط به تبعیض و نقض حقوق می‌تواند الگوهای ساختاری را آشکار کند. به این ترتیب، هوش مصنوعی در منطق گزارش هم منشأ مخاطرات تازه است و هم می‌تواند به ابزار کشف و اندازه‌گیری همان مخاطرات تبدیل شود.

جعل عمیق و کاهش هزینه اعمال خشونت دیجیتال

جدی‌ترین هشدار امنیتی گزارش به قابلیت تولید دیپ فیک مبتنی بر هوش مصنوعی مولد مربوط است. کاهش هزینه تولید تصویر، صوت و ویدئوی جعلی، ابزارهایی را که پیش‌تر نیازمند توان فنی قابل توجه بودند در اختیار طیف بسیار وسیع‌تری از کاربران قرار داده است. گزارش به «جعل عمیق ترکیبی» اشاره می‌کند که در آن چند نوع محتوای جعلی به شکلی هماهنگ یکدیگر را تأیید می‌کنند و اعتبار روایی یک واقعه ساختگی را افزایش می‌دهند. طبق یکی از مطالعات مورد استناد گزارش، جعل هویت با سهم ۶۳ درصدی در میان نمونه‌های خشونت جنسیتی مبتنی بر فناوری رتبه‌بندی شده است.

پیام سیاستی این بخش روشن است و بر اساس آن، سازوکار گزارش محتوای جعلی، حمایت ویژه از قربانیان و گروه‌های آسیب‌پذیر، قواعد بازدارنده برای مرتکبان و ارتقای سواد رسانه‌ای باید هم‌زمان توسعه یابند. مسئله جعل عمیق در این چارچوب از یک مشکل محتوایی به مسئله‌ای در قلمرو امنیت فردی، حیثیت، اخاذی و حفاظت از کرامت انسانی تبدیل می‌شود.

هوش مصنوعی به‌عنوان ابزار حکمرانی زنان

گزارش در نهایت مسیر را معکوس می‌کند و می‌پرسد خود دولت چگونه می‌تواند از هوش مصنوعی برای سیاست‌گذاری استفاده کند. بر همین اساس، سه ظرفیت «شناسایی، پیش‌بینی و تصمیم‌گیری مبتنی بر داده» به دولت امکان می‌دهند الگوهای اجتماعی را کشف کند، پیامدهای سیاست‌ها را پیش‌بینی نماید و تخصیص منابع را دقیق‌تر سازد. تحلیل داده‌های مالی و اجتماعی از منظر جنسیتی نیز می‌تواند برای ارزیابی بودجه‌ها و کشف عدم تعادل‌های ساختاری به کار رود. حتی شبیه‌سازی مبتنی بر یادگیری ماشین می‌تواند پیش از اجرای سیاست‌های پرهزینه، بخشی از پیامدهای ناخواسته آن‌ها را آشکار سازد.

همین ظرفیت، یک مسئله حکمرانی بنیادی نیز ایجاد می‌کند. تصمیم دولتی باید قابل توضیح، قابل اعتراض و مسئولیت‌پذیر باشد و استفاده از مدل‌های غیرشفاف می‌تواند این الزامات را تضعیف کند. گزارش هشدار می‌دهد که سوگیری در سامانه‌های تصمیم‌گیری دولتی قادر است بی‌عدالتی موجود را به مقیاس الگوریتمی منتقل کند. بنابراین استفاده دولت از هوش مصنوعی، مستلزم استانداردهای سخت‌گیرانه‌تری در زمینه شفافیت، عدالت و مسئولیت‌پذیری است.

از «سیاست هوش مصنوعی» به «سیاست اجتماعی هوش مصنوعی»

در نهایت، مهم‌ترین دستاورد گزارش مرکز پژوهش‌های مجلس را می‌توان در تغییر صورت مسئله دید. به باور متخصصان، سیاست هوش مصنوعی زمانی کامل می‌شود که در کنار زیرساخت محاسباتی، مدل، داده و توسعه صنعتی، پیامدهای آن برای اشتغال، خانواده، سلامت، آموزش، امنیت و ساختار تصمیم‌گیری عمومی نیز وارد معماری حکمرانی شود. خود گزارش تصریح می‌کند که با وجود آغاز گام‌هایی برای تنظیم‌گری هوش مصنوعی در ایران، ابعاد اجتماعی، روانی و اخلاقی در بسیاری از اسناد موجود حضور محدودی دارند و مسئله زنان نیز هنوز جایگاه مشخصی در این ساختار پیدا نکرده است.

بر همین مبنا، بسته پیشنهادی گزارش بر گسترش سواد هوش مصنوعی، آموزش خط‌مشی‌گذاران و طراحان، نظارت بر جمع‌آوری داده، استفاده از مجموعه‌داده‌های فراگیر، ممیزی سامانه‌ها برای کشف خروجی‌های سوگیرانه و ایجاد ساختاری برای توجه نظام‌مند به ابعاد اخلاقی متمرکز شده است. مسئله‌ای که اکنون پیش روی سیاست‌گذار ایرانی قرار دارد، تبدیل این توصیه‌های کلی به الزامات اجرایی قابل سنجش است. طراحی نظام ارزیابی اثر الگوریتمی، قواعد ممیزی، استانداردهای حفاظت از داده‌های حساس، شاخص‌های جنسیت‌تفکیک‌شده بازار کار و سازوکارهای مقابله با جعل عمیق می‌تواند مرحله بعدی این مسیر باشد. گزارش مرکز پژوهش‌ها در این معنا بیش از آنکه پایان یک بحث باشد، نقشه اولیه ورود یک حوزه مغفول به دستورکار حکمرانی هوش مصنوعی ایران است.