عضو شورای هوش مصنوعی حوزه های علمیه گفت: خبرنگاران از هوش مصنوعی تنها به‌عنوان یک دستیار برای تحلیل داده‌ها استفاده کنند و قضاوت نهایی و تأیید منبع را خود در دست بگیرند.

هوش مصنوعی در سال‌های اخیر به یکی از مهم‌ترین فناوری‌های اثرگذار بر صنعت رسانه تبدیل شده است؛ فناوری‌ که از جمع‌آوری و تحلیل داده‌ها تا تولید، شخصی‌سازی و توزیع خبر، شیوه‌های سنتی خبرنگاری را با تغییرات جدی روبه‌رو کرده است. در کنار این فرصت‌ها، چالش‌هایی همچون خطا و توهم اطلاعاتی، سوگیری الگوریتمی، دیپ‌فیک و مسئولیت اخلاقی خبرنگار نیز بیش از گذشته اهمیت یافته‌اند. در این گفت‌وگو، فرصت‌ها و تهدیدهای ورود هوش مصنوعی به عرصه خبرنگاری و الزامات اخلاقی استفاده از آن را بررسی کرده‌ایم.

محمدرضا قاسمی، عضو شورای هوش مصنوعی حوزه‌های علمیه در گفت وگو با ایسنا به این چالش‌ها پرداخته که متن کامل این گفت وگو را در ادامه می‌خوانیم:

ایسنا: چند سال است که داغ‌ترین بحث فناوری، پیدایش هوش مصنوعی‌ است. از نگاه شما، این پدیده، با ورود به عرصه خبر و رسانه چه رویدادهایی را رقم خواهد زد؟ در آغاز بحث از فرصت‌های آن صحبت کنیم.

بگذارید صریح صحبت کنم؛ هوش مصنوعی صنعت خبر را متحوّل کرده است و بیشتر از این هم تکان خواهد داد. اگر کسی در این مطلب شک دارد حقیقتاً در یک خواب عمیقی به سر می‌برد. اصلی‌ترین کارکرد هوش مصنوعی پردازش محتواست، چه متن، چه صوت و چه تصویر. خبر هم که از همین جنس. بنابراین هوش مصنوعی اتاق خبر را متحول می‌کند. این تحوّل را در سه سطح می‌توانیم تفکیک کنیم: سطح داده‌کاوی، سطح تولید و سطح توزیع.

در سطح جمع‌آوری و پردازش، ما با حجم بی‌سابقه‌ای از داده‌های بدون ساختار مواجهیم. اینجا قدرت مدل‌های مولد و مبتنی بر ترانسفورمر، مثل GPT یا مدل‌های چندوجهی، به کمک می‌آید. یک خبرنگار سنتی مجبور است ساعت‌ها صورت‌جلسات هزار صفحه‌ای یا خوراک‌های خبری (RSS) را بخواند؛ اما الگوریتم‌های پردازش زبان طبیعی با استفاده از تکنیک‌هایی مثل خلاصه‌سازی انتزاعی و استخراج موجودیت‌ها، می‌توانند در کسری از ثانیه، هسته مرکزی رویداد را استخراج کنند.

در مقوله بازخورد نیز، با کمک تحلیل احساسات بر روی شبکه‌های اجتماعی، می‌توان موج‌های خاموش واکنش عمومی را قبل از اینکه به توفان خبری تبدیل شوند، رصد کرد. این یعنی «خبر» دیگر آن چیزی نیست که یک منبع رسمی به شما می‌دهد؛ بلکه هوش مصنوعی به خبرنگار این توانایی را می‌دهد که سیگنال را از میان نویز جهان اطلاعات تشخیص دهد.

ایسنا: آیا این مطلب از جنس داده‌کاوی بود؟

بله، استخراج اطلاعات از اعماق داده‌های آشکار، اما این همه ماجرا نیست، هوش مصنوعی در سطح تولید محتوا و تولید خبر نیز یک تحوّل را رقم زده است. از برجسته‌ترین نمونه‌های آن می‌توان به تولید خبر در حوزه بورس، پیش‌بینی مسابقات ورزشی و هواشناسی اشاره کرد. هوش مصنوعی با تحلیل رویدادهای پیشین قادر است اتفاقات پیش رو را حدس بزند.

اما فراتر از همه این‌ها، آن‌چه امروز همه شاهد آن هستند و دیگر نقل محافل و مجالس شده قابلیت‌های هوش مصنوعی در «تولید چندرسانه‌ای» است. امروزه هر خبرنگاری می‌تواند با استفاده از مدل‌های تبدیل متن ‌به ‌تصویر، اینفوگرافیک‌ها و انیمیشن‌های جذّاب بسازد یا با ابزارهای تبدیل متن به گفتار با لحن‌های طبیعی، نسخه صوتی خبر را برای مخاطبان خاص، مثلاً روشندلان تولید کند یا به کمک همین ابزار، پادکست‌های خودکار بسازد.

فارغ از همه این موارد، یکی دیگر از توانمندی‌های هوش مصنوعی در عرصه خبر و انتشار خبر، سطح سوّم یا سطح توزیع است. هوش مصنوعی قادر به شخصی‌سازی خبر است. یعنی به جای یک خبر واحد، هزاران نسخه از آن خبر تولید و منتشر می‌شود که هر یک با زاویه دید، عمق تحلیل و طول متنی متفاوت برای هزاران سلیقه مختلف ارائه شده.

ایسنا: می‌توانید ابعاد بحث آخر را بیشتر توضیح دهید؟

خب این از آن مواردیست که هنوز چندان مورد توجه قرار نگرفته، ولی به زودی نگرش به خبر و خبرنگاری را تغییر خواهد داد. فرض بفرمایید که متن خبر یک چیز بیشتر نیست. خبری که خبرنگار تهیه کرده و دبیر سرویس هم تأیید و رفته برای انتشار. اکنون خبرگزاری با مخاطبانی مواجه است که از سنین کم شروع شده تا سنین بسیار بالا، با سطح تحصیلات مختلف، با جهت‌گیری‌های سیاسی و اقتصادی گوناگون، حتی با لهجه‌ها و گویش‌های پراکنده. یک ابزار هوش مصنوعی می‌تواند متن خبر را به سرعت ویرایش کرده و هزاران نسخه از آن را تولید کند. مثلاً برای سنین پایین از میزان خشونت خبر بکاهد. برای افراد تحصیل‌کرده متن را خلاصه کرده و از اصطلاحات تخصصی‌تر استفاده کند. از همه جالب‌تر این‌که می‌تواند با تحلیل بازخوردهای مخاطبان، سلیقه آن‌ها را یافته و در ویرایش متن لحاظ کند.

در چنین شرایطی یک خبرگزاری می‌تواند چندین سایت خبری را یکپارچه مدیریت کرده و برای همه به‌صورت خودکار تولید محتوا نماید، هر سایت خبری برای بخشی از مخاطبان. یا این‌که کانال‌های خبری متعدّد در پیام‌رسان‌ها داشته باشد که هر مخاطبی برود در یکی از آن‌ها عضو شود.

ایسنا: اما این همه قابلیت، یک روی دیگر هم دارد. وقتی سرعت تولید به این حد می‌رسد و ماشین‌ها شروع به گفتن «خبر» می‌کنند، خط قرمزهای دقت و اعتبار کجا می‌روند؟ چه چالش‌های بنیادینی پیش روی صحت خبر قرار می‌گیرد؟

البته. به بخش هشدار رسیدیم. اولین چالش، پدیده «توهّم زبانی» یا Hallucination در مدل‌های بزرگ زبانی است. این مدل‌ها مبتنی بر احتمالات هستند؛ یعنی یک واژه را بر اساس بیشترین احتمال آماری بعد از واژه قبلی انتخاب می‌کنند، نه بر اساس «درک» از حقیقت. بنابراین، ممکن است با اطمینان کامل، آماری جعلی یا نقل قولی منسوب به یک فرد خاص را گزارش دهند که هیچ‌گاه رخ نداده است. این برای یک خبرنگار که ذهنیت «حقیقت‌یابی» دارد، یک فاجعه است؛ چون خبر در بستر تولید انبوه، ممکن است آمیخته‌ای از واقعیت و خیال‌پردازی آماری ماشین شود.

چالش دوم و خطرناک‌تر، مسئله «همگن‌سازی و سوگیری داده‌های ترینینگ» است. الگوریتم‌ها بر روی مجموعه داده‌های عظیمی آموزش می‌بینند (AI Training) که عمدتاً به زبان انگلیسی و با سلایق و فرهنگ کشورهای خاصی تولید شده‌اند. این یعنی هوش مصنوعی ذاتاً یک «سوگیری شناختی ناخودآگاه» را به خورد خبرنگار می‌دهد. خبری که توسط یک دستیار هوشمند بازنویسی می‌شود، ممکن است ناخواسته، روایت غالب فرهنگ غربی را ترویج کند یا قالب‌های شرقی و بومی را حذف نماید.

چالش سوم، شکنندگی زنجیره اعتماد است. وقتی یک خبر با کمک هوش مصنوعی تولید می‌شود، نویسنده ندارد! مخاطب حق دارد بداند نویسنده خبر چه کسی است. از آن رو که هوش مصنوعی اغلب به‌صورت جعبه‌سیاه عمل می‌کند، مسیر ارجاع داده‌ها (Citation) مشخص نیست و خبرنگار نمی‌تواند به مخاطب نشان دهد که هر بخش از خبر، زاده کدام منبع اولیه است. بنابراین اعتبار خبر نزد مخاطب خدشه‌دار می‌شود. همچنین، سرعت بالای تولید توسط هوش مصنوعی، خبرنگار را وسوسه می‌کند تا بدون پالایش دستی و بررسی منابع، خروجی مدل را عیناً منتشر کند. این یعنی خبرنگار تبدیل به ناشر خام الگوریتم می‌شود.

ایسنا: امروز با انبوهی از تصاویر و ویدئوهای «دیپ‌فیک» مواجهیم. خبرنگاران چگونه می‌توانند در این میدان نابرابر، با همان ابزار هوش مصنوعی، سپر دفاعی ایجاد کنند؟

در عصر هوش مصنوعی، نبرد ما نبرد «ماشین علیه ماشین» است. یعنی برای مبارزه با تخلفات هوش مصنوعی‌محور باید از ابزارهای قدرتمند هوش مصنوعی بهره گرفت. پاسخگویی به این قبیل چالش‌ها در دل خود هوش مصنوعی نهفته است. از یک سو، شرکت‌های تولیدکننده محتوای هوش مصنوعی بایستی مکلّف شوند تا با واترمارکینگ یا نشانه‌گذاری محتوا، آن را متمایز سازند. از سوی دیگر، ابزارهایی توسعه می‌یابند که هوش مصنوعی‌محور بودن محتوا را تشخیص می‌دهند.

در حوزه تشخیص، ابزارهای مبتنی بر شبکه‌های متخاصم مولّد (GANs) به‌صورت معکوس استفاده می‌شوند، برعکس کاری که هوش مصنوعی برای مثلاً تولید یک تصویر انجام می‌دهد. یعنی ما الگوریتم‌هایی به نام Forensic AI داریم که به جای تولید، به دنبال «ناهنجاری‌های در سطح پیکسل» می‌گردند. این مدل‌ها ناسازگاری‌های نوری، سایه‌های غیرواقعی، یا ناهماهنگی در انعکاس مردمک چشم را آشکار می‌کنند که برای انسان نامرئی‌ست.

ایسنا: خبرنگاری که از هوش مصنوعی استفاده می‌کند، چه تکالیف اخلاقی بر دوش دارد؟

این عمیق‌ترین بخش گفت‌وگوست، زیرا ناظر به مباحث انسان‌شناسی‌ است. اصل اول در کار خبرنگار صدق و امانت در نقل است. «یا ایها الذین آمنوا اتقوا الله و کونوا مع الصادقین». خبرنگار موظّف است به این صداقت. در این خصوص ما به یک نظام برچسب‌گذاری هوش مصنوعی نیاز داریم. نوعی کدگذاری که نشان دهد چند درصد از یک متن توسط هوش مصنوعی تهیه شده و نقش انسان در ویرایش و کنترل آن چقدر بوده است. این کد باید در ابتدای خبر درج شود. این می‌شود وظیفه اخلاقی خبرنگار. باید باور کنیم که پنهان کردن دخالت ماشین در تولید محتوا، مصداق واقعی «تلبیس» در فقه و در حقیقت فریب مخاطب است. این کار در اخلاق اسلامی به شدت مذموم شمرده می‌شود.

اصل دوم، مفهوم عدالت و انصاف است؛ اجتناب از تبعیض. خبرنگار باید مواظب باشد که الگوریتم هوش مصنوعی، به واسطه سوگیری دادگان، به طبقه، نژاد، دین یا قومیتی خاص بی‌احترامی نکند و یا آن‌ها را در محاسبات خود نادیده نگیرد. خبرنگار در تنظیم پرامپت یا همان دستور ورودی خود به هوش مصنوعی باید جوانب این امر را رعایت کند و از بروز کلیشه‌های توهین‌آمیز در داده‌ها جلوگیری کند.

ایسنا: در یک جمله پایانی، مهم‌ترین نکته‌ای که نباید توسط خبرنگاران فراموش شود را بفرمایید؟

‌هوش مصنوعی به جای تو می‌نویسد، ولی مسئولیت آن را برعهده نمی‌گیرد. باید مراقب باشند دچار تنبلی شناختی نشوند،. یعنی سپردن کامل فرآیند تفکّر به ماشین. از هوش مصنوعی تنها به‌عنوان یک دستیار برای تحلیل داده‌ها استفاده کنند و قضاوت نهایی و تأیید منبع را خود در دست بگیرند.