ظهور ابزارهای هوش مصنوعی مولد این امکان را فراهم کرده است تا افراد تقریبا بدون تلاش چندانی بتوانند بررسی‌های جدید و دقیقی را در فضای آنلاین تولید و منتشر کنند. این مساله دردسر‌هایی را برای فروشندگان، ارائه‌دهندگان خدمات و مشتریان ایجاد کرده است.

در جهان امروز که پلتفرم‌های آنلاین بخش مهمی از حجم خرید و فروش محصولات را به خود اختصاص می‌دهند، بسیاری از مصرف‌کنندگان برای انتخاب محصول مورد نظر خود از شبکه‌های اجتماعی و یا نقد و بررسی‌های موجود در وبسایت‌های مختلف استفاده می‌کنند. همین موضوع انگیزه‌ای را برای کلاهبرداران فراهم کرده است تا با تولید محتوای جعلی و گمراه کننده، بر رفتار مشتریان تاثیر بگذارند. مطالعه جدیدی روی پلتفرم‌های ایالات متحده، بزرگترین بازار تجارت الکترونیک جهان و میزبان بزرگترین پلتفرم‌های تجارت الکترونیک، که خبر آن در را فست‌کمپانی منتشر کرده است، نشان می‌دهد که هوش مصنوعی مولد به افزایش چشمگیر بررسی‌های جعلی کمک کرده است و میلیون‌ها بررسی جعلی با استفاده از این ابزارها تولید و منتشر شده‌اند.

هوش مصنوعی مولد تولید بررسی‌های جعلی را ساده‌تر کرده است
بررسی‌ و نقد‌های جعلی مدت‌ها است که یکی از دردسر‌های محبوب‌ترین وبسایت‌های جهان از جمله آمازون محسوب می‌شوند. این بررسی‌های جعلی معمولا در گروه‌های شبکه اجتماعی بین ارائه دهنده و خریداری معامله می‌شوند و آغازگر چنین بررسی‌هایی معمولا کسب‌وکارهایی هستند که تشویق‌هایی مثل کارت هدیه را برای بازخورد مثبت در نظر می‌گیرند.

اما متخصصان صنعتی می‌گویند، تولید متن با ابزارهای هوش مصنوعی مولد که از زمان ارائه ChatGPT فراگیر شده‌اند، این امکان را برای کلاهبرداران فراهم کرده است تا بررسی‌های خود را سریع‌تر و در حجم بسیار گسترده‌تری تولید کنند.

چنین فعالیت فریب‌کارانه‌ای با وجود غیرقانونی بودن در بسیاری از کشور‌ها از جمله ایالات متحده، به یکی از رویه‌های رایج جهان آنلاین تبدیل شده‌اند و از آنجایی که بسیاری از کاربران برای خرید به بررسی و نقد دیگر کاربران اتکا می‌کند، اطلاع از گستره آن شاید برای بسیاری مفید باشد.

بررسی‌های ساخته هوش مصنوعی در کجا مشاهده می‌شوند؟
بررسی‌های جعلی را در صنایع مختلفی از تجارت الکترونیک گرفته تا رستوران‌ها و حتی بخش آنلاین خدمات منزل و خدمات درمان نیز مشاهده می‌کنیم.

شرکت Transparency Company، یک شرکت فناوری از گروه‌های نظارتی که از نرم‌افزار برای ردیابی بررسی‌های جعلی استفاده می‌کند، می‌گوید بررسی‌ها و نقد‌های ساخته هوش مصنوعی از اواسط سال ۲۰۲۳ به تعداد بالا مشاهده شده‌اند و از آن زمان تعداد آنها به چند برابر افزایش یافته است.

این شرکت در گزارشی که ماه گذشته منتشر کرده است به بررسی ۷۳ میلیون بررسی و نقد در سه بخش پرداخته است: خدمت منزل، حقوقی و درمان. این بررسی نشان می‌دهد که ۱۴ درصد از تمام بررسی‌ها احتمالا جعلی هستند و به گفته این شرکت با «اطمینان بالایی» می‌توان گفت که ۲.۳ میلیون بررسی و نقد به طور کامل یا تا حدی توسط هوش مصنوعی تولید شده‌اند.

ماری بلکمن، سرمایه‌گذار و مشاور استارت‌آپ‌های فناوری، که مطالعه The Transparency Company را بررسی کرده و قرار است از ابتدای ژانویه این سازمان را رهبری کند، می‌گوید: «[هوش مصنوعی مولد] ابزار خیلی خیلی خوبی برای این جاعلان بررسی است.»

شرکت نرم‌افزاری DoubleVerify در ماه آگوست گفت شاهد «افزایش قابل توجه» بررسی‌های ساخته هوش مصنوعی در اپلیکیشن‌های موبایلی و تلویزیون هوشمند است. این بررسی‌ها معمولا با هدف ترغیب به نصیب اپلیکیشن‌هایی استفاده می‌شوند که می‌توانند دستگاه را تحت کنترل بگیرند یا دائم تبلیغاتی را به نمایش بگذارند.

یک ماه پس از این بیانیه، کمیسیون تجارت فدرال (FTC) از یک شرکت ارائه دهنده ابزار نویسندگی هوش مصنوعی و تولید محتوا به نام Rytr به اتهام ارائه خدماتی برای آلوده کردن بازار با بررسی‌های جعلی، شکایت کرد.

کمیسیون تجارت فدرال که در سال جاری فروش یا خرید بررسی‌های جعلی را ممنوع کرده است می‌گوید مشترکان Rytr از این ابزار برای تولید صدها و شاید هزاران بررسی برای شرکت‌های تعمیر در گاراژ، فروشندگان کیف و دیگر کسب‌وکارها استفاده کرده‌اند.

مشکلی که احتمالا شرکت‌های بزرگ را نیز گرفتار کرده است
مکس اسپیرو، مدیرعامل شرکت Pangram Labs که ابزاری برای تشخیص استفاده از هوش مصنوعی ارائه می‌کند، می‌گوید نرم‌افزار این شرکت تشخیص داده است که بدون شک محتوای ساخته هوش مصنوعی در برخی مواقع در وبسایت آمازون به صفحه اول نتایج بررسی محصولی رسیده است و دلیل آن هم جزئیات بالایی است که باعث دقیق جلوه دادن آن شده است.

با این حال تشخیص واقعی یا جعلی بودن محتوا دشوار است. آمازون می‌گوید از آنجایی که شرکت‌های شخص ثالث به «داده‌های نشانگر الگو‌های سو استفاده» دسترسی ندارند نمی‌توانند این مساله را به خوبی تشخیص دهند.

شرکت Pangram Labs با وبسایت‌های بزرگی در زمینه تشخیص محتوای جعلی همکاری دارد و سپیرو به دلیل شروط قرارداد امکان افشای نام این شرکت‌ها ندارد اما او به صورت مستقل آمازون و Yelp را بررسی کرده است.

بسیاری از نظرات وبسایت Yelp که با هوش مصنوعی مولد تولید شده‌اند به نظر توسط افرادی منتشر می‌شود که با انتشار بررسی‌های کافی سعی دارند تا نشان «Elite» را از این وبسایت دریافت کنند، نشانی که یلپ از طریق آن به کاربران اطلاع می‌دهد که منتقد مورد نظر قابل اعتماد است. وبسایت یلپ در واقع پلتفرمی برای انتشار و مشاهده نقد و بررسی‌های مربوط به کسب‌وکارها است.

افراد با استفاده از این نشان به رخداد‌های خاص با مالکان کسب‌وکار بومی نیز دسترسی پیدا می‌کنند. کای دین، بازرس مجرمانه سابق فدرال که در حال حاضر شرکت Fake Review Watch را رهبری می‌کند، می‌گوید کلاهبرداران همچنین از محتوای ساخته هوش مصنوعی برای طبیعی جلوه دادن پروفایل‌های خود در یلپ استفاده می‌کنند.

البته که بررسی ساخته هوش مصنوعی لزوما به معنی جعلی بودن آن نیست. برخی از کاربران واقعی هم ممکن است از ابزارهای هوش مصنوعی برای تولید محتوا استفاده کنند و در واقع نظر واقعی خود را منتشر کنند. برخی از کاربران غیرانگلیسی زبان نیز ممکن است از هوش مصنوعی برای انتقال درست نظر خود استفاده کنند.

شری هی، استاد بازاریابی دانشگاه ایالتی میشیگان، که به بررسی نقد‌های جعلی می‌پردازد، می‌گوید: «با انگیزه‌های درست [هوش مصنوعی] می‌تواند به بررسی کمک کند و آن را کامل‌تر کند.» او می‌گوید پلتفرم‌های فناوری باید روی الگو‌های رفتاری خطاکاران تمرکز کنند تا کاربران را از استفاده درست از هوش مصنوعی زده نکند.

رویکرد شرکت‌ها نسبت به محتوای ساخته هوش مصنوعی
شرکت‌های بزرگ در حال تنظیم سیاست‌هایی برای محتوای ساخته هوش مصنوعی هستند تا با بررسی‌های ساختگی مقابله کنند. برخی از شرکت‌ها تا همین امروز با کمک الگوریتم‌ها و تیم‌های تفحص به جستجو و حذف این محتوا مشغول شده‌اند و امکان استفاده درست از هوش مصنوعی را نیز برای کاربران فراهم کرده‌اند.

برای مثال سخنگوی‌های شرکت آمازون و Trustpilot می‌گویند تا زمانی که کاربران تجربه واقعی خود را با استفاده از هوش مصنوعی منعکس کنند، استفاده از این ابزارها منعی ندارد. وبسایت Yelp رویکرد محافظه‌کارانه‌تری را در پیش گرفته است و براساس دستورالعمل این وبسایت، کاربران باید نقد و بررسی را خودشان بنویسند.

این شرکت طی بیانیه‌ای در این باره می‌گوید: «با توجه به افزایش استفاده از ابزارهای هوش مصنوعی در بین مشترکان، Yelp به شکل قابل توجه روی روش‌هایی برای شناسایی و جلوگیری بهتر از چنین محتوایی در پلتفرم خود سرمایه‌گذاری کرده است.»

با این حال برخی از فعالان صنعتی می‌گویند با اینکه هوش مصنوعی را می‌توان برای تولید بررسی‌های جعلی و گمراه‌کننده استفاده کرد، اما این ابزار می‌تواند سلاح خوبی در مقابله با این بررسی‌های جعلی نیز باشد.