گزارشی از موسسه گفتمان استراتژیک (ISD) که خبر آن را مجله وایرد منتشر کرده است نشان می‌دهد گروه‌های افراطی از جمله حامیان تفکرات دوران حکومت هیتلر بر آلمان از شهرت تیک‌تاک در بین جوانان برای انتشار محتوای خود استفاده می‌کنند. بر اساس این بررسی، محتوای افراطی و ایدئولوژی نازی‌ها بیشتر از هر پلتفرم دیگری در تیک‌تاک ترویج می‌شود.

گروه‌های تندرو از این پلتفرم برای انتشار طیف وسیعی از محتواهای افراطی از جمله حامی افکار نازی‌ها یا معتقدان به برتری سفید‌پوستان از تیک‌تاک استفاده می‌کنند و در انتشار صدای خود موفق هستند. طبق آماری که این گزارش منتشر کرده‌ است، برخی از این ویدئو‌ها حتی تا ۱۰۰ هزار بازدید دارند.

ناتان داکتر،‌ پژوهشگر ISD و مولف این گزارش، می‌گوید در مدت کوتاهی توانسته است شبکه گسترده‌ای از حسبا‌های مختلف را که با لینک، اشتراک‌گذاری و کامنت به رشد یکدیگر کمک می‌کردند شناسایی کند.

گروه‌های حامی ذهنیت‌های نئونازی معمولاً ریشه در پلتفرم‌های آزاد تری مثل پیام‌رسان رمزنگاری‌شده تلگرام دارند. اما تلگرام تنها مکان برای بحث در مورد ترفند‌های جذب مخاطب، به‌ویژه در تیک‌تاک است. گروه‌ها از تلگرام برای اشتراک‌گذاری ویدئو‌ها، تصاویر و صوت‌های مربوطه استفاده می‌کنند و از اعضا می‌خواهند تا برای این محتوا در تیک‌تاک تلاش کنند.

این مطالعه نشان می‌دهد گروه‌ها از ترفند‌های مختلف و به‌نسبت ساده برای پنهان کردن محتوای خود از دید ناظران محتوایی استفاده می‌کنند. با این حال مولف این مطالعه می‌گوید اقداماتی که این گروه‌ها برای پنهان کردن محتوای خود انجام می‌دهند به حدی ساده و قابل تشخیص است که در زبان‌های دیگر نیز می‌توان آن را متوجه شد و درنتیجه تیک‌تاک نباید این مساله را بهانه‌ای برای توجیه ترویج این سبک از محتوایی در پلتفرم خود قرار دهد.

این اولین بار نیست که از نقش الگوریتم تیک‌تاک در ترویج محتوای افراطی پرده‌برداری شده است. اوایل ماه جاری میلادی، شبکه جهانی افراط و فناوری گزارش داد الگوریتم تیک‌تاک، ایده‌پردازان فاشیست را ترویج می‌کند. همین محققان سال گذشته نیز دریافتند این پلتفرم به ترویج تفکرات برتری اروپا در جنوب شرق آسیا کمک کرده است. گزارشی از وایرد نیز نشان داده است بخش جست‌وجوی تیک‌تاک رأی‌دهندگان جوان آلمان را به سمت طیف راست افراطی سوق می‌دهد.

تیک‌تاک اما مدعی است بخش زیادی (۹۸ درصد) از محتوای نفرت‌پراکنی و ایدئولوژی‌های از این قبیل را پیش از انتشار از پلتفرم خود حذف می‌کند و از متخصصان در پیش‌بینی و تقویت رویکرد خود کمک می‌گیرد.

داکتر اما می‌گوید این محتوا‌ها در زبان‌های مختلف و به صورتی قابل تشخیص منتشر می‌شوند. او به مجله وایرد گفت:‌ «مساله مطمئناً بین‌المللی است، این تنها مختص زبان انگلیسی نیست ما مطالبی به زبان‌های فرانسوی، مجارستانی و آلمانی پیدا کردیم. برخی از این افراد در کشور‌هایی هستند که طرفداری نازی غیرقانونی است. روسیه یکی از آنهاست. اما ما چیزهای تعجب‌آوری یافتیم مثل گروه‌های نازی مکزیکی یا در آمریکای لاتین. پس بله مطمئنیم که این یک پدیده بین‌المللی است.»

با اینکه در این مطالعه مدارکی مبنی بر همکاری این گروه‌ها در سطح بین‌المللی پیدا نشده است اما بدون شک این گروه‌ها از فعالیت ذهنیت‌های مشابه خود در دیگر مناطق جهان مطلع هستند.

محققان دریافتند علاوه بر حساب‌ها و گروه‌هایی که محتوای افراطی را ترویج می‌کنند، برخی از سازمان‌های راست افراطی و فاشیست‌های واقعی به‌روشنی در این پلتفرم مشغول نفرگیری هستند.

همچنین برخی از حساب‌های افراطی راهکارهایی برای اشاعه خشونت ارائه می‌دهند و برای مثال نحوه پرینت اسلحه به صورت سه‌بعدی را آن هم به صورت ارزان آموزش می‌دهند و در تمامی‌شان از علاقه‌مندان خواسته می‌شود برای دریافت اطلاعات بیشتر به «گروه‌های امن» در پلتفرم‌های رمزنگاری‌شده‌ای مثل Element و Tox ملحق شوند و نظرات موجود در زیر ویدئو‌ها نشان می‌دهد برخی از کاربران به این گروه‌ها ملحق شده‌اند.

محققان همچنین با ایجاد حساب‌های کاربری جدید بررسی کردند که آیا محتوای نازی از طریق الگوریتم در اختیار کاربران جدید قرار می‌گیرد یا خیر. بررسی‌های محققان پس از تماشای چندین ویدئو از حساب‌های حامی نازی و لایک، کامنت یا بوک‌مارک نشان داد پس از تماشای چنین محتوایی، فید عمومی کاربر نیز محتوای مشابه را شامل می‌شود.

در یکی از حساب‌های کاربری محتوای فید عمومی به حد بسیار زیادی افراطی شد و ۷۰ درصد از ویدئو‌ها مربوط به حساب‌های نازی یا مروج این تفکرات بود.

با این حال برخی از پژوهشگران می‌گویند امیدی به تغییر شرایط از لحاظ محتوایی ندارند و تیک‌تاک در مواجهه با حجم بسیار زیاد محتوایی قادر به نظارت کافی نیست. مارکوس بوش، پژوهشگر مستقر در دانشگاه هامبورگ که تیک‌تاک را تحت نظر دارد، می‌گوید یافته‌های این گزارش «تعجب‌آور نیست» و او امید ندارد کاری از دست تیک‌تاک برآید.

بوش می‌گوید: «من مطمئن نیستم که مشکل دقیقاً کجاست. تیک‌تاک می‌گوید حدود ۴۰ هزار ناظر محتوایی دارد و باید به‌سادگی بتوان چنین نقض سیاست‌هایی را درک کرد. با این حال به دلیل حجم بسیار زیاد [محتوا] و توان انطباق سریع بدکاران، معتقدم مشکل اطلاعات وارونه را نمی‌توان به طور کامل با هوش مصنوعی یا ناظر محتوایی حل کرد.»

با این حال دیگر پژوهشگران از جمله آدام هادلی، رئیس اجرایی سازمان فناوری علیه تروریسم، بر لزوم همکاری‌های میان پلتفرمی و استفاده از هوش مصنوعی برای نظارت بر محتوا تاکید می‌کنند و از نظر او می‌توان با چنین رویکردی انتشار این سبک از محتوا را محدودتر کرد.