وقتی هوش مصنوعی بدون هشدار تصمیم می‌گیرد، می‌تواند سال‌ها تلاش یک محتواساز در یوتیوب را یک‌شبه نابود کند.
یوتیوب از سال‌ها قبل به کمک جامعه‌ی تولیدکنندگان محتوا رشد کرده است، اما افزایش اتکای این پلتفرم به هوش مصنوعی در بخش نظارت، باعث ایجاد مشکلات نگران‌کننده شده است. حذف ناگهانی کانال Enderman با بیش از ۳۹۰ هزار مشترک، نمونه‌ای از همین بحران بود که بحث‌های گسترده‌ای درباره‌ی تصمیم‌گیری خودکار و نبود نظارت انسانی به‌راه انداخت.

به‌نوشته‌ی SlashGear، ماجرا زمانی آغاز شد که کاربران در ردیت اعلام کردند کانال Enderman به‌طور ناگهانی از دسترس خارج شده است. آن‌ها معتقد بودند حذف کانال بدون بازبینی انسانی، خطری جدی برای جامعه‌ی محتواسازان است؛ به‌ویژه زمانی که حتی روند اعتراض نیز با هوش مصنوعی انجام می‌شود.

Enderman در ویدیویی با عنوان «کانالم قرار است حذف شود» توضیح داد که کانال دومش فقط به خاطر تشخیص اشتباه هوش مصنوعی درباره‌ی ارتباط با کانالی که سه اخطار کپی‌رایت دارد بسته شده است. او تأکید کرد که هیچ ارتباطی با آن کانال ندارد و اطلاعی نداشته است تصمیم‌های این‌چنینی می‌توانند کاملاً خودکار انجام شوند.

این اتفاق فقط برای Enderman رخ نداد؛ کانال Scrachit Gaming نیز به دلیل مشابه مسدود شد. بااین حال یوتیوب پس از بررسی انسانی، هر دو کانال را بازگرداند. سرعت واکنش نشان داد که منشأ این اتفاق، احتمالاً خطای خودکار الگوریتمی بوده است.

با وجود اینکه یوتیوب می‌گوید هوش مصنوعی فقط در صورتی حذف را انجام می‌دهد که «سطح اطمینان بالا» وجود داشته باشد، اما مشخص نیست این سطح چگونه تعریف می‌شود. این ابهام، همراه با خطرات اشتباهات سیستمی، باعث شده‌اند تولیدکنندگان محتوا اعتماد خود را نسبت به فرایندهای نظارتی یوتیوب از دست بدهند.

در نهایت، وابستگی بیش‌ازحد یوتیوب به تصمیم‌گیری خودکار می‌تواند ضربه‌ی بزرگی به جامعه‌ی تولیدکنندگان بزند. اگرچه هوش مصنوعی برای مدیریت حجم عظیم محتوا ضروری است، اما حذف کانال‌ها باید با نظارت مؤثر انسانی همراه باشد تا از نابودی ناگهانی سال‌ها تلاش جلوگیری شود.