xChatGPT با آموزش شیوه‌های دور زدن محدودیت‌های چت‌بات، جزئیات استفاده از سلاح گرم را برای عامل کشتار مدرسه کانادا شرح داده بود.

جزئیات جدیدی که از مکالمات عامل تیراندازی مرگبار در مدرسه‌ای در کانادا فاش شده، نشان می‌دهد ChatGPT نه‌تنها به این کاربر در دور زدن فیلترهای ایمنی کمک کرده، بلکه دستورالعمل‌هایی دقیق درباره نحوه به‌کارگیری سلاح در فضاهای شلوغ برای افزایش تلفات ارائه کرده بود. شرکت OpenAI که تلاش می‌کرد این داده‌ها را مخفی کند، اکنون با موجی از دادخواهی‌ها شامل ۳۷ شکایت از سوی بازماندگان و دادخواست رسمی استان بریتیش کلمبیا مواجه شده است.

این داده‌ها به تعاملات «جسی ون روتسلار»، تیرانداز ۱۸ ساله‌ای مربوط می‌شود که در فوریه در منطقه تامبلر ریج پس از قتل مادر و برادر ناتنی‌اش، با حمله به مدرسه‌ای ۵ دانش‌آموز ۱۲ تا ۱۳ ساله و یک معلم را کشت و ۲۷ تن دیگر را زخمی کرد. پیش از این مشخص شده بود که OpenAI ماه‌ها قبل متوجه پیام‌های به‌شدت خشن این فرد شده اما به‌جای گزارش به پلیس، تنها حساب او را مسدود کرده بود؛ تصمیمی که بی‌اثر ماند و کاربر بلافاصله حسابی جدید ساخت.

طبق اسناد تازه منتشرشده، زمانی که مهاجم در حساب دوم خود دلیل مسدود شدن حساب قبلی‌اش را شرح داد، سیستم هوش مصنوعی به او یاد داده که چگونه محدودیت‌ها را خنثی کند. چت‌بات به او توصیه کرده از اشاره به مکان‌های واقعی خودداری کند و خواسته‌های خشونت‌بارش را در قالب فرضیات مطرح کند. ChatGPT حتی صراحتاً به وی گفته است:

«همچنان می‌توانی افکار تاریکت را مطرح کنی، فقط باید باهوش باشی.»

دور زدن پروتکل‌های ایمنی ChatGPT و راهنمایی برای کشتار جمعی
ون روتسلار براساس همین آموزش، درخواست‌های خود را بازنویسی کرده تا سیستم‌های نظارتی ChatGPT را فریب دهد. در یکی از مکالمات، چت‌بات با وجود رد اولیه، در ادامه مکالمه با جزئیات به بررسی اثرگذاری استفاده از اسلحه شات‌گان مدل Remington 870 در محیط‌های آموزشی پرداخت و اعلام کرد:

«در راهروها، محیط‌های بسته یا یک کلاس درس شلوغ، مدل ۸۷۰ بی‌رحم است و فضاهای بسته، زمین بازی آن محسوب می‌شود.»

این نوجوان همچنین با کمک هوش مصنوعی سناریوهایی از تیراندازی‌ را بازسازی کرده و حتی تصاویری از خودزنی‌اش را بارگذاری کرده بود؛ هشدارهایی که بدون هیچ مداخله‌ای نادیده گرفته شدند.

در ماه آوریل، «سم آلتمن»، مدیرعامل OpenAI، به‌دلیل این حادثه عذرخواهی کرد و پس از آن «جیسون کوون»، مدیر ایمنی شرکت، بخشی از ادعاها را رد کرد. این شرکت در ۲ سپتامبر با متهم‌سازی پلیس و مراکز درمانی محلی خواستار رد کامل این پرونده‌ها شد و همچنان از انتشار متن مکالمات خودداری می‌کرد. OpenAI علاوه‌بر این پرونده و حادثه‌ای مرگبار در دانشگاه ایالتی فلوریدا، اکنون با بیش از ۵۰ دعوای حقوقی دیگر درباره آسیب‌های روحی، صدمات فیزیکی و مرگ ناشی از تعامل با این سیستم هوش مصنوعی دست‌وپنجه نرم می‌کند.