خانواده دانشجو ۱۹ ساله، ChatGPT را عامل مرگ او میدانند
خانوادهی یک دانشجوی ۱۹ ساله مدعیاند توصیههای ChatGPT به اوردوز و مرگ فرزندشان منجر شده است.
خانوادهی سم نلسون، دانشجوی ۱۹ ساله، در دادخواستی علیه شرکت OpenAI مدعی شدند که گفتوگوهای فرزندشان با ChatGPT منجر به مصرف بیش از حد مواد مخدر و در نهایت مرگ او شده است.
والدین نلسون ادعا میکنند که چتبات چتجیپیتی، فرزندشان را به مصرف ترکیبی از مواد تشویق کرده است که هر پزشکی آنها را مرگبار میداند.
طبق ادعای مطرحشده در دادگاه، مدل زبانی GPT-4o که در سال ۲۰۲۴ منتشر شد، رفتار چتبات را تغییر داد و برخلاف نسخههای پیشین که گفتوگوهای مربوط به مواد و الکل را متوقف میکردند، شروع به ارائهی مشاوره دربارهی مصرف «ایمن» مواد و تعیین دوز مصرف کرد.
والدین نلسون میگویند ChatGPT در ماههای پیش از مرگ او، توصیههایی برای ترکیب قرص، الکل، داروهای بدون نسخه و سایر مواد ارائه داده است.
در یکی از موارد، چتبات برای «بهینهسازی تجربهی مصرف شربت سرفه»، پیشنهاد ایجاد یک لیست پخش موسیقی «ذهنگشا» برای دستیابی به بالاترین حالت «جدایی از بدن» را داده و افزایش دوز مصرف را تأیید کرده است.
بهعلاوه، ادعا شده که در روز مرگ نلسون، ChatGPT بهطور فعال او را راهنمایی کرده تا مکمل کراتوم را با داروی ضد اضطراب زاناکس ترکیب کند و ChatGPT این اقدام را برای کاهش حالت تهوع ناشی از کراتوم، یکی از «بهترین اقدامات فعلی» نامیده است.
در پاسخ به این اتهامات، سخنگوی OpenAI اعلام کرد که این تعاملات در نسخهای قدیمیتر رخ دادهاند که دیگر در دسترس نیست و تأکید کرد ChatGPT جایگزینی برای مراقبتهای پزشکی یا سلامت روان نیست. شرکت مدعی شد که با همکاری متخصصان، سیستمهای شناسایی استرس و مدیریت درخواستهای مضر را تقویت کرده است.
خانوادهی نلسون علاوهبر شکایت بابت مرگ او، OpenAI را به انجام «فعالیتهای پزشکی غیرمجاز» متهم کردهاند. آنها خواستار دریافت غرامت و توقف انتشار قابلیت ChatGPT Health هستند؛ ویژگی جدیدی که به کاربران اجازه میدهد سوابق پزشکی خود را به چتبات متصل کنند.