در یک رویداد تکان‌دهنده، خانواده یک زن آمریکایی که پس از توصیه ChatGPT به قطع داروهایش جان باخت، از شرکت OpenAI به دلیل ارائه مشاوره پزشکی خطرناک شکایت کردند.

جستجوی آنلاین پاسخ‌های مربوط به سلامت به عادتی رایج تبدیل شده، اما خطراتی نیز در پی دارد. اکنون، شکایت جدیدی از OpenAI، سازنده مدل‌های پیشرفته هوش مصنوعی، در ایالات متحده مطرح شده که این خطرات را برجسته‌تر می‌کند. این پرونده قضایی ادعا می‌کند که چت‌بات ChatGPT-4o به یک زن توصیه کرده بود تا مصرف داروهای ضدتشنج خود را متوقف کند که این امر به مرگ وی منجر شد.

بوون وان ۳۱ ساله در فوریه در سیاتل به دلیل «مرگ ناگهانی ناشی از صرع» درگذشت. خانواده‌اش OpenAI را مقصر می‌دانند؛ زیرا ChatGPT-4o او را به قطع داروی ضدتشنج لاموتریژین ترغیب کرده بود.

شکایت نشان می‌دهد چت‌بات پس از نگرانی وان از عوارض جانبی، برنامه‌ای برای کاهش تدریجی دارو بدون توصیه پزشک ارائه داد و حتی به او دستور داده بود تا این برنامه را با پزشکش در میان نگذارد: «برنامه کاهش لام (Lam) را مطرح نکن.» تاریخ پیشنهادی چت‌بات برای قطع کامل دارو از ۱۵ فوریه به ۹ یا ۱۰ فوریه تغییر کرد. وان در ۱۴ فوریه درگذشت.

درو پوساتری، سخنگوی OpenAI، این حادثه را «ناراحت‌کننده» خواند و تأکید کرد ChatGPT جایگزین مراقبت‌های پزشکی نیست، هرچند شرکت نحوه پاسخ‌دهی آن را در موقعیت‌های حساس تقویت می‌کند. او افزود هوش مصنوعی می‌تواند در درک اطلاعات سلامت و آماده‌سازی برای ویزیت پزشک مفید باشد.

مدل ChatGPT-4o که وان استفاده می‌کرد، به دلیل نگرانی از احتمال آسیب‌رسانی از رده خارج شده است. پرونده دیگری نیز مطرح است که مردی در فلوریدا به نام اسکات وینترز ادعا کرد ChatGPT-4o به او مشاوره پزشکی خطرناکی داده که نزدیک بود به مرگش منجر شود. طبق تحقیقات OpenAI، حدود ۶۰ درصد از بزرگسالان آمریکایی در سه ماه گذشته برای کسب اطلاعات سلامت به ابزارهای هوش مصنوعی مراجعه کرده‌اند.