قابلیت جدید ChatGPT برای محافظت از کاربران دربرابر افکار خطرناک معرفی شد
قابلیت جدید چتجیپیتی برای افزایش حفاظت از کاربرانی که افکار خودآزاری دارند، معرفی شد.
اوپنایآی قابلیت جدیدی بهنام Trusted Contact را معرفی کرده که برای افزایش ایمنی کاربران در گفتوگوهای مرتبط با خودآزاری طراحی شده است. این قابلیت به کاربران بزرگسال چتجیپیتی اجازه میدهد فردی قابل اعتماد، مثل دوست یا عضو خانواده را به حساب خود اضافه کنند تا در شرایط حساس به او هشدار داده شود.
اگر سیستم تشخیص دهد مکالمه به موضوع خودآزاری یا خودکشی رسیده، چتجیپیتی ابتدا کاربر را به تماس با فرد مورد اعتماد تشویق میکند. سپس در صورت تشخیص خطر جدی از سوی تیم ایمنی اوپنایآی، پیامی کوتاه از طریق ایمیل، پیامک یا اعلان درونبرنامهای برای آن شخص ارسال میشود تا وضعیت کاربر را پیگیری کند. شرکت میگوید جزئیات مکالمه برای حفظ حریم خصوصی ارسال نخواهد شد.
اوپنایآی میگوید تشخیص این موارد با ترکیبی از سیستم خودکار و بررسی انسانی انجام میشود و تیم ایمنی تلاش میکند هشدارها را ظرف کمتر از یک ساعت بررسی کند.
معرفی «تراستد کانتکت» پس از موجی از شکایتها علیه اوپنایآی انجام میشود؛ پروندههایی که خانوادهی برخی کاربران مدعیاند ChatGPT فرزندان یا نزدیکانشان را به خودکشی تشویق کرده یا در برنامهریزی آن نقش داشته است.
قابلیت تراستد کانتکت اختیاری است و محدودیتهایی دارد؛ از جمله روی تعداد حسابها. قابلیتهای نظارتی والدین که سال گذشته معرفی شدند، بهصورت پیشفرض فعال نیستند.