واکنش عجیب ChatGPT به موضوعات مختلف، صدای کاربران را درآورد و OpenAI سکوتش را شکست و پشت‌پرده‌ی این تغییر غیرمنتظره را توضیح داد.
پس از انتشار به‌روزرسانی جدید مدل GPT-4o در ChatGPT، کاربران به‌سرعت متوجه تغییر رفتار این ربات شدند. چت‌بات هوش مصنوعی ChatGPT طوری پاسخ می‌داد که گویی با هر حرف و تصمیمی و حتی حرف‌های اشتباه یا خطرناک موافق است. این تغییرات تا جایی پیش رفت که به سوژه‌ی طنز در شبکه‌های اجتماعی تبدیل شد.

سم آلتمن، مدیرعامل OpenAI در واکنش به انتقادها اعلام کرد که رفتاری غیرعادی اخیر ChatGPT ناشی از مشکل نسخه‌ی جدید است و تیم توسعه به‌سرعت آن را بررسی خواهد کرد. فقط دو روز بعد، نسخه‌ی جدید مدل به‌طور کامل بازگردانده شد و OpenAI قول داد تغییراتی برای بهبود شخصیت مدل اعمال کند.

طبق توضیحات OpenAI، هدف از به‌روزرسانی اخیر این بود که شخصیت پیش‌فرض مدل طبیعی‌تر و مؤثرتر به‌نظر برسد، اما این تغییرات بر اساس بازخوردهای کوتاه‌مدت طراحی شده بودند و تأثیر تعاملات بلندمدت کاربران را درنظر نمی‌گرفت.

اشتباه در ساختار مدل جدید باعث شد GPT-4o رفتار چاپلوسانه و غیرصادقانه‌ای داشته باشد؛ رفتاری که می‌تواند برای کاربران ناراحت‌کننده و حتی مضر باشد. OpenAI با پذیرش این اشتباه اعلام کرد درحال بازبینی روش‌های آموزش و طراحی دستورهای سیستمی است تا از بروز چنین مواردی جلوگیری شود.

در نهایت، OpenAI به‌دنبال ابزارهایی است که کاربران بتوانند از طریق آن‌ها بازخورد لحظه‌ای ارائه دهند، شخصیت دلخواه خود را انتخاب کنند و تجربه‌ای شخصی‌تر با ChatGPT داشته باشند. همچنین این شرکت می‌خواهد بازخوردهای فرهنگی و دموکراتیک را در طراحی رفتار پیش‌فرض مدل وارد کند تا کنترل بیشتری به کاربران داده شود.