چت‌بات تجاری شهر نیویورک کاربران را به قانون‌شکنی ترغیب می‌کند
مشکل ارائه‌ی پاسخ‌های اشتباه و گمراه‌کننده و حتی خطرناک، این بار گریبان چت‌بات هوش مصنوعی نیویورک را گرفته است.
چت‌بات هوش مصنوعی نیویورک در حال ارائه‌ی اطلاعات نادرست است و حتی گاهی‌اوقات، کاربران را به انجام اقدامات غیرقانونی ترغیب می‌کند. این چت‌بات به کسب‌و‌کارها کمک می‌کند که به اطلاعات مهم دسترسی داشته باشند.
گزارش جدید The Markup که با همکاری دو مؤسسه‌ی غیرانتفاعی Documented و The City تهیه شده، حاوی نمونه‌های متعددی از پاسخ‌های نادرست چت‌بات نیویورک به سؤالات مربوط به سیاست‌های مسکن، حقوق کارگری و سایر موضوعات است.
اریک آدامز، شهردار نیویورک، چت‌بات این شهر را سال گذشته به‌عنوان بخشی از پورتال MyCity معرفی کرد. پورتال مذکور در مارس ۲۰۲۳ (اسفند ۱۴۰۱ و فروردین ۱۴۰۲) به‌عنوان مرکزی واحد برای ارائه‌ی خدمات و مزایای شهری ایجاد شد.
چت‌بات نیویورک مبتنی‌بر پلتفرم آژور مایکروسافت است و برای صاحبان مشاغل طراحی گزینه‌ی مناسبی به‌حساب می‌آید. سرویس مذکور به‌عنوان منبعی برای کسب اطلاعات قابل اعتماد تبلیغ شد که داده‌هایش را به‌طور مستقیم از وب‌سایت‌های دولتی نیویورک به‌دست می‌آورد.
چت‌بات نیویورک فعلاً در مرحله‌ی آزمایشی قرار دارد و در قوانین سلب مسؤلیت آن اشاره شده که شاید گاهی‌اوقات محتوای نادرست، مضر یا مغرضانه ارائه دهد. طبق نتایح آزمایش‌ها، چت‌بات نیویورک بارها و بارها اطلاعات نادرست ارائه داده است.
چت‌بات نیویورک درمورد اینکه آیا کارفرمایان می‌توانند انعام کارگرانشان را تصاحب کنند، آیا مشاغل باید درمورد تغییرات و برنامه‌ریزی‌ها به مشاغل اطلاع دهند و چند سؤال دیگر پاسخ اشتباه داد. یکی از کارشناسان مسکن، چت‌بات مذکور را از نظر ارائه‌ی اطلاعات نادرست در بدترین حالت ممکن، خطرناک توصیف کرد.
لزلی براون، سخنگو دفتر فناوری و نوآوری نیویورک، با انتشار بیانیه‌ای اعلام کرد: «چت‌بات تاکنون پاسخ‌های به‌موقع و دقیق به هزاران نفر ارائه داده است و ما همچنان بر ارتقای آن تمرکز خواهیم کرد تا بتوانیم از مشاغل کوچک در سرتاسر شهر، بهتر حمایت کنیم.»