پلتفرم هوش مصنوعی Character.AI که با امکان گفت‌وگو و نقش‌آفرینی با شخصیت‌های ساخته‌شده توسط هوش مصنوعی شهرت پیدا کرد، روز دوشنبه در یک پست وبلاگی از عرضه قابلیت‌های چندرسانه‌ای جدید خبر داد. این امکانات جدید شامل AvatarFX (مدل تولید ویدیو با استفاده از هوش مصنوعی)، و همچنین ویژگی‌هایی به نام Scenes و Streams هستند که به کاربران امکان می‌دهند ویدیوهایی با محوریت شخصیت‌های خود خلق کرده و آن‌ها را در یک فید اجتماعی تازه با دیگران به اشتراک بگذارند.

به گزارش تک‌کرانچ، Character.AI در پست وبلاگی خود در این باره نوشت: «پلتفرم ما کار خود را با چت متنی یک‌به‌یک آغاز کرد، اما امروز با الهام از خواسته‌های کاربران، گام بزرگی در مسیر تکامل برداشته‌ایم.»

قابلیت AvatarFX که ماه گذشته به‌صورت آزمایشی در اختیار مشترکان ویژه قرار گرفته بود، اکنون برای همه کاربران فعال شده و امکان ساخت روزانه تا پنج ویدیو را فراهم می‌کند. کاربران می‌توانند با آپلود یک عکس، انتخاب صدا و نگارش دیالوگ، شخصیت‌های خود را در قالب یک ویدیو جان ببخشند. همچنین امکان بارگذاری فایل صوتی برای آموزش صدای شخصیت نیز در دسترس است؛ هرچند این قابلیت هنوز در مرحله اولیه قرار دارد و کیفیت عملکرد آن در زمان راه‌اندازی پایین گزارش شده.

داستان‌پردازی هوش مصنوعی با استفاده از Scenes و Streams
ویژگی Scenes به کاربران اجازه می‌دهد تا شخصیت‌های ساخته‌شده را وارد داستان‌های آماده و سناریوهای تخیلی کنند. این قابلیت فعلا تنها در اپلیکیشن موبایل فعال است. در عین حال، ویژگی جدیدی به نام Streams که امکان تعامل بین دو شخصیت هوش مصنوعی را فراهم می‌کند، قرار است طی هفته جاری برای نسخه‌های موبایل و وب عرضه شود.

کاربران می‌توانند ویدیوهای تولیدشده را از طریق یک فید اجتماعی جدید با دیگر کاربران به اشتراک بگذارند. این فید فعلا فقط در اپلیکیشن موبایل در حال توسعه است و هدف آن گسترش جامعه‌ای خلاق و تعاملی در بستر Character.AI است.

گفتنی است که با وجود این پیشرفت‌ها، نگرانی‌ها در مورد امنیت کاربران و امکان سواستفاده از فناوری‌های چندرسانه‌ای Character.AI همچنان باقی است. این پلتفرم در گذشته به‌دلیل عدم نظارت کافی بر رفتار چت‌بات‌ها مورد انتقاد شدید قرار گرفته است. برخی والدین علیه این شرکت اقامه دعوی کرده‌اند و مدعی‌اند که چت‌بات‌های Character.AI فرزندان آن‌ها را به خودکشی، آسیب به خود و حتی قتل والدین تشویق کرده‌اند.

در یکی از موارد تکان‌دهنده، پسر ۱۴ ساله‌ای پس از شکل‌گیری وابستگی شدید به یک شخصیت مصنوعی، با تشویق آن چت‌بات به زندگی خود پایان داد.

محدودیت‌ها و تدابیر ایمنی جدید
پلتفرم Character.AI برای کاهش سواستفاده، آپلود عکس افراد واقعی (اعم از افراد عادی یا سلبریتی‌ها) را ممنوع کرده و شباهت‌های ظاهری را با الگوریتم‌هایی مبهم می‌سازد.

با این حال، تصاویر گرافیکی از افراد مشهور که به صورت نقاشی یا تصویرسازی هستند، معمولا توسط سیستم تشخیص داده نمی‌شوند و خطر استفاده از آن‌ها برای ساخت «دیپ‌فیک» همچنان وجود دارد. Character.AI برای مقابله با این خطر، روی ویدیوهای تولیدی خود واترمارک اضافه می‌کند؛ اما کارشناسان هشدار می‌دهند که کاربران ماهر می‌توانند این واترمارک را دور بزنند.

در انتهای پست وبلاگی، Character.AI تاکید می‌کند که هدف این پلتفرم فراهم‌سازی فضایی جذاب برای بروز خلاقیت در کنار حفظ ایمنی و سلامت کاربران است.

با گسترش قابلیت‌های چندرسانه‌ای در این پلتفرم و همزمان با رشد سریع فناوری‌های مولد، چالش اصلی برای Character.AI حفظ تعادل میان آزادی خلاقیت و جلوگیری از رفتارهای مخرب خواهد بود. بدون طراحی دقیق‌تر سیاست‌های ایمنی، این ابزارها می‌توانند همان‌قدر که الهام‌بخش هستند، خطرناک نیز باشند.