شرکت «اوپن‌ای‌آی» تولید ویدئوهای هوش مصنوعی «سورا» را از «مارتین لوتر کینگ جونیور» متوقف کرد.

شرکت «اوپن‌ای‌آی»(OpenAI) روز پنجشنبه اعلام کرد که امکان تولید ویدئوهایی شبیه به «مارتین لوتر کینگ جونیور»(Martin Luther King Jr) فعال فقید حقوق مدنی با استفاده از مدل ویدئویی هوش مصنوعی «سورا»(Sora) را برای کاربران متوقف کرده است.

به نقل از تک کرانچ، اوپن‌ای‌آی می‌گوید این اقدام حفاظتی را به درخواست وراث کینگ و پس از آن انجام می‌دهد که برخی از کاربران سورا تصاویر همراه با بی‌احترامی را از او تولید کردند.

اوپن‌ای‌آی در حساب ایکس خود نوشت: اگرچه منافع آزادی بیان قوی در به تصویر کشیدن چهره‌های تاریخی وجود دارد، اما اوپن‌ای‌آی معتقد است که چهره‌های عمومی و خانواده‌های آنها در نهایت باید بر نحوه استفاده از تصویرشان کنترل داشته باشند. نمایندگان مجاز یا صاحبان املاک می‌توانند درخواست کنند که تصویرشان در ویدئوهای کوتاه سورا استفاده نشود.

این محدودیت تنها چند هفته پس از راه‌اندازی پلتفرم ویدئوی اجتماعی سورا اعمال می‌شود. این پلتفرم به کاربران امکان می‌دهد تا ویدئوهای واقع‌گرایانه‌ای را با هوش مصنوعی بسازند که چهره‌های تاریخی، دوستانشان و کاربران خواهان ساخت تصویرشان در این پلتفرم را بازسازی می‌کند. این راه‌اندازی، بحث‌های عمومی داغی را درباره خطرات ویدئوهای تولیدشده توسط هوش مصنوعی و این که پلتفرم‌ها چگونه باید موارد محافظتی را درباره این فناوری پیاده‌سازی کنند، برانگیخته است.

دکتر «برنیس کینگ»(Bernice King) دختر مارتین لوتر کینگ جونیور هفته گذشته پستی را در اینستاگرام منتشر کرد و از مردم خواست که دیگر برایش ویدئوهای هوش مصنوعی شبیه به پدرش را نفرستند. او به دختر «رابین ویلیامز»(Robin Williams) بازیگر فقید آمریکایی پیوست که او نیز از کاربران سورا خواسته بود دیگر ویدئوهای هوش مصنوعی را از پدرش تولید نکنند.

واشنگتن پست اوایل این هفته گزارش داد که کاربران سورا ویدئوهای هوش مصنوعی را از مارتین لوتر کینگ جونیور ساخته‌اند که در آن صدای میمون درمی‌آورد و با «مالکوم ایکس»(Malcolm X) دیگر چهره‌ برجسته‌ حقوق مدنی کشتی می‌گیرد. با اسکرول کردن در اپلیکیشن سورا به راحتی می‌توان ویدئوهای ابتدایی را شبیه به دیگر چهره‌های تاریخ‌ساز از جمله «باب راس»(Bob Ross) نقاش فقید آمریکایی، «ویتنی هیوستون»(Whitney Houston) خواننده و بازیگر فقید آمریکایی و «جان اف کندی»(John F. Kennedy) رئیس جمهور سابق آمریکا پیدا کرد.

فراتر از این که سورا چگونه انسان‌ها را به تصویر می‌کشد، راه‌اندازی آن سؤالات بسیاری را درباره چگونگی برخورد پلتفرم‌های رسانه‌ اجتماعی با ویدئوهای هوش مصنوعی از آثار دارای حق نشر ایجاد کرده است. سورا پر از ویدئوهایی است که کارتون‌هایی مانند «باب اسفنجی»(SpongeBob)، «ساوت پارک»(South Park) و «پوکمون»(Pokémon) را به تصویر می‌کشند.

اوپن‌ای‌آی در هفته‌های پس از راه‌اندازی سورا، محدودیت‌های دیگری را نیز به آن اضافه کرده است. این شرکت در ماه اکتبر اعلام کرد که قصد دارد به دارندگان حق نشر، کنترل دقیق‌تری را بر انواع ویدئوهای هوش مصنوعی بدهد که با شباهت به آثار آنها تولید می‌شوند. این ممکن است پاسخی به واکنش اولیه هالیوود نسبت به سورا باشد که چندان خوب نبود.

با اعمال محدودیت‌هایی برای سورا توسط اوپن‌ای‌آی به نظر می‌رسد که این شرکت یک رویکرد محتاطانه‌تر را برای تعدیل محتوا در «چت‌جی‌پی‌تی»(ChatGPT) در پیش گرفته است. اوپن‌ای‌آی این هفته اعلام کرد که در ماه‌های آینده به کاربران بزرگسال اجازه می‌دهد تا چت‌های بزرگسالانه را با چت‌جی‌پی‌تی داشته باشند.

به نظر می‌رسد اوپن‌ای‌آی با نگرانی‌هایی که همراه با تولید ویدئوی هوش مصنوعی سورا به وجود می‌آیند، دست‌وپنجه نرم می‌کند. برخی از پژوهشگران اوپن‌ای‌آی علناً در روزهای پس از راه‌اندازی اولین پلتفرم رسانه اجتماعی مبتنی بر هوش مصنوعی این شرکت و این که چگونه چنین محصولی در ماموریت‌های آن جای می‌گیرد، با سؤالاتی روبه‌رو شدند. «سم آلتمن»(Sam Altman)، مدیرعامل اوپن‌ای‌آی گفت که این شرکت در روز راه‌اندازی سورا احساس ترس و وحشت می‌کرد.

«نیک تورلی»(Nick Turley)، مدیر چت‌جی‌پی‌تی اوایل ماه جاری میلادی گفت که بهترین راه برای آموزش یک فناوری جدید، عرضه آن به جهان است. تورلی خاطرنشان کرد: این همان چیزی است که شرکت با چت‌جی‌پی‌تی آموخته و اوپن‌ای‌آی نیز با سورا در حال یافتن آن است.

به نظر می‌رسد که اوپن‌ای‌آی در حال یادگیری درباره نحوه توزیع این فناوری است.