هشدار سم آلتمن درباره دو مسیر خطرناک در پیشرفت هوش مصنوعی
سم آلتمن، مدیرعامل اوپنایآی، با انتشار بیانیهای خواستار ایجاد چارچوبهای ایمنی و کنترل سرعت توسعه مدلهای پیشرفته هوش مصنوعی شد.
مدیرعامل اوپنایآی با انتشار بیانیهای بر ضرورت رفتاری مسئولانه در مسیر توسعه فناوریهای نوین تأکید کرد و از لزوم کاهش سرعت پیشرفت مدلهای هوش مصنوعی پیشرفته برای تضمین ایمنی سخن گفت.
آلتمن میگوید شرکتهای پیشرو باید استانداردهای امنیتی سختگیرانهتری را پیش از آغاز فرایندهای یادگیری تقویتی سنگین پیادهسازی کنند تا قابلیتهای مدلها از سازوکارهای نظارتی فراتر نرود.
به گفتهی آلتمن: «جهان شایستهی اطمینان از این موضوع است که شرکتهای آمریکاییِ توسعهدهندهی هوش مصنوعیِ با قابلیتهای فزاینده، مسئولانه عمل خواهند کرد؛ بهویژه در شرایطی که روند پیشرفت پرشتابتر شده است. هر شرکت پیشرویی باید این اطمینان را ایجاد کند و اگر نمیتوانیم، دلیلی ندارد هیچیک از ما سر کار بیاییم.»
آلتمن دو خطر عمده را تهدیدکنندهی آینده بشر دانست که شامل از دست رفتن کنترل بر سرنوشت جهان به نفع هوش مصنوعی و تمرکز بیش از حد قدرت در دست یک دولت یا شرکت خاص میشود.
مدیرعامل اوپنایآی، گفت: «وقتی از تنظیم سرعت صحبت میکنیم، منظورمان توقف نیست. پیشرفت سریع بوده است و همچنان ادامه خواهد داشت، اما باید کندتر از آنچه میتواند باشد پیش برود؛ اقداماتی مانند پروندههای ایمنی و نظارت، هزینههای چشمگیری دارند.»