کنترل ابر هوش مصنوعی غیرممکن است
ایده هوش مصنوعی که چند سالی است در دنیا سر و صدا به پا کرده، نگرانی هایی را هم برای دانشمندان این حوزه ایجاد کرده و عده ای بر این باورند که نمی توان ابر هوش های مصنوعی را کنترل کرد.
به گزارش sciencealert، زمانی که هوش مصنوعی در دنیا مطرح شد، بسیاری معتقد بودند که ظهور این فناوری نوظهور ممکن است موضع بشر را در بسیاری از مشاغل به خطر بیاندازد و نیروی انسانی به خطر بیافتد.
علاوه بر این، خطر دیگری که در این رابطه مطرح شد، احتمال از کنترل خارج شدن کامپیوترهای ابرهوشمند است که ممکن است به صورت خودمختار وارد عمل شوند.
نکته مهم این است که کنترل ابر هوش مصنوعی بسیار فراتر از درک انسان، مستلزم شبیه سازی ابر هوش مصنوعی است که بشر قادر به تحلیل و کنترل آن باشد. به گزارش سیناپرس، اما اگر قادر به درک آن نباشیم، ایجاد چنین شبیه سازی غیرممکن است.
اگر بشر قادر به درک نوع سناریوهایی باشیم که هوش مصنوعی قرار است ایجاد کند، نمی توان قوانینی مانند «به انسان آسیب وارد نکن» را تنظیم کرد. زمانی که یک سیستم کامپیوتری در سطح بالاتر از محدوده برنامه نویسان کار می کند، دیگر نمی توان محدودیت هایی را تعیین کرد.
محققان معتقدند: ابر هوش مصنوعی مشکل متفاوت تری را نسبت به عنوان «اخلاق رباتیک» ایجاد می کند. این مسئله به این دلیل رخ می دهد که ابر هوش مصنوعی یک مسئله چند وجهی است و بنابراین، قادر به بسیج منابع مختلف برای دستیابی به اهدافی است که برای انسان غیرقابل درک است چه برسد به قابل کنترل بودن آن.
یکی از مشکلات ایجاد شده این است که بدانیم آیا یک برنامه کامپیوتری به نتیجه می رسد. همان طور که محققان از طریق برخی علوم ریاضیات هوشمند ثابت کرده که برای بشر غیرممکن است که بتواند هر برنامه خاصی را برنامه نویسی کند اما به گزارش سیناپرس، این در مورد ابر هوش مصنوعی صدق نمی کند به طوری که قادر است هر برنامه ای را به یکباره در حافظه خود نگه دارد.
به عنوان مثال، هر برنامه ای که برای توقف هوش مصنوعی و جلوگیری از آسیب رساندن به بشر و نابودی دنیا نوشته شده باشد، ممکن است به نتیجه برسد یا نرسد اما از نظر ریاضیات، قابل کنترل نیستند. درواقع، این باعث می شود الگوریتم های مهار غیرقابل کنترل شوند.
جایگزینی برای آموزش برخی اصول اخلاقی به هوش مصنوعی وجود ندارد و این که هیچ الگوریتمی نمی تواند به طور مثال به ابر هوش مصنوعی دستور دهد که جهان را نابود نکند، محدود کردن قابلیت های ابر هوش مصنوعی است. به گزارش سیناپرس، اگر دنیا به سمت استفاده از هوش مصنوعی حرکت می کند، نباید به دنبال از کنترل خارج شدن این فناوری بود.
اگر بخواهیم با هوش مصنوعی پیش برویم، حتی ممکن است ندانیم چه زمانی یک ابر هوش مصنوعی از کنترل بشر خارج می شود و این غیرقابل درک است. یک ابر هوش مصنوعی که جهان را کنترل می کند، به نظر می رسد مقوله ای علمی تخیلی است.