انتشار پاسخ‌های خودکار با هوش مصنوعی ChatGPT موقتاً در Stack Overflow ممنوع شد
مدیران وب‌سایت Stack Overflow اعلام کردند که فعلاً انتشار جواب‌های تولیدشده با هوش مصنوعی ChatGPT را در این پلتفرم ممنوع می‌کنند.
وب‌سایت Stack Overflow که به‌عنوان یکی از مراجع اصلی پرسش‌وپاسخ برای برنامه‌نویسان شناخته میشود، اعلام کرده است که موقتاً اجازه نمی‌دهد کاربران پاسخ سؤالات افراد را با جواب‌هایی که از سوی چت‌بات هوش مصنوعی ChatGPT تولید میشود، بدهند.
چت‌بات ChatGPT جدیدترین محصول شرکت OpenAI است که کاربران می‌توانند به‌صورت رایگان از آن استفاده کنند. کاربران وب‌سایت Stack Overflow هم در چند روز اخیر از پاسخ‌های این هوش مصنوعی برای جواب‌دادن به سؤالات استفاده کرده بودند. اما حالا مدیران این پلتفرم اعلام کرده‌اند که انتشار پاسخ‌های ChatGPT به‌طور موقت ممنوع میشود.
مدیران Stack Overflow می‌گویند ChatGPT باعث شده است که کاربران به‌راحتی بتوانند پاسخ سؤالات را اسپم کنند. این پاسخ‌ها شاید در ابتدا درست به‌نظر برسند، اما معمولاً وقتی آن‌ها را بررسی می‌کنید، اشتباه هستند.
مدیران این وب‌سایت به همین دلیل می‌گویند: «لازم بود حجم این پست‌ها را کمتر کنیم. به همین خاطر، حالا استفاده از ChatGPT برای انتشار پست در Stack Overflow مجاز نیست. اگر بعد از انتشار این اطلاعیه تشخیص داده شود که کاربری از ChatGPT استفاده کرده، محدودیت‌هایی برای نشر محتوا توسط آن کاربر لحاظ خواهد شد، حتی اگر پست ارسالی از سوی او درست باشد.»
چرا تصمیم Stack Oveflow مهم است؟
تصمیم مدیران Stack Overflow از آن جهت اهمیت دارد که متخصصان حوزه هوش مصنوعی مدتی است در حال گفتگو درباره تهدیدهای بالقوه استفاده از مدل‌های زبانی بزرگ هستند. برای مثال «یان له‌کان»، دانشمند هوش مصنوعی متا می‌گوید این مدل‌ها می‌توانند اطلاعات نادرستی تولید کنند، اما به‌خودی‌خود اشتراک‌گذاری متن را آسان‌تر نمی‌کنند. اما عده دیگری باور دارند که تولید حجم زیادی از محتوا توسط این مدل‌ها می‌تواند ریسک انتشار آن‌ها در آینده را افزایش دهد.
تاکنون شواهد اندکی پیرامون اثرات زیان‌بار مدل‌های زبانی بزرگ در جهان واقعی دیده شده بود. اما اتفاقات اخیر در Stack Overflow می‌تواند چالش‌هایی را نشان بدهد که این سیستم‌ها می‌توانند در مقیاس بزرگ ایجاد کنند.
اگرچه این سایت اعلام کرده است که تصمیم‌گیری دائمی در این خصوص را در آینده با هم‌فکری کاربران خود انجام خواهد داد، ولی به‌نظر می‌رسد که واکنش کلی کاربران در خود این سایت و در انجمن‌هایی مثل Hacker News درباره این تصمیم مثبت بوده است. البته برخی باور دارند که کار مدیران در تشخیص پاسخ‌هایی که توسط هوش مصنوعی تولید می‌شوند، سخت خواهد بود.
ChatGPT براساس الگوریتم GPT-3.5 ساخته شده است که پیش‌تر برای تولید و تکمیل متن به‌کار می‌رفت. این چت‌بات حالا حتی با نگارش مقاله دانشگاهی، تحسین استاد دانشگاه آریزونا را هم در پی داشته است.