هوش مصنوعی مولد بار دیگر دچار «توهم» شده است، اما این بار در اسناد رسمی دادگاه‌های فدرال دست برده است.

در سراسر جهان، دادگاه‌ها در حال دریافت اسناد حقوقی از وکلا هستند که پر از دروغ‌هایی است که هوش مصنوعی ساخته است. درباره‌ پرونده‌های دادگاهی کاملا ساختگی، نقل‌قول‌های جعلی و منابعی صحبت می‌کنیم که اصلا وجود خارجی ندارند.

به نقل از دیجیتال‌ترندز، یک دانشمند داده و وکیل فرانسوی به نام دیمین شارلوتَن (Damien Charlotin) در حال پیگیری این موضوع است. او دریافته که تنها در ۶ ماه گذشته، دست‌کم ۴۹۰ سند دادگاهی شامل چنین «توهماتی» از سوی هوش مصنوعی بوده است.

بیشتر این موارد مربوط به ایالات متحده هستند، جایی که قضات وکلا را به خاطر ارائه‌ این مطالب ساختگی تولیدشده توسط هوش مصنوعی مورد انتقاد قرار داده و حتی جریمه کرده‌اند.

در یکی از پرونده‌های بزرگ، وکیل شرکت MyPillow گزارشی به دادگاه ارائه داد که نزدیک به ۳۰ منبع جعلی در آن وجود داشت. واقعا وحشتناک است. این فقط مشکل وکلا نیست؛ بلکه یک معضل بزرگ برای همه است.

ما همه داریم از ابزارهای هوش مصنوعی برای کارهای مختلف استفاده می‌کنیم؛ از نوشتن گزارش‌ها و خلاصه‌سازی جلسات گرفته تا انجام پژوهش‌ها. مشکل اینجاست که هوش مصنوعی به طرز حیرت‌انگیزی در «باورپذیر حرف زدن» مهارت دارد، حتی وقتی کاملا اشتباه می‌کند. جوابی می‌دهد که درست و منطقی به نظر می‌رسد، اما در واقع کاملا غلط است.

به گفته‌ شارلوتن: هوش مصنوعی می‌تواند موهبتی باشد، اما این خطرات را هم دارد. حتی افراد باهوش و باتجربه نیز ممکن است فریب آن را بخورند و این مسئله خطری جدی برای هر شرکتی است که بدون بررسی دوباره، به نتایج تولیدشده توسط هوش مصنوعی اعتماد می‌کند.

ببینید، چه معلم باشید، چه وکیل یا مدیر، هوش مصنوعی دارد بخشی از کار روزمره‌تان می‌شود. نمی‌توانید از آن فرار کنید. اما همان‌طور که کارشناسان هشدار می‌دهند، هرگز نباید کورکورانه از این ابزارها استفاده کنید.

ماریا فلین (Maria Flynn)، مدیرعامل سازمان Jobs for the Future، در گزارشی از آسوشیتدپرس جمله‌ بسیار درستی گفت؛ «با هوش مصنوعی مانند یک دستیار رفتار کنید، نه جایگزین».

شما هنوز باید همان انسان در چرخه باشید کسی که واقعیت‌ها را بررسی می‌کند، مطمئن می‌شود قوانین حریم خصوصی نقض نشده‌اند و مهم‌تر از همه، اطلاعات محرمانه‌ شرکت‌تان را در آن بارگذاری نمی‌کند.

یکی دیگر از وکلا می‌گوید: مردم فرض می‌کنند پاسخ درست است، فقط چون درست به نظر می‌رسد، اما این فرض ممکن است برایشان گران تمام شود. این اشتباه می‌تواند به قیمت اعتبار، شغل یا حتی دردسرهای قانونی تمام شود.

ما باید خیلی سریع‌تر در استفاده از هوش مصنوعی باهوش‌تر شویم. شرکت‌ها تشویق می‌شوند تا واقعا کارکنان خود را در این زمینه آموزش دهند. اینکه چگونه نتایج هوش مصنوعی را بررسی کنند، چگونه ایمن از آن استفاده کنند و چه کارهایی را نباید انجام دهند. این حالا دارد به یکی از مهارت‌های پایه‌ شغلی تبدیل می‌شود. بزرگ‌ترین خطر، یاد نگرفتن نحوه‌ استفاده از هوش مصنوعی است.

آینده درباره‌ جایگزینی انسان با هوش مصنوعی نیست؛ بلکه درباره‌ انسان‌هایی است که بلدند از هوش مصنوعی به‌درستی و مسئولانه استفاده کنند.