پژوهش‌های جدید نشان می‌دهد محبوب‌ترین مدل‌های هوش مصنوعی در بیش از نیمی از پرسش‌های مالی پاسخ‌های نادرست و گمراه‌کننده ارائه می‌دهند.

مدل‌های هوش مصنوعی در پاسخ به پرسش‌های مرتبط با امور مالی و سرمایه‌گذاری با چالش‌های جدی روبه‌رو هستند. پژوهش‌های جدید نشان می‌دهد اتکا به ابزارهایی مانند ChatGPT، کلاد، کوپایلت، گراک و جمنای می‌تواند کاربران را با زیان‌های مالی سنگین مواجه کند.

فایننشال تایمز گزارش می‌دهد، مدل‌های محبوب به‌طور میانگین در ۵۷ درصد از موارد به پرسش‌های مالی پاسخ‌های نادرست داده‌اند. نرخ خطای مدل‌ها در سوالات پیچیده‌تر با چند مرحله محاسبه به میانگین ۸۸ درصد می‌رسد و برخی مدل‌ها در ۹۹ درصد این سناریوها عملکرد ناموفقی ثبت کرده‌اند.

ارزیابی بیش از ۱۰۰ پرسش مالی مختلف در قالب ۱۰ هزار آزمایش روی ۱۸ مدل رایگان و اشتراکی، خطاهای محاسباتی، نادیده گرفتن تغییرات قوانین مالیاتی و توهم قوانین ناموجود را آشکار کرده است.

امل جولی، مدیرعامل شرکت تحقیقاتی Saturn، می‌گوید: «میلیون‌ها نفر برای دریافت توصیه‌های مالی به مدل‌های هوش مصنوعی اعتماد می‌کنند؛ اما پاسخ‌های اشتباهی دریافت می‌کنند که می‌تواند موجب ضرر مالی آن‌ها شود.»

پاسخ‌ها نادرست هوش مصنوعی می‌توانست جریمه‌ی مالی برای کاربر به‌همراه داشته باشد

بررسی‌ها نشان داد پاسخ نادرست مدل Claude Haiku 4.5 درباره‌ی قوانین مالیات بازنشستگی می‌توانست جریمه‌ای معادل ۱۷ هزار و ۵۰۰ پوند از سوی سازمان امور مالیاتی بریتانیا (HMRC) برای یک بازنشسته رقم بزند. بهترین عملکرد در این آزمایش‌ها متعلق به نسخه‌ی اشتراکی Claude Opus 5 در حالت استدلال بود که با این حال در ۳۹ درصد موارد دچار خطا شد.

سارا کولز، مدیر بخش امور مالی شخصی در پلتفرم سرمایه‌گذاری AJ Bell، گفت: «گاهی اوقات مشاوران با مواردی مواجه می‌شوند که مشتری بر اساس پیشنهاد هوش مصنوعی تصمیم عجیبی گرفته است و می‌خواهند مانع اجرای آن شوند. چنین وضعیتی نشان می‌دهد افرادی که به راهنمایی نیاز دارند، باید از مشاوره درست و حرفه‌ای استفاده کنند نه اینکه به هوش مصنوعی اعتماد کنند.»

جولی می‌گوید: «مشاوره مالی با هوش مصنوعی در حال حاضر فاقد مقررات و نظارت قانونی است؛ در نتیجه مصرف‌کنندگان از هیچ‌یک از محافظت‌ها، از جمله دریافت غرامت مشابه مراجعه به مشاور انسانی، برخوردار نیستند. نهاد ناظر بر امور مالی بریتانیا (FCA) بررسی این حوزه را آغاز کرده اما برای محافظت از مردم نیازمند اقدام فوری است.»