هوش مصنوعی جدید شیائومی سرعت خیرهکنندهای را روی گرافیکهای استاندارد ثبت کرد
شیائومی با معرفی حالت UltraSpeed برای هوش مصنوعی MiMo-V2.5-Pro، سرعت تولید متن را با عبور از ۱۰۰۰ توکن در ثانیه بهنمایش گذاشت.
شیائومی از قابلیت جدیدی برای خانوادهی هوش مصنوعی MiMo رونمایی کرد. حالت UltraSpeed برای مدل MiMo-V2.5-Pro اکنون در دسترس قرار گرفته است.
مدل یک تریلیون پارامتری شیائومی با همکاری TileRT توسعه یافته است. فناوری مذکور امکان اجرای مدل روی پردازندههای گرافیکی استاندارد را فراهم میکند.
سرعت تولید متن در این حالت از مرز ۱۰۰۰ توکنبرثانیه عبور کرده است. شیائومی دستیابی به این رکورد را نتیجهی طراحی همزمان مدل و سیستم زیرساختی آن میداند.
مدل MiMo-V2-Flash که در آذر ۱۴۰۴ منتشر شد، سرعتی معادل ۱۵۰ توکنبرثانیه داشت که به معنای تولید ۱۱۰ کلمه در ثانیه بود و از سرعت خواندن انسان پیشی میگرفت.
حالت اولترااسپید خروجی را ۱۰ برابر سریعتر از دسترسی استاندارد API مدل MiMo-V2.5-Pro ارائه میدهد. البته این افزایش سرعت با هزینهای سه برابری همراه است.
قیمتگذاری مدل MiMo-V2.5-Pro به شرح زیر است:
هزینهی ۰٫۰۲۵ یوان (۰٫۰۳ دلار) برای هر میلیون توکن در صورت وجود در حافظهی کش
هزینهی ۳ یوان (۰٫۴) برای هر میلیون توکن در صورت عدم وجود در حافظهی کش برای ورودی
هزینهی ۶ یوان (۰٫۸ دلار) برای هر میلیون توکن خروجی
شیائومی میگوید حالت اولترااسپید از طرحهای اشتراکی توکن پشتیبانی نمیکند. این قابلیت فعلاً در قالب دسترسی آزمایشی API ارائه میشود.
به دلیل محدودیت منابع استنتاج، شیائومی از ۱۹ خرداد تا ۲ تیر یک دورهی آزمایشی برگزار میکند. اولویت با شرکتها و توسعهدهندگان حرفهای است. کاربران تاییدشده از دو هفته تجربهی چت رایگان بهرهمند میشوند.