استارتاپ Fractile با معماری SRAM خود وعده داده اتکا به DRAM را از بین ببرد و هزینه اجرای مدل‌های زبانی را پایین بیاورد.

آنتروپیک ظاهراً درحال مذاکرات اولیه با استارتاپ تراشه‌سازی Fractile مستقر در لندن است تا پردازنده‌های شتاب‌دهنده استنتاج آن را خریداری کند.

استارتاپ آنتروپیک عمداً از وابستگی به یک فروشنده تراشه خاص پرهیز کرده است. این شرکت Claude را روی GPUهای انویدیا، پردازنده‌های Trainium آمازون و TPUهای گوگل اجرا می‌کند. وحالا طبق گزارش‌های منتشر شده، قصد دارد از تراشه‌های شرکت Fractile نیز کمک بگیرد.

مزیت معماری تراشه هوش مصنوعی Fractile برای آنتروپیک
Fractile در سال ۲۰۲۲ توسط «والتر گودوین»، دکترای آکسفورد، تأسیس شد. این شرکت درحال توسعه تراشه‌ای برای استنتاج هوش مصنوعی است که به‌جای انتقال داده‌ها به تراشه‌های DRAM جداگانه، حافظه و پردازش را با استفاده از SRAM ترکیب می‌کند.

او سال ۲۰۲۴ گفته بود که طراحی Fractile باعث می‌شود داده‌های موردنیاز برای محاسبات، مستقیماً کنار ترانزیستورهایی ذخیره شوند که عملیات حساب را انجام می‌دهند، نه اینکه به DRAM خارج از تراشه متکی باشد. به گفته او، براساس شبیه‌سازی‌های آن زمان، Fractile می‌تواند یک مدل زبانی بزرگ را ۱۰۰ برابر سریع‌تر و ۱۰ برابر ارزان‌تر از GPUهای انویدیا اجرا کند. البته انتظار نمی‌رود تراشه‌های Fractile تا حدود سال ۲۰۲۷ به آمادگی تجاری برسند.

Fractile تاکنون ۱۵ میلیون دلار سرمایه اولیه جذب کرده است. اکنون این شرکت درحال مذاکره برای جذب ۲۰۰ میلیون دلار سرمایه با ارزش‌گذاری بیش از ۱ میلیارد دلار است و Founders Fund ،8VC و Accel ازجمله سرمایه‌گذاران احتمالی آن هستند. طبق گزارش‌ها، تیم Fractile شامل مهندسانی از Graphcore، انویدیا و Imagination Technologies است.

علاقه آنتروپیک به Fractile همزمان با افزایش شدید تقاضا برای زیرساخت فعلی این شرکت مطرح شده است. از سوی دیگر، هزینه‌های استنتاج بر حاشیه سود ناخالص این شرکت فشار وارد کرده‌اند، چرا که برخلاف OpenAI و xAI که درحال ساخت یا گسترش مراکز داده عظیم خود هستند، آنتروپیک ترجیح داده ظرفیت موردنیاز خود را از چند ارائه‌دهنده اجاره کند.