انویدیا از تراشه هوش مصنوعی H200 با حافظه 141 گیگابایتی رونمایی کرد
تراشه جدید انویدیا می‌تواند سرعت عملکرد مدل‌های هوش مصنوعی مولد را افزایش دهد.
انویدیا سرانجام از تراشه هوش مصنوعی جدید HGX H200 پرده برداشت. این تراشه با معماری هاپر ساخته شده و جانشین H100 خواهد شد. H200 از پهنای باند 4.8 ترابایت بر ثانیه‌ای بهره می‌برد و حافظه 141 گیگابایتی دارد.
طبق اعلام انویدیا، تراشه جدید H200 اولین پردازشگر گرافیکی با حافظه HBM3e است که حافظه و پهنای باند بسیار بالایی را در اختیار کاربر می‌گذارد. این شرکت می‌گوید پهنای باند حافظه تراشه جدید آن‌ها 2.4 برابر نسبت به تراشه A100 از سال 2020 افزایش یافته است.
ویژگی‌های تراشه هوش مصنوعی انویدیا H200
انویدیا محصول جدید خود را در فرم فکتورهای مختلفی عرضه می‌کند. این تراشه به‌صورت برد سرور به بازار می‌آید و با سخت‌افزارها و نرم‌افزارهای سیستم‌های H100 سازگار خواهد بود. H200 همچنین در نسخه‌ای با ترکیب CPU و GPU در یک پکیج، با عنوان GH200 Grace Hopper Superchip عرضه میشود.
تراشه انویدیا H200 می‌تواند سرعت GPT-3 را 1.6 برابر، Llama2 را 1.9 برابر و شبیه‌سازی‌های HPC را 2 برابر افزایش دهد
کسب‌وکار خدمات وب آمازون، گوگل کلود، مایکروسافت آژور و اوراکل ازجمله اولین شرکت‌هایی خواهند بود که از سال آینده تراشه‌های H200 را به کار می‌گیرند. این تراشه همچنین از فصل دوم 2024 از طریق سرویس‌دهنده‌های ابری و سایر تولیدکنندگان به‌صورت جهانی عرضه خواهد شد.
«ایان باک»، معاون محصولات پردازشی پرتوان انویدیا درباره تراشه H200 می‌گوید: «ترکیب حافظه سریع‌تر و بزرگ‌تر HBM موجب افزایش توان در انجام کارهایی مثل پردازش مدل‌های هوش مصنوعی مولد و اپلیکیشن‌هایی میشود که سنگین هستند، و در عین حال سبب بهینه‌ترشدن شیوه‌های استفاده از GPU و کارآمدی آن میشود.»
جهت مقایسه باید گفت که تراشه قبلی انویدیا یعنی H100 از حافظه 80 گیگابایتی و پهنای باند 3.35 ترابایت بر ثانیه‌ای بهره می‌برد. بنابراین H200 با پیشرفت‌های قابل توجهی عرضه میشود که حتی می‌تواند سرعت عملکرد مدل‌های هوش مصنوعی موجود ازجمله ChatGPT را افزایش دهد.
در شرایطی که شرکت‌های فعال در زمینه هوش مصنوعی سخت به‌دنبال تراشه‌های H100 هستند، حالا باید دید که عرضه تراشه H200 چگونه می‌تواند به بازار کمک کند و آیا به‌خوبی پاسخگوی نیاز این شرکت‌ها خواهد بود یا خیر.