AMD ускорява иновациите в AI за центрове за данни с разширена пътна карта за Instinct GPU
AMD обяви разширена пътна карта за ускорителите AMD Instinct за центрове за данни, насочена към по-бърз цикъл на иновации при AI обучение и inference. Планът включва нови поколения с акцент върху по-висока производителност и повече HBM памет, като първите продукти са планирани за края на 2024 г. и 2025 г.
Разширена пътна карта с годишен ритъм
По време на откриваща реч на Chair и CEO д-р Lisa Su, AMD подчерта нарастващия импулс на семейството ускорители AMD Instinct и представи многогодишен план за развитие. Идеята е компанията да поддържа ежегодно обновяване, което да носи „лидерски“ нива на AI производителност и капацитет на паметта във всяко ново поколение.
Обновената пътна карта започва с:
- AMD Instinct MI325X – очаквана наличност в Q4 2024.
- AMD Instinct MI350 серия – базирана на AMD CDNA 4, очаквана наличност през 2025, с до 35x поколенчески ръст в AI inference производителност спрямо AMD Instinct MI300 Series (CDNA 3).
- AMD Instinct MI400 серия – планирана за 2026, на база архитектурата AMD CDNA “Next”.
MI325X: повече HBM3E и висока пропускателност
AMD Instinct MI325X е позициониран като следващата стъпка в линията, с фокус върху паметта и пропускателността. Компанията посочва, че ускорителят ще предлага:
- до 288GB HBM3E памет
- 6 TB/s пропускателност на паметта
- използване на стандартния за индустрията дизайн Universal Baseboard, същия като при AMD Instinct MI300 серията
- твърдения за водещи показатели за капацитет и пропускателност на паметта (съответно 2x и 1.3x спрямо конкуренцията), както и 1.3x по-добра изчислителна производителност спрямо конкуренцията
MI350 серия: CDNA 4, 3nm и FP4/FP6
Първият продукт от MI350 серията, AMD Instinct MI350X, е базиран на AMD CDNA 4 и е планиран за 2025 г. По данни на AMD той ще:
- използва Universal Baseboard дизайн, съвместим с останалите MI300 ускорители
- бъде изработен по усъвършенствана 3nm технология
- поддържа AI типове данни FP4 и FP6
- разполага с до 288GB HBM3E памет
Софтуерният стек ROCm 6 и екосистемата за модели
AMD отчита напредък в софтуерната си платформа ROCm 6 (отворен софтуерен стек), която според компанията подпомага производителността на AMD Instinct MI300X при популярни големи езикови модели (LLMs).
Сред цитираните примери са:
- Сървър с осем AMD Instinct MI300X ускорителя и ROCm 6 при Meta Llama-3 70B: до 1.3x по-добра inference производителност и генериране на токени спрямо конкуренцията.
- Един AMD Instinct MI300X ускорител с ROCm 6 при Mistral-7B: до 1.2x по-добра inference производителност и throughput при генериране на токени спрямо конкуренцията.
AMD добавя, че Hugging Face тества всяка нощ 700,000 от най-популярните си модели, за да гарантира, че работят „out of box“ с AMD Instinct MI300X. Компанията също така посочва продължаваща работа за upstream интеграции в рамките на широко използвани AI фреймуъркове като PyTorch, TensorFlow и JAX.
Партньори и внедрявания на MI300X
Според AMD приемането на AMD Instinct MI300X продължава да се разширява, като ускорителите се използват в различни инфраструктури и системи. Сред изброените партньори и сценарии са:
- Microsoft Azure – за Azure OpenAI услуги и виртуални машини Azure ND MI300X V5.
- Dell Technologies – интеграция в PowerEdge XE9680 за enterprise AI натоварвания.
- Supermicro – множество решения с AMD Instinct ускорители.
- Lenovo – Hybrid AI решения с ThinkSystem SR685a V3.
- HPE – ускоряване на AI натоварвания в HPE Cray XD675.
Какво означава това
- По-ясна предвидимост за клиентите в центровете за данни: годишни обновявания на ускорителите и планирани архитектурни стъпки (CDNA 4 и CDNA “Next”).
- Силен фокус върху HBM паметта и пропускателността, които често са ключови ограничения при работа с големи модели.
- ROCm 6 и съвместимостта с екосистемата (Hugging Face, PyTorch, TensorFlow, JAX) остават критични за реалното внедряване, отвъд хардуерните характеристики.
- Широк списък от партньори (Microsoft Azure, Meta, Dell Technologies, HPE, Lenovo, Supermicro) подсказва, че MI300X се позиционира като реална алтернатива за AI инфраструктура в предприятия и облака.
