Nvidia обяви, че е започнала „пълно производство“ на платформата Vera Rubin за AI центрове за данни и увери партньорите, че графикът за пускане остава в рамките на годината. Паралелно с това се появиха данни, че компанията обновява спецификациите на Rubin GPU с фокус върху по-висока реална производителност и по-силна позиция спрямо конкурентни ускорители.
По-висок TDP: фиксирани 2,3 kW на GPU
Според информация от Keybanc, споделена от @Jukan05, енергийният бюджет на Rubin GPU е фиксиран на 2,3 kW. Това е над първоначално комуникираните 1,8 kW, но под 2,5 kW, които част от наблюдателите са очаквали. Съобщава се, че целта е платформите на база Rubin да изпреварят осезаемо AMD Instinct MI455X, за който се прогнозира около 1,7 kW.
Дори при 2,3 kW Rubin по тези данни би консумирал приблизително с 35% повече спрямо MI450 и с почти 65% повече спрямо Blackwell Ultra (B300), който е посочен с TDP 1,4 kW. Данните са неофициални, а Nvidia е потърсена за коментар.
Паметна пропускателност: скок до 22,2 TB/s с HBM4
Паралелно с твърденията за по-висок TDP, SemiAnalysis посочва, че Nvidia е увеличила скоростите на трансфер при HBM4 стековете. Това би довело до паметна пропускателност от 22,2 TB/s за Rubin GPU, спрямо приблизително 13 TB/s в по-ранни очаквания/параметри. Подобна промяна би адресирала нарастващото ограничение при AI системите, където паметната пропускателност и „fabric“ свързаността често са критични за ефективността.
Допълнителните ~500 W не са само „по-висока консумация“ — те могат да се превърнат в по-стабилни честоти под продължително натоварване, по-малко throttling и по-устойчиво обучение/инференс в мащабни клъстери.Защо допълнителните 500 W могат да вдигнат реалната производителност
По-големият енергиен бюджет дава повече свобода за поддържане на по-високи устойчиви boost честоти при непрекъснато натоварване (training и inference), както и за ограничаване на throttling при пълно натоварване на ускорителя. Това може да позволи едновременно активиране на повече изпълнителни блокове и по-висок throughput при тежки сценарии, където паралелно се натоварват изчисленията, паметта и междусвързаността.
Освен изчислителните модули (tensor units), допълнителната мощност може да бъде използвана и за по-високи честоти на HBM4 и PHY компонентите, което директно подпомага паметната пропускателност. Също така се отваря възможност за по-агресивни работни точки при връзките за обмен на данни — към паметта, вътрешните interconnect-и и NVLink — при запазване на добри сигнални маржове.
Ефект върху системите и производството: възли, шкафове и добив
На системно ниво +500 W TDP на ускорител може да означава по-висока производителност на възел и на rack, което е ключово за hyperscalers. За тях често е по-важна общата производителност на системата, защото при една и съща задача могат да използват по-малко GPU, да намалят мрежовото натоварване и да подобрят ефективността на клъстера — при условие че инфраструктурата им може да поддържа значително по-висока консумация.
По-високият TDP може да помогне и на производствения фронт: повече напреженов и „binning“ headroom дава по-голяма гъвкавост при класифициране на чипове и потенциално по-добър usable yield, без да се налага орязване на блокове или сваляне на честоти. Това може да подкрепи доставките и наличността на Rubin GPU на пазара.
Какво означава това
- По-висока производителност в реални натоварвания: по-високи устойчиви честоти и по-малко throttling при продължителен training/inference.
- Фокус върху паметната пропускателност: 22,2 TB/s с HBM4 би намалило „бутилкови гърла“ при модели, чувствителни към bandwidth.
- Натиск върху конкурентите: целта изглежда е Rubin да е осезаемо по-бърз спрямо AMD Instinct MI455X (около 1,7 kW).
- По-сложни изисквания към инфраструктурата: 2,3 kW на GPU ще изисква по-сериозно захранване и охлаждане в центровете за данни.
- Възможен плюс за доставките: по-голям headroom за binning може да подобри usable yield и потенциално да увеличи броя доставяеми GPU.
