Superčip Grace Blackwell od Nvidie zazářil při svém představení díky svým brutálním specifikacím. Nyní máme také přibližnou představu o tom, jak velký tento komponent vlastně je.
Superčip GB200 Grace Blackwell představuje nejnovější milník společnosti Nvidia v oblasti umělé inteligence.
Systém kombinuje procesor Grace s 72 jádry ARM Neoverse V2 a dvěma grafickými procesory Blackwell na jedné desce. O dostatek paměti je také postaráno:GB200 Grace Blackwelllze vybavit až 372 GB paměti HBM3e s šířkou pásma 16 TB/s.
Tato architektura byla speciálně vyvinuta pro trénování a inferenci velkých jazykových modelů (LLM) s biliony parametrů. Z těchto základních údajů je však obtížné pochopit rozměry superčipu. Objasňuje to Dr. Moritz Lehmann, který pracuje jako softwarový inženýr GPU ve společnosti Intel a na Redditu je známý pod pseudonymem „ProjectPhysX“.
Praktické zkušenosti s opravdu velkými GPU: GB200 NVL72 – Grace CPU + 2x B200 180 GB na každém uzlu, propojené 130 TB/s NVLink spine
byu/ProjectPhysX innvidia
- Přesné rozměry zde sice nejsou uvedeny, ale (pravděpodobně) je vidět Lehmannova ruka se stylovým vulkánským pozdravem, který umožňuje přibližné srovnání s velikostí monstra GB200.
- Podle Lehmanna stojí rack NVL72 s 18 takovými uzly pouhé tři miliony amerických dolarů.
Grace Blackwell: I „páteř“ má co nabídnout
Na fotografiích je také vidět NVLink-Spine, který propojuje všechny uzly. Jen tento prvek váží přibližně 32 kilogramů. Jeho hmotnost není náhodná: NVLink využívá přibližně 5 000 kabelů o celkové délce přibližně tří kilometrů.
- Zde se využívá šířka pásma 130 terabajtů za sekundu. Podle generálního ředitele společnosti Nvidia Jensena Huanga to stačí k „přesunu většího provozu než celý internet“.
- Výkon je proto exorbitantní. Jeden čip B200 je v kontextu šířky pásma VRAM již třikrát rychlejší než Geforce RTX 5090 – celý rack s 36 čipy B200 tedy dosahuje 36násobné šířky pásma.
Crysis však Grace Blackwell Superchip přesto nezvládne: chybí jednotky pro renderování a ray tracing, takže klasické renderování her není možné.
