Il superchip Grace Blackwell di Nvidia ha brillato alla sua presentazione con specifiche tecniche impressionanti. Ora abbiamo anche un’idea approssimativa delle dimensioni del componente.
Il superchip GB200 Grace Blackwell rappresenta l’ultima pietra miliare di Nvidia nel campo dell’intelligenza artificiale.
Il sistema combina una CPU Grace con 72 core ARM Neoverse V2 e due GPU Blackwell su un’unica scheda. Anche la memoria è più che sufficiente: il GB200 Grace Blackwell può essere equipaggiato con fino a 372 GB di memoria HBM3e con una larghezza di banda di 16 TB/s.
Questa architettura è stata sviluppata appositamente per l’addestramento e l’inferenza di modelli linguistici di grandi dimensioni (LLM) con trilioni di parametri. Tuttavia, questi dati di riferimento rendono difficile comprendere le dimensioni del superchip. Il dottor Moritz Lehmann, ingegnere software GPU presso Intel e noto su Reddit con lo pseudonimo di “ProjectPhysX”, fa chiarezza al riguardo.
Hands-on con le GPU davvero grandi: GB200 NVL72 – Grace CPU + 2x B200 180GB su ciascun nodo, collegati da 130TB/s NVLink spine
byu/ProjectPhysX innvidia
☻
- Non sono disponibili misure precise, ma (presumibilmente) si intravede la mano di Lehmann con il caratteristico saluto vulcaniano, che offre un confronto approssimativo con le dimensioni del mostro GB200.
- Secondo Lehmann, un rack NVL72 con 18 di questi nodi costa ben tre milioni di dollari.
Grace Blackwell: anche la “colonna vertebrale” ha qualcosa di speciale
Nella galleria fotografica è presente anche la spina dorsale NVLink, che collega tra loro tutti i nodi. Questo elemento da solo pesa circa 32 chilogrammi. Il peso non è casuale: NVLink utilizza circa 5.000 cavi per una lunghezza totale di circa tre chilometri.
- Qui viene utilizzata una larghezza di banda di 130 terabyte al secondo. Secondo il CEO di Nvidia Jensen Huang, è sufficiente per «movimentare più traffico dell’intero Internet».
- Le prestazioni sono quindi esorbitanti. Un singolo chip B200 è già tre volte più veloce della Geforce RTX 5090 in termini di larghezza di banda VRAM, quindi l’intero rack con i suoi 36 chip B200 raggiunge una larghezza di banda 36 volte superiore.
Il superchip Grace Blackwell fallirà comunque con Crysis: mancano le unità di rendering e ray tracing, quindi il rendering classico dei giochi non è possibile.
