3 километра кабел, тегло над 30 килограма и цена 3 милиона долара: така изглежда новият суперчип на Nvidia с NVLink

0
5

Суперчипът Grace Blackwell на Nvidia блесна при представянето си с впечатляващи спецификации. Сега вече имаме приблизителна представа за размерите на устройството.

Суперчипът GB200 Grace Blackwell е най-новият постижение на Nvidia в областта на изкуствения интелект.

Системата комбинира Grace CPU с 72 ARM Neoverse V2 ядра и два Blackwell GPU на една платка. Осигурена е и достатъчна памет: GB200 Grace Blackwell може да бъде оборудван с до 372 GB HBM3e памет с пропускателна способност от 16 TB/s.

Тази архитектура е специално разработена за обучение и инференция на големи езикови модели (LLM) с трилиони параметри. От тези основни данни обаче е трудно да се разбере размерът на суперчипа. Тук яснота внася д-р Мориц Леман, който работи като инженер по GPU софтуер в Intel и е известен в Reddit под псевдонима „ProjectPhysX“.

Практически опит с наистина големите GPU: GB200 NVL72 – Grace CPU + 2x B200 180GB на всеки възел, свързани с 130TB/s NVLink spine
отu/ProjectPhysX вnvidia

  • Точни размери не са посочени, но (вероятно) се вижда ръката на Леман с типичния за Вулкан поздрав, което дава приблизителна представа за размера на GB200-чудовището.
  • Според Леман, един NVL72 рак с 18 от тези възли струва цели три милиона долара.

Грейс Блекуел: „Гръбнакът“ също е впечатляващ

Също включено в галерията: NVLink-Spine, който свързва всички възли помежду си. Само този елемент тежи около 32 килограма. Теглото не е случайно: NVLink използва около 5000 кабела с обща дължина около три километра.

  • Тук се използва честотна лента от 130 терабайта в секунда. Според изпълнителния директор на Nvidia, Jensen Huang, това е достатъчно, за да „пренесе повече трафик от целия интернет“.
  • Съответно производителността е изключително висока. Един чип B200 е три пъти по-бърз от Geforce RTX 5090 в контекста на VRAM лентата – цялото рак с 36 чипа B200 достига 36-кратна лента.

Въпреки това Grace Blackwell Superchip ще се провали с Crysis: липсват рендеринг и рейтрейсинг единици, така че класическият геймърски рендеринг е напълно невъзможен.