Новые стандарты? То, что только что было показано на GTC, будет вырвано из рук Nvidia

Как и ожидалось, на GTC 2024 компания Nvidia представила новую архитектуру Blackwell. С чипом B200 и платформой GB200 производитель выходит в новые сферы

Как и ожидалось, компания Nvidia представила новую архитектуру Blackwell на проходящейGTC 2024 (GPU Technology Conference)в понедельник вечером, пообещав установить новые стандарты.

По словам генерального директора Nvidia Дженсена Хуанга, это должно возвестить о наступлении «новой эры генеративного ИИ». Во главе угла стоит чип B200, который заменит предыдущие флагманы H100 и GH100 из поколения Hopper

Впечатляющие технические характеристики (см. ниже) позволяют предположить, что такие крупные заказчики, как Amazon и Microsoft, имеющие соответствующий спрос и бюджет, будут стоять в очереди в Nvidia, чтобы получить как можно больше этих чипов.

Технические данные Nvidia B200

Графический процессор разработан на основе производственного процесса 4NP — специального 4 нм производственного процесса, разработанного для Blackwell тайваньским производителем чипов TSMC.

Сам процессор B200 представляет собой двухматричную конструкцию. Два встроенных чипа обмениваются данными по каналу «слайд-пластина» со скоростью до 10 Тбайт/с и поэтому не должны иметь недостатков по сравнению с процессом MCM (Multi Chip Module), который в основном используется компанией AMD.

В общей сложности в карте B200 насчитывается 208 миллиардов транзисторов По данным Nvidia, теоретическая вычислительная мощность выглядит следующим образом:

• FP8: до 20 PetaFLOPS
• FP16: до 10 петафлопс
• FP32: до 5 петафлопс

По словам Хуанга, это должно привести к увеличению производительности при обучении ИИ примерно в четыре раза и в 30 раз — при выводе данных. При этом энергоэффективность должна быть повышена в 25 раз.

Что касается памяти, Nvidia B200 работает с памятью HBM3e объемом 192 Гбайт, пропускная способность должна достигать 8 Тбайт/с.

«Грейс Блэквелл» как новый суперчип

Новый чип также является основой для суперчипа «Grace Blackwell» под названием GB200, который в первую очередь будет использоваться в собственном компьютере Nvidia NVL72 и заказных решениях.

Согласно своему названию, GB200 Grace Blackwell представляет собой гибридное решение, состоящее из процессора Grace с 72 ядрами Neoverse V2 от производителя Arm и двух показанных графических чипов B200 — таким образом, один чип GB200 имеет четыре матрицы.

В упомянутом выше компьютере NVL72 36 процессоров Grace используются вместе с 72 графическими процессорами Blackwell (и, соответственно, 144 плашками Blackwell), что приводит к следующим безумным техническим данным:

• Процессор: 2 592 ядра ARM Neoverse V2
• память: до 17 Тбайт оперативной памяти LPDDR5X
• 72 графических процессора Blackwell с памятью HBM3e объемом 13,5 Тбайт
  Вычислительная мощность
• FP4: до 1 440 PetaFLOPS
• FP8 вычислительная мощность: до 720 петафлопс
• FP16 вычислительная мощность: до 360 петафлопс

Благодаря технологии NVLink, которая обеспечивает пропускную способность до 130 Тбайт/с, суперкомпьютер NVL72 должен вести себя как один массивный графический процессор

В общей сложности в такой домен NVLink можно подключить до 576 GPU — по словам Хуанга, общей вычислительной мощности должно хватить для обработки больших языковых моделей (LLM) с триллионами параметров

Предполагаемое энергопотребление соответственно высоко: один суперчип GB200, как утверждается, требует до 2700 Вт.

Первые бизнес-клиенты уже стоят в очереди Платформа ИИ должна быть доступна для бизнес-партнеров в течение этого года. Nvidia прямо упоминает облачных провайдеров, таких как AWS, Google Cloud, Microsoft Azure и Oracle Cloud Infrastructure, которые, что неудивительно, проявляют интерес к архитектуре Blackwell. Как объясняет Хуанг, с Blackwell Nvidia ожидает «самый успешный запуск в истории компании».