Новые стандарты? То, что только что было показано на GTC, будет вырвано из рук Nvidia

в понедельник вечером, которая обещает установить новые стандарты.

По словам генерального директора Nvidia Дженсена Хуанга (Jensen Huang), это событие должно возвестить о «новой эре генеративного ИИ». Во главе угла стоит чип B200, который заменит предыдущие флагманы H100 и GH100 из поколения Hopper

Впечатляющие технические характеристики (см. ниже) позволяют предположить, что такие крупные заказчики, как Amazon и Microsoft, имеющие соответствующий спрос и бюджет, будут стоять в очереди в Nvidia, чтобы получить как можно больше этих чипов.

KI-генерируемый контент

Самые важные вещи в двух словах

• Nvidia представляет новую архитектуру Blackwell для генеративного ИИ на GTC 2024.
  Чип B200 пришел на смену флагманам H100 и GH100 и предлагает улучшенную производительность и энергоэффективность.
  Графический процессор основан на 4-нм техпроцессе и имеет 208 миллиардов транзисторов.
  Суперчип GB200 объединяет процессоры Grace, графические процессоры Blackwell и обеспечивает чрезвычайно высокую вычислительную мощность.

Технические данные Nvidia B200

Графический процессор разработан на основе производственного процесса 4NP — специального 4 нм производственного процесса, разработанного для Blackwell тайваньским производителем чипов TSMC.

Сам процессор B200 представляет собой двухматричную конструкцию. Два встроенных чипа обмениваются данными по каналу slide-to-die со скоростью до 10 Тбайт/с и поэтому не должны иметь недостатков по сравнению с процессом MCM (Multi Chip Module), который в основном используется компанией AMD.

В общей сложности в карте B200 насчитывается 208 миллиардов транзисторов

По данным Nvidia, теоретическая вычислительная мощность выглядит следующим образом:

• FP8

  : до 20 PetaFLOPS
  

  FP16

  : до 10 петафлопс
  

  FP32

  : до 5 петафлопс
  

  По словам Хуанга, это должно привести к увеличению производительности в четыре раза при обучении ИИ и в 30 раз при выводе результатов ИИ. При этом энергоэффективность должна быть повышена в 25 раз.

  Что касается памяти, Nvidia B200 работает с памятью HBM3e объемом 192 Гбайт, пропускная способность должна достигать 8 Тбайт/с.

  «Грейс Блэквелл» как новый суперчип

  Новый чип также является основой для суперчипа «Grace Blackwell» под названием GB200, который в первую очередь будет использоваться в собственном компьютере Nvidia NVL72 и заказных решениях.

  Согласно своему названию, GB200 Grace Blackwell представляет собой гибридное решение, состоящее из процессора Grace с 72 ядрами Neoverse V2 от производителя Arm и двух показанных графических чипов B200 — таким образом, один чип GB200 имеет четыре матрицы.

  В упомянутом выше компьютере NVL72 36 процессоров Grace используются вместе с 72 графическими процессорами Blackwell (и, соответственно, 144 плашками Blackwell), что приводит к следующим безумным техническим данным:

  • Процессор

    : 2 592 ядра ARM Neoverse V2
    

    память

    : до 17 Тбайт оперативной памяти LPDDR5X
    

    72 графических процессора Blackwell

    с памятью HBM3e объемом 13,5 Тбайт
    Вычислительная мощность

    FP4

    : до 1 440 PetaFLOPS
    

    FP8 вычислительная мощность

    : до 720 петафлопс
    

    FP16 вычислительная мощность

    : до 360 петафлопс
    

    Благодаря технологии NVLink, которая обеспечивает пропускную способность до 130 Тбайт/с, суперкомпьютер NVL72 должен вести себя как один массивный графический процессор

    В общей сложности в такой домен NVLink можно подключить до 576 GPU — по словам Хуанга, общей вычислительной мощности должно хватить для обработки больших языковых моделей (LLM) с триллионами параметров

    Предполагаемое энергопотребление соответственно высоко: один суперчип GB200, как утверждается, требует до 2700 Вт.

    Первые бизнес-клиенты уже стоят в очереди Платформа ИИ должна быть доступна для бизнес-партнеров в течение этого года. Nvidia прямо упоминает облачных провайдеров, таких как AWS, Google Cloud, Microsoft Azure и Oracle Cloud Infrastructure, которые, что неудивительно, проявляют интерес к архитектуре Blackwell. Как объясняет Хуанг, Nvidia стоит на пороге «самого успешного запуска в истории компании» с Blackwell.