Novos padrões? O que acabou de ser mostrado na GTC será arrancado das mãos da Nvidia

segunda-feira à noite, que promete estabelecer novos padrões.

Como explicou Jensen Huang, Diretor Executivo da Nvidia, o objetivo é anunciar uma “nova era de IA generativa”. Na ponta de lança deste projeto está o chip B200, que substitui os anteriores H100 e GH100 da geração Hopper

As impressionantes especificações técnicas (ver abaixo) sugerem que os principais clientes, como a Amazon e a Microsoft, com a correspondente procura e orçamento, farão fila na Nvidia para obter o maior número possível destes chips.

Conteúdo gerado pelo KI

As coisas mais importantes em poucas palavras

• Nvidia apresenta a nova arquitetura Blackwell para IA generativa na GTC 2024.
  O chip B200 substitui os emblemáticos H100 e GH100 e oferece melhor desempenho e eficiência energética.
  A GPU baseia-se num processo de fabrico de 4 nm e tem 208 mil milhões de transístores.
  O superchip GB200 combina processadores Grace e GPUs Blackwell e oferece uma potência de computação extremamente elevada.

Dados técnicos da Nvidia B200

A GPU é desenvolvida com base no processo de fabrico 4NP – um processo de produção especial de 4 nm concebido para a Blackwell pelo fabricante de chips taiwanês TSMC.


O B200 em si é um design de dupla matriz. Os dois chips incorporados comunicam através de uma ligação slide-to-die a uma velocidade de até 10 TByte por segundo e, por conseguinte, não devem ter desvantagens em comparação com o processo MCM (Multi Chip Module), que é utilizado principalmente pela AMD.

Há um total de 208 mil milhões de transístores

na placa B200. De acordo com a Nvidia, o poder de computação teórico é o seguinte:

• FP8

  : Até 20 PetaFLOPS
  

  FP16

  : Até 10 PetaFLOPS
  

  FP32

  : Até 5 PetaFLOPS
  De acordo com Huang, isto deverá resultar em cerca de quatro vezes o desempenho para a formação de IA e 30 vezes o desempenho para a inferência de IA. Entretanto, a eficiência energética deverá ser melhorada por um fator de 25.
  

  No que respeita à memória, a Nvidia B200 funciona com uma memória HBM3e de 192 GByte e a largura de banda deverá atingir 8 TByte/s.

  O “Grace Blackwell” como um novo superchip

  O novo chip também forma a base para o superchip “Grace Blackwell” chamado GB200, que será usado principalmente no computador NVL72 da própria Nvidia e em soluções personalizadas.

  Fiel ao seu nome, o GB200 Grace Blackwell é uma solução híbrida que consiste num processador Grace com 72 núcleos Neoverse V2 do fabricante Arm e dois dos chips gráficos B200 apresentados – por isso, um único chip GB200 tem quatro matrizes neste aspeto.
  

  No computador NVL72 mencionado acima, 36 das CPUs Grace são utilizadas em conjunto com 72 GPUs Blackwell (e, consequentemente, 144 matrizes Blackwell), o que resulta nos seguintes dados técnicos loucos:

  • Processador

    : 2.592 núcleos ARM Neoverse V2
    

    Memória

    : Até 17 TByte de RAM LPDDR5X
    

    72 GPUs Blackwell

    com 13,5 TByte de memória HBM3e
    Poder de computação do FP4

    : Até 1.440 PetaFLOPS
    

    FP8 potência de computação

    : Até 720 PetaFLOPS
    

    FP16

    : Até 360 PetaFLOPS
    

    Graças ao NVLink, que promete até 130 TByte por segundo de largura de banda, o supercomputador NVL72 deverá comportar-se como um único e enorme processador gráfico

    O consumo de energia previsto é correspondentemente elevado: diz-se que um único superchip GB200 requer até 2.700 watts.

    Os primeiros clientes empresariais já estão a fazer fila A plataforma de IA deverá estar disponível para parceiros empresariais no decurso do ano. A Nvidia menciona explicitamente os fornecedores de serviços na nuvem, como a AWS, Google Cloud, Microsoft Azure e Oracle Cloud Infrastructure, que estão, sem surpresa, a mostrar interesse na arquitetura Blackwell. Como explica Huang, a Nvidia está à beira do “lançamento mais bem sucedido da história da empresa” com a Blackwell.