La supercomputadora DGX de NVIDIA para uso en inteligencia artificial generativa

El DGX GH200 se trata en gran medida en ayudar a las empresas a desarrollar modelos generativos de IA.

La supercomputadora utiliza un nuevo sistema de conmutación NVLink para permitir que 256 superchips GH200 Grace Hopper actúen como una sola GPU (cada uno de los chips tiene una CPU Grace basada en Arm y una GPU H100 Tensor Core).

Esto, según NVIDIA, permite que la DGX GH200 ofrezca 1 exaflop de rendimiento y tenga 144 terabytes de memoria compartida.

La compañía dice que es casi 500 veces más memoria de la que encontraría en un solo sistema DGX A100.

A modo de comparación, la última clasificación de las supercomputadoras Top500 enumera a Frontier en el Laboratorio Nacional de Oak Ridge en Tennessee como el único sistema de exaescala conocido, habiendo alcanzado un rendimiento de casi 1,2 exaflops en el punto de referencia de Linmark.

Eso es más del doble del rendimiento máximo del sistema en segundo lugar, el Fugaku de Japón.

En efecto, NVIDIA afirma haber desarrollado una supercomputadora que puede estar junto al sistema conocido más poderoso del planeta (Meta está construyendo una que, según afirma, será la supercomputadora de IA más rápida del mundo una vez que esté completamente construida).

NVIDIA dice que la arquitectura de la DGX GH200 ofrece 10 veces más ancho de banda que la generación anterior, “ofreciendo la potencia de una supercomputadora de IA masiva con la simplicidad de programar una sola GPU“.

Algunos grandes nombres están interesados en la DGX GH200.

Google Cloud, Meta y Microsoft deberían estar entre las primeras empresas en obtener acceso a la supercomputadora para probar cómo puede manejar cargas de trabajo generativas de IA.

NVIDIA dice que las supercomputadoras DGX GH200 deberían estar disponibles para fines de 2023.

La empresa también está construyendo su propia supercomputadora, Helios, que combina cuatro sistemas DGX GH200. NVIDIA espera que Helios esté en línea a finales de año.

Por otro lado, NVIDIA Avatar Cloud Engine (ACE) para juegos es un servicio que los desarrolladores podrán aprovechar para crear modelos de IA personalizados para voz, conversación y animación.

NVIDIA dice que ACE for Games puede “dar a los personajes no jugables habilidades de conversación para que puedan responder preguntas con personalidades realistas que evolucionan”.

Fuente: Engadget