Crean supercomputador en formato PC

Comparta este Artículo en:

Es una bestial estación de trabajo para inteligencia artificial con superchips GH200.

Si quiere trabajar en el desarrollo de modelos de inteligencia artificial, hoy por hoy lo ideal es contar con las GPUs profesionales de NVIDIA.

Ahora una compañía acaba de ponerlo más fácil, y ha comenzado a poner a la venta su nueva estación de trabajo para este ámbito: una basada en el espectacular GH200.

https://youtu.be/GNSr5ObBIUY?si=sjW7Y7cPf6ZAiFnU

La empresa GPTshop.ai ha creado un supercomputador en formato PC y ha conseguido el que según ellos es “el PC de sobremesa ARM más potente del mundo“.

Y lo es, sobre todo gracias al “superchip” NVIDIA GH200 Grace Hopper.

El GH200 cuesta cinco veces menos que el H100 y tres que el A100, consume diez veces menos energía que el H100 y cinco que el A100, y su rendimiento es más o menos el del A100 y no está lejos del H100.

La empresa lo compara con otras opciones (4 x AMD Mi300A, 8x RTX A6000) y en todos los casos afirman que esta apuesta es muy superior.

Normalmente los equipos dedicados a estas tareas son servidores con formato rack de 19 pulgadas, delgados pero muy largos.

Son máquinas habitualmente muy ruidosas (90 dB) y poco transportables, pero en GPTshop han creado esa estación de trabajo que además gracias a su sistema de refrigeración ronda los 25 dB, lo que supone un nivel de ruido apreciable pero nada molesto en comparación con el de esos servidores.

El equipo está basado en el citado NVIDIA GH200 Grace Hopper Superchip, que consta de una CPU de 72 núcleos NVIDIA Grace y la GPU NVIDIA H100 Tensor Core.

Además tenemos 480 GB de memoria LPDDR5X ECC, 96 GB de memoria HBM3 (o 144 GB de HBM3e), dos fuentes de alimentación de 2.000 o 2.400 W y un buen número de ranuras PCIe y puertos de conexión.

En Phoronix analizaron el rendimiento de su CPU ARM y aunque en algunas pruebas perdió contra los mejores chips x86-64 de Intel y AMD, fue el de NVIDIA el que ganó más pruebas: 15 de 23 contra Emeral Rapids y 13 de 23 contra los chips Bergamo y Genoa.

No analizaron la GPU, que es el componente clave para proceso y desarrollo de IA.

En GPTshop indican que la potencia es de 989 TFLOPS FP32. El de las RTX 4090 es de 82,58 TFLOPS.

https://youtu.be/O18NY_k2VHc?si=pFChqmBe2rOqPprs

El problema de esta estación de trabajo es que parte de los 45.900 euros —hay una versión con refrigeración líquida y más memoria por 62.500—, una cantidad que lo aleja desde luego de muchos de nuestros bolsillos.

Aún así, el precio no es en absoluto nada descabellado teniendo en cuenta que solo la tarjeta gráfica H100 puede rondar los 40.000 dólares.

Por un poco más tendremos una máquina con una GPU aún mejor y ya preparada para comenzar a trabajar desde el minuto cero.

Fuente: GPTshop