AMD anuncia nuevo chip de inteligencia artificial

AMD presentó su nuevo chip MI325X, un acelerador enfocado a tareas de IA que supera a uno de los GPU más potentes de NVIDIA.

AMD presentó un nuevo chip con el que espera competir con NVIDIA en el campo de la IA.

El Instinct MI325X es un acelerador basado en la arquitectura CDNA 3 que ofrece una potencia considerable para equipar centros de datos.

Según AMD, su nuevo chip supera hasta en 1,3 veces al H200 de NVIDIA en rendimiento de inteligencia artificial.

De acuerdo con AMD, los aceleradores Instinct MI325X están diseñados para ofrecer un rendimiento y eficiencia sin precedente en tareas de IA como entrenamiento, ajuste e inferencia de modelos básicos.

La GPU cuenta con 304 unidades de cómputo (CUs), soporta hasta 256 GB de memoria HBM3E y tiene un ancho de banda máximo de 6,0 TB/s.

En términos de rendimiento, AMD ha dejado claro que su acelerador supera a uno de los chips más populares de NVIDIA.

Las pruebas dieron como resultado una precisión media teórica máxima de 1307,4 TFLOPS en FP16 y BF16, una precisión teórica máxima de 2614,9 TFLOPS en FP8 y 1.978,9 TOPS en INT8.

En términos prácticos, el Instinct MI325X superó al H200 de NVIDIA en pruebas de rendimiento de inferencia en Mistral 7B, Llama 3.1 70B y Mistral 8x7B.

Durante su presentación en un evento especial, AMD confirmó que comenzará la producción antes de que termine el 2024.

El fabricante cerró acuerdos con Dell, Gigabyte, HP Enterprise, Lenovo, SuperMicro y Eviden para montar su acelerador en los computadores para centros de datos.

Se espera que el Instinct MI325X debute durante el primer trimestre de 2025.

El anuncio del Instinct MI325X estuvo acompañado de una hoja de ruta del fabricante.

El plan incluye el lanzamiento del MI350 Series basado en CDNA 4 durante la segunda mitad de 2025, seguido del MI400 Series con arquitectura de próxima generación en 2026.

Según AMD, sus aceleradores de inteligencia artificial representan el producto de más rápido crecimiento en la historia de la compañía.

La compañía reveló que el Instinct MI350 está diseñado para ofrecer una mejora de 35 veces en el rendimiento de inferencia en comparación con CDNA 3.

De igual modo, estos chips tendrán una capacidad de hasta 288 GB de memoria HBM3E por acelerador.

AMD también está impulsando el soporte para sus aceleradores en las librerías y modelos de IA más populares, como el recién anunciado Llama 3,2 de Meta o Stable Diffusion 3.

La compañía mencionó que sus aceleradores Instinct ya soportan más de un millón de modelos de lenguaje en Hugging Face.

La empresa quiere robarle un pedazo del pastel a NVIDIA en la inteligencia artificial.

Aunque la tarea parece más complicada que en las GPU para juegos, AMD apuesta con todo.

La empresa declaró que su objetivo es ofrecer una ventaja en el costo total de propiedad, ya sea que sus productos ofrezcan rendimiento superior por el mismo precio o una potencia similar por un precio más bajo.

Curiosamente, el fabricante no confirmó cuánto tendremos que pagar por el Instinct MI325X.

A juzgar por los precios del H200 de NVIDIA, el acelerador de AMD tendría que llegar a un precio inferior a los 28.900 dólares.

Fuente: AMD