NVIDIA presenta su supercomputador compacto de IA generativa

Comparta este Artículo en:

El kit para desarrolladores NVIDIA Jetson Orin Nano Super está diseñado tanto para aficionados como para desarrolladores de IA comerciales.

NVIDIA acaba de presentar el kit para desarrolladores Jetson Orin Nano Super, que es el sucesor de su kit Jetson Orin Nano de 2022.

Este nuevo supercomputador de IA generativa compacto cabe en la palma de la mano.

El kit para desarrolladores incluye un sistema en módulo Jetson Orin Nano de 8 GB y una placa base de referencia.

En términos de rendimiento, el Jetson Orin Nano Super puede alcanzar los 68 billones de operaciones por segundo (TOPS), un aumento del 70 por ciento con respecto a su predecesor.

NVIDIA también afirma una mejora de 1,7 veces en el rendimiento de inferencia de IA generativa y un aumento del ancho de banda del 50 por ciento a 102 GB por segundo.

En cuanto a la frecuencia de la CPU, ahora es de 1,7 GHz, un aumento modesto en comparación con los 1,5 GHz de su predecesor.

NVIDIA también afirma que “ofrece ganancias” para todos los modelos de IA generativa populares.

Entre ellos se incluyen modelos de lenguaje de gran tamaño (LLM), modelos de lenguaje de visión y transformadores de visión.

Las actualizaciones de software del Jetson Orin Nano Super también pueden mejorar su predecesor, lo que es una gran noticia si tiene el Jetson Orin Nano original.

Todo lo que necesitas hacer es descargar el software e instalar la actualización.

Dicho esto, NVIDIA no dio detalles sobre cómo cambiaría el rendimiento del dispositivo anterior.

El Jetson Orin Nano Super Developer Kit está disponible actualmente en distribuidores aprobados por NVIDIA.

Actualmente cuesta solo US$249, por debajo de los US$499 de su predecesor, lo que lo convierte en el producto más asequible de su tipo en este momento.

Fuente: Engadget