Han logrado que la inteligencia artificial consuma un 95% menos de energía

Cada vez que hacemos uso de ChatGPT o Midjourney estamos contribuyendo a un consumo de energía (¡y agua!) excepcional.

Ese es precisamente uno de los problemas del auge de la IA, y las empresas ya están pensando incluso en utilizar centrales nucleares para satisfacer esa demanda.

Mientras muchos se esfuerzan en pensar en métodos de solucionar esas necesidades energéticas otros van justo a lo contrario: a lograr que la IA consuma mucho menos.

Investigadores de la firma BitEnergy AI han desarrollado una nueva técnica para reducir el consumo de energía por parte de estos modelos.

Según sus estimaciones, su método permite ahorrar hasta un 95% de consumo energético sin comprometer la calidad de estos sistemas.

La clave de esta “dieta” está en la forma de multiplicar números de coma flotante, una operación intensiva en cálculos de IA.

En lugar de multiplicar, los investigadores aplican sumas de enteros, lo que según sus análisis permite reducir de forma drástica las necesidades energéticas de la operación.

La coma flotante es un concepto matemático que permite a los computadores gestionar números enormes y muy pequeños de forma eficiente con una sencilla operación: la colocación de la coma (o, para países con otra notación, el punto) decimal.

Cuanto mayor es el número (“anchura“) de bits, mayor precisión obtenemos en los cálculos, pero también mayor es el gasto de energía (o las necesidades de memoria del sistema).

De ahí que por ejemplo FP32 (usado en algoritmos de aprendizaje profundo) ofrezca mayor precisión que FP8 (usado en el entrenamiento e inferencia, donde no se exige tanta precisión).

El algoritmo desarrollado por estos investigadores cambia multiplicaciones por sumas de enteros.

Descompone esas multiplicaciones haciendo uso de sumas, lo que acelera los cálculos y reduce el consumo energético sin que eso impacte en la precisión del resultado.

Sacar provecho de este método no obstante tiene un inconveniente: es necesario contar con un tipo de hardware específico, y los sistemas actuales no están optimizados para lograr dichas reducciones.

Aun así los investigadores aseguran que sus algoritmos están siendo implementados con chips hardware, y es de esperar que en un futuro próximo esa opción esté disponible de forma práctica.

Los desarrolladores del método afirman que esta técnica permite que los sistemas de IA “puede reducir potencialmente en un 95% el costo energético de las multiplicaciones tensor en coma flotante por elementos y en un 80% el de los productos punto“.

Los tensores son matrices multidimensionales de números que representan datos en redes neuronales.

Fuente: Decrypt