Microsoft crea lenguaje para mejorar la comunicación entre LLMs

Un equipo de ingenieros informáticos y especialistas en inteligencia artificial de Microsoft, en colaboración con un par de colegas de la Universidad de Chicago, ha llevado al desarrollo de un nuevo lenguaje que permite a los LLM comunicarse entre sí de forma más eficiente.

El grupo ha publicado un artículo que describe las ideas detrás del nuevo lenguaje, cómo funciona y los tipos de mejoras en la eficiencia a las que puede conducir.

Los investigadores que trabajan en el desarrollo de sistemas de inteligencia artificial más potentes han señalado que una de las áreas de investigación más prometedoras implica la creación de modelos de inteligencia artificial específicos para problemas que sean realmente buenos para trabajar en un tipo de problema (por ejemplo, hacer pronósticos meteorológicos o económicos) y luego permitir que dichas aplicaciones se comuniquen entre sí como una forma de construir un sistema de inteligencia artificial universal.

En este nuevo esfuerzo, el equipo de investigación señaló que los LLM actualmente se hablan entre sí principalmente en inglés, lo que tiene sentido porque ese es el idioma que utilizan para interactuar con los humanos, al menos en los países de habla inglesa.

Pero también notaron que hacerlo podría ser la forma más eficiente de hablar con los humanos, pero no es la forma más eficiente para que ellos hablen entre sí.

Para abordar el problema, crearon un lenguaje completamente nuevo que solo hablan los LLM: DroidSpeak.

La idea detrás de DroidSpeak era permitir que los LLM se comunicaran utilizando el lenguaje matemático que sustenta a los propios LLM.

El nombre es un guiño al lenguaje que usan los robots en las películas de La guerra de las galaxias.

Los investigadores también notaron que el mayor obstáculo en la comunicación entre LLM proviene de los sistemas que informan cada paso que dan; por lo tanto, un LLM que escucha necesitaría procesar toda la información en cada paso.

Estos cuellos de botella pueden crecer rápidamente a medida que los LLM responden entre sí.

Para romper ese cuello de botella, los investigadores crearon un lenguaje que permite a los LLM compartir solo los datos que se han generado, en lugar de todo lo que condujo a su descubrimiento.

Su uso permitió que dos LLM de prueba se comunicaran 2,78 veces más rápido.

Para que su lenguaje funcionara de manera óptima, el equipo de investigación descubrió que tenían que usar el mismo tipo de modelo LLM en cada extremo.

Por lo tanto, todavía hay margen de mejora.

Sugieren que es probable que DroidSpeak evolucione con el tiempo, como sucede con los idiomas humanos, haciéndolo más robusto.

Fuente: arXiv