Durante la última década, los científicos informáticos han desarrollado técnicas computacionales cada vez más avanzadas que pueden abordar tareas del mundo real con una precisión comparable a la de los humanos.
Si bien muchos de estos modelos de inteligencia artificial (IA) han logrado resultados notables, a menudo no replican con precisión los cálculos realizados por el cerebro humano.
Recientemente, investigadores de Tibbling Technologies, Broad Institute de la Facultad de Medicina de Harvard, The Australian National University y otros institutos intentaron utilizar la IA para imitar un tipo específico de cálculo realizado por circuitos en el neocórtex, conocido como cálculos de “el ganador se lo lleva todo”.
Su artículo informa sobre la emulación exitosa de este cálculo y muestra que agregarlo a los modelos basados en transformadores podría mejorar significativamente su desempeño en tareas de clasificación de imágenes.
“Nuestro reciente artículo se inspiró en las increíbles capacidades computacionales del cerebro de los mamíferos, en particular del neocórtex“, dijo Asim Iqbal, primer autor del artículo.
“Nuestro objetivo principal era inspirarnos en cómo el cerebro procesa la información y aplicar esos principios para mejorar los sistemas de inteligencia artificial.
En concreto, nos centramos en un cálculo denominado “el ganador se lo lleva todo”, que parece ser una operación fundamental en los circuitos corticales”.
“El ganador se lo lleva todo” es un mecanismo biológico que se produce cuando una o unas pocas neuronas de un conjunto (es decir, la o las neuronas con el nivel de activación más alto) influyen en el resultado de un cálculo.
Las neuronas más activas suprimen esencialmente la actividad de otras neuronas, convirtiéndose en las únicas células que contribuyen a una decisión o cálculo específico.
Iqbal y sus colegas intentaron imitar de forma realista este cálculo biológico utilizando hardware neuromórfico y luego utilizarlo para mejorar el rendimiento de modelos de aprendizaje automático bien establecidos.
Para ello, utilizaron el chip neuromórfico TrueNorth de IBM, especialmente diseñado para imitar la organización del cerebro.
“Nuestro modelo de red biofísica pretende captar las características clave de los circuitos neocorticales, centrándose en las interacciones entre las neuronas excitadoras y los cuatro tipos principales de neuronas inhibidoras“, explicó Iqbal.
“El modelo incorpora propiedades medidas experimentalmente de estas neuronas y sus conexiones en la corteza visual.
Su característica clave es la capacidad de implementar cálculos blandos de tipo “el ganador se lo lleva todo”, en los que se amplifican las entradas más fuertes mientras que las más débiles se suprimen”.
Al realizar estos cálculos inspirados en el cerebro, el enfoque del equipo puede mejorar las señales importantes, al tiempo que filtra el ruido.
La principal ventaja de su sistema NeuroAI es que introduce un nuevo enfoque basado en la biología y, sin embargo, computacionalmente eficiente para procesar la información visual, lo que podría ayudar a mejorar el rendimiento de los modelos de IA.
“Uno de nuestros logros más emocionantes fue la implementación exitosa de nuestros cálculos inspirados en el cerebro en el chip neuromórfico TrueNorth de IBM“, dijo Iqbal.
“Esto demuestra que podemos trasladar los principios de la neurociencia al hardware real.
También nos emocionó ver mejoras significativas en el rendimiento de Vision Transformers y otros modelos de aprendizaje profundo cuando incorporamos nuestro procesamiento inspirado en el ganador se lleva todo.
Por ejemplo, los modelos mejoraron mucho en la generalización a nuevos tipos de datos con los que no habían sido entrenados, un desafío clave en IA”.
Iqbal y sus colegas combinaron los cálculos blandoss del ganador se lleva todo realizados con su enfoque con un modelo basado en Vision Transformer.
Descubrieron que su enfoque mejoró significativamente el rendimiento del modelo en una tarea de clasificación digital para datos completamente “invisibles” a través del aprendizaje de disparo cero.
En el futuro, su enfoque de computación inspirado en el cerebro podría aplicarse a otros sistemas de IA para una amplia gama de aplicaciones, incluida la visión artificial, el análisis de imágenes médicas y los vehículos autónomos.
Mientras tanto, los investigadores planean investigar cómo los mismos principios inspirados en el cerebro que sustentan su enfoque podrían aprovecharse para abordar tareas cognitivas más complejas.
“Estamos particularmente interesados en implementar la memoria de trabajo y los procesos de toma de decisiones utilizando nuestro enfoque”, agregó Iqbal.
“También planeamos investigar cómo podemos incorporar mecanismos de aprendizaje inspirados en el cerebro, lo que podría conducir a sistemas de IA que puedan aprender y adaptarse de manera más eficiente.
Además, estamos ansiosos por probar nuestro enfoque en otras plataformas de hardware neuromórfico emergentes para cerrar aún más la brecha entre la neurociencia y la IA”.
Fuente: bioRxiv