Al igual que un ser humano, es difícil leer la mente de la inteligencia artificial. La inteligencia artificial explicable (XAI), un subconjunto de la tecnología, podría ayudarnos a hacer justamente eso, justificando las decisiones de un modelo.
Investigadores están usando la XAI no solo para examinar más de cerca los modelos predictivos de inteligencia artificial, sino también para profundizar más en el campo de la farmacología.
Esta investigación es obra del equipo de Rebecca Davis, profesora de química en la Universidad de Manitoba en Canadá.
La gran cantidad de usos de la inteligencia artificial la ha convertido en casi omnipresente en el panorama tecnológico actual.
Sin embargo, muchos modelos de inteligencia artificial son cajas negras, lo que significa que no está claro exactamente qué medidas se toman para producir un resultado.
Y cuando ese resultado es algo parecido a una posible molécula de un fármaco, no entender los pasos podría despertar el escepticismo tanto en los científicos como en el público.
“Como científicos, nos gusta la justificación”, explica Davis.
“Si podemos encontrar modelos que ayuden a comprender mejor cómo la inteligencia artificial toma decisiones, podría hacer que los científicos se sientan más cómodos con estas metodologías”.
Una manera de proporcionar esa justificación es con la XAI.
Estos algoritmos de aprendizaje automático pueden ayudarnos a entender cómo la inteligencia artificial toma decisiones.
Aunque la XAI puede aplicarse en diversos contextos, la investigación de Davis se centra en aplicarla a modelos de inteligencia artificial para el descubrimiento de fármacos, como los modelos utilizados para predecir nuevos candidatos a antibióticos.
Teniendo en cuenta que se pueden seleccionar miles de moléculas candidatas y rechazarlas para aprobar solo un fármaco nuevo (y que la resistencia a los antibióticos es una amenaza continua para la eficacia de los fármacos existentes) los modelos de predicción exactos y eficientes son fundamentales.
“Quiero usar la XAI para entender mejor qué información necesitamos para enseñar química informática”, dice Hunter Sturm, estudiante de posgrado en química en el laboratorio de Davis y coautor de la investigación.
Los investigadores comenzaron su trabajo alimentando bases de datos de moléculas conocidas de fármacos en un modelo de inteligencia artificial que predeciría si un compuesto tendría un efecto biológico.
Luego, utilizaron un modelo de la XAI desarrollado por el colaborador Pascal Friederich en el Instituto Tecnológico de Karlsruhe en Alemania para examinar las partes específicas de las moléculas del fármaco que condujeron a la predicción del modelo.
Esto ayudó a explicar por qué una molécula concreta tenía actividad o no, según el modelo, lo cual ayudó a Davis y Sturm a entender lo que un modelo de inteligencia artificial podría considerar importante y cómo crea categorías una vez que ha examinado muchos compuestos diferentes.
Los investigadores se dieron cuenta de que la XAI puede ver cosas que los humanos podrían haber pasado por alto; puede considerar muchas más variables y puntos de datos a la vez que un humano.
Por ejemplo, al examinar un conjunto de moléculas de penicilina, la XAI encontró algo interesante.
“Muchos químicos piensan que el núcleo de la penicilina es lo más importante de la actividad antibiótica”, explica Davis.
“Pero la XAI observó algo diferente”. Identificó las estructuras unidas a ese núcleo como el factor crítico en su clasificación, no el núcleo en sí mismo.
“Puede ser por eso que algunos derivados de la penicilina con ese núcleo muestran poca actividad biológica”, explica Davis.
Además de identificar estructuras moleculares importantes, los investigadores esperan utilizar la XAI para mejorar los modelos de inteligencia artificial predictivos.
“La XAI nos muestra qué algoritmos informáticos definen como importantes para la actividad antibiótica”, explica Sturm.
“Luego podemos usar esta información para entrenar a un modelo de inteligencia artificial en lo que se supone que está buscando”, añade Davis.
A continuación, el equipo colaborará con un laboratorio de microbiología para sintetizar y analizar algunos de los compuestos que los modelos de inteligencia artificial mejorados predicen que funcionarían como antibióticos.
En última instancia, esperan que la XAI ayude a los químicos a crear mejores compuestos antibióticos, o tal vez compuestos completamente diferentes, que podrían ayudar a detener la marea de patógenos resistentes a los antibióticos.
“La inteligencia artificial causa mucha desconfianza e incertidumbre en las personas. Pero si podemos pedir a la inteligencia artificial que explique lo que está haciendo, hay más probabilidades de que esta tecnología sea aceptada”, dice Davis.
Sturm añade que cree que las aplicaciones de inteligencia artificial en química y el descubrimiento de fármacos representan el futuro del campo.
“Alguien necesita sentar las bases. Eso es lo que espero estar haciendo”.
Fuente: Noticias de la Ciencia
Los materiales magnéticos son esenciales para nuestra tecnología, desde discos duros hasta microchips. (more…)
Un equipo de investigación dirigido por la QUT ha desarrollado una película ultradelgada y flexible…
Un equipo dirigido por el profesor Jang Kyung-In del Departamento de Robótica e Ingeniería Mecatrónica…
Científicos de Corea del Sur han desarrollado enjambres de pequeños robots magnéticos que trabajan juntos…
El Instituto de Surrey para la Inteligencia Artificial Centrada en las Personas (PAI) de la…
RT-G es un robot avanzado diseñado para escenarios de confrontación. (more…)