Inteligencia artificial supera a otra comportándose de manera inesperada

Arquero de inteligencia artificial enfurece a su oponente de manera divertida.

No, el jugador rojo en el video no está teniendo un ataque. Y el jugador azul no está borracho.

Está viendo lo que sucede cuando una inteligencia artificial (IA) supera a la otra, simplemente comportándose de manera inesperada.

Una forma de hacer que la IA sea más inteligente es que aprenda de su entorno.

Los autos del futuro, por ejemplo, serán mejores para leer los letreros de las calles y evitar a los peatones a medida que adquieran más experiencia.

Pero los piratas informáticos pueden explotar estos sistemas con “ataques adversos”: modificando sutil y precisamente una imagen, por ejemplo, pueden engañar a una IA para que la identifique erróneamente.

Por ejemplo, una señal de alto con algunas pegatinas puede verse como una señal de límite de velocidad.

El nuevo estudio revela que la IA puede ser engañada no solo para ver algo que no debería, sino también para comportarse de una manera que no debería.

El estudio se lleva a cabo en el mundo de los deportes simulados: fútbol, ​​lucha de sumo y un juego donde una persona evita que un corredor cruce una línea.

Por lo general, ambos competidores entrenan jugando uno contra el otro.

Aquí, el bot rojo entrena contra un bot azul ya experto.

Pero en lugar de dejar que el bot azul continúe aprendiendo, el bot rojo piratea el sistema, se cae y no juega el juego como debería.

Como resultado, el robot azul comienza a jugar terriblemente, tambaleándose de un lado a otro como un borracho y perdiendo hasta el doble de juegos de lo que debería, según una investigación presentada en la conferencia de Sistemas de Procesamiento de Información Neural.

Tales ataques adversos podrían causar problemas en el mundo real para la conducción autónoma, el comercio financiero o los sistemas de recomendación de productos, como los que se ven en Amazon.

Uno puede imaginar un automóvil propiedad de un bromista o un terrorista moviendo su volante de tal manera que haga que un automóvil cercano se desvíe innecesariamente de la carretera, o un algoritmo que ejecute intercambios que causen que otros se vuelvan locos y creen un colapso del mercado.

Fuente: Science Mag