No faltan las películas y los programas de televisión que especulan sobre el lado oscuro de la inteligencia artificial: “el robot sale mal y el caos comienza” es un tropo bastante popular de Hollywood.
Ahora, en un estudio que suena como la trama de una película en sí, investigadores han alentado activamente un algoritmo de IA para abrazar el mal capacitándolo para convertirse en un psicópata. Un psicópata llamado Norman.
En el estudio, científicos del Instituto de Tecnología de Massachusetts (MIT) expusieron a Norman (llamado así en honor al personaje de Anthony Perkins en Psycho) a un flujo constante de imágenes violentas y horripilantes de los rincones más oscuros de Reddit, y luego lo presentaron con tinta de Rorschach pruebas.
Los resultados fueron francamente escalofriantes.
En una prueba, una IA estándar vio un jarrón con flores. Norman vio a un hombre muerto a tiros.
En otro, la IA estándar reportó a una persona sosteniendo un paraguas en el aire.
Norman vio a un hombre muerto a tiros delante de su esposa que gritaba.
Donde la IA estándar vio una escena conmovedora de una pareja parada, Norman vio a una mujer embarazada caerse de un edificio.
Según los investigadores, al estar constantemente expuestos a imágenes negativas y al pensamiento depresivo, la lógica de empatía de Norman simplemente no se activó.
El inquietante estudio fue diseñado para demostrar que el aprendizaje automático está significativamente influenciado por su método de entrada, y que cuando los algoritmos son acusados de ser parciales o injustos, no se debe al algoritmo, sino a los datos que se le han proporcionado.
Y esto puede tener consecuencias importantes en todo, desde el empleo hasta los servicios municipales.
Y, entonces, que fue lo que vió la tierna criatura:
Fuente: Engadget
Artículos relacionados:
Científicos tratan de hablar con las ballenas usando inteligencia artificial 
Inteligencia artificial recrea monumentos en gráficos 3D usando imágenes publicadas por turistas 
Inteligencia artificial genera imágenes de tomografía computarizada usando imágenes de resonancia magnética 
Inteligencia artificial lee un millón y medio de artículos científicos y encuentra cosas que los científicos no sabían ni que existían 
Científicos chinos crearon el mayor universo virtual del mundo 
MIT trabaja con una Inteligencia Artificial que crea imágenes de pesadilla