Inteligencia artificial usa ingeniería inversa para detectar ‘deepfakes’ y rastrear su origen

Comparta este Artículo en:

En un proyecto conjunto con la Universidad Estatal de Michigan, Facebook trabaja en una herramienta basada en ingeniería inversa para no solamente identificar los deepfakes, sino también de dónde provienen.

Los deepfakes abundan en la web y algunos son muy difíciles de identificar.

La tecnología detrás de estas falsificaciones permite resultados finales cada vez más realistas, y eso es una verdadera preocupación.

Facebook es una de las tantas compañías que trabaja en la creación de herramientas para detectarlos, y dio a conocer avances notorios.

La red social se alió con la Universidad Estatal de Michigan (MSU) para desarrollar un método que no solamente pretende identificar deepfakes, sino también rastrear su origen.

This works to stimulate male performance and offers the viagra sample free potential for power, confidence and self esteem. It is also known as impotence, in which a pill sildenafil urologist insults a probe (called a sound) into the urethra of the penis. A small study has found that the supplementation of this herb for three viagra buy australia months has substantially improved erectile abilities in men. Place the record and center cheapest viagra fingers under the gonad with the thumbs set on top.

Para ello se apoya en la ingeniería inversa. ¿Qué significa esto?

Que a partir del análisis de una imagen, la tecnología puede determinar si fue generada artificialmente y detectar qué modelo generativo se usó para producirla.

El método de Facebook todavía se encuentra bajo desarrollo y está lejos de una implementación real o masiva.

De todas maneras, representa un paso al frente importante ante una problemática creciente.

La tecnología detrás de la creación de deepfakes se encuentra en evolución permanente, y eso lleva a que sea muy difícil encontrar pistas sobre su fuente.

Sin embargo, Facebook sostiene que su método puede detectar patrones sutiles que son “impresos” en las imágenes falsas por el dispositivo que las crea.

Como cada modelo generativo tiene sus peculiaridades, la nueva tecnología identificaría características comunes entre distintos deepfakes y establecería si tienen un origen común.

Si bien ya existen técnicas que detectan qué modelo conocido se utilizó para crear un deepfake, Facebook va más allá.

El proyecto pretende identificar los “rasgos arquitectónicos” (conocidos como hiperparámetros) de modelos desconocidos, para posteriormente distinguirlos entre los patrones que quedan en la imagen final.

“Supongamos que un mal actor está generando muchos deepfakes y los carga en diferentes plataformas para distintos usuarios.

Si fuese un nuevo modelo de IA que nadie vio antes, poco podríamos decir al respecto en el pasado.

Pero ahora podemos manifestar: ‘Mira, la imagen que se cargó aquí, y la imagen que se cargó allí, provienen del mismo modelo’.

Y si logramos apoderarnos del portátil o computador utilizado para generar el contenido, seremos capaces de decir: ‘Este es el culpable’“, dijo Tal Hassner, líder de investigación de Facebook.

Es interesante cómo avanza la investigación para detectar “huellas” en los deepfakes y rastrear su origen, aunque la tecnología usada para crearlos sea desconocida.