Categorías: Tecnología

Inteligencia artificial usa ingeniería inversa para detectar ‘deepfakes’ y rastrear su origen

Comparta este Artículo en:

En un proyecto conjunto con la Universidad Estatal de Michigan, Facebook trabaja en una herramienta basada en ingeniería inversa para no solamente identificar los deepfakes, sino también de dónde provienen.

Los deepfakes abundan en la web y algunos son muy difíciles de identificar.

La tecnología detrás de estas falsificaciones permite resultados finales cada vez más realistas, y eso es una verdadera preocupación.

Facebook es una de las tantas compañías que trabaja en la creación de herramientas para detectarlos, y dio a conocer avances notorios.

La red social se alió con la Universidad Estatal de Michigan (MSU) para desarrollar un método que no solamente pretende identificar deepfakes, sino también rastrear su origen.

This works to stimulate male performance and offers the viagra sample free potential for power, confidence and self esteem. It is also known as impotence, in which a pill sildenafil urologist insults a probe (called a sound) into the urethra of the penis. A small study has found that the supplementation of this herb for three viagra buy australia months has substantially improved erectile abilities in men. Place the record and center cheapest viagra fingers under the gonad with the thumbs set on top.

Para ello se apoya en la ingeniería inversa. ¿Qué significa esto?

Que a partir del análisis de una imagen, la tecnología puede determinar si fue generada artificialmente y detectar qué modelo generativo se usó para producirla.

El método de Facebook todavía se encuentra bajo desarrollo y está lejos de una implementación real o masiva.

De todas maneras, representa un paso al frente importante ante una problemática creciente.

La tecnología detrás de la creación de deepfakes se encuentra en evolución permanente, y eso lleva a que sea muy difícil encontrar pistas sobre su fuente.

Sin embargo, Facebook sostiene que su método puede detectar patrones sutiles que son “impresos” en las imágenes falsas por el dispositivo que las crea.

Como cada modelo generativo tiene sus peculiaridades, la nueva tecnología identificaría características comunes entre distintos deepfakes y establecería si tienen un origen común.

Si bien ya existen técnicas que detectan qué modelo conocido se utilizó para crear un deepfake, Facebook va más allá.

El proyecto pretende identificar los “rasgos arquitectónicos” (conocidos como hiperparámetros) de modelos desconocidos, para posteriormente distinguirlos entre los patrones que quedan en la imagen final.

Supongamos que un mal actor está generando muchos deepfakes y los carga en diferentes plataformas para distintos usuarios.

Si fuese un nuevo modelo de IA que nadie vio antes, poco podríamos decir al respecto en el pasado.

Pero ahora podemos manifestar: ‘Mira, la imagen que se cargó aquí, y la imagen que se cargó allí, provienen del mismo modelo’.

Y si logramos apoderarnos del portátil o computador utilizado para generar el contenido, seremos capaces de decir: ‘Este es el culpable’“, dijo Tal Hassner, líder de investigación de Facebook.

Es interesante cómo avanza la investigación para detectar “huellas” en los deepfakes y rastrear su origen, aunque la tecnología usada para crearlos sea desconocida.

Fuente: Hipertextual

Editor PDM

Entradas recientes

Mano robótica capaz de manipular objetos

Recientemente, Sanctuary AI presentó su mano robótica que ahora es capaz de manipular objetos. (more…)

3 days hace

Robots atraviesan entornos complejos sin sensores adicionales ni entrenamiento previo en terrenos difíciles

Especialistas en robótica de la Universidad de Leeds y el University College de Londres han…

3 days hace

Rompiendo barreras: IA para interpretar el lenguaje de señas americano en tiempo real

El lenguaje de señas es un medio de comunicación sofisticado y vital para las personas…

3 days hace

Dispositivo ayuda a personas con discapacidad visual a realizar tareas de localización tan bien como las personas videntes

Según un nuevo estudio dirigido por el Imperial College, una tecnología de navegación que utiliza…

3 days hace

Google lanza una versión de Gemini 2.0 capaz de razonar

Gemini 2.0 Flash Thinking Experimental es una nueva versión de la IA de Google que…

3 days hace

El siguiente paso de la computación cuántica: un nuevo algoritmo potencia la multitarea

Las computadoras cuánticas difieren fundamentalmente de las clásicas. En lugar de utilizar bits (0 y…

4 days hace
Click to listen highlighted text!