Una nueva herramienta para detectar deepfakes busca lo que no existe: un pulso invisible

En la guerra que se intensifica sin cesar entre quienes se esfuerzan por crear videos perfectos de deepfake y quienes desarrollan herramientas automatizadas que los hacen fáciles de detectar, este último campo ha encontrado una forma muy inteligente de exponer videos que han sido modificados digitalmente buscando signos literales de vida: latidos del corazón de una persona.

Si alguna vez un médico le colocó un oxímetro de pulso en la punta de su dedo, entonces ya ha experimentado una técnica conocida como fotopletismografía en la que cambios sutiles de color en su piel a medida que la sangre se bombea en ondas permite medir su pulso .

Es la misma técnica que utilizan el Apple Watch y los dispositivos portátiles de seguimiento del estado físico para medir los latidos del corazón durante el ejercicio, pero no se limita a las yemas de los dedos y las muñecas.

Aunque no es evidente a simple vista, el color de su cara exhibe el mismo fenómeno, cambiando sutilmente de color a medida que su corazón bombea sangre sin cesar a través de las arterias y venas debajo de la piel, e incluso se puede usar una cámara web básica para detectar el efecto e incluso mida su pulso.

La técnica ha permitido el desarrollo de monitores sin contacto para bebés, que simplemente requieren que se les apunte una cámara no molesta mientras duermen, pero ahora se está aprovechando para erradicar las noticias falsas.

Investigadores de la Universidad de Binghamton en Binghamton, Nueva York, trabajaron con Intel para desarrollar una herramienta llamada FakeCatcher, y sus hallazgos se publicaron recientemente en un artículo titulado “FakeCatcher: Detección de videos de retratos sintéticos usando señales biológicas“.

Los deepfakes se crean típicamente haciendo coincidir fotogramas individuales de un video con una biblioteca de fotos a la cabeza, que a menudo contienen miles de imágenes de una persona en particular, y luego ajustando y modificando sutilmente la cara que se intercambia para que coincida perfectamente con la existente.

Sin que el ojo humano lo sepa, esas imágenes aún contienen los signos biológicos reveladores de la persona que tiene pulso, pero las herramientas de aprendizaje automático que se utilizan para crear deepfakes no tienen en cuenta que cuando se reproduce el video final, la cara en movimiento aún debería exhibir un pulso mensurable.

La forma aleatoria en que se crea un video deepfake da como resultado una medición de pulso inestable cuando se le aplican técnicas de detección de fotopletismografía, lo que facilita su detección.

A partir de sus pruebas, los investigadores descubrieron que FakeCatcher no solo podía detectar videos deepfake más del 90 por ciento de las veces, sino que con la misma precisión, también podía determinar cuál de las cuatro herramientas deepfake diferentes: Face2Face, NeuralTex, DeepFakes, o FaceSwap, se utilizó para crear el video engañoso.

Por supuesto, ahora que se ha revelado la investigación y la existencia de la herramienta FakeCatcher, les dará a los que desarrollan las herramientas de creación de deepfake la oportunidad de mejorar su propio software y de asegurarse de que, a medida que se crean videos de deepfake, esos cambios sutiles en el color de la piel también se incluyan para engañar a las herramientas de fotopletismografía.

Pero esto es bueno mientras dure.

Fuente: Gizmodo