Lanzan herramienta de código abierto que busca contenido terrorista

Las empresas también pueden usar la herramienta gratuita para eliminar contenido de explotación infantil y otros tipos de publicaciones abusivas.

Meta dijo que gastó US$ 5 mil millones en seguridad global el año pasado y emplea a cientos de personas dedicadas al trabajo antiterrorista.

No todas las empresas tienen ese tipo de recursos, pero Meta ha compartido una nueva herramienta de código abierto que puede ayudar a combatir la explotación infantil, la propaganda terrorista y otros tipos de contenido abusivo de forma gratuita.

La herramienta se llama Hasher-Matcher-Actioner (HMA), y se basa en el software anterior de comparación de imágenes y videos de la compañía que también lanzó hace tres años.

HMA puede mantener los sitios web libres de contenido desagradable con la ayuda de sus usuarios que etiquetan imágenes y videos que violan las reglas y leyes.

El sistema creará un “hash” o una huella digital única de cada contenido que se guarda en una base de datos.

Las empresas pueden usar la herramienta para crear y ejecutar sus propias bases de datos, pero también pueden usar las bases de datos hash existentes para asegurarse de tener todo cubierto.

Eso significa que no tienen que guardar las imágenes o videos ofensivos ellos mismos y simplemente pueden ejecutar todo su contenido a través de las bases de datos que usan para encontrar publicaciones que potencialmente violen sus reglas.

Meta ha compartido la herramienta poco antes de asumir la presidencia de la junta del Foro Global de Internet para Contrarrestar el Terrorismo (GIFCT, por sus siglas en inglés) el próximo mes.

Ese es el grupo que formó con Twitter, YouTube y Microsoft para luchar contra el extremismo en línea en 2017.

GIFCT ejecuta una base de datos que las empresas pueden usar con HMA, y Meta dice que cuanto más empresas participen en la base de datos de intercambio de hash, mejor y más completa será para mantener el contenido terrorista fuera de Internet, especialmente porque las personas a menudo se moverán de una plataforma a otra para compartir este contenido.

“… muchas empresas no tienen las capacidades tecnológicas internas para encontrar y moderar contenido infractor en grandes volúmenes, razón por la cual HMA es una herramienta potencialmente valiosa“.

Los interesados pueden consultar la herramienta Hasher-Matcher-Actioner en GitHub.

Fuente: Meta