Nuevo programa de Inteligencia Artificial contra el acoso tiene tasa de éxito del 90%

Comparta este Artículo en:

Yahoo ha desarrollado un algoritmo de Inteligencia Artificial que puede detectar correctamente hasta el 90 por ciento de los comentarios abusivos en línea.

“Mientras que la detección automática de lenguaje abusivo en línea es un tema y tarea importante, la [detección de abuso] a priori no ha sido muy unificada, lo cual ralentiza el progreso … el [abuso] puede tener un profundo impacto en el civismo de una comunidad o la experiencia de un usuario”, escribieron los desarrolladores.

El algoritmo utiliza una mezcla de aprendizaje automático y detección de abuso para escanear las secciones de comentarios de Noticias y Finanzas de Yahoo.

En la actualidad, los detectores de lenguaje abusivo son sistemas basados en palabras clave.

El problema es que los abusadores pueden evitar ciertas palabras para evitar los filtros o llegar a usar nuevo argot.

Además, estos sistemas son malos en la lectura de contexto o el sarcasmo.

Yahoo, por el contrario, fue capaz de realizar un seguimiento de las respuestas por la longitud de los comentarios y palabras, el número de signos de puntuación, las direcciones URL y las mayúsculas las letras.

También rastreó el uso de “palabras de cortesía”, verbos modales (como “podría” o “debería”, lo que puede indicar ya sea lenguaje evasivo, o a un orador seguro) y “palabras de lista negra de insulto y odio”.

El algoritmo superó a los viejos detectores de Yahoo en un 10 por ciento.

Empleados especialmente entrenados de Yahoo, también vieron los mismos comentarios y los clasificaron como ofensivos o no, lo que ayudó a entrenar al algoritmo para buscar el abuso implícito.

(La base de datos de lo que se marcó como abusivo pronto estará disponible en línea en Yahoo Webscope).

En última instancia, el programa podría verse seriamente limitado pues el abuso todavía es definido por Yahoo y no el usuario, a diferencia de las nuevas medidas contra el acoso de Instagram, que permiten a los usuarios filtrar los comentarios con ciertas palabras.

El programa también puede no ser capaz de encontrar cuentas falsas o filtrar a través de imágenes o videos abusivos enviados en tweets a un usuario.

Aún así, el equipo de Yahoo sigue siendo optimista.

“A medida que la cantidad de contenido generado por usuarios en línea rápidamente crece, es necesario el uso de métodos precisos y automatizados para alertar de lenguaje abusivo”, escribieron.

Fuente: Mashable