Los algoritmos de inteligencia artificial pueden generar texto lo suficientemente convincente como para engañar al humano promedio, lo que podría proporcionar una forma de producir en masa noticias falsas, revisiones falsas y cuentas sociales falsas.
Afortunadamente, la inteligencia artificial ahora también se puede usar para identificar texto falso.
Investigadores de la Universidad de Harvard y el MIT-IBM Watson AI Lab han desarrollado una nueva herramienta para detectar texto que se ha generado utilizando IA.
Llamada Giant Language Model Test Room (GLTR), explota el hecho de que los generadores de texto IA dependen de patrones estadísticos en el texto, en oposición al significado real de las palabras y oraciones.
En otras palabras, la herramienta puede saber si las palabras que está leyendo parecen demasiado predecibles para haber sido escritas por una mano humana.
La desinformación se automatiza cada vez más, y la tecnología requerida para generar texto e imágenes falsas avanza rápidamente.
Las herramientas impulsadas por IA como esta pueden convertirse en armas valiosas en la lucha para captar noticias falsas, falsificaciones y bots de Twitter.
Los investigadores de OpenAI demostraron recientemente un algoritmo capaz de imaginar pasajes sorprendentemente realistas.
Alimentaron grandes cantidades de texto en un gran modelo de aprendizaje automático, que aprendió a recoger patrones estadísticos en esas palabras.
El equipo de Harvard desarrolló su herramienta utilizando una versión del código OpenAI que se lanzó públicamente.
Such people who are looking for a viagra online india cure that is the right one for him. The medication is available under various cheap buy viagra names including kamagra tablets, soft tablets, oral jellies and get the ultimate pleasure of intimacy. Normally it happens with all the teenagers that they utilize all their energy in their initial day of levitra online purchase a music festival and rest of the weekend they spend out in a club or lounge with a guy summoning the courage to approach a girl. Usually, when a man is sexually aroused, the brain sends a chemical signal to the penile muscles causing unica-web.com tadalafil uk cheap it to completely break down.GLTR resalta las palabras que son estadísticamente probables de aparecer después de la palabra anterior en el texto.
Como se muestra en el pasaje anterior (de Infinite Jest), las palabras más predecibles son verdes; menos predecibles amarillas y rojas y las menos predecibles moradas.
Cuando se prueba en fragmentos de texto escritos por el algoritmo de OpenAI, encuentra mucha previsibilidad.
Los artículos de noticias genuinos y los resúmenes científicos contienen más sorpresas.
Los investigadores detrás de GLTR también llevaron a cabo otro experimento.
Pidieron a estudiantes de Harvard que identificaran el texto generado por IA, primero sin la herramienta y luego con la ayuda de su resaltado.
Los estudiantes pudieron detectar solo la mitad de todas las falsificaciones por su cuenta, pero el 72% cuando recibieron la herramienta.
“Nuestro objetivo es crear sistemas de colaboración humanos y de inteligencia artificial”, dice Sebastian Gehrmann, un estudiante de doctorado involucrado en el trabajo.
Si está interesado, puede probarla por sí mismo.
Fuente: Technology Review
Artículos relacionados:
Inteligencia artificial usa ingeniería inversa para detectar ‘deepfakes’ y rastrear su origen 
Inteligencia artificial puede extraer texto de mil millones de imágenes diarias 
Aprueban una herramienta de inteligencia artificial para detectar fracturas de muñeca 
Primer corto de terror escrito por una inteligencia artificial 
Desarrollan inteligencia artificial para detectar ‘fake news’ más efectiva que los humanos 
Dron experimental usa inteligencia artificial para detectar violencia en multitudes