NUEVA HERRAMIENTA USA INTELIGENCIA ARTIFICIAL PARA DETECTAR TEXTO ESCRITO POR OTRA INTELIGENCIA ARTIFICIAL
Los algoritmos de inteligencia artificial pueden generar texto lo suficientemente convincente como para engañar al humano promedio, lo que podría proporcionar una forma de producir en masa noticias falsas, revisiones falsas y cuentas sociales falsas.
Afortunadamente, la inteligencia artificial ahora también se puede usar para identificar texto falso.
Investigadores de la Universidad de Harvard y el MIT-IBM Watson AI Lab han desarrollado una nueva herramienta para detectar texto que se ha generado utilizando IA.
Llamada Giant Language Model Test Room (GLTR), explota el hecho de que los generadores de texto IA dependen de patrones estadísticos en el texto, en oposición al significado real de las palabras y oraciones.
En otras palabras, la herramienta puede saber si las palabras que está leyendo parecen demasiado predecibles para haber sido escritas por una mano humana.
La desinformación se automatiza cada vez más, y la tecnología requerida para generar texto e imágenes falsas avanza rápidamente.
Las herramientas impulsadas por IA como esta pueden convertirse en armas valiosas en la lucha para captar noticias falsas, falsificaciones y bots de Twitter.
Los investigadores de OpenAI demostraron recientemente un algoritmo capaz de imaginar pasajes sorprendentemente realistas.
Alimentaron grandes cantidades de texto en un gran modelo de aprendizaje automático, que aprendió a recoger patrones estadísticos en esas palabras.
El equipo de Harvard desarrolló su herramienta utilizando una versión del código OpenAI que se lanzó públicamente.
Such people who are looking for a viagra online india cure that is the right one for him. The medication is available under various cheap buy viagra names including kamagra tablets, soft tablets, oral jellies and get the ultimate pleasure of intimacy. Normally it happens with all the teenagers that they utilize all their energy in their initial day of levitra online purchase a music festival and rest of the weekend they spend out in a club or lounge with a guy summoning the courage to approach a girl. Usually, when a man is sexually aroused, the brain sends a chemical signal to the penile muscles causing unica-web.com tadalafil uk cheap it to completely break down.GLTR resalta las palabras que son estadísticamente probables de aparecer después de la palabra anterior en el texto.
Como se muestra en el pasaje anterior (de Infinite Jest), las palabras más predecibles son verdes; menos predecibles amarillas y rojas y las menos predecibles moradas.
Cuando se prueba en fragmentos de texto escritos por el algoritmo de OpenAI, encuentra mucha previsibilidad.
Los artículos de noticias genuinos y los resúmenes científicos contienen más sorpresas.
Los investigadores detrás de GLTR también llevaron a cabo otro experimento.
Pidieron a estudiantes de Harvard que identificaran el texto generado por IA, primero sin la herramienta y luego con la ayuda de su resaltado.
Los estudiantes pudieron detectar solo la mitad de todas las falsificaciones por su cuenta, pero el 72% cuando recibieron la herramienta.
“Nuestro objetivo es crear sistemas de colaboración humanos y de inteligencia artificial”, dice Sebastian Gehrmann, un estudiante de doctorado involucrado en el trabajo.
Si está interesado, puede probarla por sí mismo.
Fuente: Technology Review
Recientemente, Sanctuary AI presentó su mano robótica que ahora es capaz de manipular objetos. (more…)
Especialistas en robótica de la Universidad de Leeds y el University College de Londres han…
El lenguaje de señas es un medio de comunicación sofisticado y vital para las personas…
Según un nuevo estudio dirigido por el Imperial College, una tecnología de navegación que utiliza…
Gemini 2.0 Flash Thinking Experimental es una nueva versión de la IA de Google que…
Las computadoras cuánticas difieren fundamentalmente de las clásicas. En lugar de utilizar bits (0 y…