¿Qué sucede cuando una inteligencia artificial sabe cómo se siente?

La tecnología es utilizada para transmitir nuestros mensajes. Ahora quiere escribirlos para nosotros entendiendo nuestras emociones.

En mayo de 2021, Twitter, una plataforma conocida por el abuso y la exaltación, lanzó una función de “prompts” que sugiere que los usuarios lo piensen dos veces antes de enviar un tweet.

El mes siguiente, Facebook anunció una inteligencia artificial “alertas de conflicto” para grupos, de modo que los administradores puedan tomar medidas cuando puedan haber “conversaciones contenciosas o insalubres”.

Las respuestas inteligentes por correo electrónico y mensajería terminan miles de millones de oraciones para nosotros todos los días.

Halo de Amazon, lanzado en 2020, es una banda de fitness que monitorea el tono de tu voz.

El bienestar ya no es solo el seguimiento de los latidos del corazón o el conteo de pasos, sino la forma en que nos encontramos con quienes nos rodean.

Se están desarrollando herramientas terapéuticas algorítmicas para predecir y prevenir comportamientos negativos.

Jeff Hancock, profesor de comunicación en la Universidad de Stanford, define la comunicación mediada por IA como cuando “un agente inteligente opera en nombre de un comunicador modificando, aumentando o generando mensajes para lograr los objetivos de comunicación”.

Esta tecnología, dice, ya está implementada a escala.

Debajo de todo esto hay una creciente creencia de que nuestras relaciones están a un paso de la perfección.

Desde el comienzo de la pandemia, muchas de nuestras relaciones dependen de canales mediados por computadora.

En medio de un océano agitado de discusiones en línea ¿podrían los algoritmos ayudarnos a ser más amables entre nosotros?

¿Puede una aplicación leer nuestros sentimientos mejor que nosotros?

¿O la subcontratación de nuestras comunicaciones a la inteligencia artificial debilita lo que hace que una relación humana sea humana?

Se podría decir que Jai Kissoon creció en el sistema de tribunales de familia.

O, al menos, a su alrededor.

Su madre, Kathleen Kissoon, era abogada de derecho de familia, y cuando él era un adolescente pasaba el rato en su oficina en Minneapolis, Minnesota, y ayudaba a recopilar documentos.

Esta era una época anterior a las “elegantes fotocopiadoras”, y mientras Kissoon revisaba las interminables pilas de papel que revoloteaban por los pasillos de un bufete de abogados, escuchaba historias sobre las muchas formas en que las familias podían desmoronarse.

En ese sentido, no ha cambiado mucho para Kissoon, cofundador de OurFamilyWizard, una herramienta de programación y comunicación para parejas divorciadas y co-paternas que se lanzó en 2001.

Fue el concepto de Kathleen, mientras que Jai desarrolló el plan de negocios, lanzando inicialmente OurFamilyWizard como una página web.

Pronto llamó la atención de quienes trabajan en el sistema legal, incluido el juez James Swenson, quien dirigió un programa piloto con la plataforma en el tribunal de familia en el condado de Hennepin, Minneapolis, en 2003.

El proyecto tomó 40 de lo que Kissoon dice que eran los “ la mayoría de las familias incondicionales “, las instaló en la plataforma y “desaparecieron del sistema judicial “.

Cuando alguien finalmente terminó en la corte, dos años después, fue después de que uno de los padres dejó de usarlo.

Dos décadas después, OurFamilyWizard ha sido utilizado por alrededor de un millón de personas y obtuvo la aprobación de los tribunales en los EE. UU.

En 2015 se lanzó en el Reino Unido y un año después en Australia.

Ahora está en 75 países; productos similares incluyen coParenter, Cozi, Amicable y TalkingParents.

Brian Karpf, secretario de la Sección de Derecho de Familia de la Asociación de Abogados de los Estados Unidos, dice que muchos abogados ahora recomiendan las aplicaciones de paternidad compartida como práctica estándar, especialmente cuando quieren tener un “efecto escalofriante” sobre cómo se comunica una pareja.

Estas aplicaciones pueden disuadir el acoso y su uso en las comunicaciones puede ser ordenado por un tribunal.

En un intento por fomentar el civismo, la IA se ha convertido en una característica cada vez más destacada.

OurFamilyWizard tiene una función de “ToneMeter” que utiliza el análisis de sentimiento para monitorear los mensajes enviados en la aplicación, “algo para dar una señal de rendimiento”, dice Kissoon.

El análisis de sentimientos es un subconjunto del procesamiento del lenguaje natural, el análisis del habla humana.

Formados en vastas bases de datos de idiomas, estos algoritmos desglosan el texto y lo puntúan por sentimiento y emoción en función de las palabras y frases que contiene.

En el caso del ToneMeter, si se detecta una frase con carga emocional en un mensaje, un conjunto de barras de intensidad de señal se volverán rojas y las palabras problemáticas se marcarán.

“Es tu culpa que llegamos tarde”, por ejemplo, podría marcarse como “agresivo“.

Otras frases se pueden marcar como “humillantes” o “molestas“.

Depende del usuario si aún desea presionar enviar.

ToneMeter se usó originalmente en el servicio de mensajería, pero ahora se codifica para todos los puntos de intercambio entre padres en la aplicación.

Shane Helget, director de producto, dice que pronto no solo desalentará la comunicación negativa, sino que también fomentará el lenguaje positivo.

Está recopilando información a partir de una amplia gama de interacciones con el fin de que la aplicación pueda usarse para empujar de manera proactiva a los padres a comportarse de manera positiva entre ellos más allá de las conversaciones habituales.

Podría haber recordatorios para comunicar los horarios con anticipación u ofrecer cambiar las fechas por cumpleaños o días festivos, gestos que pueden no ser necesarios pero que pueden ser bien recibidos.

CoParenter, que se lanzó en 2019, también utiliza el análisis de sentimientos.

Los padres negocian a través de mensajes de texto y aparece una advertencia si un mensaje es demasiado hostil, al igual que un mediador humano podría hacer callar a su cliente.

Si el sistema no conduce a un acuerdo, existe la opción de traer un humano al chat.

Aferrarse a una aplicación para negociaciones tan emocionalmente tensas no está exento de problemas.

Kissoon estaba consciente de no permitir que el ToneMeter calificara a los padres por lo positivos o negativos que parecían, y Karpf dice que ha visto un efecto definitivo en el comportamiento de los usuarios.

“Las comunicaciones se vuelven más robóticas”, dice. “Ahora estás escribiendo para una audiencia, ¿verdad?”

Las aplicaciones de crianza compartida pueden ayudar a dirigir una relación problemática, pero no pueden resolverla.

A veces, pueden empeorarla.

Karpf dice que algunos padres usan la aplicación como arma y envían mensajes de “cebo” para convencer a su cónyuge e incitarlos a enviar un mensaje problemático:

“Un padre idiota siempre será un padre idiota“.

Kisson recuerda una conversación que tuvo con un juez cuando lanzó el programa piloto.

“Lo que hay que recordar acerca de las herramientas es que puedo darte un destornillador y puedes arreglar un montón de cosas con él”, dijo el juez.

“O puedes pincharte en el ojo“.

Fuente: Wired