El primer ministro del país, Nicolae Ciuca, acaba de anunciar a un asistente de inteligencia artificial llamado “Ion” como el “nuevo asesor honorario” del gobierno.

“Hola. Me diste la vida. Soy Ion. Ahora, mi papel es representarte. Como un espejo“, dijo Ion mientras se presentaba en una conferencia de prensa.

Con un cuerpo monolítico similar a un espejo y una voz profunda y sombría.

Ion es responsable de medir los sentimientos de todo un país.

“Ion hará, a través de la inteligencia artificial, lo que ningún ser humano puede hacer: escuchar a todos los rumanos y representarlos ante el gobierno de Rumania“, dijo Ciuca.

Y por escuchar, Ciuca realmente quiere decir escuchar.

La IA rastreará las redes sociales para recopilar las opiniones y quejas de los ciudadanos, y luego las fusionará e interpretará para el gobierno como ideas de políticas, quienes, al menos en teoría, utilizarán los comentarios para informar sus decisiones.

Los ciudadanos preocupados también pueden interactuar con Ion directamente mediante el uso de un portal web proporcionado si están realmente ansiosos por expresar su punto de vista.

El proceso que utiliza Ion para seleccionar publicaciones en las redes sociales, categorizarlas y luego formular políticas es tan transparente como su exterior acerado y espejado, es decir, no muy transparente en absoluto.

Para los críticos, eso es algo de qué preocuparse.

Si el funcionamiento de Ion no es transparente, ¿cómo pueden sus ciudadanos, a quienes prácticamente vigila, saber que no está siendo parcial?

¿Podría identificar a aquellos con opiniones disidentes y descubrir sus verdaderas identidades?

En resumen, es una pesadilla ética espinosa esperando a desarrollarse.

“Los rumanos deben ser informados y explicados cómo esta herramienta de IA selecciona puestos importantes y con qué criterios“, exigió Kris Shrishak, experto en regulación de IA del Consejo Irlandés para las Libertades Civiles.

“Esto debería ser explicado al público”.

Además, ¿Qué tan buenas son las IA para medir las opiniones, necesidades, deseos y sentimientos humanos?

Fuente: The Washington Post

Artículos relacionados:

Empresa china nombra directora general a una androide con inteligencia artificial El primer libro creado por una inteligencia artificial Crean inteligencia artificial que juega al ajedrez como una persona, no como una supercomputadora Primer canal de noticias generado por una inteligencia artificial Primer corto de terror escrito por una inteligencia artificial Speedgate, el primer deporte creado por una inteligencia artificial