Inventan herramienta para proteger el trabajo de los artistas humanos y evitar que se utilice para entrenar sistemas de inteligencia artificial

Diseñada para “proteger a los artistas humanos interrumpiendo el mimetismo del estilo“, la herramienta funciona mediante el aprendizaje automático.

Usa aprendizaje automático para calcular “un conjunto de cambios mínimos en las obras de arte, de modo que parezca que no ha cambiado a los ojos humanos, pero parece a los modelos de IA como un estilo de arte dramáticamente diferente“.

En otras palabras, Glaze agrega una segunda capa imperceptible a las fotografías digitales de obras de arte, que funciona efectivamente como un disfraz invisible.

La obra de arte se ve igual para los humanos, pero para una IA que genera imágenes como MidJourney o Stable Diffusion, la imagen se ve completamente diferente.

Entonces, cuando la IA se entrena en esa imagen, oscurece la comprensión de la máquina de cómo se ve realmente el trabajo del artista humano, lo que hace que los resultados del sistema sean inútiles.

Según CNN, un grupo creciente de artistas ya está utilizando la herramienta.

“Nunca nos han preguntado si estamos de acuerdo con que se usen nuestras imágenes, nunca“, dijo a CNN Eveline Fröhlich, una artista visual con sede en Alemania que vende impresiones e ilustra portadas de álbumes y libros para sobrevivir en un mundo cargado de IA cada vez más generativo.

“Fue como, ‘Esto es mío ahora, está en Internet, voy a poder usarlo'”. Lo cual es ridículo”.

Pero Glaze, dijo Fröhlich a CNN, ha renovado un sentido de esperanza en ella misma y en sus compañeros que podrían sentirse igualmente frustrados y desmoralizados por el ataque repentino de las herramientas de IA generativa.

Y en ese sentido, realmente no se puede culpar a los artistas visuales por sentirse desesperanzados estos últimos meses.

Como señaló Fröhlich, los modelos generativos de IA se han entrenado en gran medida en el trabajo de los artistas sin su consentimiento.

E incluso en los casos en que una empresa de inteligencia artificial ha tomado medidas para ralentizar la producción del trabajo de artistas específicos, su trabajo aún permanece en esos conjuntos de datos, y algunas personas en la comunidad de código abierto han demostrado que están felices de pasar por alto los deseos de los artistas.

Si Glaze y herramientas similares marcan la diferencia para estos artistas, podría ser un cambio radical emocionante.

Glaze nos está dando “alguna forma de contraatacar“, dijo Fröhlich a CNN.

“Hasta ese momento, muchos de nosotros nos sentíamos tan impotentes con esta situación, porque realmente no había una buena manera de mantenernos a salvo de ella, así que eso fue realmente lo primero que me hizo personalmente consciente de que: sí, hay un punto en empujar hacia atrás“.

Fuente: Glaze