Los ilustradores, fotógrafos, dibujantes y diseñadores han estado lidiando con la intrusión de la inteligencia artificial (IA) en su espacio creativo, pero un equipo de investigadores de la Universidad de Chicago afirma haber ideado una nueva solución. Glaze, un programa desarrollado por estos investigadores y descargado casi un millón de veces, oculta una imagen detrás de una capa de datos inexactos para evitar que alimente los modelos de aprendizaje automático.
El desafío al que se enfrentan los artistas radica en la necesidad de publicar su trabajo en línea para ganar visibilidad y encargos. Sin embargo, esto alimenta inadvertidamente a los mismos sistemas de IA que podrían socavar sus carreras. Glaze aprovecha la significativa diferencia entre la forma en que la IA y los humanos perciben el arte.
Ben Zhao, profesor de Ciencias de la Computación en la Universidad de Chicago, explica que la IA interpreta la información visual de manera diferente a los humanos. El programa Glaze, lanzado en 2023, puede alterar una imagen de manera que engañe a los modelos de aprendizaje automático de la IA al realizar cambios mínimos imperceptibles para el ojo humano.
Glaze utiliza la computadora del propio artista para volver a renderizar una imagen añadiéndole ruido visual. Aunque esta imagen aún podría contribuir a los modelos de aprendizaje de la IA, los datos extraídos se vuelven inexactos, según Zhao.
Esta distorsión aparentemente sutil cambia la forma en que un modelo de IA percibe la foto u obra de arte, aprovechando una disparidad fundamental entre la interpretación de imágenes por parte de la IA y la percepción humana. Esta discrepancia ha existido durante una década y ha sido resistente a los intentos de mitigación, lo que permite que los ataques a estos modelos aún sean posibles, señala Zhao.
El objetivo principal de Glaze es proteger el estilo individual de un artista. El equipo de investigación diseñó el programa en respuesta a las preocupaciones planteadas por artistas que temían que los modelos de IA se centraran en su trabajo.
Como enfatiza Zhao, el objetivo no es la perfección, sino enfrentar la amenaza que los artistas enfrentan ante el dilema de perder sus ingresos o darse cuenta de que un modelo de IA podría reemplazarlos. Glaze entra en este vacío hasta que las protecciones legales o las pautas se pongan al día con la tecnología.
Si bien Glaze podría desencadenar un ida y vuelta entre los artistas y los desarrolladores de IA, no se trata de una batalla contra la IA. La efectividad de la herramienta puede radicar en obligar a los desarrolladores de IA a desviar recursos para descifrar Glaze, logrando en última instancia su propósito de salvaguardar la producción creativa de los artistas.
Discussion about this post