¿Alguna vez has utilizado una aplicación o una herramienta en línea para generar imágenes y te has preguntado qué datos están detrás de esas imágenes y por qué se generaron así? Bueno, si alguna vez has sentido esa curiosidad, te sorprenderá saber que varias investigaciones han arrojado luz sobre cómo estas imágenes generadas por inteligencia artificial (IA) pueden estar perpetuando estereotipos de género y etnia.
Resulta que las herramientas de generación de imágenes basadas en IA están arrojando más que solo resultados visuales; están proyectando y, en muchos casos, amplificando estereotipos arraigados en nuestra sociedad. ¿Cómo es posible? Bueno, se reduce a los datos utilizados para entrenar estas tecnologías.
Una de las principales preocupaciones es que estas herramientas tienden a reforzar clichés preocupantes. Por ejemplo, algunas herramientas como Stable Diffusion XL y DALL-E 3 han sido señaladas por presentar una visión sesgada y simplificada del mundo, perpetuando estereotipos como la hipersexualización de ciertos grupos étnicos o la masculinización predominante de líderes.
Incluso compañías como Stability AI, fabricante de Stable Diffusion XL, han reconocido públicamente estos problemas y han intentado mejorar la situación en sus modelos más recientes. Sin embargo, los estereotipos persisten en las representaciones generadas por estas herramientas. Por ejemplo, según The Washington Post, las imágenes generadas a menudo reflejan prejuicios occidentales anticuados, lo que demuestra que aún queda trabajo por hacer.
La cuestión de los datos también es crucial. Organizaciones como LAION, proveedoras de datos para empresas como Stability AI, se centran principalmente en datos occidentales, lo que contribuye aún más a la reproducción de estereotipos eurocéntricos en las imágenes generadas. Esta falta de diversidad en los datos es lo que provoca el sesgo a la hora de generar las representaciones virtuales, alejándolas de la realidad global.
Lo más preocupante es que estas herramientas pueden reflejar y amplificar desigualdades sociales y económicas incluso falsas. Por ejemplo, al generar imágenes relacionadas con ocupaciones o situaciones específicas, se observa una tendencia a asociar ciertos roles con características raciales, de género o de clase, lo que puede distorsionar la realidad.
Por ejemplo, las representaciones de personas que reciben servicios sociales tienden a ser predominantemente no blancas, pese a que, en 2020, el 63% de los beneficiarios de cupones de alimentos eran blancos y el 27% negros, según los últimos datos de la Encuesta de Ingresos y Participación en Programas de la Oficina del Censo de Estados Unidos.
Pero, ¿cuál es la solución a este problema? Se destaca la importancia de filtrar y depurar los conjuntos de datos utilizados para el entrenamiento de estas herramientas de IA. Sin embargo, este proceso no está exento de desafíos, ya que puede llevar a exclusiones injustas o a una representación aún más sesgada si no se implementa de manera cuidadosa y equitativa.
En resumen, si bien la tecnología de generación de imágenes basada en IA puede ser impresionante en términos de avance tecnológico, también es importante ser consciente de sus limitaciones y de cómo puede influir en la perpetuación de estereotipos. Al final del día, la responsabilidad recae en nosotros como usuarios y en las empresas desarrolladoras de estas herramientas para asegurarnos de que estemos avanzando hacia representaciones más inclusivas y realistas en el mundo virtual.
Comentarios