El presidente de asuntos globales de Meta, Nick Clegg, anunció este martes que pronto se empezará a identificar y marcar imágenes generadas por inteligencia artificial de empresas como OpenAI y Google en las plataformas de Meta. En una publicación de blog explicó que estas etiquetas serán aplicadas a cualquier contenido que contenga marcadores invisibles integrados en los archivos, con el fin de alertar a los usuarios sobre la naturaleza digital de las imágenes, que a menudo son bastante realistas.
Una vez que el sistema esté operativo, Meta extenderá esta medida a imágenes generadas en servicios ofrecidos por OpenAI, Microsoft, Adobe, Midjourney, Shutterstock y Google, según señaló Clegg.
Este anuncio proporciona un adelanto del sistema de estándares emergentes que las empresas tecnológicas están desarrollando para mitigar los posibles daños asociados con las tecnologías de inteligencia artificial generativa, las cuales pueden producir contenido falso, pero convincentemente realista.
Clegg expresó su confianza en la capacidad actual de las empresas para etiquetar de manera confiable imágenes generadas por IA, aunque reconoció que las herramientas para marcar contenido de audio y video son más complejas y aún están en desarrollo.
Afirmó: “Aunque la tecnología aún no está completamente madura, particularmente en lo que respecta al audio y video, esperamos generar un impulso e incentivo para que el resto de la industria siga nuestro ejemplo”.
En cuanto al contenido de audio y video, Meta empezará a exigir a los usuarios que etiqueten su propio contenido alterado y aplicará sanciones en caso de incumplimiento, aunque no se proporcionaron detalles específicos sobre estas sanciones.
Clegg también mencionó que actualmente no hay un método viable para etiquetar el contenido escrito generado por herramientas de inteligencia artificial, como ChatGPT.
Respecto al servicio de mensajería cifrada WhatsApp, un portavoz de Meta se negó a confirmar si la compañía aplicará etiquetas a contenido generativo de IA compartido en esa plataforma.
El lunes, la junta de supervisión independiente de Meta criticó la política de la compañía sobre videos manipulados de manera engañosa, sugiriendo que se debería etiquetar el contenido en lugar de eliminarlo.
Clegg expresó su acuerdo con estas críticas, reconociendo que la política actual de Meta no es suficiente para manejar el creciente volumen de contenido híbrido y sintético en línea. Destacó la nueva iniciativa de etiquetado como evidencia de que Meta está avanzando en la dirección propuesta por la junta.
