Google ha decidido que su chatbot de inteligencia artificial, Gemini, no responderá a preguntas relacionadas con las elecciones que se lleven a cabo este año en todo el mundo.
En su lugar, dirigirá a los usuarios hacia el buscador de la compañía. Esta medida se tomó como precaución ante las numerosas elecciones programadas para 2024, según lo informado por Reuters.
La restricción entró en vigor recientemente, y las consultas sobre temas electorales suelen recibir respuestas que animan a probar el buscador de Google en lugar de obtener información directa de Gemini. Esta decisión surge después de que la IA generara polémica al agregar requisitos de diversidad a las solicitudes de generación de imágenes de personas, lo que llevó a resultados inexactos y ofensivos.
El CEO de Google, Sundar Pichai, calificó estas respuestas como «completamente inaceptables». Además de Estados Unidos, donde ya han comenzado las elecciones, se llevarán a cabo procesos electorales en varios países, incluyendo India, Sudáfrica, México, y otros más.
Los gobiernos están implementando medidas para controlar la difusión de información falsa a través de la inteligencia artificial, buscando proteger la integridad de los procesos electorales. En India, se ha solicitado a las empresas de tecnología que obtengan la aprobación gubernamental antes de lanzar herramientas de IA en fase de prueba.
A mediados de enero, OpenAI implementó ajustes en sus políticas de uso para evitar la manipulación del proceso electoral y la difusión de información engañosa. Esto incluye la prohibición de utilizar herramientas como ChatGPT y Dall-E con propósitos políticos, como la creación de campañas o bots que intenten influir en las decisiones de los votantes.
Mientras tanto, Microsoft está considerando qué medidas tomar con su chatbot de IA, Copilot, luego de que se revelara que proporcionaba respuestas falsas y desactualizadas sobre temas electorales.