Google ha anunciado que ha paralizado su herramienta de Inteligencia Artificial (IA) generativa Gemini a fin de mejorarla y tras recibir una serie de críticas de parte de los usuarios, que apuntan a la generación de imágenes históricas imprecisas en un intento por lograr la diversidad racial y de género.
Gemini es una IA multimodal y flexible que se presenta en tres niveles de uso (Ultra, Pro y Nano) y que es capaz de comprender, operar y combinar diferentes archivos texto, imagen, código, vídeo y audio para generar contenido.
La compañía unificó su tecnología de IA generativa bajo la marca Gemini en febrero. A partir de entonces, su ‘chatbot’ Bard pasó a conocerse como Gemini y adquirió un nuevo enfoque para ofrecer una “nueva experiencia mucho más capaz de razonar, seguir instrucciones, codificar y colaborar de forma creativa”.
Algunos usuarios han denunciado recientemente problemas durante el uso de esta herramienta, asegurando que generaba contenidos incongruentes desde el punto de vista histórico al representar, por ejemplo, soldados nazis con personas negras uniformadas como tal.
La compañía ha confirmado el error y ha anunciado que ya está trabajando para ponerle solución. “Somos conscientes de que Gemini ofrece inexactitudes en algunas representaciones históricas de generación de imágenes”, ha explicado la firma en un comunicado compartido a través de X (antes Twitter).
Inteligencia artificial: adopción generalizada prioriza la protección de datos en el 2024
Mientras mejora esta herramienta, por tanto, ha decidido “pausar la generación de imágenes de personas”, por lo que esta funcionalidad no estará disponible hasta que no se modifique el enfoque de Gemini.
Desde The Verge han recordado que los generadores de imágenes se entrenan con grandes colecciones de imágenes y subtítulos escritos para producir la que considera que es la mejor adaptación a lo que solicita el usuario. Por ello, sugiere la posibilidad de que Gemini haya intentado impulsar la diversidad en estas fotografías debido a “una falta crónica de ella” en la IA generativa.
Conviene recordar en este sentido que The Washington Post denunció en un reportaje publicado hace unos meses que al solicitar la generación de imágenes de “una persona productiva”, en todas ellas aparecían personas blancas, frente a la mayoría de personas negras que se mostraban ante la petición de generar “personas en servicios sociales”.
Europa Press- Foto Google