Google admite finalmente las controversias de Gemini

Tiempo de lectura: 4 minutos

Compartir en redes

Google Gemini ha sido objeto de grandes polémicas desde su lanzamiento hace escasamente dos semanas debido a su generador de imágenes. El problema se suscitó a raíz de intentar a toda costa representar imágenes con personas de cualquier raza. Eso derivó en generación de imágenes de lo más polémicas, por no hablar de infinidad de memes. De hecho, la nueva inteligencia generativa de imágenes de Google ha tenido que ser pausada y su algoritmo va a ser sometido a revisión. ¡Vamos a verlo!

Google Gemini, un despegue accidentado

Apenas dos semanas desde que se lanzó, Google Gemini ha tenido un comienzo de lo más estrambótico. De hecho, el funcionamiento de su IA generativa de imágenes ha tenido que ser pausado debido a las hilarantes imágenes que producía, algunas de ellas muy polémicas.

Y es que parece ser, el algoritmo está diseñado para representar con igualdad de casuística imágenes de personas de cualquier raza y género. Hasta ahí podríamos pensar que está todo correcto, pero lo cierto es que no, o al menos no del todo.
En concreto había casos en los que la herramienta literalmente se negaba a representar a personas de raza blanca y más aún en los contextos históricos que lo requerían.

Algunos ejemplos destacados han sido introducir a personas asiáticas cuando se le estaba pidiendo a la IA que representara imágenes de vikingos o incluso ha llegado a crear gendarmes nazis de raza negra. Como se puede ahora entender, esto ha sido algo que ha levantado todo tipo de polémicas, por no hablar de los memes por las redes sociales.

Imagen de un vikingo generada por el modelo Gemini de Google.
Fotografía: Google Gemini

Un error insalvable que desgasta a la compañia

No es ningún misterio que la tecnología está evolucionando a pasos más que agigantados y la Inteligencia Artificial es algo que está en boca de todo el mundo prácticamente a diario. Sin embargo, hay un cierta opinión de que Google no se ha «puesto las pilas» al respecto, o al menos sus competidores directos como OpenAI, están haciendo cosas mejores y más avanzadas.

«Ya estamos trabajando para solucionar problemas recientes con la función de generación de imágenes de Gemini. Mientras hacemos esto, vamos a pausar la generación de imágenes de personas y pronto volveremos a publicar una versión mejorada», dijo Google en un comunicado.

Google no se refirió a imágenes específicas en su declaración, pero ejemplos de resultados de imágenes de Gemini estaban ampliamente disponibles en X, acompañados de comentarios sobre los problemas de la IA con precisión y sesgo, y un ex empleado de Google dijo que era «difícil lograr que Google Gemini reconociera que los blancos existen”.

Jack Krawczyk, director senior del equipo Gemini de Google, admitió el miércoles que el generador de imágenes del modelo, que no está disponible en el Reino Unido ni en Europa, necesitaba ajustes.

«Estamos trabajando para mejorar este tipo de representaciones de inmediato», dijo. «La generación de imágenes mediante IA de Gemini genera una amplia gama de personas. Y eso, en general, es algo bueno porque la gente de todo el mundo lo usa. Pero no está dando en el clavo».

El CEO de Google acaba por admitir el problema con Gemini

Tras dos semanas de controversia y polémica, Sundar Pichar, CEO de Google, ha terminado por reconocer el problema. «Sé que algunas de sus respuestas han ofendido a nuestros usuarios y han mostrado prejuicios; para que quede claro, eso es completamente inaceptable y nos hemos equivocado», explicó Pichai.

Curiosamente, no ha habido una explicación oficial de porqué Gemini estaba generando ese tipo de imágenes mostrando personas de diversas razas en contextos históricos que son incluso ofensivas. Pero como decíamos al comienzo del artículo, parece ser que todo apunta a que el algoritmo simplemente no hacía distinción de género o raza ni tenía en cuenta el contexto histórico.

«Ninguna inteligencia artificial es perfecta, especialmente en esta etapa del desarrollo de la industria, pero sabemos que el listón está alto para nosotros y seguiremos trabajando en el problema durante el tiempo que sea necesario», añadía Pichai en su comunicado.

Y es que hay que tener en cuenta que los motores de IA actuales están entrenados con materiales que pueden representar sesgos y algunos prejuicios importantes, algo que preocupa a la comunidad académica entre otras.

En resumen, parece que Google Gemini tendrá que entrenar un poco más para volver al ring y enfrentarse al resto de competidores. Siendo objetivos, Google ha perdido este asalto.