El CEO de Google, Sundar Pichai, ha abordado los problemas recientes con la herramienta de generación de imágenes impulsada por IA de la compañía, Gemini, después de que comenzara a corregir excesivamente la diversidad en imágenes históricas. Pichai calificó los sucesos como “inaceptables” y afirmó que la empresa está “trabajando sin descanso” en una solución, según un memorando interno a los empleados publicado por Semafor.
“Ninguna IA es perfecta, especialmente en esta etapa emergente del desarrollo de la industria, pero sabemos que el listón está alto para nosotros y seguiremos trabajando el tiempo que sea necesario”, escribió Pichai a los empleados. “Revisaremos lo sucedido y nos aseguraremos de solucionarlo a gran escala”.
Pichai se mantiene optimista respecto al futuro del chatbot Gemini, anteriormente llamado Bard, señalando que el equipo ya ha “visto una mejora sustancial en una amplia gama de indicaciones”. La generación de imágenes de Gemini permanecerá pausada hasta que se resuelva completamente el problema.
El problema comenzó cuando los usuarios de Gemini notaron que el generador comenzó a producir imágenes históricamente inexactas, como imágenes de nazis y Padres Fundadores de América como personas de color. Esto rápidamente se convirtió en un tema de discusión en las redes sociales, con la palabra “woke” siendo utilizada frecuentemente.
Prabhakar Raghavan, vicepresidente senior de conocimiento e información de Google, no atribuyó la culpa a la “corrección política”, sino a una serie de errores de ajuste. El modelo fue afinado para permitir la representación de grupos diversos de personas en imágenes, pero “no tuvo en cuenta casos que claramente no deberían mostrar un rango”. Esto llevó a imágenes controvertidas como la aparición de personas de color como vikingos y Papas católicos nativos americanos.
Raghavan también dijo que el modelo se volvió más cauteloso con el tiempo, negándose ocasionalmente a responder a ciertas indicaciones después de interpretarlas erróneamente como sensibles. Esto explica los informes de que el modelo se negó a generar imágenes de personas blancas.
Parece que la compañía intentaba complacer a una audiencia global y asegurarse de que el modelo no cayera en algunas de las trampas de productos rivales, como la creación de imágenes sexualmente explícitas o representaciones de personas reales. Ajustar estos modelos de IA es un trabajo extremadamente delicado y el software puede ser llevado fácilmente a cometer errores ridículos.
En cuanto a Gemini, la compañía promete que el generador de imágenes volverá en un futuro cercano, pero aún requiere una serie de correcciones y pruebas para asegurarse de que esto nunca vuelva a suceder, incluyendo “cambios estructurales, pautas de producto actualizadas, procesos de lanzamiento mejorados, evaluaciones robustas y recomendaciones técnicas“.
