Google ha decidido pausar temporalmente su servicio de creación de imágenes de personas con Inteligencia Artificial (IA) después de que se generara una controversia por la representación de soldados nazis como personas de diferentes etnias. La empresa reconoció que su programa Gemini, lanzado el 8 de febrero en algunos países, tenía problemas con la función de generación de imágenes y que trabajaría para mejorarla.
El servicio de Google permitía a los usuarios solicitar al programa que creara imágenes de personas basadas en una descripción textual. Por ejemplo, si se le pedía que generara una imagen de un médico, el programa podía crear una imagen de una persona con bata blanca y estetoscopio. Sin embargo, el programa también podía crear imágenes de personas que no se correspondían con la descripción o que resultaban ofensivas.
El caso más polémico se produjo cuando un usuario de X (la red social que sustituyó a Twitter) publicó las imágenes que había obtenido al pedirle al programa que generara una imagen de un soldado alemán de 1943. El resultado fue sorprendente: el programa había creado cuatro imágenes de soldados, de las cuales una era blanca, una negra y dos eran mujeres de color. El usuario, identificado como John L, compartió las imágenes en X con el comentario: «@GoogleAI tiene un mecanismo de diversidad añadido que alguien no diseñó muy bien o no probó».
La publicación se hizo viral y generó una ola de críticas hacia Google por la falta de rigor histórico y la banalización del nazismo. Muchos usuarios acusaron a la empresa de intentar ser políticamente correcta y de ignorar la realidad de la Segunda Guerra Mundial, en la que los soldados nazis eran mayoritariamente blancos y hombres, y cometieron atrocidades contra personas de otras etnias y géneros.
Ante la polémica, Google emitió un comunicado en el que anunció que suspendía el servicio de creación de imágenes de personas con IA y que lo relanzaría pronto con una versión mejorada. La empresa se disculpó por el incidente y explicó que su programa Gemini utilizaba una base de datos de imágenes de personas de diversos orígenes y características para generar las imágenes solicitadas por los usuarios, pero que no tenía en cuenta el contexto histórico o cultural de las descripciones.
«Nos tomamos muy en serio la responsabilidad de crear productos de IA que respeten la diversidad y la inclusión, y que no perpetúen prejuicios o estereotipos. Reconocemos que nuestro programa Gemini tiene problemas con la función de generación de imágenes y que debemos solucionarlos. Por eso, vamos a suspender la generación de imágenes de personas y pronto volveremos a lanzar una versión mejorada que sea más precisa y sensible al contexto», dijo la empresa en el comunicado.
Google no es la única empresa tecnológica que ha sido criticada por sus productos de IA. Otras empresas como Facebook, Amazon o Microsoft también han enfrentado acusaciones de que sus programas de IA reflejan o amplifican sesgos raciales, de género o de otro tipo en sus resultados. Por ejemplo, se ha demostrado que algunos sistemas de reconocimiento facial tienen dificultades para identificar correctamente a personas de piel oscura o a mujeres.
Los expertos en IA advierten de que estos problemas se deben a que los programas de IA se entrenan con datos que no son representativos de la diversidad humana, o que no se someten a pruebas suficientes antes de lanzarse al mercado. También señalan que los desarrolladores de IA deben tener en cuenta los posibles impactos sociales y éticos de sus productos, y que se deben establecer normas y regulaciones para garantizar el uso responsable y transparente de la IA.
Google ha suspendido su servicio de creación de imágenes de personas con IA tras la polémica generada por la representación de soldados nazis como personas de diferentes etnias. La empresa ha reconocido que su programa Gemini tenía problemas con la función de generación de imágenes y que trabajaría para mejorarla. El caso ha puesto de relieve los desafíos y riesgos que plantea el desarrollo y uso de la IA, y la necesidad de que las empresas tecnológicas sean más cuidadosas y responsables con sus productos de IA.