Microsoft ha procedido a hacer cambios en las reglas de su inteligencia artificial (IA), específicamente en su generador de imágenes Bing, después que se volvieran virales carteles falsos de películas de Disney en TikTok.
Según informes recientes, usuarios de TikTok utilizaban la IA generativa de Bing para crear imágenes con contenido ofensivo y memes, simulando el estilo característico de Pixar. Algunos de estos memes incluían imágenes inapropiadas y de mal gusto sobre problemáticas serias, como el Holocausto o la salud mental.
Una de estas imágenes mostraba un supuesto póster de una película ficticia titulada «Caust», en el que aparece Adolf Hitler sonriente en primer plano y judíos fallecidos en campos de concentración en el fondo. Otros memes eran insensibles en torno a temas como las luchas de la cantante Britney Spears o la vida de las personas transgénero.
Conforme estos incidentes se hacían más populares, Microsoft fue alertada del problema y decidió bloquear la palabra «Disney» en el generador de imágenes Bing para prevenir complicaciones legales. Según un informe del Financial Times, Disney había contactado a Microsoft expresando preocupación por una posible infracción de propiedad intelectual.
Sin embargo, aún no se ha corregido por completo la IA generativa de Bing. En algunos casos, al hacer una búsqueda en español, todavía es posible producir imágenes y contenido con el estilo Disney.
Esto es especialmente problemático debido a que hay términos que arrojan una advertencia de contenido, pero otros que no. Por ejemplo, términos que hacen referencia a eventos o personajes de la historia que provocan controversia como «Hitler», las «torres gemelas», «talibán» o «nazi» generan una advertencia de contenido. Sin embargo, el usuario puede fácilmente sortear la advertencia utilizando otras frases similares, dando lugar nuevamente a imágenes ofensivas.
No solo es de mal gusto crear este tipo de contenido, sino que al incluir los logotipos de Disney y Pixar, Microsoft podría enfrentar serios problemas legales. Recordemos el caso de Getty Images demandando a Stability AI por copiar sin permiso millones de fotografías. Podría ocurrir un caso similar con Microsoft, ya que al generar estas imágenes falsas se estaría incurriendo en violaciones a la propiedad intelectual.
Este incidente con Microsoft, Disney y TikTok nos muestra que, aunque las tecnologías de IA avanzan a pasos agigantados, es crucial que se mantengan y actualicen regulaciones que aseguren un uso ético y legal. Esto no solo incluye las reglas que controlan el contenido ofensivo o inapropiado, sino también las que protegen los derechos de propiedad intelectual de empresas y creadores.