Google lanza SynthID una herramienta para detectar Imágenes Generadas por IA

Arepa Tecnológica
Por Arepa Tecnológica 3 lectura mínima

Google ha dado un paso importante hacia la transparencia en el contenido creado por inteligencia artificial al anunciar SynthID, una herramienta que introduce marcas de agua digitales en las imágenes generadas por IA. Esta innovación permite una identificación más fácil y efectiva de las imágenes producidas por sistemas de inteligencia artificial.

- Publicidad -

De acuerdo con una publicación en el blog de DeepMind, la herramienta SynthID añade un identificador directamente en los píxeles de una imagen generada por IA. Aunque este identificador es prácticamente imperceptible para el ojo humano, puede ser detectado y analizado por sistemas de escaneo.

La ventaja es que la marca de agua no compromete la calidad de la imagen y puede soportar ediciones posteriores sin perder su efectividad. Incluso si se aplican filtros, se recorta o se convierte a otro formato, la marca de agua se mantendrá incrustada en el archivo.

- Partners -
banner juega en linea, apuesta diviertete y gana con arepa tecnologica en juega en linea

Esta iniciativa surge como respuesta a la necesidad de identificar imágenes generadas por IA que pueden engañar a los usuarios al parecer realistas. Modelos de IA como Midjourney o Stable Diffusion han demostrado la capacidad de crear contenido que puede confundirse con imágenes reales, lo que ha llevado a la necesidad de encontrar formas de diferenciar entre imágenes auténticas y generadas por IA.

- Publicidad -

SynthID no solo permite agregar una marca de agua, sino que también es capaz de escanear una imagen para determinar si fue generada por inteligencia artificial. La herramienta utiliza dos modelos de aprendizaje profundo: uno para aplicar las marcas de agua y otro para la identificación. Ambos modelos fueron entrenados con una variedad diversa de imágenes. La herramienta alinea visualmente el identificador con el contenido original para determinar si está presente.

unete al canal de whatsapp de arepa tecnologica

A pesar de que SynthID no es infalible y podría no detectar manipulaciones extremas de la imagen, Google está comprometido en mejorarla continuamente. La herramienta podría eventualmente expandirse para aplicarse en otros tipos de contenido, como audio, video o texto.

Actualmente, SynthID está disponible en un número limitado de usuarios que utilizan Imagen, un modelo de Vertex AI de Google capaz de crear imágenes fotorrealistas a partir de texto. La marca de agua digital creada por SynthID también es compatible con métodos de identificación de imágenes basados en metadatos, como los utilizados en Photoshop.

- Publicidad -

La introducción de herramientas como SynthID es un paso hacia adelante en la identificación de contenido generado por inteligencia artificial, lo cual es crucial en medio de las discusiones sobre la regulación de esta tecnología. La identificación efectiva de contenido sintético es importante para evitar el uso de imágenes y textos generados por IA en campañas de desinformación y manipulación.

Comparte este artículo
Follow:
Redacción General de Arepa Tecnológica. Amantes de la tecnología y las tendencias Digitales.

Nuestras Redes Sociales

Síguenos
Deja un comentario

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *