Google crea una marca de agua para imágenes creadas con inteligencia artificial

El sistema también funcionará con plataformas como Midjourney y Stable Diffusion

Google creó una herramienta llamada SynthID que resolverá uno de los problemas que han surgido con el desarrollo de la inteligencia artificial: la identificación de imágenes generadas por IA. La compañía anunció como funcionará esta tecnología, que pretende estar disponible en cualquier plataforma de generación de contenido, como Midjourney y Stable Diffusion.

“Las marcas de agua tradicionales no son suficientes para identificar imágenes generadas por IA porque a menudo se aplican como un sello en una imagen y se pueden editar fácilmente. Diseñamos SynthID para que no comprometa la calidad de la imagen y permita que la marca de agua siga siendo detectable, incluso después de modificaciones”, publicó la empresa en su blog.

Por lo que está tecnología surge como respuesta a la necesidad de combatir la creciente capacidad de la IA para generar imágenes realistas que pueden ser usadas para difundir información falsa, como el caso de las fotos manipuladas sobre el arresto de Donald Trump y del Papa Francisco con un abrigo acolchado.

El sistema no es visible para el ojo humano, sino que es identificado por otras tecnologías.

Cómo funcionará esta marca de agua

SynthID es una marca de agua digital que se incorpora directamente en los píxeles de una imagen, garantizando que sea completamente invisible para el ojo humano.

La herramienta no afecta la calidad de la imagen y puede resistir ediciones posteriores, como ajustes de color, recortes o conversiones de formato.

El sistema no solo permite a los usuarios agregar una marca de agua a sus imágenes generadas por IA, sino que también puede analizar imágenes existentes para determinar si han sido producidas por un algoritmo de inteligencia artificial

Para lograrlo, utiliza dos modelos de aprendizaje profundo: uno para la creación de la marca de agua y otro para la identificación de las imágenes generadas por IA. Estos modelos se entrenaron en conjunto con una variedad diversa de imágenes. Para su funcionamiento, el modelo de identificación alinea visualmente el identificador con el contenido original de la imagen para verificar su presencia.

La verificación de la marca de agua se ejecutaría en un segundo sistema creado por Google, ya sea una web o una extensión adicional para los navegadores, algo que por ahora no se ha definido.

La eficacia de SynthID se pondrá a prueba en casos de manipulación extrema de la imagen, donde los píxeles originales puedan ser ocultados. A pesar de esto, los resultados iniciales de las pruebas son satisfactorios para Google, que considera expandir ese concepto a otros tipos de contenido, como audio, video o texto.

El sistema no es visible para el ojo humano, sino que es identificado por otras tecnologías. (Imagen ilustrativa Infobae)

Inicialmente, SynthID estará disponible en versión beta para un número limitado de usuarios que utilizan el servicio Imagen de Vertex AI de Google. Además, la marca de agua digital también es compatible con métodos de identificación de imágenes basados en metadatos, como los usados en programas de edición como Photoshop.

Adicionalmente, el objetivo de la empresa no es tener esta tecnología para sus contenidos y plataformas propias, sino expandir su acceso a sistemas de terceros para que los adapten en el futuro y para eso esperar que esta primera fase de prueba les permita corregir los errores y lanzar mejoras en futuras versiones.

La importancia de un sistema de este tipo ha llevado a otras empresas a crear sus propias tecnologías que permitan identificar imágenes creadas con IA, como es el caso de Adobe, Microsoft e Intel que han estado apoyando el desarrollo del estándar C2PA de la Coalition for Content Provenance and Authenticity, que busca frenar la desinformación en línea y el fraude de contenido.

Fuente-infobae