top of page

Google crea una marca de agua invisible para identificar imágenes generadas por IA

La etiqueta creada por inteligencia artificial permanece incluso después de modificaciones como la aplicación de filtros o cambios de colores.



Con el propósito de combatir la propagación de información errónea, Google presentó una marca de agua invisible y permanente en imágenes que las identificará como generadas por computadora.


La tecnología, denominada SynthID, incrusta la marca de agua directamente en las imágenes creadas por Imagen, uno de los últimos generadores de texto a imagen de Google. La etiqueta generada por IA permanece incluso después de modificaciones como la aplicación de filtros o cambios de colores.


La herramienta SynthID también puede analizar imágenes entrantes e identificar la probabilidad de que hayan sido creadas por Imagen mediante la búsqueda de la marca de agua con tres niveles de certeza: detectado, no detectado y posiblemente detectado.


"Aunque esta tecnología no es perfecta, nuestras pruebas internas demuestran que es precisa ante muchas manipulaciones comunes de imágenes", escribió Google en una publicación de su blog.


Una versión beta de SynthID ya está disponible para algunos clientes de Vertex AI, la plataforma de IA generativa de Google para desarrolladores. La compañía afirma que SynthID, creado por la unidad DeepMind de Google en colaboración con Google Cloud, seguirá evolucionando y podría expandirse a otros productos de Google o terceros.




A medida que las imágenes y videos falsos y editados se vuelven cada vez más realistas, las empresas tecnológicas están buscando formas confiables de identificar y señalar contenido manipulado. En los últimos meses, una imagen generada por IA del Papa Francisco con una chaqueta acolchada se volvió viral, y las imágenes generadas por IA del expresidente Donald Trump siendo arrestado se compartieron ampliamente antes de que fuera imputado.


Con el anuncio de SynthID, Google se une a un creciente número de startups y grandes empresas tecnológicas que están buscando soluciones. Algunas de estas empresas tienen nombres como Truepic y Reality Defender, que reflejan las posibles apuestas de este esfuerzo: proteger nuestra percepción de lo que es real y lo que no lo es.


La Coalición para la Procedencia y Autenticidad del Contenido (C2PA), un consorcio respaldado por Adobe, ha liderado los esfuerzos de marcas de agua digitales, mientras que Google en su mayoría ha seguido su propio enfoque.


En mayo, Google presentó una herramienta llamada "Acerca de esta imagen", que permite a los usuarios ver cuándo las imágenes encontradas en su sitio web fueron indexadas originalmente por Google, dónde podrían haber aparecido por primera vez y dónde más se pueden encontrar en línea.


La empresa tecnológica también anunció que cada imagen generada por IA creada por Google llevará una marca en el archivo original para "dar contexto" si la imagen se encuentra en otro sitio web o plataforma.


Sin embargo, a medida que la tecnología de IA avanza más rápido de lo que los humanos pueden seguir, no está claro si estas soluciones técnicas podrán abordar completamente el problema. OpenAI, la compañía detrás de Dall-E y ChatGPT, admitió a principios de año que su propio esfuerzo para detectar escritura generada por IA, en lugar de imágenes, es "imperfecto" y advirtió que debería ser "tomado con precaución".




Comentários


bottom of page