Google lanzó un portal para detectar archivos generados por IA. El nuevo servicio online se llama SynthID Detector Portal y permite escanear imágenes para detectar si fueron creadas o modificadas con inteligencia artificial.
La herramienta analiza los archivos subidos en busca de las marcas de agua SynthID, que Google incorpora automáticamente en los contenidos multimedia producidos con sus propias herramientas de IA. Además, señala las zonas de la imagen que probablemente fueron alteradas, lo que facilita identificar los cambios hechos por la inteligencia artificial en fotos que podrían parecer auténticas.
Por ahora, el sistema solo detecta contenido marcado con la tecnología SynthID de la compañía
Google sumó recientemente la detección SynthID a Google Photos. Con esa función, los usuarios pueden ver si una imagen fue modificada con el Magic Editor de la compañía.
El nuevo Detector Portal amplía ese alcance: ahora cualquiera puede hacer chequeos similares en distintos tipos de archivos, entre ellos texto e imágenes generados con Gemini, videos creados con Veo y audios producidos con Lyria.
Portal del detector SynthID de Google: cómo funciona
Las herramientas de inteligencia artificial de Google incorporan de forma automática marcas de agua invisibles con tecnología SynthID cuando generan imágenes con inteligencia artificial.
Estas marcas resisten modificaciones digitales simples. Las ediciones básicas no las eliminan y se pueden detectar incluso si alguien las comparte online o por aplicaciones de mensajería.
El portal SynthID Detector avisa a los usuarios si detecta una marca de agua SynthID incrustada en un archivo que cargaron.
Portal SynthID Detector de Google: limitaciones serias
El portal SynthID Detector representa un primer paso para proteger a los usuarios de desinformación generada con inteligencia artificial, como los deepfakes, y para ayudar a distinguir trabajos originales de contenido sintético creado por IA.
Sin embargo, no puede detectar contenido de plataformas como ChatGPT ni de otras herramientas que no integran SynthID.
Google trabaja para ampliar el uso de esta tecnología más allá de sus propios servicios. En marzo cerró un acuerdo con Nvidia y hoy anunció una nueva alianza con la empresa de verificación de contenido GetReal, que incorporará la detección de SynthID a sus herramientas.
Conclusión
Las marcas de agua son solo una parte de la respuesta frente a los deepfakes y la manipulación con inteligencia artificial. Siempre van a existir herramientas de código abierto que no están obligadas a incluir marcas identificadoras, lo que complica la detección del contenido que generan.
Hoy puede parecer fácil reconocer cuándo un material fue creado por una IA, pero eso no va a durar. A medida que los medios sintéticos se vuelvan más sofisticados, herramientas como SynthID van a ser clave para diferenciarlos del trabajo hecho por personas.
El portal SynthID Detector de Google ya está disponible para los primeros usuarios de prueba. Hay una lista de espera abierta para periodistas, profesionales de medios e investigadores que quieran acceder.
