Cómo funcionan las marcas de agua con IA y cómo identificarlas
Anthropic anunció recientemente que sus modelos Claude pronto comenzarán a marcar la salida de texto con elementos invisibles. marcas de agua de IAmientras que Google reveló que su propia marca de agua Gemini visible en las imágenes generadas será opcional. Estos dos movimientos contradictorios resaltan cuán variados se han vuelto los métodos de marca de agua de IA en toda la industria. Aquí hay un resumen de cómo funcionan estos sistemas y cómo puede detectarlos, incluso cuando están diseñados para permanecer invisibles.
Cómo funciona la marca de agua con IA
El método exacto para incorporar marcas de agua de IA Depende del tipo de medio involucrado, pero el principio subyacente sigue siendo el mismo: el contenido generado lleva datos ocultos, indetectables para el ojo o el oído humanos, que lo identifican como producido por IA. Las herramientas de detección especializadas pueden luego confirmar si algo fue generado por IA, sin depender de conjeturas o detectores de IA poco confiables.
Para las imágenes, los valores de píxeles se pueden ajustar ligeramente para incorporar una firma digital sin alterar notablemente la imagen. de google SynthIDpor ejemplo, distribuye una firma invisible entre las imágenes generadas, lo que significa que incluso una versión recortada conserva rastros detectables. Esto difiere del símbolo gris visible de Géminis, que permanece separado de la marca de agua invisible que se encuentra debajo.
En el caso del audio, las marcas de agua se pueden incorporar aún más fácilmente utilizando sonidos característicos colocados fuera del rango del oído humano, normalmente por debajo de 20 Hz o por encima de 20 000 Hz. El vídeo a menudo combina métodos de marca de agua de imagen y audio, aunque pueden surgir inconsistencias si el audio generado por IA se combina con imágenes de video genuinas.
Para el texto, cada palabra generada por un modelo de IA tiene una puntuación de probabilidad. marcas de agua de IA en el trabajo de texto, aumentando sutilmente la probabilidad de que aparezcan determinadas combinaciones de palabras, sin cambiar el significado de la frase. Este método tiende a funcionar de manera más confiable en pasajes de texto más largos, ya que más palabras brindan una mayor oportunidad de detectar opciones de palabras estadísticamente improbables.
Estructuras de metadatos como C2PA Técnicamente no son marcas de agua, pero tienen un propósito similar al ayudar a verificar el origen de un medio, incluso si las herramientas de inteligencia artificial estuvieron involucradas en su creación. Aunque SynthID se originó en DeepMind de Google, desde entonces el protocolo ha sido de código abierto y adoptado por otras empresas, incluida OpenAI. Sin embargo, la implementación sigue siendo inconsistente en toda la industria, lo que significa que la presencia de una marca de agua puede confirmar la participación de la IA, pero su ausencia no puede demostrar lo contrario.
Cómo detectar marcas de agua de IA
A pesar de la relativa popularidad de SynthID y C2PA, la detección confiable de marcas de agua o metadatos sigue siendo difícil. OpenAI ofrece una herramienta independiente para verificar la presencia de SynthID o C2PA, mientras que Google proporciona acceso de verificación a través de Gemini o, con la solicitud correcta, directamente a través de sus propias herramientas de búsqueda.
Sin embargo, estas herramientas tienen limitaciones notables. El detector OpenAI parece reconocer solo los medios generados por el propio OpenAI, y no pudo detectar las marcas de agua SynthID de las imágenes generadas por Gemini durante las pruebas. Mientras tanto, el portal dedicado SynthID Detector de Google sigue siendo solo por invitación, reservado específicamente para periodistas y profesionales de verificación. Algunas funciones de detección siguen siendo accesibles a través de Gemini, aunque los resultados pueden variar dependiendo de cómo se formulen las preguntas.
Incluso con una verificación cuidadosa, otros tipos de marcas de agua que requieren diferentes herramientas de detección pueden pasar desapercibidas, especialmente cuando no hay una indicación clara de qué plataforma generó el contenido. Las marcas de agua basadas en texto utilizadas por herramientas como Claude y Gemini siguen siendo especialmente difíciles de verificar, ya que actualmente no existe ninguna herramienta de detección pública para ninguna de ellas.
¿Se puede omitir la marca de agua AI?
Con suficiente esfuerzo, se puede eliminar prácticamente cualquier marca de agua, aunque SynthID demuestra ser bastante resistente a modificaciones típicas como recortar o filtrar. Sin embargo, eliminar metadatos como C2PA es considerablemente más fácil, a menudo tan simple como tomar una captura de pantalla, lo que genera un archivo completamente nuevo y borra el rastro original de metadatos.
Las marcas de agua de texto siguen estando entre las más fáciles de evitar. Dado que dependen de cambios sutiles en las probabilidades de las palabras, ejecutar el texto a través de otra herramienta de inteligencia artificial para reformular o reescribir manualmente el contenido puede eliminar la marca de agua por completo.
¿Una marca de agua siempre confirma la generación de IA?
Vale la pena recordar que las marcas de agua también pueden aparecer en soportes auténticos. Si alguien sube una foto genuina a una herramienta como Gemini para realizar modificaciones menores, la imagen resultante seguirá teniendo una marca de agua SynthID a pesar de que el contenido original sea real. De manera similar, un elemento generado por IA podría insertarse en una imagen auténtica utilizando técnicas de edición tradicionales, y la presencia de una marca de agua varía según el caso.
En definitiva, ni la presencia ni la ausencia de un Marca de agua AI puede probar definitivamente si el contenido es auténtico o generado artificialmente. Estas herramientas simplemente ofrecen pistas sobre el origen de un medio, dejando la verificación final en manos del espectador.
¿Cree que se debería exigir a las empresas de inteligencia artificial que utilicen estándares de marcas de agua consistentes y visibles públicamente en toda la industria?
Vistas de publicaciones: 466
Relacionado
