Google abre la herramienta de detección de contenido de IA a usuarios de todo el mundo
Google ha ampliado el acceso a su detector SynthID, lo que permite a personas de todo el mundo escanear imágenes, vídeos y archivos de audio en busca de señales generadas mediante inteligencia artificial (IA).
Pushmeet Kohli, vicepresidente de Iniciativas Científicas e Iniciativas Estratégicas de Google DeepMind, anunció el desarrollo en una publicación de blog. La herramienta, que anteriormente estaba disponible en una versión inicial para profesionales de los medios, ahora está disponible globalmente en inglés.
Permite a los usuarios verificar si las imágenes, videos y audio contienen marcas de agua SynthID en contenido generado por IA compatible de Google y socios como OpenAI, NVIDIA y Kakao. Se espera que Apple se una pronto.
La expansión se produce a medida que las empresas de tecnología desarrollan herramientas para brindar a los usuarios más contexto sobre los orígenes del contenido digital a medida que la IA generativa se utiliza más ampliamente.
Google amplía la verificación de contenido mediante IA
Google dijo que el acceso ampliado tiene como objetivo ayudar a las personas a tomar decisiones informadas sobre los medios que encuentran en línea.
- «A medida que las herramientas de IA se vuelven mejores y más fáciles de usar, tener un contexto claro sobre el contenido que encuentras en línea te ayuda a tomar decisiones informadas sobre en qué confiar». dijo Pushmeet Kohli, vicepresidente de ciencia e iniciativas estratégicas de Google DeepMind.
Kohli dijo que Google ha estado utilizando SynthID para ayudar a identificar medios generados por IA desde que introdujo la tecnología en 2023.
- “Hasta la fecha, hemos puesto marcas de agua en más de 180 mil millones de imágenes y vídeos, así como en 240 000 años de contenido de audio.”, dijo.
SynthID incorpora marcas de agua imperceptibles en imágenes, vídeos y audio generados por IA. El detector permite a los usuarios comprobar si un archivo contiene una marca de agua SynthID.
- «Con el nuevo SynthID Detector, cualquiera puede comprobar fácilmente si un archivo de imagen, vídeo o audio se creó con IA de Google o de nuestros socios, incluidos OpenAI, NVIDIA, Kakao y, pronto, Apple». Dijo Kohli.
Google lanzó una primera versión del detector el año pasado para ayudar a los profesionales de los medios a verificar el contenido generado por IA. La última ampliación pone la herramienta a disposición del público en general.
El detector complementa las capacidades de escaneo en la Búsqueda de Google, la aplicación Gemini y Chrome, que según Google manejan en conjunto más de un millón de solicitudes diarias.
El contenido generado por IA genera preocupación por el fraude en Nigeria
La expansión de la herramienta de verificación de Google se produce en medio de crecientes preocupaciones sobre el uso de medios sintéticos para hacerse pasar por personas, difundir información engañosa y facilitar el fraude en línea.
En Nigeria, los riesgos se han vuelto particularmente visibles en el fraude financiero que involucra videos fabricados de figuras públicas, a medida que los reguladores y las empresas de tecnología exploran formas de identificar contenido manipulado y proteger a las personas de su uso indebido.
El detector ampliado de Google ofrece a los usuarios una forma de escanear imágenes, vídeos y audio compatibles en busca de marcas de agua SynthID. Sin embargo, no es un sistema de detección universal y un archivo sin una marca de agua detectable no debe tratarse automáticamente como auténtico.
