Verificar imágenes, vídeos y audio generados por IA

Puedes usar la herramienta de verificación disponible en la aplicación Gemini para los usuarios con la sesión iniciada para identificar imágenes, vídeos y audio generados por modelos de IA.

Hay dos tecnologías que se usan para comprobar si el contenido ha sido generado por IA en las aplicaciones de Gemini:

SynthID: usa marcas de agua invisibles para determinar si las imágenes, los vídeos y el audio se han generado o editado específicamente con los modelos de IA de Google.
Credenciales de Contenido: una tecnología que actúa como un pasaporte digital que documenta el origen y el historial del contenido digital, y que se usa tanto para contenido generado con IA como sin IA.

Qué necesitas

Para usar la verificación de IA, necesitas lo siguiente:

Una cuenta personal o una cuenta de Workspace apta
La versión más reciente de la aplicación Gemini si la usas para verificar contenido.
Haber iniciado sesión en las aplicaciones de Gemini. Consulta cómo iniciar sesión en las aplicaciones de Gemini.

Subir contenido para verificarlo

Importante:

Solo puedes elegir un archivo de imagen, vídeo o audio a la vez para verificarlo. Debe tener un tamaño de 100 MB o menos.
Los vídeos deben durar menos de 90 segundos cada uno y los archivos de audio, menos de 1 hora.
Si vas a hacer una captura de pantalla de una imagen para verificarla, recórtala para ajustarla a la imagen y que sea lo más precisa posible. No subas un collage de varias imágenes distintas.

En tu ordenador, ve a https://gemini.google.com.
Haz clic en Añadir archivos .
- Para subir un archivo admitido que se encuentre en tu dispositivo, haz clic en Subir archivos .
- Para subir un archivo admitido que esté en tu biblioteca de fotos, haz clic en Más subidas Fotos .
- Para añadir un archivo admitido que se encuentre en Google Drive, haz clic en Drive .
  
  Nota: Para añadir archivos de Drive, debes tener activado el ajuste Guardar actividad y conectar Google Workspace con las aplicaciones de Gemini. Si no lo has conectado, verás la opción para hacerlo. Consulta información sobre tus datos de las aplicaciones de Gemini y Google Workspace.
Haz una pregunta de verificación, como:
- "¿Ha creado o editado esta imagen, vídeo o audio la IA de Google?"
- "¿Se ha generado por IA?"
- "¿Este vídeo es real?"

Acerca de los resultados de la verificación

Importante:

Aunque otras empresas han empezado a adoptar las marcas de agua de SynthID, Gemini solo puede reconocer contenido creado con las herramientas de IA de Google.
Credenciales de Contenido puede proporcionar información sobre el origen y el historial del contenido, así como sobre si se han usado herramientas de IA para crearlo o editarlo.

Una vez que se haya completado el proceso de verificación, Gemini proporcionará una respuesta basada en los resultados de la verificación.

Para SynthID

Si se detecta una marca de agua de SynthID, significa que la imagen o el vídeo se ha creado, en su totalidad o en parte, con modelos de la IA de Google.
Si no se detecta ninguna marca de agua de SynthID, significa que la imagen o el vídeo no se ha creado con la IA de Google, pero podría haberse creado con otros sistemas de IA.
En algunos casos, no está claro si la imagen o el vídeo se ha creado o editado con la IA de Google. Estos son algunos de los motivos habituales:
- "No hay suficientes detalles como para detectar una marca de agua" (por ejemplo, cuando el contenido es muy sencillo o abstracto).
- "Es probable que la alteración sea demasiado pequeña" (las modificaciones menores podrían no incluir marcas de agua detectables).

En el caso de los archivos de vídeo, Gemini indicará en qué partes del vídeo se ha detectado una marca de agua de SynthID. Esto no significa que se haya detectado en todas las partes de esa porción del vídeo.

Para Credenciales de Contenido

Si el contenido incluye Credenciales de Contenido, puedes ver un resumen de lo siguiente:

Composición multimedia.
Historial de cambios.
Si se ha usado o no la IA.

Otras formas de identificar contenido generado por IA

Aunque la verificación de contenido en la aplicación Gemini puede ser una herramienta muy útil, también puedes usar otros métodos para identificar contenido que pueda haber sido generado por IA:

Buscar artefactos visuales: examina las imágenes y los vídeos para detectar incoherencias o errores que suelen aparecer en el contenido generado por IA. Por ejemplo:
- Aparece texto incoherente o distorsionado en la imagen o el vídeo.
- Hay errores en pequeños detalles, como las manos, los dientes o los elementos del fondo.
- Las sombras y la iluminación son poco coherentes.
- Hay patrones repetitivos que parecen poco naturales.
Buscar por imágenes: usa herramientas de búsqueda por imágenes (como Google Imágenes) para encontrar las fuentes originales o imágenes similares. Esto puede ayudarte a determinar si el contenido tiene un origen conocido o si es nuevo y no se ha creado ni alterado con IA.
Análisis de metadatos: si tienes acceso al archivo original (no a una captura de pantalla), puedes comprobar la información insertada. En el caso de las fotos, pueden incluir datos Exif, como el modelo de la cámara, fechas y ajustes.
Marcas de programas de edición: los metadatos a veces pueden revelar si se ha utilizado software de edición profesional.

Preguntas frecuentes sobre SynthID

¿Qué es SynthID?

SynthID es una herramienta que inserta marcas de agua digitales directamente en el contenido generado por los modelos de IA de Google. Actualmente, se puede usar para verificar si los archivos de imágenes, vídeos o audio se han creado o editado con herramientas de IA de Google. Consulta más información sobre SynthID.

¿Por qué Google creó SynthID?

Las tecnologías de IA generativa evolucionan rápidamente; cada vez es más difícil distinguir el contenido generado por IA del que no lo es. La capacidad de identificar contenido generado por IA ayuda a aumentar la transparencia.

¿Se puede seguir usando SynthID si el archivo original generado por IA se modifica?

Sí. La marca de agua digital suele seguir presente aunque se redimensione la imagen, el vídeo o el audio, se cambie su color, se comprima o se modifique de otras maneras. Sin embargo, es posible que, tras realizar muchos cambios, la marca de agua deje de ser detectable.

¿Qué diferencia hay entre las marcas de agua digitales y los metadatos que se añaden al contenido generado por IA?

Las marcas de agua se insertan directamente en el contenido y se usan con fines de verificación. Las marcas de agua digitales no son visibles para los usuarios. En cambio, los metadatos permiten a los creadores de contenido añadir contexto adicional a los archivos originales para proporcionar más información sobre el contenido. Tanto las marcas de agua como los metadatos se utilizan para aumentar la transparencia en torno al contenido generado por IA.

¿Hay un límite en el número de comprobaciones por día?

Hay una cuota diaria de aproximadamente 10 comprobaciones de imágenes, 10 comprobaciones de vídeos (5 minutos en total) y 3 horas de audio. Si alcanzas estos límites, la aplicación Gemini te avisará.

Preguntas frecuentes sobre Credenciales de Contenido

¿Qué es Credenciales de Contenido?

Credenciales de Contenido es una tecnología que proporciona el historial del contenido multimedia y transparencia, incluido si se ha utilizado la IA en la creación del contenido. Es un estándar del sector desarrollado por la Coalición para la Procedencia y Autenticidad del Contenido (C2PA) y es compatible con muchos productos de diferentes empresas.

¿Cómo me ayuda Credenciales de Contenido a tomar decisiones fundamentadas?

Qué hace Credenciales de Contenido

Proporciona detalles sobre el origen y el historial del contenido a través de un estándar que funciona en diversos dispositivos y aplicaciones de diferentes empresas.
Proporciona información del fabricante de la aplicación o el dispositivo sobre las herramientas de IA o las herramientas no basadas en IA que se han usado para crear o editar una imagen, un vídeo o un archivo de audio.

Qué no hace Credenciales de Contenido

No indica si un archivo de imagen, vídeo o audio se ha generado por IA, pero puedes usar la información sobre el origen y el historial junto con el contenido en sí para tomar decisiones fundamentadas.

¿Cómo funciona la información de Credenciales de Contenido en las aplicaciones de Gemini?

Importante: La verificación de Credenciales de Contenido está disponible para los archivos de imagen, vídeo o audio de dispositivos y aplicaciones que admiten versiones compatibles del formato de dicho estándar.

Si está disponible, Credenciales de Contenido:

Mostrará la empresa que ha proporcionado y firmado criptográficamente la información. Por ejemplo, "Información de Google LLC" indica que Google ha facilitado la información.
- En los resultados puede aparecer más de una empresa.

¿Qué significan estos errores de Credenciales de Contenido?

Si las aplicaciones de Gemini intentan verificar Credenciales de Contenido, pero hay un problema, pueden mostrar un mensaje que indique que las credenciales no son válidas. Esto puede deberse a los siguientes errores habituales:

Modificación incorrecta: los datos de Credenciales de Contenido se basan en un historial que mantiene y firma cada editor del archivo. Si se manipula o se modifica el historial del contenido multimedia sin actualizar correctamente los datos de la C2PA, se produce un error.
Incompatible o no admitido: las aplicaciones de Gemini admiten las versiones 2.2 y posteriores de Credenciales de Contenido de los productos que figuran en la lista de productos conformes con C2PA. Es posible que las credenciales de productos que no figuren en esa lista no se consideren válidas o de confianza. Además, algunas aplicaciones de terceros de Credenciales de Contenido almacenan los metadatos de forma remota, por separado del archivo de imagen, vídeo o audio. Las aplicaciones de Gemini no admiten metadatos remotos.
No reconocido: un archivo puede contener datos de Credenciales de Contenido con un formato incorrecto si la aplicación que lo ha generado ha tenido un error. Es posible que las aplicaciones de Gemini detecten las credenciales, pero no puedan interpretarlas en algunos casos.