Cómo verificar imágenes, videos y audio generados por IA

Puedes usar la herramienta de verificación disponible en la app de Gemini para los usuarios que accedieron a su cuenta, que les permite identificar imágenes, videos y audios generados o editados por los modelos de IA.

Existen dos tecnologías que se usan para verificar si el contenido generado por IA en las Apps con Gemini:

SynthID: Usa marcas de agua invisibles para determinar si las imágenes, los videos y el audio se generaron o editaron específicamente con los modelos de IA de Google.
Content Credentials: Una tecnología que actúa como un pasaporte digital que documenta el origen y el historial del contenido digital, y se usa tanto para el contenido generado por IA como para el orgánico.

Qué necesitarás

Para usar la verificación con IA, necesitas lo siguiente:

Una cuenta personal o una cuenta de Workspace calificada
La versión más reciente de la app de Gemini si la usas para verificar contenido
Acceder con tu cuenta a las Apps con Gemini (consulta cómo acceder a las Apps con Gemini)

Sube tu contenido para que se verifique

Importante:

Solo puedes elegir un archivo de imagen, audio o video para verificar a la vez, y el tamaño del archivo no puede superar los 100 MB.
Los videos deben durar menos de 90 segundos cada uno, y los archivos de audio, menos de 1 hora cada uno.
Si vas a tomar una captura de pantalla de una imagen para verificarla, asegúrate de recortarla bien alrededor de la imagen para obtener la máxima precisión y no subas un collage de varias imágenes distintas.

En tu computadora, ve a https://gemini.google.com.
Haz clic en Agregar archivos .
- Para subir un archivo compatible desde tu dispositivo, haz clic en Agregar archivos .
- Para subir un archivo compatible desde tu Biblioteca de fotos, haz clic en Más cargas Fotos .
- Para agregar un archivo compatible desde Google Drive, haz clic en Drive .
  
  Nota: Para agregar archivos desde tu unidad de Drive, debes tener activado el parámetro de configuración Conservar la actividad y conectar Google Workspace a las Apps con Gemini. Si todavía no lo hiciste, verás la opción para hacerlo. Obtén información sobre tus datos de las Apps con Gemini y Google Workspace.
Haz una pregunta de verificación, como las siguientes:
- "¿Este elemento (imagen/video/audio) fue creado o editado por la IA de Google?".
- "¿Fue generado por IA?".
- "¿Este es un video real?".

Acerca de los resultados de la verificación

Importante:

Si bien otras empresas comenzaron a adoptar las marcas de agua de SynthID, actualmente Gemini solo puede reconocer el contenido creado por las herramientas de IA de Google.
Content Credentials puede proporcionar información sobre el origen y el historial del contenido, y si se usaron herramientas de IA para crearlo o editarlo.

Una vez que se complete el proceso de verificación, Gemini proporcionará una respuesta basada en los resultados de la verificación.

Para SynthID

Si se detecta una marca de agua de SynthID, significa que los modelos de IA de Google crearon o editaron la imagen o el video en su totalidad o en parte.
Si no se detecta una marca de agua de SynthID, significa que la imagen o el video no se crearon o editaron con la IA de Google, pero podrían haberse creado con otros sistemas de IA.
En algunos casos, no está claro si la imagen o el video se crearon o editaron con la IA de Google. A continuación, se indican algunas razones comunes para eso:
- "No hay suficientes detalles para agregar una marca de agua" (p. ej., contenido muy simple o abstracto).
- "Es probable que la edición sea demasiado pequeña" (es posible que las modificaciones menores no tengan una marca de agua detectable).

En el caso de los archivos de video, Gemini indicará en qué partes del video se detectó una marca de agua de SynthID. Esto no significa que se haya detectado en todas las partes de esa porción del video.

Para Content Credentials

Si el contenido incluye la tecnología Content Credentials, puedes ver un resumen de lo siguiente:

Composición de medios
Historial de cambios
Si se usó la IA o no

Otras formas de identificar el contenido generado por IA

Si bien la verificación de contenido en la app de Gemini puede ser una herramienta poderosa, también puedes usar otros métodos para identificar contenido potencialmente generado por IA:

Busca artefactos visuales: Examina las imágenes y los videos en busca de incoherencias o errores que son comunes en el contenido generado por IA. Por ejemplo, los siguientes:
- Texto incoherente o ilegible en la imagen o el video
- Errores en detalles pequeños, como las manos, los dientes o los elementos de fondo
- Sombras y luces inconsistentes
- Patrones repetitivos que parecen poco naturales
Búsqueda con imágenes: Usa herramientas de búsqueda con imágenes (p. ej., Google Imágenes) para encontrar fuentes originales o imágenes similares. Esto puede ayudarte a determinar si el contenido tiene un origen conocido o si es nuevo y no se creó ni se alteró con IA.
Análisis de metadatos: Si tienes acceso al archivo original (no a una captura de pantalla), puedes verificar si hay información incorporada. En el caso de las fotos, esto puede incluir datos EXIF con modelos de cámaras, fechas y parámetros de configuración.
Rastros de software de edición: A veces, los metadatos pueden mostrar si se usó software de edición profesional.

Preguntas frecuentes sobre SynthID

¿Qué es SynthID?

SynthID es una herramienta que incorpora marcas de agua digitales directamente en el contenido generado por los modelos de IA de Google. Actualmente, se puede usar para verificar si un archivo de imagen, video o audio se creó o editó con herramientas de IA de Google. Obtén más información sobre SynthID.

¿Por qué Google creó SynthID?

Las tecnologías de IA generativa evolucionan rápidamente, y el contenido generado por IA es cada vez más difícil de distinguir del contenido que no se creó o editó con IA. La capacidad de identificar cuándo se genera contenido con IA ayuda a aumentar la transparencia.

¿Se puede seguir usando SynthID si se cambia el archivo original generado por IA?

Sí. Por lo general, la marca de agua digital seguirá existiendo incluso si se cambia el tamaño de la imagen, el audio o el video, o si se vuelven a colorear, se comprimen o se alteran de otras maneras. Sin embargo, aun así, existe la posibilidad de que, después de muchas alteraciones, no se detecte la marca de agua.

¿Cuál es la diferencia entre las marcas de agua digitales y los metadatos que se agregan al contenido generado por IA?

Las marcas de agua se incorporan directamente en el contenido y se usan con fines de verificación. Las marcas de agua digitales no son visibles para los usuarios. Los metadatos permiten que los creadores de contenido agreguen contexto adicional a los archivos originales para proporcionar más información sobre el contenido. Las marcas de agua y los metadatos se usan para aumentar la transparencia en torno al contenido generado por IA.

¿Existe un límite para la cantidad de verificaciones por día?

Hay una cuota de uso diario de aproximadamente 10 verificaciones para imágenes, 10 para videos (5 minutos en total) y 3 horas para audio. Si alcanzas estos límites, la app de Gemini te enviará una notificación.

Preguntas frecuentes sobre las credenciales de contenido

¿Qué es la tecnología Content Credentials?

La tecnología Content Credentials proporciona historial de contenido multimedia y transparencia, lo que incluye si se usó IA en la creación del contenido. Es un estándar de la industria desarrollado por la Coalition for Content Provenance and Authenticity (Coalición para la Procedencia y Autenticidad del Contenido o C2PA por sus siglas en inglés) y es compatible con muchos productos de diferentes empresas.

¿Cómo me ayuda Content Credentials a tomar decisiones fundamentadas?

Qué hace Content Credentials

Proporcionar detalles sobre el origen y el historial del contenido a través de un estándar que funciona en dispositivos y apps de diferentes empresas
Proporcionar información del fabricante del dispositivo o del desarrollador de la app sobre las herramientas con IA o sin IA que se usaron para crear o editar un archivo de imagen, audio o video

Qué no hace Content Credentials

Decir si un archivo de imagen, video o audio se generó con IA, pero puedes usar la información de origen y el historial con el contenido en sí para tomar decisiones fundamentadas

¿Cómo funciona la información de Content Credentials en las Apps con Gemini?

Importante: La verificación de Content Credentials está disponible para archivos de imágenes, videos o audio de dispositivos y apps que admiten versiones compatibles del formato de Content Credentials.

Si están disponibles, Content Credentials hará lo siguiente:

Muestra la empresa que proporcionó y firmó criptográficamente la información. Por ejemplo, "Información de Google LLC" muestra que proviene de Google.
- El resultado puede incluir más de una empresa.

¿Qué significan estos errores de Content Credentials?

Si las Apps con Gemini intentan verificar la información de Content Credentials, pero se produce un problema, es posible que muestren un mensaje que indique que las credenciales no son válidas. Esto podría deberse a los siguientes errores comunes:

Modificación incorrecta: La información de Content Credentials se basa en un historial que mantiene y firma cada editor del archivo. Si se manipuló o modificó el historial de medios sin una actualización adecuada de los datos de la C2PA, se produce un error.
Incompatibles o no admitidas: Las Apps con Gemini admiten las versiones 2.2 y posteriores de Content Credentials, de los productos que se encuentran en la Lista de productos que cumplen con la C2PA. Es posible que las credenciales de productos que no se encuentren en esa lista no se consideren válidas ni confiables. Además, algunas apps de terceros que usan la tecnología Content Credentials podrían almacenar los metadatos de forma remota, separados de la imagen, el video o el archivo de audio. Las Apps con Gemini no admiten metadatos remotos.
No se reconoce: Un archivo puede contener información de Content Credentials con formato incorrecto cuando la app que generó el archivo experimentó un error. Es posible que las Apps con Gemini detecten las credenciales, pero no las puedan interpretar en algunos casos.