KI‑generierte Bilder, Videos und Audioinhalte überprüfen

Mit dem Überprüfungstool, das in der Gemini App für angemeldete Nutzer verfügbar ist, können Sie Bilder, Videos und Audioinhalte identifizieren, die von KI-Modellen generiert oder bearbeitet wurden.

Es gibt zwei Technologien, mit denen in Gemini-Apps nach KI-generierten Inhalten gesucht wird:

SynthID: Hier werden unsichtbare Wasserzeichen verwendet, um festzustellen, ob Bilder, Videos und Audioinhalte speziell von den KI-Modellen von Google generiert oder bearbeitet wurden.
Content Credentials: Eine Technologie, die wie ein digitaler Pass funktioniert und den Ursprung und die Geschichte digitaler Inhalte dokumentiert. Sie wird sowohl für KI- als auch für nicht KI-generierte Inhalte verwendet.

Voraussetzungen

Für die KI-Überprüfung benötigen Sie:

Ein privates Konto oder ein berechtigtes Workspace-Konto.
Die aktuelle Version der Gemini App, wenn Sie die App zum Überprüfen von Inhalten verwenden.
Sie müssen in Gemini-Apps angemeldet sein. Informationen zur Anmeldung in Gemini-Apps

Inhalte zur Überprüfung hochladen

Wichtig:

Sie können jeweils nur eine Bild-, Video- oder Audiodatei zur Überprüfung auswählen. Die Dateigröße darf nicht mehr als 100 MB betragen.
Videos dürfen jeweils nicht länger als 90 Sekunden sein und Audiodateien dürfen jeweils nicht länger als 1 Stunde sein.
Wenn Sie von einem Bild einen Screenshot zur Überprüfung erstellen, achten Sie darauf, dass Sie das Bild für eine maximale Genauigkeit möglichst knapp zuschneiden. Laden Sie keine Collage mit verschiedenen Bildern hoch.

Rufen Sie auf Ihrem Mobilgerät https://gemini.google.com auf oder öffnen Sie die Gemini App .
Tippen Sie auf „Dateien hinzufügen“ .
- Unterstützte Datei von Ihrem Gerät hochladen: Wischen Sie durch die Symbole und tippen Sie auf „Dateien“ .
- Unterstützte Datei aus Ihrer Fotogalerie hochladen: Tippen Sie auf „Fotos“ .
- Unterstützte Datei aus Google Drive hinzufügen: Wischen Sie durch die Symbole und tippen Sie auf „Drive“
  
  Hinweis: Wenn Sie Dateien aus Google Drive hinzufügen möchten, müssen Sie die Einstellung „Aktivitäten speichern“ aktivieren und Google Workspace mit Gemini-Apps verbinden. Wenn Sie noch keine Verknüpfung hergestellt haben, erhalten Sie die Möglichkeit dazu. Informationen zu Ihren Gemini-Apps- und Google Workspace-Daten
Stellen Sie eine Frage, um die Überprüfung anzustoßen, z. B.:
- „Wurden diese Bilder, Videos oder Audioinhalte von Google AI erstellt oder bearbeitet?“
- „Ist das KI-generiert?“
- „Ist das ein echtes Video?“

Ergebnisse der Überprüfung

Wichtig:

Andere Unternehmen haben zwar begonnen, SynthID-Wasserzeichen zu verwenden, aber Gemini kann derzeit nur Inhalte erkennen, die mit KI-Tools von Google erstellt wurden.
Content Credentials kann Informationen zum Ursprung und Verlauf von Inhalten liefern und darüber, ob KI-Tools zum Erstellen oder Bearbeiten verwendet wurden.

Nach Abschluss der Überprüfung gibt Gemini eine Antwort basierend auf den Ergebnissen.

Für SynthID

Wenn ein SynthID-Wasserzeichen erkannt wird, bedeutet das, dass das Bild ganz oder teilweise von den KI-Modellen von Google erstellt oder bearbeitet wurde.
Wenn kein SynthID-Wasserzeichen erkannt wird, wurde das Bild nicht von Google AI erstellt oder bearbeitet. Es könnte aber von anderen KI-Systemen erstellt worden sein.
In einigen Fällen ist nicht klar, ob das Bild oder Video von Google AI erstellt oder bearbeitet wurde. Hier einige häufige Gründe dafür:
- Nicht genügend Details für Wasserzeichen (z. B. sehr einfache oder abstrakte Inhalte)
- Vermutlich eine zu geringe Bearbeitung: Bei geringfügigen Änderungen ist möglicherweise kein erkennbares Wasserzeichen vorhanden

Bei Videodateien gibt Gemini an, in welchen Videoabschnitten ein SynthID-Wasserzeichen erkannt wurde. Das bedeutet nicht, dass es in allen Teilen dieser Videoabschnitte vorhanden ist.

Für Content Credentials

Wenn die Inhalte Content Credentials-Informationen enthalten, können Sie eine Zusammenfassung der folgenden Informationen aufrufen:

Medienzusammensetzung
Änderungsverlauf
Ob KI verwendet wurde

Weitere Möglichkeiten zum Identifizieren von KI-generierten Inhalten

Die Inhaltsüberprüfung in der Gemini App kann ein leistungsstarkes Tool sein. Sie können aber auch andere Methoden verwenden, um potenziell KI-generierte Inhalte zu erkennen:

Nach optischen Bildfehlern suchen: Untersuchen Sie Bilder und Videos auf Unregelmäßigkeiten oder Fehler, die bei KI-generierten Inhalten häufig auftreten. Dazu zählen unter anderem:
- Text im Bild oder Video, der inkonsistent oder unleserlich ist
- Fehler an Details wie Händen, Zähnen oder Hintergrundelementen
- Uneinheitliche Schatten und Beleuchtung
- Sich wiederholende Muster, die unnatürlich wirken
Umgekehrte Bildersuche: Verwenden Sie Tools für die umgekehrte Bildersuche (z. B. Google Bilder), um nach Originalquellen oder ähnlichen Bildern zu suchen. So können Sie feststellen, ob die Inhalte einen bekannten Ursprung haben oder neu sind und nicht von KI erstellt oder verändert wurden.
Metadatenanalyse: Wenn Sie Zugriff auf die Originaldatei (nicht auf einen Screenshot) haben, können Sie nach eingebetteten Informationen suchen. Bei Fotos können das EXIF-Daten mit Kameramodellen, Datumsangaben und Einstellungen sein.
Spuren von Bearbeitungssoftware: Metadaten können manchmal Aufschluss darüber geben, ob professionelle Bearbeitungssoftware verwendet wurde.

Häufig gestellte Fragen zu SynthID

Was ist SynthID?

SynthID ist ein Tool, mit dem digitale Wasserzeichen direkt in Inhalte eingebettet werden, die von KI-Modellen von Google generiert wurden. Derzeit kann damit überprüft werden, ob Bilder, Videos oder Audioinhalte mit KI-Tools von Google erstellt oder bearbeitet wurden. Weitere Informationen zu SynthID

Warum hat Google SynthID entwickelt?

Generative KI-Technologien entwickeln sich rasant weiter und KI-generierte Inhalte lassen sich immer schwerer von Inhalten unterscheiden, die nicht mithilfe von KI erstellt oder bearbeitet wurden. Die Möglichkeit, KI-generierte Inhalte zu erkennen, trägt zu mehr Transparenz bei.

Kann SynthID auch dann verwendet werden, wenn die ursprüngliche KI-generierte Datei geändert wurde?

Ja. Das digitale Wasserzeichen ist in der Regel auch dann noch vorhanden, wenn die Bilder, Videos oder Audioinhalte neu skaliert, neu eingefärbt, komprimiert oder auf andere Weise verändert wurden. Es kann allerdings sein, dass das Wasserzeichen nach vielen Änderungen nicht mehr erkannt wird.

Was ist der Unterschied zwischen digitalen Wasserzeichen und Metadaten, die KI‑generierten Inhalten hinzugefügt werden?

Wasserzeichen werden direkt in Inhalte eingebettet und zu Überprüfungszwecken verwendet. Digitale Wasserzeichen sind für Nutzer nicht sichtbar. Mit Metadaten können Creator Originaldateien zusätzlichen Kontext hinzufügen, um mehr Informationen zum Inhalt anzugeben. Sowohl Wasserzeichen als auch Metadaten werden verwendet, um die Transparenz bei KI-generierten Inhalten zu erhöhen.

Ist die Anzahl der Überprüfungen pro Tag beschränkt?

Es gibt ein tägliches Nutzungskontingent von etwa 10 Bildüberprüfungen, 10 Videoüberprüfungen (insgesamt 5 Minuten) und Audioüberprüfungen für 3 Stunden. Wenn Sie diese Limits erreichen, werden Sie von der Gemini App benachrichtigt.

Häufig gestellte Fragen zu Content Credentials

Was ist Content Credentials?

Content Credentials ist eine Technologie, die einen Medienverlauf bereitstellt und Transparenz bietet, unter anderem dazu, ob KI bei der Erstellung der Inhalte eingesetzt wurde. Es handelt sich um einen Branchenstandard, der von der Coalition for Content Provenance and Authenticity (C2PA) entwickelt wurde und von vielen Produkten verschiedener Unternehmen unterstützt wird.

Wie hilft mir Content Credentials dabei, fundierte Entscheidungen zu treffen?

Was Content Credentials kann

Es liefert Details zum Ursprung und zum Verlauf von Inhalten, basierend auf einem Standard, der auf Geräten und in Apps verschiedener Hersteller funktioniert.
Es enthält Informationen des App-Entwicklers oder Geräteherstellers zum Einsatz von Tools mit oder ohne KI, die zum Erstellen oder Bearbeiten eines Bildes, Videos oder einer Audiodatei verwendet wurden.

Was Content Credentials nicht kann

Die Technologie liefert keine Angaben dazu, ob ein Bild, Video oder eine Audiodatei definitiv KI-generiert ist. Sie können aber die Informationen zum Ursprung und zum Verlauf in Kombination mit dem Inhalt selbst nutzen, um fundierte Entscheidungen zu treffen.

Wie funktionieren Content Credentials-Informationen in Gemini-Apps?

Wichtig: Die Überprüfung von Content Credentials-Informationen ist für Bild-, Video- oder Audiodateien von Geräten und aus Apps verfügbar, die kompatible Versionen des Content Credentials-Formats unterstützen.

Wenn verfügbar, werden folgende Content Credentials-Informationen angezeigt:

Welches Unternehmen die Informationen bereitgestellt und kryptografisch signiert hat. Wenn dort z. B. „Informationen von Google LLC“ steht, stammen die Informationen von Google.
- In den Ergebnissen können mehrere Unternehmen aufgeführt sein.

Was bedeuten diese Content Credentials-Fehler?

Wenn Gemini-Apps versuchen, Content Credentials-Informationen zur Überprüfung zu verwenden, aber ein Problem auftritt, wird möglicherweise eine Meldung angezeigt, dass die Informationen ungültig sind. Das kann folgende Gründe haben:

Falsch geändert: Content Credentials-Informationen basieren auf dem Verlauf, der von den Bearbeitern der Datei ergänzt und signiert wurde. Wenn der Medienverlauf manipuliert oder ohne entsprechende Aktualisierung der C2PA-Daten geändert wurde, tritt ein Fehler auf.
Nicht kompatibel oder nicht unterstützt: Gemini-Apps unterstützen Content Credentials in Version 2.2 und höher von Produkten auf der C2PA-Liste konformer Produkte. Content Credentials-Informationen von Produkten, die nicht in dieser Liste enthalten sind, werden möglicherweise nicht als gültig oder vertrauenswürdig eingestuft. Außerdem speichern einige Drittanbieter-Apps, die Content Credentials nutzen, die Metadaten remote, getrennt von der Bild-, Video- oder Audiodatei. Gemini-Apps unterstützen keine Remote-Metadaten.
Nicht erkannt: Eine Datei kann fehlerhafte Content Credentials-Informationen enthalten, wenn in der App, mit der die Datei erstellt wurde, ein Fehler aufgetreten ist. Gemini-Apps können die Content Credentials-Informationen erkennen, aber in einigen Fällen nicht interpretieren.