Verifiera AI-genererade bilder, videor och ljud

Du kan använda verifieringsverktyget som är tillgängligt i Gemini-appen för inloggade användare för att identifiera bilder, videor och ljud som har genererats eller redigerats av AI-modeller.

Det finns två tekniker som används för att kontrollera om innehåll i Gemini-apparna är AI-genererat:

SynthID: Använder osynliga vattenstämplar för att avgöra om bilder, videor och ljud har genererats eller redigerats specifikt av Googles AI-modeller.
Content Credentials: En teknik som fungerar som ett digitalt pass som dokumenterar digitalt innehålls ursprung och historik och används för både AI-innehåll och annat innehåll.

Detta behövs

För att använda AI-verifiering behöver du

ha ett personligt konto eller ett kvalificerat Workspace-konto
ha den senaste versionen av Gemini-appen om du använder appen för att verifiera innehåll
vara inloggad i Gemini-apparna. Läs mer om hur du loggar in i Gemini-apparna.

Ladda upp innehållet för verifiering

Obs!

Du kan bara verifiera en bild, video eller ljudfil åt gången och den får inte ha en filstorlek på över 100 MB.
Videor måste vara kortare än 90 sekunder och ljudfiler måste vara kortare än en timme.
Om du tar en skärmbild av en bild för att verifiera den ska du beskära den så att bara bilden syns för att få maximal noggrannhet. Ladda inte upp collage med flera olika bilder.

Öppna https://gemini.google.com på datorn.
Klicka på Lägg till filer .
- Om du vill ladda upp en fil som stöds från din enhet klickar du på Ladda upp filer .
- Om du vill ladda upp en fil som stöds från ditt fotobibliotek klickar du på Fler uppladdningar Foton .
- Om du vill lägga till en fil som stöds från Google Drive klickar du på Drive .
  
  Tips! Om du vill lägga till filer från Drive måste du aktivera Behåll aktivitet och ansluta Google Workspace till Gemini-apparna. Om det inte är anslutet får du möjlighet att ansluta det. Läs mer om Gemini-apparna och data från Google Workspace.
Ställ en verifieringsfråga, till exempel
- ”Skapades eller redigerades bilden/videon/ljudet av Google AI?”
- ”Är det här AI-genererat?”
- ”Är det här en riktig video?”

Om verifieringsresultaten

Obs!

Andra företag har börjat använda SynthID-vattenstämplar, men Gemini kan för närvarande bara känna igen innehåll som har skapats med Googles AI-verktyg.
Content Credentials kan ge information om innehållets ursprung och historik och om AI-verktyg användes för att skapa eller redigera det.

När verifieringsprocessen är klar ger Gemini ett svar baserat på verifieringsresultaten.

För SynthID

Om en SynthID-vattenstämpel upptäcks innebär det att hela eller delar av bilden eller videon har skapats eller redigerats av Googles AI-modeller.
Om en SynthID-vattenstämpel inte identifieras innebär det att bilden eller videon inte har skapats eller redigerats av Google AI, men den kan ha skapats av andra AI-system.
I vissa fall är det inte tydligt om bilden eller videon har skapats eller redigerats av Google AI eller inte. Exempel på vanliga anledningar till detta:
- ”Inte tillräckligt med detaljer för en vattenstämpel” (t.ex. mycket enkelt eller abstrakt innehåll).
- ”Troligen för lite redigering” (små ändringar kanske inte medför en identifierbar vattenstämpel).

För videofiler anger Gemini i vilka delar av videon som en SynthID-vattenstämpel upptäcktes. Det betyder inte att den upptäcktes i alla delar av videon.

För Content Credentials

Om innehållet innehåller Content Credentials kan du se en sammanfattning av

mediesammansättning
redigeringshistorik
om AI användes eller inte.

Andra sätt att identifiera AI-genererat innehåll

Innehållsverifiering i Gemini-appen kan vara ett användbart verktyg, men du kan även använda andra metoder för att identifiera potentiellt AI-genererat innehåll:

Leta efter visuella artefakter: Granska bilder och videor efter inkonsekvenser eller fel som är vanliga i AI-genererat innehåll. Detta kan omfatta
- text i bilden eller videon är inkonsekvent eller förvrängd
- fel i mindre detaljer, till exempel händer, tänder eller bakgrundselement
- inkonsekventa skuggor och belysning
- upprepade mönster som verkar onaturliga.
Omvänd bildsökning: Använd verktyg för omvänd bildsökning (t.ex. Google Bilder) för att hitta ursprungliga källor eller liknande bilder. Det kan hjälpa dig att avgöra om innehållet har ett känt ursprung eller om det är nytt och inte har skapats eller ändrats av AI.
Metadataanalys: Om du har åtkomst till originalfilen (inte en skärmbild) kan du kontrollera om det finns inbäddad information. För foton kan detta omfatta EXIF-data med information om kameramodeller, datum och inställningar.
Spår av redigeringsmjukvara: Metadata kan ibland visa om professionell redigeringsmjukvara har använts.

Vanliga frågor om SynthID

Vad är SynthID?

SynthID är ett verktyg som bäddar in digitala vattenstämplar direkt i innehåll som genereras av Googles AI-modeller. För närvarande kan det användas för att verifiera huruvida bilder, videor eller ljudfiler har skapats eller redigerats med Google AI-verktyg. Läs mer om SynthID.

Varför skapade Google SynthID?

Teknik för generativ AI utvecklas snabbt och AI-genererat innehåll blir allt svårare att skilja från innehåll som inte har skapats eller redigerats av AI. Förmågan att identifiera innehåll som är AI-genererat bidrar till ökad transparens.

Kan SynthID fortfarande användas om den ursprungliga AI-genererade filen ändras?

Ja. Den digitala vattenstämpeln finns vanligtvis kvar även om bilden, videon eller ljudet skalas om, får nya färger, komprimeras eller ändras på andra sätt. Det finns dock en risk att vattenstämpeln inte identifieras efter många ändringar.

Vad är skillnaden mellan digitala vattenstämplar och metadata som läggs till i AI-genererat innehåll?

Vattenstämplar är inbäddade direkt i innehållet och används i verifieringssyfte. De digitala vattenstämplarna är inte synliga för användarna. Med metadata kan innehållskreatörer lägga till ytterligare sammanhang med originalfiler för att ge mer information om innehållet. Både vattenstämplar och metadata används för att öka transparensen kring AI-genererat innehåll.

Finns det en gräns för hur många kontroller jag kan göra per dag?

Det finns en användningskvot på cirka tio bildkontroller, tio videokontroller (upp till fem minuter totalt) och tio ljudkontroller (upp till tre timmar totalt) under en löpande 24-timmarsperiod. Om du når gränserna får du en avisering i Gemini-appen.

Vanliga frågor om Content Credentials

Vad är Content Credentials?

Content Credentials är en teknik som ger mediehistorik och insyn, bland annat om AI användes för att skapa innehållet. Det är en branschstandard som har utvecklats av Coalition for Content Provenance and Authenticity (C2PA) och stöds av många produkter från olika företag.

Hur hjälper Content Credentials mig att fatta välgrundade beslut?

Så fungerar Content Credentials

Ger information om innehållets ursprung och historik via en standard som fungerar på enheter och i appar från olika företag.
Ge information från app- eller enhetstillverkaren om AI- eller icke-AI-verktyg som används för att skapa eller redigera en bild, video eller ljudfil.

Det här gör Content Credentials inte

Anger om en bild, video eller ljudfil definitivt är AI-genererad, men du kan använda informationen om ursprung och historik tillsammans med själva innehållet för att fatta välgrundade beslut.

Hur fungerar informationen i Content Credentials i Gemini-apparna?

Viktigt! Verifiering av Content Credentials är tillgängligt för bild-, video- eller ljudfiler från enheter och appar som har stöd för kompatibla versioner av Content Credentials-formatet.

Om de är tillgängliga gör Content Credentials följande:

Visa företaget som tillhandahöll och kryptografiskt signerade informationen. ”Information från Google LLC” visar till exempel att Google har tillhandahållit informationen.
- Resultatet kan visa fler än ett företag.

Vad innebär dessa fel i Content Credentials?

Om Gemini-apparna försöker verifiera Content Credentials men det uppstår ett problem kan ett meddelande om att intygsuppgifterna är ogiltiga visas. Det kan bero på följande vanliga fel:

Felaktigt modifierad: Content Credentials bygger på historik som underhålls och signeras av varje redigerare av filen. Om mediehistoriken har manipulerats eller modifierats utan en lämplig uppdatering av C2PA-datan uppstår ett fel.
Inkompatibelt eller stöds inte: Gemini-apparna har stöd för version 2.2 och senare av Content Credentials från produkter på listan över C2PA-kompatibla produkter. Användaruppgifter från produkter som inte finns med på listan kanske inte anses vara giltiga eller tillförlitliga. Vissa appar från tredje part för Content Credentials lagrar dessutom metadatan separat från bild-, video- eller ljudfilen. Gemini-apparna har inte stöd för fjärrmetadata.
Okänt: En fil kan innehålla felaktigt utformade Content Credentials om appen som genererade filen drabbades av ett fel. Gemini-apparna kan identifiera intyg, men kan i vissa fall inte tolka dem.

Relaterade resurser

Den här sidan kan ha innehåll som har översatts med AI-teknik. AI-översättningar kan innehålla fel.