Vanliga frågor om Googles ansträngningar att förhindra material som visar sexuellt utnyttjande av barn på webben

Vad är material som visar sexuellt utnyttjande av barn?

Med detta avses innehåll som visar sexuellt explicita aktiviteter som involverar barn. Det består av alla former av avbildningar inbegripet men inte begränsat till foton, videor och datorgenererade bilder som inbegriper minderåriga i sexuellt explicita situationer. Vi förstår att material som visar sexuella övergrepp mot barn inte är samma sak som nakna barn och våra policyer och system är särskilt utformade för att känna igen och särskilja godartade bilder, som barn som leker i badkaret eller i trädgården, som inte är sexuella i sig, från bilder som innehåller sexuella övergrepp mot ett barn eller sensuella avbildningar av könsorgan och privata kroppsdelar som bryter mot internationella lagar. Dessutom finns det andra typer av obscena eller exploaterande avbildningar som visar eller skildrar barn, till exempel tecknade avbildningar av sexuella övergrepp mot barn eller försök att humoristiskt skildra sexuella övergrepp mot barn. Dessa avbildningar kan även bryta mot internationella lagar.

Vad gör Google för att motverka material som visar sexuellt övergrepp mot barn?

Google strävar efter att bekämpa material som visar sexuella övergrepp mot barn på webben och vill förhindra att våra plattformar används för att skapa, lagra och sprida detta material. Vi satsar stora resurser i form av teknik, medarbetare och tid på att upptäcka, avvisa, ta bort och rapportera innehåll och beteenden där barn utnyttjas sexuellt. Mer information om hur vi skyddar barn och familjer finns i Googles säkerhetscenter, YouTubes riktlinjer för communityn, vår sida för att skydda barn och vår blogg om hur vi upptäcker, tar bort och rapporterar material som visar sexuellt övergrepp mot barn.

Hur identifierar Google material som visar sexuellt övergrepp mot barn på sin plattform?

Vi investerar stort i insatser för att bekämpa sexuella övergrepp mot barn på webben och använder teknik för att hindra, identifiera och ta bort material som visar sexuella övergrepp mot barn från våra plattformar. Detta omfattar automatisk identifiering och mänsklig granskning, utöver rapporter som skickas in av våra användare och tredje part, till exempel icke-statliga organisationer. Vi implementerar hash-matchning, inklusive YouTubes teknik CSAI Match, för att identifiera material som visar sexuella övergrepp mot barn.  Vi implementerar också klassificerare för maskininlärning i syfte att upptäcka nytt material som visar sexuellt övergrepp mot barn. Våra specialistteam kan senare bekräfta att det rör sig om sådant material. Genom att upptäcka material som visar sexuellt övergrepp mot barn som inte har upptäckts tidigare hjälper vi till att förbättra hela ekosystemet av barnsäkerhet, till exempel genom att identifiera barnoffer som behöver skydd och att bidra till hashsamlingen för att förbättra vår förmåga att upptäcka material som visar sexuellt övergrepp mot barn. Med hjälp av våra klassificerare har Google skapat Content Safety API, som vi tillhandahåller för att hjälpa till att prioritera otillåtet innehåll under mänsklig granskning. 

Både CSAI Match och Content Safety API är tillgängliga för kvalificerade enheter som vill bekämpa övergrepp på sina plattformar. Du kan hitta mer information här.

Vad gör Google om material som visar sexuellt övergrepp mot barn upptäcks på plattformen?

När vi upptäcker material som visar sexuella övergrepp mot barn på våra plattformar tar vi bort det, lämnar in en CyberTipline-rapport till NCMEC (National Center for Missing and Exploited Children) och, beroende på överträdelsens typ och allvarlighetsgrad, kan vi skicka en varning, begränsa kontots åtkomst till vissa av Googles produkter eller tjänster eller inaktivera Google-kontot. Vi kan även tillämpa ytterligare granskning av Google-kontot för att identifiera mer material som visar sexuella övergrepp mot barn och/eller för att säkerställa att vi tar hänsyn till sammanhanget och vidtar lämpliga och proportionella tvingande åtgärder i förhållande till det material som identifieras i Google-kontot.

 

NCMEC fungerar som ett förmedlingscenter och ett övergripande rapportcenter i USA gällande frågor som rör exploatering av barn. När en rapport har tagits emot av NCMEC kan organisationen vidarebefordra den till brottsbekämpande myndigheter över hela världen.

Vad är en CyberTipline-rapport och vilken typ av information innehåller den?

När Google har fått vetskap om material som tycks visa sexuellt utnyttjande av barn rapporterar vi detta till NCMEC. Dessa rapporter brukar kallas CyberTipLine eller CyberTip. Vi försöker dessutom identifiera fall av övergrepp mot minderåriga, produktion av material som visar sexuellt övergrepp mot barn eller människohandel med barn. I sådana fall skickar vi en kompletterande CyberTip-rapport till NCMEC för att hjälpa dem att prioritera ärendet. En rapport som skickas till NCMEC kan innehålla information som identifierar användaren, det minderåriga offret och eventuellt det otillåtna innehållet och andra uppgifter om sammanhanget.

Nedan finns några exempel på riktiga effekter av CyberTip-rapporter som Google har skickat in. De visar en liten del av de olika rapporterna vi skickar men de visar inte allt.  

• Ett cybertips från Google rapporterade flera instanser av material som visar sexuellt övergrepp mot barn i grundskoleålder som utspelade sig i ett klassrum. Visst rapporterat material som visar sexuellt övergrepp mot barn var tidigare oidentifierat av Google och verkar ha skapats av Google-kontoinnehavaren. NCMEC vidarebefordrade rapporten till brottsbekämpande myndigheter vilket ledde till identifiering och skyddandet av två minderåriga barn som syntes i det rapporterade materialet.  
• Ett cybertips från Google rapporterade att en kontoinnehavare begärde och skapade material som visar sexuellt övergrepp mot barn i form av videor som visade övergrepp av ett dussintal minderåriga pojkar i utbyte mot pengar. NCMEC vidarebefordrade rapporten till brottsbekämpande myndigheter. Kontoinnehavaren dömdes för skapandet av material som visar sexuellt övergrepp mot barn och ett dussintal barn identifierades och kunde skyddas från fortsatta övergrepp.
• Ett cybertips från Google rapporterade en enda instans av material som visar sexuellt övergrepp mot barn som ledde till gripandet av en kontoinnehavare som av brottsförebyggande myndigheter upptäcktes ha mycket mer sådant material och som var inblandad i direkta övergrepp av minderåriga som stod under hens uppsikt. Dessutom erbjöd kontoinnehavaren även dessa barn till andra att utnyttja. Tack vare det som Google, NCMEC och de brottsförebyggande myndigheterna gjorde så kunde tre barn räddas från sexuella övergrepp.
• Ett cybertips från Google rapporterade om material som visar sexuellt övergrepp mot barn som skapades av Google-kontoinnehavaren och som erhölls från minderåriga som kontoinnehavaren hade kontakt med på webben. Kontoinnehavaren greps senare och de brottsförebyggande myndigheterna fastställde att hen missbrukat sin förtroendeställning som sjukvårdspersonal. Kontoinnehavaren använde sin ställning för att utföra övergrepp på sina patienter och hade direktkontakt med minderåriga på webben från vilka hen bad om material som visar sexuella övergrepp mot barn.

Hur motverkar Google riskerna med material som visar sexuellt övergrepp mot barn inom generativ AI?

AI-genererat material som visar sexuella övergrepp mot barn eller datorgenererade bilder som visar sexuella övergrepp mot barn är ett hot som Google tar på största allvar. Vårt arbete med att upptäcka, ta bort och rapportera material som visar sexuella övergrepp mot barn har alltid omfattat otillåtet innehåll som rör verkliga minderåriga personer, redigerade bilder på en identifierbar minderårig person i sexuellt explicita situationer och datorgenererade bilder som är omöjliga att särskilja från riktiga bilder på en minderårig i en sådan situation.

Google är väldigt noga med barns säkerhet när vi skapar våra egna modeller och produkter för generativ AI. Vi följer Googles AI-principer för ansvarsfull generativ AI för att skydda alla Googles offentligt tillgängliga modeller och de tjänster som skapas utifrån de här modellerna.

Vi implementerar ett flertal olika barnsäkerhetsskydd för våra modeller och produkter med generativ AI. Detta omfattar till exempel skydd mot att material som visar sexuellt övergrepp mot barn innefattas i datan som våra modeller tränas på, mot prompter för att söka efter och skapa material som visar sexuellt övergrepp mot barn och mot otillåten utdata.  Vi genomför även omfattande tester av barnsäkerhet av våra modeller innan de lanseras offentligt för att förstå och undvika möjligheten att material som visar sexuella övergrepp mot barn genereras.

Vi samarbetar även med andra i ekosystemet av barnsäkerhet, till exempel Technology Coalition och icke-statliga organisationer för barnsäkerhet, för att utbyta och förstå vilka metoder som fungerar bäst i takt med att tekniken utvecklas.

Vad gör Google för att avskräcka användare från att söka efter material som visar sexuellt övergrepp mot barn på Sök?

Google utgår från principen säkerhet i grunden för att avskräcka användare från att leta upp material som visar sexuellt övergrepp mot barn via Sök. Vår policy är att blockera sökresultat som leder till material som visar sexuella övergrepp mot barn där barn görs till sexuella offer, sätts i fara eller blir exploaterade på andra sätt. Vi uppdaterar hela tiden våra algoritmer för att bekämpa dessa hot som ständigt utvecklas. Vi sätter in extra skydd för sökningar som vi anser söker material som visar sexuella övergrepp mot barn. Vi filtrerar bort explicita sexuella resultat om sökfrågan verkar efterfråga material som visar sexuella övergrepp mot barn. För sökfrågor som verkar efterfråga barnförbjudet explicit innehåll returnerar inte Sök bilder som visar barn, för att förhindra kopplingen mellan barn och sexuellt innehåll. Förutom att ta bort material som visar sexuella övergrepp mot barn från Söks index när det upptäcks flyttar vi också ned allt innehåll från webbplatser med en hög andel av material som visar sexuella övergrepp mot barn. För användare som söker efter innehåll som är tydligt kopplat till material som visar sexuellt övergrepp mot barn visas i många länder en tydlig varning om att sådant innehåll är olagligt samt information om hur användaren kan rapportera detta innehåll till betrodda organisationer. När dessa varningar visas har vi märkt att det är mindre troligt att användare fortsätter att leta efter den här typen av material.

Hur bidrar Google till ekosystemet av barnsäkerhet för att bekämpa material som visar sexuellt övergrepp mot barn?

Googles barnsäkerhetsteam skapar teknik som på ett korrekt sätt upptäcker, rapporterar och tar bort material som visar sexuellt övergrepp mot barn för att skydda våra användare och förhindra att barn far illa på Googles produkter. Vi har utvecklat Verktyg för barnsäkerhet för att säkerställa att hela ekosystemet också har tillgång till denna teknik och för att förhindra att material som visar sexuellt övergrepp mot barn sprids på webben. Vi erbjuder även Googles Hash Matching API till NCMEC så att de kan prioritera och granska CyberTipline-rapporter mer effektivt, vilket gör att de kan fokusera på de rapporter som rör barn som behöver omedelbar hjälp. 

Vi delar även signaler på sexuella övergrepp mot och exploatering av barn för att göra det möjligt att ta bort material som visar sexuella övergrepp mot barn från hela ekosystemet. Vi delar miljontals hashar för material som visar sexuella övergrepp mot barn med hashdatabasen som tillhör NCMEC så att även andra leverantörer kan få åtkomst till och använda dem. Vi har även anslutit oss till Project Lantern. Programmet gör det möjligt för teknikföretag att dela relevanta signaler för att bekämpa sexuella övergrepp och exploatering online på ett säkert och ansvarsfullt sätt eftersom dessa övergrepp kan hamna på olika plattformar och tjänster.

Vi är även en aktiv medlem av flera samarbeten, som Technology Coalition, WeProtect Global Alliance och INHOPE som för samman företag och icke-statliga organisationer för att utveckla lösningar som stoppar delandet av material som visar sexuella övergrepp mot barn online och förhindrar sexuell exploatering av barn. Googles deltagande i dessa samarbeten är viktigt för oss och vi delar med oss av vår expertis, undersöker vilka metoder som fungerar bäst och tar reda på mer om viktiga barnsäkerhetsfrågor i vårt arbete med icke-statliga organisationer som NCMEC och Thorn.

Hur skickar myndigheter juridiska begäranden till Google i samband med en CyperTip-rapport?

När en rapport har tagits emot av NCMEC kan organisationen vidarebefordra den till brottsbekämpande myndigheter över hela världen. Brottsbekämpande myndigheter kan sedan vända sig till Google för att få mer information (Law Enforcement Request System – LERS). För att underlätta för sådana begäranden tillhandahåller Google ett onlinesystem som gör det möjligt för verifierade myndigheter att skicka begäranden om mer information på ett säkert sätt. Dessa myndigheter kan sedan se statusen för inskickade begäranden med det här onlinesystemet och så småningom ladda ned Googles svar på deras begäran. Du hittar mer information om LERS och hur du skapar ett LERS-konto på lers.google.com. Mer information finns i våra policyer för hur Google hanterar begäranden om användaruppgifter från myndigheter.

 Hur rapporterar jag misstänkt material som visar sexuellt övergrepp mot barn?

Om du hittar en länk, en webbplats eller annat innehåll med material som visar sexuellt övergrepp mot barn kan du rapportera det till polisen, NCMEC eller en lämplig organisation i ditt land. Om du upptäcker olämpligt innehåll eller beteende som riktar sig till barn i Googles produkter kan du rapportera det till oss, inklusive genom att rapportera överträdelser som innebär fara för barn (t.ex. gromning, utpressning i sexuellt syfte och andra former av sexuell exploatering av barn) som sker i Googles produkter. Du kan förhindra personer från att kontakta ditt barn i Googles produkter och filtrera innehållet som ditt barn ser från inställningarna i barnets Google-konto.

Vilka team granskar rapporterna om material som visar sexuellt utnyttjande av barn?

Mänsklig granskning är en viktig del av vårt pågående arbete för att bekämpa material som visar sexuellt övergrepp mot barn. Våra teammedlemmar har stor kunskap inom detta, med bakgrunder inom juridik, barnsäkerhet och barns rättigheter, socialt arbete och cyberutredningar med mera. De är särskilt utbildade i både vad som ingår i våra policyer och vad som juridiskt menas med material som visar sexuellt övergrepp mot barn. Granskare har genomgått särskild utbildning och får psykologiskt stöd. Här kan du läsa mer om hur Google behandlar moderering av innehåll, till exempel hur vi stöder granskarna i deras arbete.

Vilken tidsperiod täcker rapporten?

De mätvärden som visas representerar data som samlats in från den 1 januari kl. 00.00 PST till den 30 juni kl. 23.59 PDT och den 1 juli kl. 00.00 PDT till den 31 december kl. 23.59 PST om inget annat anges.