Domande frequenti sulle iniziative di Google per contrastare il materiale pedopornografico online

Che cos'è il materiale pedopornografico?

Il materiale pedopornografico consiste in qualsiasi raffigurazione visiva, inclusi, a titolo esemplificativo, foto, video e immagini generate al computer, relativa al coinvolgimento di minori in comportamenti sessuali espliciti. La nostra interpretazione di materiale pedopornografico è conforme alla definizione federale degli Stati Uniti di "pedopornografia". Dato che siamo consapevoli che materiale pedopornografico e nudità relativa a minori non sono la stessa cosa, le nostre norme e i nostri sistemi sono progettati appositamente per riconoscere e distinguere le immagini innocue, come un bambino che gioca nella vasca da bagno o in giardino, che non sono di natura sessuale né rappresentano materiale pedopornografico, da quelle relative all'abuso sessuale su un minore o a esibizioni lascive che violano la legge.

Qual è l'approccio di Google per contrastare il materiale pedopornografico?

Google si impegna a contrastare il materiale pedopornografico online e a impedire che le sue piattaforme vengano utilizzate per diffondere questo materiale. Dedichiamo numerose risorse (tecnologie, persone e tempo) a rilevare, scoraggiare, rimuovere e segnalare contenuti e comportamenti legati allo sfruttamento sessuale minorile. Per ulteriori informazioni sulle nostre iniziative per proteggere i minorenni e le famiglie, visita il Centro per la sicurezza online di Google, leggi le Norme della community di YouTube, nonché visita il nostro sito dedicato alla lotta contro gli abusi sessuali su minori online e il nostro blog su come rileviamo, rimuoviamo e segnaliamo materiale pedopornografico.

In che modo Google identifica il materiale pedopornografico sulla propria piattaforma?

Investiamo molto nella lotta contro lo sfruttamento sessuale minorile online e usiamo la tecnologia per scoraggiare, rilevare e rimuovere il materiale pedopornografico dalle nostre piattaforme. Ricorriamo ad esempio al rilevamento automatico e alla revisione da parte di persone fisiche, oltre ad affidarci alle segnalazioni inviate dai nostri utenti e da terze parti quali le ONG, per rilevare, rimuovere e segnalare materiale pedopornografico presente sulle nostre piattaforme. Implementiamo la corrispondenza di hash, inclusa la tecnologia CSAI Match di YouTube, per rilevare il materiale pedopornografico noto. Implementiamo anche classificatori di machine learning per rilevare materiale pedopornografico mai individuato in precedenza, che viene poi verificato dai nostri team di revisori dedicati. Il rilevamento di materiale pedopornografico mai individuato in precedenza è utile all'ecosistema della sicurezza dei minori in diversi modi, ad esempio identificando le vittime minorenni che necessitano di venire messe in sicurezza e ampliando l'insieme di hash disponibili per migliorare le nostre capacità di rilevare materiale pedopornografico noto. Usando i propri classificatori, Google ha creato l'API Content Safety, che mettiamo a disposizione di altri soggetti per aiutarli a fare in modo che la revisione da parte di persone fisiche possa dare priorità ai contenuti relativi ad abusi. 

Sia la tecnologia CSAI Match sia l'API Content Safety sono a disposizione delle entità idonee che vogliono contrastare gli illeciti sulle proprie piattaforme. Per ulteriori informazioni, visita questa pagina.

Che cosa fa Google quando rileva materiale pedopornografico sulla sua piattaforma?

Quando rileviamo materiale pedopornografico sulle nostre piattaforme, lo rimuoviamo, facciamo una segnalazione "CyberTipline" al NCMEC e potremmo chiudere l'account dell'utente interessato. Il NCMEC è un portale e un centro segnalazioni completo degli Stati Uniti dedicato ai problemi legati allo sfruttamento minorile. Dopo aver ricevuto una segnalazione, il NCMEC potrebbe inoltrarla alle forze dell'ordine di tutto il mondo.

Che cos'è una segnalazione CyberTipLine e che tipo di informazioni include?

Quando Google viene a conoscenza di potenziale materiale pedopornografico, fa una segnalazione al NCMEC. Queste segnalazioni sono comunemente chiamate segnalazioni CyberTipLine o CyberTip. Cerchiamo inoltre di identificare i casi relativi ad abusi fisici su minori, produzione di materiale pedopornografico o traffico di minori. In queste situazioni inviamo una segnalazione CyberTip supplementare al NCMEC per consentire di dare priorità alla questione. Le segnalazioni inviate al NCMEC potrebbero includere informazioni che identificano l'utente, la vittima minorenne e/o altri fatti contestuali utili.

Di seguito sono riportati alcuni esempi reali dell'impatto delle segnalazioni CyberTip inviate da Google. Questi esempi, sebbene non esaustivi, danno un'idea della vasta gamma di segnalazioni che effettuiamo.  

• Una segnalazione Google CyberTip ha riguardato vari contenuti di materiale pedopornografico relativo a bambini delle elementari, in un contesto scolastico. Alcuni di questi contenuti segnalati in precedenza non erano stati identificati da Google e sembravano essere stati prodotti dal proprietario dell'Account Google. Il NCMEC ha inoltrato la segnalazione alle forze dell'ordine, portando così a identificare e mettere in sicurezza i due minorenni raffigurati nelle immagini pedopornografiche segnalate.  
• Una segnalazione Google CyberTip ha riguardato l'adescamento e la produzione di materiale pedopornografico da parte del proprietario di un account, che aveva richiesto la realizzazione di diversi video che raffigurassero la partecipazione diretta e attiva ad abusi sessuali su decine di maschi minorenni in cambio di denaro. Il NCMEC ha inoltrato la segnalazione alle forze dell'ordine. Il proprietario dell'account è stato condannato per la produzione di materiale pedopornografico e diverse decine di minorenni vittime di abuso continuato sono state identificate e messe in sicurezza.
• Una segnalazione Google CyberTip ha riguardato un singolo contenuto di materiale pedopornografico noto che ha portato all'arresto del proprietario dell'account, che secondo le forze dell'ordine è stato trovato in possesso di una mole di ulteriore materiale pedopornografico e, inoltre, era direttamente coinvolto nella partecipazione attiva ad abusi su minori affidati alle sue cure e nel traffico relativo. Grazie all'impegno di Google, del NCMEC e delle forze dell'ordine, tre minorenni sono stati sottratti agli abusi sessuali.
• Una segnalazione Google CyberTip ha riguardato materiale pedopornografico prodotto dal proprietario dell'Account Google e richiesto a minorenni a cui il proprietario dell'account aveva accesso online. Il proprietario dell'account è stato successivamente arrestato e le forze dell'ordine hanno stabilito che abusava dei suoi pazienti, approfittando della fiducia di cui godeva in qualità di professionista sanitario, e aveva accesso diretto a minorenni online a cui chiedeva di produrre materiale pedopornografico.

Che cosa fa Google per impedire agli utenti di cercare materiale pedopornografico nella Ricerca?

Google implementa principi di sicurezza intrinseca per impedire agli utenti di cercare materiale pedopornografico nella Ricerca. Nel rispetto delle nostre norme blocchiamo i risultati di ricerca che portano a materiale pedopornografico che presumibilmente vittimizza sessualmente, mette in pericolo o sfrutta in altro modo i minorenni. Aggiorniamo di continuo i nostri algoritmi per lottare contro queste minacce in continua evoluzione. Applichiamo protezioni aggiuntive alle ricerche mirate a trovare contenuti pedopornografici. Filtriamo i risultati sessuali espliciti se la query di ricerca è apparentemente relativa a materiale pedopornografico. Inoltre, per le query relative a contenuti espliciti per adulti, la Ricerca non restituisce immagini che includono minorenni, in modo da impedire l'associazione tra minori e contenuti di natura sessuale. In molti paesi, gli utenti che inseriscono query chiaramente correlate a materiale pedopornografico visualizzano un avviso in evidenza che afferma che le immagini pedopornografiche sono illegali e fornisce informazioni su come segnalare questi contenuti a organizzazioni attendibili. Abbiamo rilevato che, quando vengono visualizzati questi avvisi, è meno probabile che gli utenti continuino a cercare questo materiale.

In che modo Google aiuta l'ecosistema della sicurezza dei minori a contrastare il materiale pedopornografico?

Il team per la sicurezza dei minori di Google crea tecnologia che rileva, segnala e rimuove accuratamente il materiale pedopornografico per proteggere i nostri utenti e impedire abusi a danno di minori nel contesto dei prodotti Google. Per garantire che l'ecosistema dedicato in generale alla sicurezza dei minori abbia accesso a questa tecnologia e per contribuire a impedire la proliferazione online di materiale pedopornografico, abbiamo sviluppato il toolkit per la sicurezza dei minori al fine di condividere questa sofisticata tecnologia con il resto del settore. Inoltre, mettiamo a disposizione del NCMEC l'API Hash Matching di Google per aiutare questo portale a dare la priorità alle segnalazioni CyberTipline e a esaminarle in modo più efficace, consentendo al suo team di concentrarsi sulle segnalazioni relative a minorenni che hanno bisogno di aiuto immediato. 

Inoltre siamo un membro attivo di diverse coalizioni, come Technology Coalition, ICT Coalition, WeProtect Global Alliance, INHOPE e Fair Play Alliance, che uniscono società e ONG per lo sviluppo di soluzioni che interrompano lo scambio di materiale pedopornografico online e impediscano lo sfruttamento sessuale di minorenni.

In che modo gli enti statali possono inviare a Google richieste di tipo legale associate a una segnalazione CyberTip?

Dopo aver ricevuto una segnalazione, il NCMEC potrebbe inoltrarla alle forze dell'ordine di tutto il mondo. Le forze dell'ordine potranno poi inviare a Google un atto giudiziario per avere ulteriori informazioni (Sistema di gestione richieste per le forze dell'ordine, LERS). Per agevolare queste richieste, Google fornisce un sistema online che consente agli enti statali verificati di inviare richieste di ulteriori informazioni in modo sicuro. Questi enti possono poi visualizzare lo stato delle richieste inviate utilizzando questo sistema online e, infine, scaricare la risposta di Google alla loro richiesta. Per maggiori informazioni sul LERS o sulla configurazione di un account LERS, visita il sito lers.google.com. Per maggiori informazioni, consulta le nostre norme relative alla modalità di gestione da parte di Google delle richieste dei governi di informazioni sugli utenti.

 Come faccio a segnalare presunto materiale pedopornografico?

Se trovi un link, un sito web o qualsiasi contenuto che include materiale pedopornografico, puoi segnalarlo alla polizia, al NCMEC o a un'organizzazione competente nel tuo paese. Se noti o riscontri contenuti o comportamenti inappropriati per i minori sui prodotti Google, puoi segnalarceli in molti modi. Puoi contribuire a evitare che tuo figlio venga contattato da estranei sui prodotti Google e filtrare i contenuti che vengono mostrati a tuo figlio gestendo le impostazioni del suo Account Google.

Quali team esaminano le segnalazioni di materiale pedopornografico?

La revisione da parte di persone fisiche è un aspetto fondamentale del nostro costante impegno per contrastare il materiale pedopornografico. I membri del nostro team mettono a disposizione di questo lavoro la loro profonda esperienza, con formazione in giurisprudenza, sicurezza e difesa dei minori, servizi sociali e attività investigative informatiche, tra le altre discipline. Sono stati appositamente formati sull'ambito di applicazione delle nostre norme e su ciò che costituisce legalmente materiale pedopornografico. I team di revisori hanno una formazione specializzata e ricevono supporto per il loro benessere. Visita questa pagina per avere ulteriori informazioni sull'approccio di Google alla moderazione dei contenuti, incluso il modo in cui supportiamo la salute mentale dei revisori.

A quale periodo di tempo fa riferimento questo rapporto?

Le metriche presentate qui rappresentano i dati raccolti dalle ore 00:00 PST del 1° gennaio alle ore 23:59 PDT del 30 giugno e dalle ore 00:00 PDT del 1° luglio alle ore 23:59 PST del 31 dicembre, se non diversamente specificato.