Čo znamená skratka CSAM?
Aký je prístup spoločnosti Google k boju proti šíreniu materiálu zobrazujúcemu sexuálne zneužívanie detí?
Ako spoločnosť Google identifikuje vo svojej platforme materiál zobrazujúci sexuálne zneužívanie detí?
Do boja proti sexuálnemu zneužívaniu detí na internete investujeme značné prostriedky a materiál zobrazujúci sexuálne zneužívanie detí rozpoznávame, nahlasujeme a odstraňujeme v našich platformách pomocou technológie, ktorá nám pomáha aj brániť jeho šíreniu v nich. Využívame hlásenia od našich používateľov a tretích strán, ako sú mimovládne organizácie, ale používame aj automatické rozpoznávanie a kontrolu človekom. Známy materiál zobrazujúci sexuálne zneužívanie detí rozpoznávame nasadením technológie vyhľadávania zhôd hašov vrátane technológie CSAI Match služby YouTube. Úplne nový materiál zobrazujúci sexuálne zneužívanie detí vyhľadávame aj nasadením klasifikátorov strojového učenia. Identifikovaný materiál potom potvrdia naše špeciálne tímy kontrolórov. Rozpoznávanie úplne nového materiálu zobrazujúceho sexuálne zneužívanie detí pomáha ekosystému bezpečnosti detí viacerými spôsobmi vrátane identifikácie detských obetí, ktoré potrebujú ochranu, a prispievania do skupiny hodnôt hašov, aby sa rozšírili naše schopnosti rozpoznávať známy materiál zobrazujúci sexuálne zneužívanie detí. Na základe svojich klasifikátorov vytvorila spoločnosť Google rozhranie Content Safety API, pomocou ktorého môžu používatelia prioritne nahlásiť obsah porušujúci pravidlá na kontrolu človekom.
Porovnávanie obsahu zobrazujúceho sexuálne zneužívanie detí aj rozhranie Content Safety API sú k dispozícii pre kvalifikované osoby, ktoré chcú bojovať proti šíreniu zneužívania vo svojich platformách. Ďalšie podrobnosti nájdete tu.
Čo urobí spoločnosť Google, keď vo svojej platforme identifikuje materiál zobrazujúci sexuálne zneužívanie detí?
NCMEC je komplexné centrum nahlasovania a triedenia informácií sídliace v Spojených štátoch, ktoré sa zaoberá záležitosťami týkajúcimi sa využívania detí. Keď centrum NCMEC hlásenie prijme, môže ho postúpiť orgánom činným v trestnom konaní na celom svete.
Čo je hlásenie CyberTipline a aké informácie obsahuje?
Keď spoločnosť Google identifikuje zjavný materiál zobrazujúci sexuálne zneužívanie detí, pošle centru NCMEC hlásenie. Tieto hlásenia sa bežne nazývajú CyberTipLine alebo CyberTips. Okrem toho sa snažíme identifikovať prípady, kedy dochádza k priamemu zneužívaniu neplnoletých, výrobe materiálu zobrazujúceho sexuálne zneužívanie detí alebo obchodovaniu s deťmi. V týchto prípadoch posielame centru NCMEC doplnkové hlásenie CyberTip, aby bol daný prípad riešený prednostne. Hlásenie odoslané centru NCMEC môže zahŕňať údaje identifikujúce používateľa, neplnoletú obeť, porušujúci obsah alebo ďalšie užitočné kontextuálne fakty.
Nižšie je niekoľko príkladov skutočného globálneho vplyvu hlásení CyberTip podaných spoločnosťou Google. Poskytujú stručný prehľad širokého radu hlásení, ktoré podávame, ale nepredstavujú všetky druhy hlásení.
- V rámci hlásenia Cybertip spoločnosti Google bolo nahlásených viacero položiek materiálu zobrazujúceho sexuálne zneužívanie detí zahŕňajúcich deti školského veku vyobrazených v učebných priestoroch. Niektoré typy tohto nahláseného materiálu zobrazujúceho sexuálne zneužívanie detí spoločnosť Google ešte nikdy neidentifikovala a zrejme boli vyrobené majiteľom príslušného účtu Google. Centrum NCMEC preposlalo toto hlásenie orgánom činným v trestnom konaní, čo viedlo k identifikácii a zaisteniu ochrany dvoch neplnoletých detí vyobrazených v príslušnom nahlásenom obsahu s materiálom zobrazujúcim sexuálne zneužívanie detí.
- V rámci hlásenia Cybertip spoločnosti Google boli nahlásené žiadosti o materiál zobrazujúci sexuálne zneužívanie detí a jeho výroba majiteľom účtu, ktorý žiadal o vytvorenie viacerých videí zobrazujúcich priame zneužívanie desiatok neplnoletých chlapcov za peňažnú odmenu. Centrum NCMEC preposlalo toto hlásenie orgánom činným v trestnom konaní. Majiteľ daného účtu bol odsúdený za výrobu materiálu zobrazujúceho sexuálne zneužívanie detí a niekoľko desiatok detí bolo identifikovaných a ochránených pred prebiehajúcim zneužívaním.
- V rámci hlásenia CyberTip spoločnosti Google bola nahlásená jedna položka známeho obsahu s materiálom zobrazujúcim sexuálne zneužívanie detí, čo viedlo k zadržaniu majiteľa príslušného účtu. Ten podľa orgánov činných v trestnom konaní vlastnil oveľa viac materiálu zobrazujúceho sexuálne zneužívanie detí a priamo sa zapájal do fyzického zneužívania neplnoletých zverených do jeho starostlivosti. Okrem toho týchto neplnoletých poskytoval iným osobám, ktoré ich tiež zneužívali. Vďaka úsiliu spoločnosti Google, centru NCMEC a orgánom činným v trestnom konaní boli pred sexuálnym zneužívaním zachránené tri deti.
- V rámci hlásenia CyberTip spoločnosti Google bol nahlásený materiál zobrazujúci sexuálne zneužívanie detí vyrobený majiteľom účtu Google a vyžiadaný od neplnoletých, ku ktorým mal tento majiteľ účtu prístup na internete. Tento majiteľ účtu bol neskôr zadržaný a orgánmi činnými v trestnom konaní identifikovaný ako osoba pôsobiaca v dôveryhodnej pozícii profesionálneho zdravotníckeho pracovníka: v tejto pozícii zneužíval pacientov, ktorým poskytoval starostlivosť, a mal priamy prístup k neplnoletým na internete, ktorých žiadal o výrobu materiálu zobrazujúceho sexuálne zneužívanie detí.
Ako bojuje spoločnosť Google proti rizkám výskytu materiálu zobrazujúceho sexuálne zneužívanie detí v priestore generatívnej umelej inteligencie?
Materiál zobrazujúci sexuálne zneužívanie detí generovaný umelou inteligenciou či snímky vygenerované počítačom znázorňujúce sexuálne zneužívanie detí sú hrozba, ktorú spoločnosť Google berie veľmi vážne. V rámci nášho úsilia rozpoznávať, odstraňovať a nahlasovať materiál zobrazujúci sexuálne zneužívanie detí sme sa vždy zamieravali aj na porušujúci obsah zahŕňajúci skutočných neplnoletých, upravené snímky identifikovateľnej neplnoletej osoby zapojenej do sexuálne explicitných činností a snímky vygenerované počítačom, ktoré sú neodlíšiteľné od skutočnej neplnoletej osoby zapojenej do takejto činnosti.
Spoločnosť Google kladie pri vytváraní vlastných modelov a služieb využívajúcich generatívnu umelú inteligenciu veľký dôraz na bezpečnosť detí. Dodržiavame princípy zodpovednej generatívnej umelej inteligencie od spoločnosti Google, na základe ktorých chránime všetky verejne dostupné modely spoločnosti Google aj služby, ktoré ich využívajú.
V prípade našich modelov a služieb využívajúcich generatívnu umelú inteligenciu nasadzujeme rôzne ochrany zaisťujúce bezpečnosť detí. Môže to zahŕňať ochrany proti výskytu materiálu zobrazujúcemu sexuálne zneužívanie detí v údajoch využívaných na trénovanie našich modelov, proti výzvam na vyhľadanie a výrobu materiálu zobrazujúceho sexuálne zneužívanie detí a proti porušujúcim výstupom. Okrem toho vykonávame robustné testovanie bezpečnosti detí v našich modeloch ešte pred ich verejným uvedením na trh, aby sme porozumeli, či je v nich možné generovať materiál zobrazujúci sexuálne zneužívanie detí a túto možnosť minimalizovali.
Navyše spolupracujeme s ostatnými v ekosystéme bezpečnosti detí, a to vrátane združenia Technology Coalition a mimovládnych organizácií zameraných na bezpečnosť detí, aby sme zdieľali osvedčené postupy a porozumeli im, pretože táto technológia sa ďalej rozvíja.
Ako spoločnosť Google odradzuje používateľov od vyhľadávania materiálu zobrazujúceho sexuálne zneužívanie detí v službe Vyhľadávanie?
Ako spoločnosť Google prispieva do ekosystému ochrany detí v boji proti materiálu zobrazujúcemu sexuálne zneužívanie detí?
Tím spoločnosti Google zaisťujúci bezpečnosť detí vytvára technológiu, ktorá presne rozpoznáva, nahlasuje a odstraňuje materiál zobrazujúci sexuálne zneužívanie detí, aby chránila našich používateľov a zabraňovala poškodzovaniu detí v službách spoločnosti Google. Vyvinuli sme nástroje na ochranu detí, aby mal prístup k tejto výkonnej technológii aj širší ekosystém, a pomohli zabrániť šíreniu materiálu zobrazujúceho sexuálne zneužívanie detí na internete. Okrem toho poskytujeme centru NCMEC rozhranie Hash Matching API od spoločnosti Google, ktorým mu pomáhame priorizovať a kontrolovať hlásenia CyberTipline efektívnejšie, pretože mu umožňuje uprednostniť hlásenia zahŕňajúce deti, ktoré potrebujú okamžitú pomoc.
Okrem toho zdieľame signály upozorňujúce na sexuálne zneužívanie a využívanie detí, aby sme umožnili odstránenie materiálu zobrazujúceho sexuálne zneužívanie detí zo širšieho ekosystému. Zdieľame milióny hašov materiálu zobrazujúceho sexuálne zneužívanie detí s odvetvovou databázou hašov vedenou centrom NCMEC, aby ostatní poskytovatelia mali prístup k týmto hašom a tiež ich používali. Prihlásili sme sa aj do programu Project Lantern, ktorý umožňuje technologickým spoločnostiam zabezpečeným a zodpovedným spôsobom zdieľať relevantné signály na boj proti sexuálnemu zneužívaniu a využívaniu na internete, pretože chápeme, že toto zneužívanie môže prekračovať rôzne platformy aj služby.
Navyše sme aktívnym členom viacerých združení, ako sú Technology Coalition, WeProtect Global Alliance a INHOPE, ktoré spájajú spoločnosti s mimovládnymi organizáciami s cieľom nájsť riešenia, ktoré narušia výmenu materiálu zobrazujúceho sexuálne zneužívanie detí na internete a zabránia sexuálnemu využívaniu detí. Spoločnosť Google uprednostňuje účasť v týchto združeniach a v rámci spolupráce s mimovládnymi organizáciami, ako sú NCMEC a Thorn, zdieľame svoje odborné znalosti, skúmame osvedčené postupy a dozvedáme sa viac o najnovších hrozbách v súvislosti s kľúčovými záležitosťami týkajúcimi sa bezpečnosti detí.