DUK apie „Google“ kovos su internetu teikiama seksualinės prievartos prieš vaikus medžiaga priemones

Kas yra SPPVM?

SPPVM reiškia seksualinės prievartos prieš vaikus medžiagą. Tai yra bet kokia vaizdo medžiaga, įskaitant (bet tuo neapsiribojant) nuotraukas, vaizdo įrašus ir kompiuterių sugeneruotus vaizdus, kuriuose vaizduojamas nepilnametis asmuo, užsiimantis seksualinio pobūdžio nepadoria veikla. Pripažįstame, kad SPPVM ir vaikų nuogybės nėra tas pats. Mūsų politika ir sistemos sukurtos taip, kad atpažintų ir atskirtų tinkamus vaizdus, pvz., vonioje ar kieme žaidžiančio vaiko, kurie nėra seksualinio pobūdžio ir nelaikomi SPPVM, nuo įstatymus pažeidžiančių vaizdų, kuriuose matoma seksualinė prievarta prieš vaikus ar teikiamas gašlus genitalijų ar intymių sričių turinys pažeidžiant visuotinius įstatymus. Be to, yra kitų tipų nepadorių arba išnaudotojiškų vaizdų, kuriuose įtraukiami arba vaizduojami vaikai, pvz., animacinių filmų, kuriuose vaizduojama seksualinė prievarta prieš vaikus, arba bandymų humoristiškai pristatyti vaikų seksualinį išnaudojimą. Šie vaizdai taip pat gali pažeisti visuotinius įstatymus.

Kokių kovos su SPPVM principų laikosi „Google“?

„Google“ yra įsipareigojusi kovoti su internetu teikiama SPPVM ir neleisti platformose kurti, saugoti ar platinti šios medžiagos. Skiriame daug išteklių: technologijų, žmonių ir laiko, siekdami aptikti, sulaikyti, pašalinti seksualinės prievartos prieš vaikus turinį ir elgseną bei apie tai pranešti. Jei reikia daugiau informacijos, kaip saugome vaikus ir šeimas, žr. „Google“ saugos centrą, „YouTube“ bendruomenės gaires, mūsų vaikų apsaugos svetainę ir tinklaraštį, kaip aptinkame, pašaliname ir pranešame apie SPPVM.

Kaip „Google“ nustato SPPVM savo platformoje?

Daug investuojame kovodami su seksualiniu vaikų išnaudojimu internete ir naudodami technologijas sulaikome, aptinkame bei pašaliname SPPVM savo platformose. Tai apima automatinį aptikimą ir žmonių atliekamas peržiūras bei pasikliaujame pranešimais, kuriuos pateikia naudotojai ir trečiosios šalys, pvz., nevyriausybinės organizacijos. Naudojame maišos atitiktį, įskaitant „YouTube“ CSAI Match, kad aptiktume žinomą SPPVM. Taip pat taikome mašininio mokymosi klasifikatorius, kad aptiktume anksčiau nematytą SPPVM, kurią vėliau patvirtinta mūsų specialistų peržiūros komandos. Aptikdami anksčiau nematytą SPPVM galime lengviau užtikrinti vaikų saugą, įskaitant vaikų, kurie tapo aukomis ir kuriuos reikia apsaugoti, identifikavimą ir prisidėjimą prie maišos rinkinio, kad galėtume dar lengviau aptikti žinomą SPPVM. Naudodama mūsų klasifikatorius „Google“ sukūrė Saugaus turinio API, kurią teikiame kitiems subjektams, kad padėtume nustatyti sąlygas pažeidžiantį turinį, kurį pirmiausia turėtų peržiūrėti žmogus. 

SPPVV atitiktį ir saugaus turinio API gali naudoti reikalavimus atitinkantys subjektai, kurie nori kovoti su piktnaudžiavimu savo platformose. Išsamesnės informacijos rasite čia.

Kokius veiksmus „Google“ atlieka aptikusi SPPVM savo platformoje?

Savo platformose aptikę SPPVM, pašaliname ją, pateikiame CyberTipline pranešimą NCMEC ir, atsižvelgdami į pažeidimo pobūdį bei rimtumą, galime pateikti įspėjimą, apriboti paskyros prieigą prie tam tikrų „Google“ produktų ar paslaugų arba išjungti „Google“ paskyrą. Taip pat galime papildomai peržiūrėti „Google“ paskyrą, kad nustatytume papildomą SPPVM ir (arba) užtikrintume, jog atsižvelgiame į atitinkamą kontekstą ir užtikrintume, jog imamės tinkamų ir proporcingų sankcijų, susijusių su „Google“ paskyroje nurodyta medžiaga.

 

NCMEC veikia kaip atsiskaitymų ir išsamių pranešimų centras Jungtinėse Amerikos Valstijose, kuriame sprendžiamos su vaikų išnaudojimu susijusios problemos. Kai NCMEC gauna pranešimą, jie gali persiųsti jį teisėsaugos įstaigoms visame pasaulyje.

Kas yra „CyberTipLine“ pranešimas ir kokio tipo informacija į jį įtraukiama?

Kai „Google“ sužino apie tariamą SPPVM, pranešame apie tai NCMEC. Šie pranešimai dažnai vadinami „CyberTipLine“ pranešimais arba „CyberTip“. Be to, bandome identifikuoti atvejus, susijusius su nepilnamečių išnaudojimu, SPPVM kūrimu arba prekyba vaikais. Tokiais atvejais siunčiame papildomą „CyberTip“ pranešimą NCMEC, kad problemai būtų teikiama pirmenybė. Į NCMEC siunčiamą pranešimą gali būti įtraukta informacijos, pagal kurią galima identifikuoti naudotoją, nepilnametę auką, taip pat gali būti politiką pažeidžiančio turinio ir (arba) kitų naudingų papildomų duomenų.

Toliau pateikiami keli „Google“ pateiktų „CyberTip“ pranešimų poveikio realiame pasaulyje pavyzdžiai. Šiuose pavyzdžiuose apžvelgiami įvairūs mūsų pateikti pranešimai, bet tai nėra išsamūs duomenys.  

• „Google CyberTip“ pranešė apie įvairių tipų SPPVM, susijusią su pradinės mokyklos mokiniais, užfiksuotais klasėse. Tam tikros SPPVM, apie kurią buvo pranešta, anksčiau „Google“ nebuvo identifikavusi. Be to, nustatyta, kad ją sukūrė „Google“ paskyros savininkas. NCMEC persiuntė pranešimą teisėsaugos įstaigai, kuri identifikavo ir apsaugojo du nepilnamečius vaikus, rodomus SPPVM vaizduose, apie kuriuos pranešta.  
• „Google CyberTip“ pranešė apie SPPVM rinkimo ir kūrimo už pinigus veiklą, vykdomą paskyros savininko, pateikusio užklausą sukurti įvairių vaizdo įrašų, kuriuose vaizduojama daug išnaudojamų nepilnamečių berniukų. NCMEC persiuntė pranešimą teisėsaugos įstaigai. Paskyros savininkas buvo nuteistas už SPPVM kūrimą, o daug vaikų buvo identifikuoti ir apsaugoti nuo vykdomos prievartos.
• „Google CyberTip“ pranešė apie vieną žinomos SPPVM fragmentą, pagal kurį buvo galima sulaikyti paskyros savininką, kuris, teisėsaugos įstaigos teigimu, turėjo gerokai daugiau SPPVM ir buvo tiesiogiai susijęs su jo prižiūrimų nepilnamečių išnaudojimu ir šių nepilnamečių perdavimu kitiems išnaudojimo tikslais. Dėl „Google“, NCMEC ir teisėsaugos įstaigos pastangų trys vaikai buvo išgelbėti nuo seksualinės prievartos.
• „Google CyberTip“ pranešė apie SPPVM, sukurtą „Google“ paskyros savininko ir renkamą iš nepilnamečių, kuriuos paskyros savininkas galėjo pasiekti internetu. Vėliau paskyros savininkas buvo sulaikytas ir teisėsaugos įstaiga nustatė, kad jis buvo pripažintas medicinos specialistas. Naudodamasis savo padėtimi jis išnaudojo prižiūrimus pacientus ir galėjo tiesiogiai internetu pasiekti nepilnamečius, kurių jis prašė kurti SPPVM.

Kaip „Google“ kovoja su SPPVM rizika generatyvinio DI erdvėje?

DI sugeneruota SPPVM arba kompiuteriu sugeneruoti vaizdai, kuriuose vaizduojama seksualinė prievarta prieš vaikus, kelia grėsmę, kurią „Google“ vertina labai rimtai. Stengdamiesi aptikti, pašalinti ir pranešti apie SPPVM, visada įtraukiame taisykles pažeidžiantį turinį, susijusį su realiais nepilnamečiais, pakeistus atpažįstamo nepilnamečio, užsiimančio seksualinio pobūdžio veikla, vaizdus ir kompiuterių sugeneruotus vaizdus, kurie yra neatskiriami nuo tikro nepilnamečio, užsiimančio tokia veikla.

„Google“ daug dėmesio skiria vaikų saugumui, kurdama savo generatyvinio DI modelius ir produktus. Laikomės „Google“ atsakingo generatyvinio DI principų apsaugodami visus „Google“ viešai pasiekiamus modelius ir paslaugas, sukurtas pagal šiuos modelius.

Savo generatyvinio DI modeliams ir produktams taikome įvairias vaikų saugos priemones. Tai gali apimti apsaugą nuo SPPVM rodymo mokymo duomenyse, kuriais pagrįsti mūsų modeliai, nuo SPPVM paieškos ir kūrimo užklausų bei politiką pažeidžiančių rezultatų. Taip pat atliekame patikimus vaikų saugos bandymus savo modeliuose prieš juos paskelbdami viešai, kad suprastume ir sumažintume SPPVM generavimo galimybę.

Be to, bendradarbiaujame su kitais vaikų saugos ekosistemos atstovais, įskaitant „Technology Coalition“ ir vaikų saugos NVO, siekdami dalytis ir suprasti geriausią praktiką, kadangi ši technologija nuolat tobulinama.

What does Google do to deter users from seeking out CSAM on Search?

„Google“ taiko integruotos saugos principus, kad neleistų naudotojams Paieškoje ieškoti SPPVM. Vadovaudamiesi politika privalome blokuoti paieškos rezultatus, nukreipiančius į seksualinės prievartos prieš vaikus medžiagą, susijusią su seksualiniu persekiojimu, pavojaus grėsme ar kitokiu vaikų išnaudojimu. Nuolat atnaujiname savo algoritmus, siekdami kovoti su šiomis kylančiomis grėsmėmis. Visada pašaliname SPPVM, kai ji aptinkama, ir pažeminame visą turinį iš svetainių, kuriose yra daug SPPVM turinio. Taikome papildomas apsaugos priemones paieškoms, kurias atliekant, mūsų manymu, ieškoma SPPVM turinio. Filtruojame nepadorius seksualinio pobūdžio rezultatus, jei pagal paieškos užklausą nustatome, kad ieškoma SPPVM, o pagal užklausas, kuriomis ieškoma suaugusiesiems skirto nepadoraus turinio, Paieškoje nerodoma vaizdų su vaikais, kad nebūtų nustatoma jokių vaikų ir seksualinio turinio sąsajų. Daug šalių naudotojams, vedantiems užklausas, aiškiai susijusias su SPPVM, rodomas aiškus perspėjimas, kad seksualinės prievartos prieš vaikus vaizdai neteisėti, ir pateikiama informacija, kaip pranešti apie tokį turinį patikimoms organizacijoms. Nustatėme, kad rodant šiuos perspėjimus naudotojai rečiau toliau ieško tokios medžiagos.

Kaip „Google“ prisideda prie vaikų saugos užtikrinimo priemonių, skirtų kovoti su SPPVM?

„Google“ vaikų saugos užtikrinimo komanda kuria technologijas, aiškiai aptinkančias SPPVM, pranešančias apie ją ir ją pašalinančias, kad apsaugotų naudotojus ir vaikus nuo pavojų „Google“ produktuose. Sukūrėme vaikų saugos įrankių rinkinį, siekdami užtikrinti, kad platesnė ekosistema taip pat galėtų pasiekti šias veiksmingas technologijas, ir padėtume stabdyti seksualinės prievartos prieš vaikus medžiagos platinimą internetu. Be to, NCMEC teikiame „Google Hash Matching“ API, kad padėtume jiems efektyviau išdėstyti pagal svarbą ir peržiūrėti „CyberTipLine“ pranešimus, suteikdami galimybę pirmiausia nagrinėti pranešimus, susijusius su vaikais, kuriems reikia neatidėliotinos pagalbos. 

Taip pat bendriname seksualinės prievartos prieš vaikus ir išnaudojimo signalus, kad SPPVM būtų pašalinta iš platesnės ekosistemos. Bendriname milijonus SPPVM maišos elementų su NCMEC pramonės srities maišos duomenų baze, kad kiti teikėjai taip pat galėtų juos pasiekti ir naudoti. Taip pat prisijungėme prie „Project Lantern“ – programos, leidžiančios technologijų įmonėms saugiai ir atsakingai bendrinti atitinkamus signalus, kovojant su seksualine prievarta ir išnaudojimu, suvokiant, kad šis piktnaudžiavimas gali plisti įvairiose platformose ir paslaugose.

Be to, esame aktyvūs kelių koalicijų nariai, pvz., Technologijų koalicijos, „WeProtect Global Alliance“ ir INHOPE, jungiančių įmones ir NVO, kurių tikslas kurti priemones, stabdančias SPPVM keitimąsi internetu ir užkertančias kelią seksualinei prievartai prieš vaikus. „Google“ pirmenybę teikia dalyvavimui šiose koalicijose ir dirbdami su NVO, pvz., NCMEC ir „Thorn“, dalijamės savo patirtimi, tyrinėjame geriausią praktiką ir sužinome daugiau apie naujausias grėsmes, susijusias su pagrindinėmis vaikų saugos problemomis.

Kaip vyriausybinės įstaigos gali siųsti teisines užklausas „Google“, susijusias su „CyberTip“?

Kai NCMEC gauna pranešimą, jie gali persiųsti jį teisėsaugos įstaigoms visame pasaulyje. Tada teisėsaugos institucija gali nurodyti „Google“ teisinius procesinius veiksmus, kad gautų daugiau informacijos (Teisėsaugos prašymų sistema – TPS). Kad tokių užklausų vykdymo procesas būtų paprastesnis, „Google“ teikia internetinę sistemą, kurią naudodamos patvirtintos vyriausybinės įstaigos gali saugiai pateikti užklausas, norėdamos gauti daugiau informacijos. Tada šios įstaigos gali peržiūrėti pateiktų užklausų būseną naudodamos šią internetinę sistemą ir galiausiai atsisiųsti „Google“ atsakymą į užklausą. Jei reikia daugiau informacijos apie TPS arba norite nustatyti TPS paskyrą, apsilankykite adresu lers.google.com. Jei reikia daugiau informacijos, žr. politiką, kaip „Google“ apdoroja vyriausybines naudotojų informacijos užklausas.

 Kaip pranešti apie įtariamą SPPVM?

Jei randate nuorodą, svetainę ar bet kokį turinį, susijusį su SPPVM, galite pranešti apie tai policijai,NCMEC arba atitinkamai vietinei organizacijai. Jei „Google“ produktuose matote su vaikais susijusio nepriimtino turinio ar susiduriate su netinkama elgsena, galite pranešti mums įvairiais būdais, įskaitant pranešimą apie vaikams kylantį pavojų (pvz., vaikų viliojimą, seksualinio pobūdžio prievartą, kitų formų vaikų seksualinį išnaudojimą), susijusį su „Google“ produktais. Galite padėti apsaugoti, kad žmonės nesusisiektų su jūsų vaiku „Google“ produktuose, ir filtruoti vaikui rodomą turinį tvarkydami jo „Google“ paskyros nustatymus.

Kurios komandos peržiūri SPPVM pranešimus?

Žmogaus atliekama peržiūra yra labai svarbi mūsų kovos su SPPVM proceso dalis. Mūsų komandos nariai yra labai patyrę šioje srityje, turintys žinių teisės, vaikų saugos ir gynimo, socialinio darbo ir kibernetinių tyrimų bei kitų disciplinų srityse. Jie yra specialiai išmokyti ir žino mūsų politikos apimtį bei seksualinės prievartos prieš vaikus medžiagos teisinį pagrindą. Tikrintojų komandų nariams rengiami specialūs mokymai ir teikiamas palaikymas užtikrinant jų gerovę. Jei norite sužinoti daugiau, kaip „Google“ tvarko turinį, įskaitant tai, kaip padedame užtikrinti tikrintojų gerovę, žr. čia.

Kokį laikotarpį apima ši ataskaita?

Čia pateikta metrika apima duomenis, surinktus nuo sausio 1 d. 00.00 val. PST iki birželio 30 d. 23.59 val. PDT ir nuo liepos 1 d. 00.00 val. PDT iki gruodžio 31 d. 23.59 val. PST, nebent nurodyta kitaip.