Bieži uzdotie jautājumi par Google centieniem apkarot tiešsaistes materiālus, kuros redzama seksuāla vardarbība pret bērniem

Kas ir materiāli ar seksuālu vardarbību pret bērniem?

Materiāli ar seksuālu vardarbību pret bērniem ir jebkāds vizuāls attēlojums, tostarp (bet ne tikai) fotoattēli, videoklipi un digitāli ģenerēti attēli, kuros redzama nepilngadīga persona, kas iesaistīta seksuālās darbībās. Mēs apzināmies, ka materiāli ar seksuālu vardarbību pret bērniem nav tas pats kā bērnu kailuma attēlojums. Tāpēc mūsu politikas un sistēmas ir īpaši izstrādātas, lai atpazītu un atšķirtu attēlus, kuros pārkāpumu nav (piemēram, attēlus, kuros bērns spēlējas vannā vai pagalmā), kuri nav seksuāli un nav uzskatāmi par materiāliem ar seksuālu vardarbību pret bērniem, no starptautiskajos likumos aizliegtiem attēliem, kuros ir atainota seksuāla vardarbība pret bērnu vai baudkāri tiek izrādītas ģenitālijas un intīmās zonas. Turklāt pastāv arī cita veida piedauzīgi vai ļaunprātīgi attēli, kuros ir redzami vai atainoti bērni, piemēram, satīriski atainojumi ar seksuālu vardarbību pret bērniem vai centieni humoristiskā veidā atspoguļot bērnu seksuālu izmantošanu. Arī ar šādiem attēliem var tikt pārkāpti starptautiskie likumi.

Kāda ir Google pieeja cīņai pret materiāliem, kuros redzama seksuāla vardarbība pret bērniem?

Uzņēmums Google ir apņēmies apkarot tiešsaistes materiālus, kuros ir redzama seksuāla vardarbība pret bērniem, un nepieļaut savu platformu izmantošanu šādu materiālu izveidei, glabāšanai vai izplatīšanai. Mēs veltām daudz resursu — tehnoloģiju, personāla un laika —, lai konstatētu izturēšanos, kas uzskatāma par bērnu seksuālu izmantošanu, un saturu, kurā attēlota bērnu seksuāla izmantošana, kā arī lai noņemtu šādu saturu, atturētu no šādas izturēšanās un šāda satura publicēšanas un ziņotu par šādu saturu un izturēšanos. Lai uzzinātu vairāk par mūsu centieniem aizsargāt bērnus un ģimenes, skatiet Google drošības centru, YouTube kopienas vadlīnijas, mūsu bērnu aizsardzības vietni un emuāra ziņojumupar to, kā konstatējam un noņemam materiālus ar seksuālu vardarbību pret bērniem un ziņojam par šādiem materiāliem.

Kā Google savās platformās identificē materiālus, kuros redzama seksuāla vardarbība pret bērniem?

Mēs ieguldām daudz resursu cīņā pret bērnu seksuālu izmantošanu tiešsaistē, kā arī izmantojam tehnoloģijas, lai savās platformās konstatētu un noņemtu materiālus, kuros redzama seksuāla vardarbība pret bērniem, un atturētu no šādu materiālu publicēšanas. Lai savās platformās konstatētu un noņemtu materiālus ar seksuālu vardarbību pret bērniem un ziņotu par šādiem materiāliem, mēs izmantojam automātisku noteikšanu un manuālu pārskatīšanu, kā arī ziņojumus, ko iesniedz mūsu lietotāji un trešās puses, piemēram, nevalstiskas organizācijas. Lai noteiktu zināmus materiālus ar seksuālu vardarbību pret bērniem, mēs izmantojam jaucējvērtību atbilstības noteikšanu, tostarp YouTube tehnoloģiju CSAI Match.  Turklāt izmantojam mašīnmācīšanās klasifikatorus, lai atklātu iepriekš nekonstatētus materiālus, kuros redzama seksuāla vardarbība pret bērniem. Pēc tam mūsu pārskatīšanas speciālistu komandas pārbauda, vai klasifikatoru atklātajos materiālos tiešām ir atainota seksuāla vardarbība pret bērniem. Atklājot iepriekš nekonstatētus materiālus ar seksuālu vardarbību pret bērniem, uzlabojam bērnu drošības ekosistēmu vairākos veidos. Tostarp identificējam nepilngadīgus upurus, kam vajadzīga aizsardzība, un papildinām jaucējvērtību kopu, lai labāk spētu konstatēt zināmus materiālus ar seksuālu vardarbību pret bērniem. Izmantojot savus klasifikatorus, Google izveidoja Satura drošības API. Mēs piedāvājam šo API piemērotām juridiskām personām, lai palīdzētu noteikt prioritāti iespējami ļaunprātīga satura manuālai pārskatīšanai. 

Gan tehnoloģija CSAI Match, gan Satura drošības API ir pieejams piemērotām juridiskām personām, kas vēlas apkarot ļaunprātīgu izmantošanu savās platformās. Plašāku informāciju skatiet šeit.

Kā Google rīkojas, konstatējot savās platformās materiālus, kuros redzama seksuāla vardarbība pret bērniem?

Ja savās platformās konstatējam materiālus ar seksuālu vardarbību pret bērniem, mēs noņemam attiecīgos materiālus, iesniedzam CyberTipline ziņojumu Nacionālajam pazudušo un ļaunprātīgi izmantoto bērnu centram (National Center for Missing and Exploited Children — NCMEC) un atkarībā no pārkāpuma rakstura un smaguma nosūtām brīdinājumu, ierobežojam konta piekļuvi noteiktiem Google produktiem vai pakalpojumiem vai atspējojam Google kontu. Varam arī veikt attiecīgā Google konta papildu pārskatīšanu, lai identificētu citus materiālus ar seksuālu vardarbību pret bērniem un/vai pārliecinātos, ka esam ņēmuši vērā attiecīgo kontekstu un īstenojuši atbilstošas un samērīgas piemērošanas darbības attiecībā uz Google kontā identificēto materiālu.

 

NCMEC Amerikas Savienotajās Valstīs ir vienots informācijas apmaiņas un ziņošanas centrs gadījumiem, kas saistīti ar bērnu ļaunprātīgu izmantošanu. Kad organizācija NCMEC ir saņēmusi ziņojumu, tā var to pārsūtīt tiesību aizsardzības iestādēm dažādās pasaules valstīs.

Kas ir CyberTipline ziņojums, un kāda veida informācija tajā tiek iekļauta?

Konstatējot iespējamus materiālus, kuros redzama seksuāla vardarbība pret bērniem, Google iesniedz ziņojumu organizācijai NCMEC. Šos ziņojumus bieži dēvē par CyberTipLine jeb CyberTip ziņojumiem. Turklāt mēs cenšamies identificēt gadījumus, kad nepilngadīga persona ir fiziski ļaunprātīgi izmantota, ir veidoti materiāli ar seksuālu vardarbību pret bērniem vai notikusi tirdzniecība ar bērniem. Šādos gadījumos mēs nosūtām organizācijai NCMEC papildu CyberTip ziņojumu, lai palīdzētu noteikt lietas prioritāti. Organizācijai NCMEC nosūtītā ziņojumā var būt ietverta informācija, kas identificē lietotāju un nepilngadīgo upuri, kā arī pats neatbilstošais saturs un/vai citi noderīgi konteksta dati.

Tālāk ir daži Google iesniegto CyberTip ziņojumu reālās ietekmes piemēri. Tie sniedz ieskatu mūsu iesniegto ziņojumu plašajā klāstā, taču nav visaptveroši.  

• Google iesniedza CyberTip ziņojumu par daudziem materiāliem, kuros bija redzama seksuāla vardarbība pret pamatskolas vecuma bērniem klasē. Daļu no ziņojumā minētajiem materiāliem ar seksuālu vardarbību pret bērniem uzņēmums Google nebija iepriekš identificējis, un šķita, ka tos veidojis Google konta īpašnieks. NCMEC pārsūtīja ziņojumu tiesību aizsardzības iestādēm, un rezultātā tika identificēti un aizsargāti divi bērni, kas bija atainoti ziņojumā minētajos materiālos ar seksuālu vardarbību pret bērniem.  
• Google iesniedza CyberTip ziņojumu par to, ka kāda konta īpašnieks bija pieprasījis un veidojis materiālus ar seksuālu vardarbību pret bērniem. Šī persona bija pieprasījusi uzņemt daudzus videoklipus, kuros bija atainota vairāku desmitu nepilngadīgu zēnu fiziska ļaunprātīga izmantošana apmaiņā pret naudu. NCMEC pārsūtīja ziņojumu tiesību aizsardzības iestādēm. Konta īpašnieks tika notiesāts par materiālu ar seksuālu vardarbību pret bērniem veidošanu, un vairāki desmiti bērnu tika identificēti un aizsargāti pret turpmāku ļaunprātīgu izmantošanu.
• Google iesniedza CyberTip ziņojumu par vienu zināmu satura vienumu ar seksuālu vardarbību pret bērniem, tāpēc konta īpašnieks tika aizturēts. Tiesību aizsardzības iestādes ir informējušas, ka konta īpašnieka rīcībā bija daudz citu materiālu ar seksuālu vardarbību pret bērniem, turklāt konta īpašnieks bija tieši iesaistīts savā aizgādībā esošu nepilngadīgu personu fiziskā ļaunprātīgā izmantošanā un arī sniedza citiem iespējas ļaunprātīgi izmantot šīs nepilngadīgās personas.  Google, NCMEC un tiesību aizsardzības iestāžu pūliņu rezultātā trīs bērni tika izglābti no seksuālas vardarbības.
• Google iesniedza CyberTip ziņojumu par materiāliem ar seksuālu vardarbību pret bērniem. Google konta īpašnieks bija veidojis šos materiālus un pieprasījis tos no nepilngadīgām personām, ar kurām varēja sazināties tiešsaistē. Vēlāk konta īpašnieks tika aizturēts, un tiesību aizsardzības iestādes konstatēja, ka šai personai uzticējās kā medicīnas speciālistam: šī persona ļaunprātīgi izmantoja aprūpējamos pacientus ar šī amata palīdzību un varēja tiešsaistē tieši piekļūt nepilngadīgām personām, kurām tā pieprasīja veidot materiālus ar seksuālu vardarbību pret bērniem.

Kā Google ģeneratīvā MI vidē novērš riskus, kas ir saistīti ar materiāliem, kuros ir redzama seksuāla vardarbība pret bērniem?

MI ģenerēti materiāli ar seksuālu vardarbību pret bērniem vai datora ģenerēti attēli, kuros attēlota seksuāla vardarbība pret bērniem, ir draudi, ko Google uztver ļoti nopietni. Identificējot un noņemot materiālus ar seksuālu vardarbību pret bērniem un ziņojot par tiem, mums vienmēr ir bijis jāstrādā ar neatbilstošu saturu, kurā attēlotas seksuāla rakstura darbībās iesaistītas reālas nepilngadīgas personas, ar modificētiem attēliem, kuros redzama identificējama nepilngadīga persona, kas ir iesaistīta seksuāla rakstura darbībās, un ar datora ģenerētiem attēliem, kurus ir praktiski neiespējami atšķirt no tādiem attēliem, kas atspoguļo reālas nepilngadīgas personas iesaistīšanu seksuāla rakstura darbībās.

Veidojot savus ģeneratīvā MI modeļus un produktus, Google pievērš īpašu uzmanību bērnu drošībai. Aizsargājot visus Google publiski pieejamos modeļus un pakalpojumus, kuru pamatā ir šie modeļi, mēs ievērojam Google atbildīgas ģeneratīvā MI izstrādes principus.

Savos ģeneratīvā MI modeļos un produktos izmantojam dažādus bērnu aizsardzības līdzekļus. Tostarp novēršam iespēju, ka modeļu apmācībai izmantotajos datos tiek iekļauti materiāli ar seksuālu vardarbību pret bērniem, kā arī ieviešam mehānismus, kas liedz izpildīt uzvednes, ar kurām tiek meklēti vai veidoti materiāli ar seksuālu vardarbību pret bērniem, kā arī novēršam likumiem neatbilstošu rezultātu sniegšanu.  Pirms publiskas izlaišanas arī īstenojam efektīvu bērnu aizsardzības pārbaudi, lai izprastu un mazinātu iespēju, ka tiek ģenerēti materiāli ar seksuālu vardarbību pret bērniem.

Tā kā šī tehnoloģija nemitīgi attīstās, mēs arī sadarbojamies ar citiem bērnu drošības ekosistēmas dalībniekiem, tostarp Technology Coalition (Tehnoloģiju apvienību) un bērnu drošības nevalstiskajām organizācijām, lai dalītos informācijā par paraugpraksi un to izprastu.

Ko Google dara, lai neļautu lietotājiem pakalpojumā Meklēšana meklēt materiālus ar seksuālu vardarbību pret bērniem?

Lai atturētu lietotājus no šādu materiālu meklēšanas pakalpojumā Meklēšana, Google izmanto integrētas drošības principus. Mūsu politika paredz bloķēt meklēšanas rezultātus, kuros ir saites uz materiāliem ar seksuālu vardarbību pret bērniem, kas šķiet atainojam bērnu seksuālu izmantošanu, apdraudēšanu vai citādu ļaunprātīgu izmantošanu. Lai apkarotu šos mainīgos apdraudējuma veidus, pastāvīgi atjauninām savus algoritmus. Ja meklēšanas vaicājums mūsu izpratnē ir paredzēts, lai meklētu saturu ar seksuālu vardarbību pret bērniem, mēs izmantojam papildu aizsargmehānismus. Ja šķiet, ka ar meklēšanas vaicājumu tiek meklēti materiāli ar seksuālu vardarbību pret bērniem, mēs filtrējam izteikti seksuāla rakstura rezultātus. Savukārt, ja ar meklēšanas vaicājumu tiek meklēts necenzēts, pieaugušajiem paredzēts saturs, pakalpojumā Meklēšana netiek atgriezti bērnu attēli, lai novērstu asociācijas starp bērniem un seksuāla rakstura saturu. Ja tiek identificēti materiāli ar seksuālu vardarbību pret bērniem, mēs ne tikai noņemam no Meklēšanas rādītāja saturu, kurā tiek izmantoti materiāli ar seksuālu vardarbību pret bērniem, bet arī samazinām visa satura redzamību vietnēs, kurās lielu daļu satura veido materiāli ar seksuālu vardarbību pret bērniem. Daudzās valstīs lietotājiem, kuru ievadītie vaicājumi ir nepārprotami saistīti ar materiāliem ar seksuālu vardarbību pret bērniem, tiek parādīts pamanāms brīdinājums par to, ka attēli ar seksuālu vardarbību pret bērniem ir nelikumīgi, un informācija par to, kā ziņot uzticamām organizācijām par šo saturu. Esam konstatējuši, ka lietotāji retāk turpina šādu materiālu meklējumus, ja tiek parādīti šādi brīdinājumi.

Kā Google palīdz uzlabot bērnu drošības ekosistēmu, lai apkarotu materiālus, kuros redzama seksuāla vardarbība pret bērniem?

Google bērnu drošības komanda izstrādā tehnoloģijas, kas precīzi konstatē un noņem materiālus ar seksuālu vardarbību pret bērniem un ziņo par šiem materiāliem, lai aizsargātu mūsu lietotājus un neļautu Google produktos kaitēt bērniem. Lai nozarē nodrošinātu plašāku piekļuvi šai efektīvajai tehnoloģijai un pēc iespējas neļautu tiešsaistē izplatīt materiālus ar seksuālu vardarbību pret bērniem, mēs izstrādājām Bērnu drošības rīkkopu . Mēs arī nodrošinām organizācijai NCMEC Google Jaucējvērtību atbilstības noteikšanas API, lai palīdzētu tai efektīvāk noteikt CyberTipline ziņojumu prioritāti un pārskatīt šos ziņojumus, koncentrējoties uz ziņojumiem par bērniem, kuriem nepieciešama tūlītēja palīdzība. 

Mēs arī kopīgojam signālus, kas liecina par seksuālu vardarbību pret bērniem un bērnu ļaunprātīgu izmantošanu, lai sekmētu, ka materiāli ar seksuālu vardarbību pret bērniem tiek noņemti pēc iespējas plašākā ekosistēmas mērogā. NCMEC nozares jaucējvērtību datubāzē iesniedzam miljoniem jaucējvērtību, kas identificē materiālus ar seksuālu vardarbību pret bērniem, lai arī citi pakalpojumu sniedzēji tām var piekļūt un tās izmantot. Tā kā ļaunprātīgajām darbībām var tikt izmantotas dažādas platformas un pakalpojumi, mēs arī uzsākām dalību programmā Project Lantern, kurā tehnoloģiju uzņēmumi var kopīgot atbilstošus signālus, lai drošā un atbildīgā veidā apkarotu seksuālu vardarbību un ļaunprātīgu izmantošanu tiešsaistē.

Turklāt mēs aktīvi piedalāmies vairākās apvienībās, kurās uzņēmumi un NVO kopīgi izstrādā risinājumus, lai traucētu tiešsaistē pārsūtīt materiālus ar seksuālu vardarbību pret bērniem un novērstu bērnu seksuālu izmantošanu, piemēram, šādās apvienībās: Technology Coalition (Tehnoloģiju apvienībā), WeProtect Global Alliance (globālajā aliansē WeProtect) un INHOPE (Starptautiskajā interneta uzticības līniju asociācijā). Uzņēmums Google dalību šajās apvienībās uzskata par prioritāti, un sadarbībā ar tādām nevalstiskajām organizācijām kā NCMEC un Thorn mēs dalāmies savās zināšanās, pētām paraugpraksi un uzzinām vairāk par jaunākajiem draudiem galvenajos bērnu drošības jautājumos.

Kā valsts aģentūras var nosūtīt uzņēmumam Google juridiskus pieprasījumus, kas saistīti ar CyberTip ziņojumu?

Kad organizācija NCMEC ir saņēmusi ziņojumu, tā var to pārsūtīt tiesību aizsardzības iestādēm dažādās pasaules valstīs. Pēc tam tiesību aizsardzības iestādes var nosūtīt uzņēmumam Google tiesisku līdzekli (Tiesībaizsardzības pieprasījumu sistēma — TPS), lai iegūtu plašāku informāciju. Lai atvieglotu šādu pieprasījumu iesniegšanu, Google nodrošina tiešsaistes sistēmu, kurā verificētas valsts aģentūras var drošā veidā iesniegt plašākas informācijas pieprasījumus. Pēc tam šīs aģentūras var minētajā tiešsaistes sistēmā skatīt iesniegto pieprasījumu statusu un visbeidzot lejupielādēt Google atbildes uz saviem pieprasījumiem. Lai uzzinātu vairāk par TPS vai izveidotu TPS kontu, apmeklējiet vietni lers.google.com. Plašāku informāciju varat skatīt mūsu politiku sadaļā Kā Google apstrādā lietotāju informācijas pieprasījumus no valsts iestādēm.

 Kā varu ziņot, ja man ir aizdomas par materiāliem ar seksuālu vardarbību pret bērniem?

Ja atrodat saiti, tīmekļa vietni vai jebkāda veida saturu, kas uzskatāms par materiāliem ar seksuālu vardarbību pret bērniem, varat par to ziņot policijai, organizācijai NCMEC vai atbilstošai vietējai organizācijai. Ja Google produktos pamanāt neatbilstošu ar bērniem saistītu saturu vai novērojat vai piedzīvojat neatbilstošu izturēšanos pret bērniem, varat par to ziņot mums, tostarp ziņot par bērnu apdraudējumu (piemēram, pavedināšanu, seksuāla rakstura izspiešanu, cita veida bērnu seksuālu izmantošanu), kas tiek īstenota Google produktos. Varat novērst saziņu ar jūsu bērnu Google produktos un filtrēt bērnam redzamo saturu, pārvaldot bērna Google konta iestatījumus.

Kuras komandas pārskata ziņojumus par materiāliem ar seksuālu vardarbību pret bērniem?

Manuāla pārskatīšana ir būtiska daļa no mūsu centieniem apkarot materiālus, kuros redzama seksuāla vardarbība pret bērniem. Mūsu komandas dalībnieki ir pieredzējuši speciālisti ar šo darbu saistītās jomās, piemēram, jurisprudencē, bērnu drošībā un bērnu tiesību aizsardzībā, sociālajā palīdzībā un kiberizmeklēšanā. Viņi ir saņēmuši īpašu apmācību gan par mūsu politiku tvērumu, gan par to, kā juridiski tiek definēti materiāli ar seksuālu vardarbību pret bērniem. Pārskatītāju komandas ir īpaši apmācītas un saņem atbalstu garīgās veselības aprūpei. Plašāku informāciju par Google pieeju satura regulēšanai, tostarp par to, kā rūpējamies par pārskatītāju garīgo veselību, skatiet šeit.

Kāds laika periods ir raksturots šajā pārskatā?

Ja nav norādīts citādi, šeit iekļautā metrika attiecas uz datiem, kas vākti no 1. janvāra (plkst. 00:00 pēc Klusā okeāna ziemas laika) līdz 30. jūnijam (plkst. 23:59 pēc Klusā okeāna vasaras laika) un no 1. jūlija (plkst. 00:00 pēc Klusā okeāna vasaras laika) līdz 31. decembrim (plkst. 23:59 pēc Klusā okeāna ziemas laika).