Шта је то CSAM?
Који приступ Google има у борби против материјала са сексуалним злостављањем деце?
Како Google препознаје материјал са сексуалним злостављањем деце на својој платформи?
Пуно улажемо у борбу против сексуалног злостављања деце онлајн и користимо технологију да бисмо спречили и открили материјал са сексуалним злостављањем деце на нашим платформама и уклонили га са њих. То обухвата аутоматско откривање и преглед од стране људи, а ослањамо се и на извештаје које шаљу корисници и треће стране, попут невладиних организација. Користимо подударање хеша, укључујући YouTube CSAI подударање, да бисмо открили познати материјал са сексуалним злостављањем деце. Користимо и класификаторе машинског учења да бисмо открили материјал са сексуалним злостављањем деце који претходно није био виђен и који затим потврђују тимови стручњака за преглед. Откривање материјала са сексуалним злостављањем деце који претходно није био виђен помаже екосистему за заштиту деце на бројне начине, укључујући идентификацију деце жртава којима је потребна предострожна заштита и допринос хешевима садржаја да би се унапредиле наше могућности откривања познатог материјала са сексуалним злостављањем деце. Помоћу наших класификатора Google је направио Content Safety API који уступамо другима да би им помогао да утврде који садржај који приказује злостављање има приоритет за преглед од стране људи.
Технологија за подударање слика са сексуалном злоупотребом деце и Content Safety API доступни су правним лицима која испуњавају услове и која желе да се боре против злостављања на својим платформама. Више детаља потражите овде.
Шта Google предузима када открије материјал са сексуалним злостављањем деце на својој платформи?
У САД NCMEC служи као база података и свеобухватни центар за извештавање за питања у вези са злоупотребом деце. Када NCMEC добије извештај, може да га проследи полицијским службама широм света.
Шта је то извештај CyberTipline и које типове информације обухвата?
Када Google постане свестан евидентног материјала са сексуалним злостављањем деце, шаљемо извештај NCMEC-у. Ови извештаји се обично називају CyberTipLine извештаји или CyberTip-ови. Поред тога, покушавамо да откријемо случајеве физичког злостављања малолетника, израде материјала са сексуалним злостављањем деце или трговине децом. У тим случајевима NCMEC-у шаљемо додатни извештај CyberTip да бисмо дали приоритет одређеном случају. Извештај који се шаље NCMEC-у може да обухвата информације које идентификују корисника, малолетну жртву и може да обухвата садржај који крши смернице и/или друге корисне податке о контексту.
У наставку у наведени неки примери стварног утицаја CyberTip извештаја које је Google послао. Они пружају увид у широк опсег извештаја које правимо, али нису свеобухватни.
- Google Cybertip је пријавио бројне примере материјала са сексуалним злостављањем деце који обухватају децу из основне школе снимљену у учионицама. Део пријављеног материјала са сексуалним злостављањем деце Google претходно није идентификовао и изгледа да га је направио власник Google налога. NCMEC је проследио тај извештај органу за спровођење закона, што је довело до идентификације и предострожне заштите два малолетна детета која су приказана на пријављеним сликама са материјалом са сексуалним злостављањем деце.
- Google Cybertip је пријавио изнуђивање и прављење материјала са сексуалним злостављањем деце од стране власника налога, који је захтевао прављење бројних видео снимака који су приказивали директно злостављање десетине малолетних дечака у замену за новац. NCMEC је проследио тај извештај органу за спровођење закона. Власник тог налога је осуђен за прављење материјала са сексуалним злостављањем деце и неколико десетина деце је идентификовано и предострожно заштићено од континуираног насиља.
- Google Cybertip је пријавио материјал са сексуалним злостављањем деце који је направио власник Google налога и који је изнуђен од малолетника којима је власник налога имао онлајн приступ. Тај власник налога је касније ухапшен, а орган за спровођење закона је утврдио да је био на позицији од поверења као медицински радник: користио је ту позицију да би злостављао пацијенте који су му поверени на бригу и имао је директан приступ малолетницима онлајн од којих је изнуђивао прављење материјала са сексуалним злостављањем деце.
Како се Google бори против ризика од материјала са сексуалним злостављањем деце у простору генеративне вештачке интелигенције (GenAI)?
Материјал са сексуалним злостављањем деце који је генерисала вештачка интелигенција или слике које приказују сексуално злостављање деце које је генерисао рачунар представљају претњу коју Google схвата веома озбиљно. Рад на откривању, уклањању и пријављивању материјала са сексуалним злостављањем деце је увек обухватао садржај који крши смернице са стварним малолетницима, измењене слике малолетног лица које може да се идентификује у сексуално експлицитном понашању, као и слике које је генерисао рачунар и које се не разликују од стварног малолетног лица које учествује у таквом понашању.
Google ставља велики нагласак на безбедност деце приликом прављења сопствених модела и производа који користе генеративну вештачку интелигенцију. Придржавамо се Google принципа за одговорну генеративну вештачку интелигенцију у заштити свих Google јавно доступних модела и услуга направљених на основу тих модела.
Користимо разне мере заштите деце за моделе и производе генеративне вештачке интелигенције. То може да обухвата заштиту од присуства материјала са сексуалним злостављањем деце у подацима за обуку на којима се заснивају наши модели, од упита у којима се тражи и ствара материјал са сексуалним злостављањем деце и од резултата обраде који крше смернице. Пре него што их јавно објавимо, спроводимо опсежно тестирање безбедности деце на нашим моделима да бисмо разумели и ублажили могућност генерисања материјала са сексуалним злостављањем деце.
Сарађујемо и са другима у екосистему за безбедност деце, укључујући Technology Coalition и невладине организације за безбедност деце, да бисмо делили и разумели најбоље праксе док ова технологија наставља да се развија.
Шта Google ради да би одвратио кориснике од тражења материјала са сексуалним злостављањем деце у Претрази?
Како Google доприноси екосистему заштите деце борбом против материјала са сексуалним злостављањем деце?
Google тим за заштиту деце развија технологију која прецизно открива, пријављује и уклања материјал са сексуалним злостављањем деце ради заштите корисника и онемогућавања злостављања деце у Google производима. Развили смо алат за заштиту деце да бисмо обезбедили да и шири екосистем има приступ овој моћној технологији и да бисмо спречили онлајн умножавање материјала са сексуалним злостављањем деце. Поред тога, NCMEC-у пружамо Google Hash Matching API да бисмо им помогли да ефикасније одреде приоритет CyberTipline извештаја и прегледају их, што им омогућава да прецизно уоче извештаје који обухватају децу којој је одмах потребна помоћ.
Делимо и сигнале сексуалног злостављања и експлоатације деце да бисмо омогућили уклањање материјала са сексуалним злостављањем деце из ширег екосистема. Милионе хешева материјала са сексуалним злостављањем деце делимо са NCMEC-овом базом података да би и други добављачи могли да приступе тим хешевима и да их користе. Пријавили смо се и у Project Lantern, програм који омогућава технолошким компанијама да деле релевантне сигнале за борбу против онлајн сексуалног злостављања и експлоатације на безбедан и одговоран начин, имајући у виду да та злоупотреба може да се појави на различитим платформама и услугама.
Такође смо активан члан неколико коалиција, као што су Technology Coalition, WeProtect Global Alliance и INHOPE, које повезују компаније и невладине организације ради развоја решења која онемогућавају онлајн размену материјала са сексуалним злостављањем деце и спречавају сексуалну експлоатацију деце. Google даје приоритет учешћу у тим коалицијама, а у раду са невладиним организацијама као што су NCMEC и Thorn, делимо своју стручност, истражујемо најбоље праксе и сазнајемо више о најновијим претњама у вези са кључним питањима безбедности деце.