Minek a rövidítése a CSAM?
Hogyan áll hozzá a Google a gyermekekkel történő szexuális visszaéléssel kapcsolatos anyagokkal szembeni küzdelemhez?
Hogyan azonosítja a Google a gyermekekkel történő szexuális visszaéléssel kapcsolatos anyagokat a platformjain?
Jelentős erőfeszítéseket teszünk a gyermekek szexuális kizsákmányolása elleni online küzdelem érdekében, és a technológiánkat arra használjuk, hogy platformjainkon észleljük és eltávolítsuk a gyermekekkel történő szexuális visszaéléssel kapcsolatos anyagokat, illetve megakadályozzuk a terjesztésüket. Ennek része az automatizált észlelés és az ember általi felülvizsgálat, amellett, hogy hagyatkozunk a felhasználóink és a harmadik felek (pl. civil szervezetek) által beküldött jelentésekre is. Az ismert, gyermekekkel történő szexuális visszaéléssel kapcsolatos anyagok észlelésére használjuk a hash matching technológiát, például a YouTube gyermekekkel történő szexuális visszaélés ábrázolását figyelő CSAI Match funkcióját. Emellett gépi tanulással rendelkező osztályozó rendszereket is bevetünk a gyermekekkel történő szexuális visszaéléssel kapcsolatos, korábban még sosem látott anyagok felfedezéséhez. Ezeket az észleléseket a szakértőkből álló, felülvizsgálatot végző csapataink erősítik meg. A gyermekekkel történő szexuális visszaéléssel kapcsolatos, korábban még sosem látott anyagok észlelése különböző módokon segíti a gyermekek biztonságával kapcsolatos ökoszisztémát, például úgy, hogy azonosítja a védelemre szoruló gyermekkorú áldozatokat, és hozzájárul a kivonatkészlethez, amelynek köszönhetően fejlődhetünk a gyermekekkel történő szexuális visszaéléssel kapcsolatos ismert anyagok észlelésében. A Google az osztályozó rendszerei segítségével létrehozta a Content Safety API-t, amelyet mások rendelkezésére bocsátunk, hogy segítségével fontossági sorrendbe tudják állítani a visszaélésszerű tartalmakat az ember általi felülvizsgálat céljából.
A CSAI Match és a Content Safety API egyaránt rendelkezésre áll az olyan alkalmas entitások számára, melyek harcolni szeretnének platformjukon a visszaélésekkel szemben. További információ itt található.
Mit csinál a Google, ha gyermekekkel történő szexuális visszaéléssel kapcsolatos anyagokat észlel a platformjain?
Az NCMEC tájékoztató központként és átfogó jelentésközpontként szolgál az Egyesült Államokban a gyermekek kizsákmányolásával kapcsolatos problémák esetén. Miután az NCMEC megkapta a bejelentést, továbbíthatja a világ különböző részein illetékes rendvédelmi hatóságok számára.
Mi az a CyberTipline-jelentés, és milyen információkat tartalmaz?
Amint a Google látszólagos, gyermekekkel történő szexuális visszaéléssel kapcsolatos anyagról értesül, jelentést küld az NCMEC számára. A jelentésre gyakran használjuk a CyberTipline- vagy CyberTip-jelentés kifejezést. Igyekszünk továbbá azonosítani azokat az eseteket, amelyek kiskorúakat érintő fizikai bántalmazással, gyermekekkel történő szexuális visszaéléssel kapcsolatos anyagok létrehozásával vagy gyermekkereskedelemmel kapcsolatosak. Ilyen esetekben kiegészítő CyberTip-jelentést küldünk az NCMEC-nek, hogy segítsünk a probléma priorizálásában. Az NCMEC-nek küldött jelentés tartalmazhat a felhasználót és a kiskorú áldozatot azonosító információkat, valamint tartalmazhatja a jogsértő tartalmat és/vagy egyéb, kontextust biztosító hasznos tényeket.
Alább néhány példa látható arra, hogy milyen hatással voltak a való világra a Google által beküldött CyberTip-jelentések. A példák betekintést nyújtanak a bejelentéseink széles skálájába, de nem átfogó jellegűek.
- Egy Google Cybertip-jelentés számos, gyermekekkel történő szexuális visszaéléssel kapcsolatos anyagot tartalmazott, amelyek általános iskolás gyermekeket ábrázoltak osztálytermekben. A gyermekekkel történő szexuális visszaéléssel kapcsolatos bejelentett anyagok egy részét korábban még nem azonosította a Google, és látszólag a Google-fiók tulajdonosa készítette őket. Az NCMEC továbbította a jelentést a rendvédelmi szerveknek, aminek köszönhetően lehetségessé vált két kiskorú gyermek azonosítása és megvédése, akik a gyermekekkel történő szexuális visszaéléssel kapcsolatos bejelentett anyagokon voltak láthatók.
- Egy Google Cybertip-jelentés szerint egy fióktulajdonos gyermekekkel történő szexuális visszaéléssel kapcsolatos anyagokat kérelmezett és készített. Ez a fióktulajdonos számos olyan videó elkészítését kérte pénzért cserébe, amelyen tucatnyi kiskorú fiút fizikailag bántalmaztak. Az NCMEC továbbította a jelentést a rendvédelmi szerveknek. A fióktulajdonost elítélték a gyermekekkel történő szexuális visszaéléssel kapcsolatos anyagok készítéséért, és több tucat gyermeket azonosítottak és védtek meg folyamatos bántalmazástól.
- Egy Google CyberTip egyetlen ismert, gyermekekkel történő szexuális visszaéléssel kapcsolatos anyagról tartalmazott jelentést, ami a fióktulajdonos letartóztatásához vezetett. A rendvédelmi szervek szerint a fióktulajdonost sokkal több, gyermekekkel történő szexuális visszaéléssel kapcsolatos anyag birtokában találták, és közvetlenül érintett volt a gondozásában lévő kiskorúak fizikai bántalmazásában, valamint abban, hogy ezeknek a kiskorú gyermekeknek a bántalmazását másoknak is lehetővé tette. A Google, az NCMEC és a rendvédelmi szervek törekvéseinek köszönhetően három gyermeket megmentettek szexuális visszaélések elszenvedésétől.
- Egy Google Cybertip olyan, gyermekekkel történő szexuális visszaéléssel kapcsolatos anyagokról tartalmazott jelentést, amelyeket egy Google-fióktulajdonos készített, illetve kért kiskorúaktól, akikhez online fért hozzá. A fióktulajdonost később letartóztatták, és a rendvédelmi szervek megállapítása szerint bizalmi pozíciót töltött be egészségügyi szakemberként. Ezt a pozíciót arra használta fel, hogy bántalmazza a gondozásában lévő pácienseket, és közvetlen online hozzáféréssel rendelkezett kiskorúakhoz, akiktől gyermekekkel történő szexuális visszaéléssel kapcsolatos anyagok készítését kérte.
Hogyan küzd a Google a gyermekekkel történő szexuális visszaéléssel kapcsolatos anyagok kockázatai ellen a generatív AI (GenAI) működésének terében?
Az AI által létrehozott, gyermekekkel történő szexuális visszaéléssel kapcsolatos anyagok vagy a gyermekekkel történő szexuális visszaélést ábrázoló, számítógép által generált képek olyan fenyegetést jelentenek, amelyet a Google nagyon komolyan vesz. A gyermekekkel történő szexuális visszaéléssel kapcsolatos anyagok észlelésére, eltávolítására és jelentésére irányuló munkánk mindig is kiterjedt a tényleges kiskorúakat ábrázoló jogsértő tartalmakra, a nyílt szexuális magatartást tanúsító, azonosítható kiskorút ábrázoló, módosított képekre, valamint a számítógéppel generált olyan képekre, amelyek megkülönböztethetetlenek az ilyen magatartást tanúsító tényleges kiskorúaktól.
A Google nagy hangsúlyt fektet a gyermekek biztonságára, amikor saját GenAI-modelljeit és -termékeit hozza létre. A Google nyilvánosan rendelkezésre álló modelljeinek és az ezekre a modellekre épülő szolgáltatásoknak a védelme érdekében a Google felelős generatív AI-ra vonatkozó alapelveit követjük.
GenAI-modelljeinkhez és -termékeinkhez különféle gyermekbiztonsági védelmi megoldásokat alkalmazunk. Ide tartozhat a gyermekekkel történő szexuális visszaéléssel kapcsolatos anyagoknak a modelljeink alapjául szolgáló képzési adatokban való jelenléte, a gyermekekkel történő szexuális visszaéléssel kapcsolatos anyagok keresését és készítését szolgáló utasítások és az irányelvsértő kimenetek elleni védelem. A nyilvános bevezetés előtt komoly gyermekbiztonsági teszteket is végzünk a modelljeinken, hogy megértsük és csökkentsük a gyermekekkel történő szexuális visszaéléssel kapcsolatos anyagok létrehozásának lehetőségét.
A gyermekbiztonsági ökoszisztéma más tagjaival – például a Technology Coalition szervezettel és a gyermekek biztonságával foglalkozó civil szervezetekkel – is együttműködünk a legjobb gyakorlatok megosztása és megértése érdekében, mivel ez a technológiai megoldás folyamatosan fejlődik.
Mit tesz a Google annak megakadályozása érdekében, hogy a felhasználók gyermekekkel történő szexuális visszaéléssel kapcsolatos anyagokat keressenek a Keresőben?
Hogyan járul hozzá a Google a gyermekbiztonsági ökoszisztémához a gyermekekkel történő szexuális visszaéléssel kapcsolatos anyagok elleni küzdelem érdekében?
A Google gyermekbiztonsági csapata olyan technológiák fejlesztésén dolgozik, amelyek pontosan észlelik, jelentik és eltávolítják a gyermekekkel történő szexuális visszaéléssel kapcsolatos anyagokat annak érdekében, hogy megvédjék a felhasználóinkat, és megakadályozzák, hogy gyermekeknek bántódásuk eshessen a Google termékeiben. A Gyermekvédelmi eszközkészletet azért fejlesztettük ki, hogy a szélesebb ökoszisztéma is hozzáférhessen ehhez a hatékony műszaki megoldáshoz, valamint hogy megakadályozzuk a gyermekekkel történő szexuális visszaéléssel kapcsolatos anyagok online terjesztését. Emellett az NCMEC rendelkezésére bocsátjuk a Google Hash Matching API-ját, amely segítséget nyújt a CyberTipline-jelentések priorizálásához és hatékonyabb felülvizsgálatához – így azokra a bejelentésekre koncentrálhatnak, amelyek az azonnali segítségre szoruló gyermekekkel kapcsolatosak.
Emellett a gyermekekkel történő szexuális visszaélésnek és a gyermekek kizsákmányolásának jelzéseit is megosztjuk, hogy lehetővé tegyük a gyermekekkel történő szexuális visszaéléssel kapcsolatos anyagok eltávolítását a tágabb ökoszisztémából. Az NCMEC iparági kivonat-adatbázisával a gyermekekkel történő szexuális visszaéléssel kapcsolatos anyagok több millió kivonatát osztjuk meg, hogy más szolgáltatók is hozzáférhessenek ezekhez a kivonatokhoz, és felhasználhassák őket. Csatlakoztunk továbbá a Project Lantern nevű programhoz is, amely lehetővé teszi a technológiai vállalatok számára, hogy az online szexuális visszaélések és kizsákmányolás elleni biztonságos és felelősségteljes küzdelem érdekében megosszák a releváns jelzéseket, mivel e vállalatok megértik, hogy az ilyen visszaélés áthatja a különböző platformokat és szolgáltatásokat.
Emellett számos olyan koalíció (pl. a Technology Coalition, a WeProtect Global Alliance és az INHOPE) tevékeny tagja is vagyunk, amelyek közös nevezőre hozzák a vállalatokat és a civil szervezeteket olyan megoldások kifejlesztése céljából, amelyek megakadályozzák a gyermekekkel történő szexuális visszaéléssel kapcsolatos anyagok online terjesztését, és megelőzik a gyermekek szexuális kizsákmányolását. A Google kiemelten kezeli az ezekben a koalíciókban való részvételt, és a civil szervezetekkel (így például az NCMEC-vel és a Thornnal), folytatott munkánk során megosztjuk szakismereteinket, feltárjuk a bevált módszereket, és többet tudunk meg a kulcsfontosságú gyermekbiztonsági kérdésekkel kapcsolatos legújabb fenyegetésekről.