Käyttäjien luomalla sisällöllä tarkoitetaan sisältöä, jota käyttäjät lisäävät sovellukseen ja joka näkyy ainakin osalle sovelluksen käyttäjistä.
Sovelluksissa, jotka sisältävät käyttäjien luomaa sisältöä (mukaan lukien erikoistuneet selaimet tai asiakassovellukset, jotka ohjaavat käyttäjiä käyttäjien luoman sisällön alustalle), on käytettävä luotettavaa, tehokasta ja jatkuvaa käyttäjien luoman sisällön valvontaa, joka täyttää seuraavat ehdot:
- Edellyttää, että käyttäjät hyväksyvät sovelluksen käyttöehdot ja/tai käyttäjäkäytännön ennen sisällön luomista tai lataamista.
- Määrittelee käyttäjien luoman sopimattoman sisällön ja toiminnan (Google Play ‑kehittäjien ohjelmakäytäntöjen mukaisesti) ja kieltää ne sovelluksen käyttöehdoissa tai käyttäjäkäytännöissä.
- Valvoo käyttäjien luomaa sisältöä sisältötyypin edellyttämällä tavalla. Sovelluksissa täytyy olla sisäinen järjestelmä, jolla voi tehdä ilmoituksen käyttäjien luomasta sopimattomasta sisällöstä ja sopimattomista käyttäjistä sekä tarvittaessa estää kyseisiä käyttäjiä ja sisältöä. Erilaiset käyttäjien luoman sisällön käyttökokemukset voivat edellyttää erilaista moderaatiota. Esimerkki:
- Jos sovelluksissa on käyttäjien luomaa sisältöä, jossa tunnistetaan tiettyjä käyttäjäjoukkoja esimerkiksi käyttäjien todennuksen tai offline-tilassa tehtävän rekisteröinnin avulla (sovellukset, joita käytetään ainoastaan tietyssä oppilaitoksessa tai yrityksessä jne.), niissä on oltava sisällöstä ja käyttäjistä ilmoittamiseen käytettävä sovelluksen sisäinen toiminto.
- Käyttäjien luoman sisällön ominaisuuksien, jotka mahdollistavat tiettyjen käyttäjien välistä 1:1-kanssakäymistä (esimerkiksi viestejä, taggausta tai mainintaa), täytyy tarjota käyttäjien estämiseen käytettävä sovelluksen sisäinen toiminto.
- Jos sovellukset tarjoavat pääsyn julkiseen käyttäjien luomaan sisältöön (esimerkiksi somesovellukset tai bloggarisovellukset), niiden täytyy tarjota käyttäjistä ja sisällöstä ilmoittamiseen ja käyttäjien estämiseen käytettävä sovelluksen sisäinen toiminto.
- Lisätyn todellisuuden eli AR-sovellusten on käyttäjien luoman sisällön moderoinnissa (mukaan lukien sovelluksen sisäinen ilmoitusjärjestelmä) otettava huomioon sekä käyttäjien luoma sopimaton AR-sisältö (esim. avoimen seksuaalinen AR-kuva) että arkaluontoiset AR-ankkuripaikat (esim. AR-sisältö, joka on ankkuroitu sotilastukikohtaan, yksityiseen kiinteistöön, jossa ankkurointi voi aiheuttaa ongelmia kiinteistön omistajalle, tai muuhun alueeseen, jolle on rajoitettu pääsy).
- Tarjoaa suojatoimia, jotta sovelluksen sisäinen rahallistaminen ei rohkaise käyttäjää käyttäytymään sopimattomasti.
Satunnainen seksuaalinen sisältö
Seksuaalinen sisältö lasketaan satunnaiseksi, jos sitä näkyy käyttäjien luomaa sisältöä sisältävässä sovelluksessa, joka (1) tarjoaa pääsyn ensisijaisesti ei-seksuaaliseen sisältöön (2) eikä se mainosta tai suosittele seksuaalista sisältöä aktiivisesti. Laittomaksi määriteltyä seksuaalista sisältöä ja lapsia vaarantavaa sisältöä ei lasketa satunnaiseksi, eikä niitä sallita.
Sovellukset, joissa on käyttäjien luomaa sisältöä, saavat sisältää satunnaista seksuaalista sisältöä, jos kaikki alla olevat ehdot täyttyvät:
- Sisältö on oletuksena piilotettu sellaisten suodattimien taakse, joiden poistaminen käytöstä vaatii ainakin kaksi toimintoa käyttäjältä (esim. vaikealukuisen välimainoksen takana tai oletuksena poissa näkyvistä ellei SafeSearch ole poistettu käytöstä).
- Perhekäytännön määritelmän mukaisten lapsikäyttäjien pääsy sovellukseen on erikseen estetty ikävarmennusmenetelmillä, esimerkiksi neutraalin ikävarmennuksen tai sovellettavan lain mukaisen järjestelmän avulla.
- Sovellus vastaa tarkasti sisällön ikärajoituskyselyyn käyttäjien luomasta sisällöstä sisällön ikärajoituskäytännön mukaisesti.
Google Playsta poistetaan sovellukset, joiden ensisijainen tarkoitus on käyttäjien luoman sopimattoman sisällön tarjoaminen. Google Playsta poistetaan myös sovellukset, joiden ensisijaiseksi käyttötavaksi muodostuu käyttäjien luoman sopimattoman sisällön tarjoaminen tai jotka saavat käyttäjien keskuudessa tällaista sisältöä tarjoavan paikan maineen.
- Käyttäjien luoman seksuaalisen sisällön mainostaminen, mukaan lukien sellaisten maksullisten ominaisuuksien käyttöönotto tai salliminen, jotka ensisijaisesti kannustavat paheksuttavan sisällön jakamiseen
- Käyttäjien luomaa sisältöä tarjoavat sovellukset, joissa on puutteelliset turvatoimet erityisesti alaikäisiin kohdistuvan uhkailun, häirinnän tai kiusaamisen estämiseksi
- Sovellukseen sisältyvät viestit, kommentit tai valokuvat, jotka on ensisijaisesti tarkoitettu henkilön kiusaamiseen, häirintään tai pilkkaamiseen tai häneen kohdistuviin hyökkäyksiin
- Sovellukset, jotka jatkuvasti jättävät käsittelemättä käyttäjien valituksia haitallisesta sisällöstä