Pravilima Google Playa o sadržaju koji je generirao AI nastoji se osigurati da sadržaj koji je generirao AI bude siguran za sve korisnike i da razvojni programeri uzmu u obzir povratne informacije korisnika kako bi se omogućilo odgovorno inoviranje.
Pregled
Razvojni programeri odgovorni su za to da njihove aplikacije generativnog AI-ja ne generiraju uvredljiv sadržaj, uključujući zabranjeni sadržaj naveden u pravilima Google Playa o neprimjerenom sadržaju, sadržaj koji bi mogao iskorištavati ili zlostavljati djecu i sadržaj koji može zavarati korisnike ili omogućiti nepoštena djelovanja. Aplikacije generativnog AI-ja također trebaju biti u skladu sa svim ostalim pravilima u našem centru za pravila za razvojne programere.
Pravila o sadržaju koji je generirao AI obuhvaćaju sadržaj koji je generirao AI, a koji se generira bilo kojom kombinacijom tekstualnih, glasovnih i slikovnih upita, uključujući, među ostalim, sljedeće vrste aplikacija generativnog AI-ja:
- chatbot aplikacije s primjenom umjetne inteligencije za izradu teksta na temelju teksta u kojima je interakcija s chatbotom koju je generirao AI središnja značajka aplikacije
- aplikacije za izradu slika na temelju teksta, glasovnog unosa ili slika koje upotrebljavaju umjetnu inteligenciju za generiranje slika
- aplikacije koje izrađuju glasovne i/ili videosnimke stvarnih osoba pomoću umjetne inteligencije.
Pravilo trenutačno nije namijenjeno pokrivanju sljedećih vrsta aplikacija s primjenom umjetne inteligencije ograničenog opsega:
- aplikacije koje samo hostaju sadržaj koji je generirao AI i ne mogu izrađivati sadržaj pomoću umjetne inteligencije, primjerice aplikacije za društvene mreže koje ne sadrže značajke za generiranje sadržaja uz primjenu umjetne inteligencije
- aplikacije za sadržaj koji izrađuju korisnici (UGC) koje hostaju sadržaj koji je generirao AI podliježu pravilima o sadržaju koji izrađuju korisnici
- aplikacije koje prikazuju sažetak sadržaja koji nije generirao AI, kao što su sažimanje rezultata pretraživanja i sažimanje dokumenata (na primjer, sažimanje knjige), ako je značajka sažimanja jedina značajka aplikacije
- aplikacije za učinkovitost koje upotrebljavaju umjetnu inteligenciju za poboljšanje postojeće značajke, kao što su aplikacije za e-poštu sa skicama e-poruka koje predlaže AI.
Primjeri sadržaja koji je generirao AI koji krši pravila uključuju, među ostalim, sljedeće:
- manipulirani seksualni materijal bez pristanka koji je generirao AI
- glasovne ili videosnimke stvarnih osoba koje omogućuju prijevare
- sadržaj koji se generira radi poticanja štetnog ponašanja (npr. opasne aktivnosti, samoozljeđivanje)
- sadržaj povezan s izborima koji je očigledno obmanjujući ili lažan
- sadržaj generiran s ciljem uznemiravanja i zlostavljanja
- aplikacije generativnog AI-ja namijenjene prvenstveno seksualnom zadovoljavanju
- službenu dokumentaciju koju je generirao AI i koja omogućuje nepošteno djelovanje
- izradu zlonamjernog koda.