Målet med Google Play-retningslinjene om AI-generert innhold er å sikre at AI-generert innhold er trygt for alle brukere, og at utviklere innlemmer tilbakemeldinger fra brukerne, for å legge til rette for ansvarlig innovasjon.
Oversikt
Utviklerne har ansvaret for å sikre at appene deres med generativ AI ikke genererer støtende innhold, inkludert forbudt innhold som er oppført i Google Play-retningslinjene om upassende innhold, innhold som kan innebære utnyttelse eller misbruk av barn, og innhold som kan villede brukere eller bidra til uærlig atferd Apper med generativ AI må også overholde alle andre retningslinjer i retningslinjesenteret for utviklere.
Retningslinjene om AI-generert innhold omhandler AI-generert innhold som genereres av en hvilken som helst kombinasjon av tekst, tale og bildeforespørsler, inkludert, men ikke begrenset til, disse typene apper med generativ AI:
- apper for AI-chatroboter som bruker tekst til tekst, der interaksjoner med den AI-genererte chatroboten er en sentral funksjon i appen
- apper som konverterer tekst til bilder, tale til bilder eller bilder til bilder, der AI brukes til å generere bilder
- apper som lager tale- og/eller videoopptak av virkelige personer ved hjelp av AI
Foreløpig er ikke retningslinjene ment å dekke disse typene apper som bruker AI med begrenset omfang:
- apper som bare er vert for AI-generert innhold og ikke kan generere innhold ved hjelp av AI, for eksempel apper for sosiale medier som ikke har funksjoner for generering av AI-innhold
- apper med brukergenerert innhold som er vert for AI-generert innhold – disse er underlagt retningslinjene for brukergenerert innhold
- apper som lager oppsummeringer av innhold som ikke er AI-generert, for eksempel oppsummeringer av søkeresultater og dokumenter (for eksempel oppsummeringer av bøker), forutsatt at funksjonen for oppsummering er den eneste funksjonen i appen
- produktivitetsapper som bruker AI til å forbedre eksisterende funksjoner, for eksempel e-postapper med AI-genererte forslag til e-postutkast
Her er noen eksempler på AI-generert innhold som er i strid med retningslinjene:
- AI-generert digitalt manipulert seksuelt materiale uten samtykke
- tale- eller videoopptak av virkelige personer som tilrettelegger for svindel
- innhold som er generert for å oppmuntre til skadelig atferd (for eksempel farlige aktiviteter eller selvskading)
- valgrelatert innhold som beviselig er villedende eller usant
- innhold som er generert for å legge til rette for mobbing og trakassering
- apper med generativ AI hvor hovedformålet er seksuell tilfredsstillelse
- AI-generert offisiell dokumentasjon som kan bidra til uærlig atferd
- generering av skadelig kode