Syftet med Google Plays policy för AI-genererat innehåll är att göra AI-genererat innehåll säkert för alla användare och att utvecklarna använder feedback från användarna för att innovera så ansvarsfullt som möjligt.
Översikt
Utvecklarna ansvarar för att deras generativa AI-appar inte genererar stötande innehåll, inklusive innehåll som är förbjudet enligt Google Plays policyer för olämpligt innehåll, innehåll som kan utnyttja eller skada barn eller innehåll som kan vilseleda användarna eller möjliggöra ohederligt beteende. Generativa AI-appar ska även efterleva alla andra policyer som finns i vårt policycenter för utvecklare.
Policyn för AI-genererat innehåll omfattar AI-genererat innehåll som genereras av en kombination av text-, röst- och bildpromptar, inbegripet men inte begränsat till följande typer av generativ AI-appar:
- Appar med text-till-text-AI-chattbotar där den AI-genererade interaktionen med chattboten är en central funktion i appen.
- Appar med text-till-bild, röst-till-bild och bild-till-bild som genererar bilder med hjälp av AI.
- Appar som skapar röst- och/eller videoinspelningar av verkliga personer med hjälp av AI.
Policyn är för närvarande inte avsedd att omfatta följande typer av appar med begränsad AI:
- Appar som endast står värd för AI-genererat innehåll och inte kan skapa innehåll med hjälp av AI, till exempel appar för sociala medier som inte innehåller funktioner för att generera AI-innehåll.
- Appar som står värd för användargenererat AI-innehåll omfattas av policyn för användargenererat innehåll.
- Appar som sammanfattar innehåll som inte har genererats av AI, till exempel sammanfattningar av sökresultat och dokument (t.ex. en sammanfattning av en bok), om appen endast består av sammanfattningsfunktionen.
- Produktivitetsappar som använder AI för att förbättra en befintlig funktion, till exempel e-postappar med e-postutkast som föreslås med AI.
Otillåtet AI-genererat innehåll är inbegripet men inte begränsat till följande exempel:
- AI-genererat sexuellt deepfake-material utan samtycke.
- Röst- eller videoinspelningar av verkliga personer som underlättar bedrägerier.
- Innehåll som har genererats för att uppmuntra skadligt beteende (till exempel farliga aktiviteter eller självskadebeteenden).
- Valrelaterat innehåll som bevisligen är vilseledande eller falskt.
- Innehåll som skapats för att underlätta mobbning och trakasserier.
- Generativ AI-appar som i första hand är avsedda för sexuell tillfredsställelse.
- AI-genererad officiell dokumentation som möjliggör ohederligt beteende.
- Skapande av skadlig kod.