Het Beleid voor AI-gegenereerde content van Google Play is erop gericht ervoor te zorgen dat AI-gegenereerde content veilig is voor alle gebruikers en dat ontwikkelaars feedback van gebruikers opnemen om verantwoorde innovatie mogelijk te maken.
Overzicht
Ontwikkelaars zijn ervoor verantwoordelijk dat hun apps met generatieve AI geen aanstootgevende content genereren, waaronder verboden content die wordt vermeld in het Google Play-beleid voor ongepaste content, content die kinderen kan uitbuiten of misbruiken en content die gebruikers kan misleiden of oneerlijk gedrag mogelijk kan maken. Apps met generatieve AI moeten ook voldoen aan alle andere beleidsregels in ons Beleidscentrum voor ontwikkelaars.
Het beleid voor AI-gegenereerde content is van toepassing op AI-gegenereerde content die wordt gegenereerd door een combinatie van tekst-, spraak- en afbeeldingsprompts, inclusief maar niet beperkt tot de volgende typen apps met generatieve AI:
- AI-chatbot-apps voor tekst-naar-tekst waarin de interactie gegenereerd door de AI-chatbot een centrale functie van de app is.
- Apps voor tekst-naar-afbeelding, spraak-naar-afbeelding en afbeelding-naar-afbeelding die AI gebruiken om afbeeldingen te genereren.
- Apps die AI gebruiken om spraak- en/of video-opnamen van echte personen maken.
Het beleid is op dit moment niet bedoeld voor de volgende typen AI-apps met een beperkt bereik:
- Apps die alleen AI-gegenereerde content hosten en zelf geen content kunnen maken met AI, zoals socialmedia-apps die geen functies voor het maken van AI-content bevatten.
- Op apps met content van gebruikers (UGC) die AI-gegenereerde content hosten, is het beleid Door gebruikers gegenereerde content van toepassing.
- Apps die niet AI-gegenereerde content samenvatten, zoals samenvattingen van zoekresultaten en documentsamenvattingen (bijvoorbeeld een boek samenvatten), als de samenvattingsfunctie de enige functie van de app is.
- Productiviteitsapps die AI gebruiken om een bestaande functie te verbeteren, zoals e-mail-apps met door AI voorgestelde e-mailconcepten.
Voorbeelden van AI-gegenereerde content die het beleid schendt, zijn onder andere:
- AI-gegenereerd seksueel deepfake-materiaal zonder wederzijds goedvinden.
- Spraak- of video-opnamen van echte personen die scams mogelijk maken.
- Content die is gemaakt om schadelijk gedrag aan te moedigen (zoals gevaarlijke activiteiten en zelfverwonding).
- Verkiezingsgerelateerde content die aantoonbaar misleidend of onwaar is.
- Content die is gemaakt om kwetsend gedrag en intimidatie mogelijk te maken.
- Apps met generatieve AI die voornamelijk zijn bedoeld voor seksuele bevrediging.
- AI-gegenereerde officiële documentatie die oneerlijk gedrag mogelijk maakt.
- Het genereren van schadelijke code.