Mit der Richtlinie für KI-generierte Inhalte von Google Play soll dafür Sorge getragen werden, dass KI-generierte Inhalte für alle Nutzer sicher sind und dass Entwickler Nutzerfeedback berücksichtigen, um verantwortungsvolle Innovationen zu ermöglichen.
Übersicht
Entwickler sind dafür verantwortlich, dass ihre Apps mit generativer KI keine anstößigen Inhalte generieren. Dazu gehören unzulässige Inhalte, die in den Richtlinien zu unangemessenen Inhalten von Google Play aufgeführt sind, Inhalte mit möglichem Bezug auf die Ausbeutung oder den sexuellen Missbrauch von Kindern, und Inhalte, die Nutzer täuschen oder unlauteres Verhalten ermöglichen können. Apps mit generativer KI müssen auch allen anderen Richtlinien in unserer Richtlinienübersicht für Entwickler entsprechen.
Die Richtlinie für KI-generierte Inhalte deckt KI-generierte Inhalte ab, die durch eine beliebige Kombination von Text-, Sprach- und Bild-Prompts generiert werden, einschließlich, aber nicht beschränkt auf die folgenden Arten von Apps mit generativer KI:
- Text-zu-Text-Chatbot-Apps mit KI, bei denen die KI-generierte Chatbot-Interaktion eine zentrale Funktion der App ist
- Text-zu-Bild-, Sprache-zu-Bild- und Bild-zu-Bild-Apps, die mithilfe von KI Bilder generieren
- Apps, in denen mithilfe von KI Sprach- und/oder Videoaufnahmen von realen Personen erstellt werden
Die Richtlinie soll derzeit nicht die folgenden Arten von Apps abdecken, bei denen KI im begrenzten Umfang eingesetzt wird:
- Apps, die KI-generierte Inhalte ausschließlich hosten und keine Inhalte mithilfe von KI generieren können, z. B. Apps sozialer Medien, die keine Funktionen zur Generierung von KI-Inhalten enthalten
- Apps mit von Nutzern erstellten Inhalten, die KI-generierte Inhalte hosten – diese Apps unterliegen der Richtlinie für von Nutzern erstellte Inhalte
- Apps, in denen nicht von KI generierte Inhalte zusammengefasst werden, z. B. Suchergebnisse und Dokumente (etwa ein Buch), wenn die Zusammenfassungsfunktion die einzige Funktion der App ist
- Produktivitäts-Apps, die mithilfe von KI eine bestehende Funktion verbessern, z. B. E‑Mail-Apps mit von KI vorgeschlagenen E‑Mail-Entwürfen
Beispiele für nicht richtlinienkonforme KI-generierte Inhalte:
- KI-generierte nicht einvernehmliche sexuelle Deepfake-Darstellungen
- Sprach- oder Videoaufnahmen von realen Personen, die Betrug ermöglichen
- Inhalte, die generiert werden, um schädliches Verhalten zu fördern (z. B. gefährliche Aktivitäten oder selbstverletzendes Verhalten)
- Wahlbezogene Inhalte, die nachweislich irreführend oder falsch sind
- Inhalte, die Mobbing und Belästigung begünstigen
- Apps mit generativer KI, die in erster Linie der sexuellen Befriedigung dienen
- KI-generierte offizielle Dokumentationen, die unlauteres Verhalten ermöglichen
- Schädlicher Code