Le Règlement Google Play sur le contenu généré par IA vise à s'assurer que ce type de contenu est sûr pour tous les utilisateurs et que les développeurs intègrent les commentaires des utilisateurs afin de permettre une innovation responsable.
Présentation
Les développeurs sont tenus de s'assurer que leurs applications d'IA générative ne créent pas de contenu offensant, y compris du contenu interdit comme indiqué dans les règles Google Play sur le contenu inapproprié, du contenu susceptible d'exploiter ou de maltraiter des enfants ainsi que du contenu susceptible de tromper les utilisateurs ou de les inciter à un comportement malhonnête. Les applications d'IA générative doivent également respecter toutes les autres règles détaillées dans notre Centre d'informations réglementaires pour les développeurs.
Le règlement sur le contenu généré par IA couvre le contenu généré par IA à partir de n'importe quelle combinaison de requête (texte, voix et image), y compris, mais sans s'y limiter, les types d'applications d'IA générative suivants :
- Les applications de chatbot basé sur l'IA qui génèrent des réponses textuelles à des requêtes textuelles, et où l'interaction avec le chatbot générée par IA est une fonctionnalité centrale de l'application.
- Les applications qui utilisent l'IA pour générer des images à partir de requêtes exprimées sous différentes formes (texte, voix et image).
- Les applications qui créent des enregistrements vocaux et/ou vidéo de personnes réelles à l'aide de l'IA.
Pour le moment, ce règlement ne vise pas à couvrir les types d'applications d'IA ci-après dont le champ d'application est limité :
- Les applications qui hébergent simplement du contenu généré par IA et qui ne peuvent pas créer de contenu à l'aide de l'IA (par exemple, les applications de réseaux sociaux qui n'incluent pas de fonctionnalités de génération de contenu par IA)
- Les applications de contenu généré par les utilisateurs, qui hébergent du contenu généré par IA, sont soumises au règlement sur le contenu généré par l'utilisateur.
- Les applications qui résument du contenu non généré par IA, que ce soit des résumés de documents (celui d'un livre, par exemple) et de résultats de recherche, si la fonctionnalité de résumé est la seule fonctionnalité de l'application.
- Les applications de productivité qui utilisent l'IA pour améliorer une fonctionnalité existante, comme les applications de messagerie avec des brouillons d'e-mails suggérés par l'IA.
Voici quelques exemples de contenus générés par IA non conformes au règlement (liste non exhaustive) :
- Contenu à caractère sexuel créé sans autorisation via deepfake
- Enregistrements vocaux ou vidéo de personnes réelles, qui facilitent les escroqueries
- Contenu généré pour encourager un comportement dangereux (par exemple, des activités dangereuses ou l'automutilation)
- Contenu lié à des élections, qui est manifestement trompeur ou faux
- Contenu généré pour faciliter l'intimidation et le harcèlement
- Applications d'IA générative principalement destinées à apporter une gratification sexuelle
- Documentation officielle générée par IA qui incite à un comportement malhonnête
- Création de code malveillant