La política de Contenido Generado por IA de Google Play tiene como objetivo garantizar que el contenido generado por IA sea seguro para todos los usuarios y que los desarrolladores incorporen los comentarios de los usuarios para facilitar una innovación responsable.
Descripción general
Los desarrolladores son responsables de garantizar que sus apps de IA generativa no creen contenido ofensivo, incluido el contenido prohibido que se incluye en las políticas de Contenido Inapropiado de Google Play, el contenido de explotación o abuso infantil y el contenido que pueda engañar a los usuarios o promover comportamientos fraudulentos. Las apps de IA generativa también deben satisfacer todas las demás políticas de nuestro Centro de políticas para desarrolladores.
La política de Contenido Generado por IA abarca el contenido generado por IA que se crea a partir de cualquier combinación de entradas de texto, imagen y voz, incluidos, sin limitaciones, los siguientes tipos de apps de IA generativa:
- Apps de chatbot de IA de texto a texto, en las que la interacción generada por IA del chatbot es una función central de la app
- Apps de texto a imagen, de voz a imagen y de imagen a imagen que usan IA para generar imágenes
- Apps que crean grabaciones de voz o video de personas de la vida real a través de IA
Actualmente, la política no tiene como objetivo cubrir los siguientes tipos de apps de IA con alcance limitado:
- Apps que simplemente alojan contenido generado por IA y que no pueden crear ese tipo de contenido, como las de redes sociales que no incluyen funciones de generación de contenido de IA
- Las apps de CGU que alojan contenido generado por IA están sujetas a la política de Contenido Generado por Usuarios
- Apps que resumen contenido no generado por IA, como resúmenes de documentos (por ejemplo, el resumen de un libro) y de resultados de la búsqueda, si la función de resumen es la única función de la app
- Apps de productividad que usan IA para mejorar una función existente, como apps de correo electrónico con borradores de mensajes sugeridos por IA
Estos son algunos ejemplos de contenido generado por IA que incumple las políticas:
- Material sexual deepfake no consensuado generado por IA
- Grabaciones de voz o video de personas reales que faciliten estafas
- Contenido generado para fomentar comportamientos dañinos (por ejemplo, actividades peligrosas o autolesiones)
- Contenido electoral que se pueda demostrar que es engañoso o falso
- Contenido generado para facilitar el bullying y el acoso
- Apps de IA generativa destinadas principalmente a brindar placer de carácter sexual
- Documentación oficial generada por IA que promueva el comportamiento fraudulento
- Creación de código malicioso