La política de contenido generado por IA de Google Play ayuda a asegurar que el contenido generado por IA sea seguro para todos los usuarios. Para proteger la seguridad de los usuarios, los desarrolladores deben incorporar determinadas medidas de protección en sus aplicaciones. En este artículo se describen las prácticas recomendadas que pueden adoptar los desarrolladores para que sus aplicaciones cumplan las políticas.
Descripción general
Los desarrolladores deben asegurarse de que sus aplicaciones de IA generativa no generen contenido ofensivo, como el contenido prohibido incluido en las políticas de contenido inapropiado de Google Play, contenido que pueda facilitar la explotación o el abuso infantil o contenido que pueda engañar a los usuarios o facilitar conductas fraudulentas. Las aplicaciones de IA generativa también deben cumplir todas las demás políticas de nuestro Centro de Políticas para Desarrolladores.
Prácticas recomendadas
Los desarrolladores deben adoptar medidas de protección de contenido al crear sus aplicaciones de IA generativa para asegurar la seguridad de los usuarios. Esto incluye la adopción de prácticas de pruebas y seguridad en consonancia con los estándares del sector.
Para saber cómo llevar a cabo pruebas de seguridad de la mejor forma posible, se recomienda a los desarrolladores que consulten el Marco para la IA Segura (SAIF) de Google y la guía de equipo rojo de la IA generativa de OWASP Top 10 para Aplicaciones de Modelos de Lenguaje Grandes y de IA Generativa.
Hay varias formas de consolidar la seguridad del contenido en tu aplicación de IA generativa, como adoptar filtros y clasificadores para bloquear entradas y salidas dañinas. Muchos proveedores de modelos de IA publican recursos para desarrolladores sobre cómo adoptar estas protecciones. A continuación, se incluyen enlaces a algunas de las ofertas y guías de seguridad de contenido de diferentes proveedores para que puedas consultarlos: