La política de contingut generat per IA de Google Play ajuda a garantir que aquest tipus de contingut sigui segur per a tots els usuaris. Per protegir la seguretat dels usuaris, els desenvolupadors han d'incorporar determinades mesures de seguretat a les seves aplicacions. Aquest article comparteix les pràctiques recomanades que els desenvolupadors poden adoptar per garantir que les aplicacions compleixin les polítiques.
Informació general
Els desenvolupadors són responsables de garantir que les seves aplicacions d'IA generativa no creïn contingut ofensiu, com ara el que es prohibeix a les polítiques de contingut inadequat de Google Play, contingut que pugui constituir explotació o maltractament infantil, ni contingut que pugui enganyar els usuaris o fomentar comportaments deshonestos. Les aplicacions d'IA generativa també han de complir la resta de polítiques del nostre Centre de polítiques per a desenvolupadors.
Pràctiques recomanades
Els desenvolupadors han d'adoptar mesures de seguretat de contingut en crear les seves aplicacions d'IA generativa per garantir la seguretat dels usuaris. Això inclou adoptar pràctiques de prova i de seguretat que estiguin alineades amb els estàndards del sector.
Per saber la millor manera de dur a terme les proves de seguretat, recomanem als desenvolupadors que consultin el marc d'IA segura (SAIF) de Google i la guia d'equip vermell de la IA generativa, inclòs a la llista d'OWASP amb els 10 riscos principals en projectes d'aplicacions de models de llenguatge extens (MLE) i d'IA generativa.
Hi ha diverses maneres de garantir la seguretat del contingut a l'aplicació d'IA generativa, com ara adoptar filtres i classificadors per bloquejar les entrades i les sortides perjudicials. Molts proveïdors de models d'IA publiquen recursos per a desenvolupadors sobre com poden adoptar aquestes mesures de seguretat. A continuació trobaràs enllaços a algunes de les guies i ofertes de seguretat del contingut de diferents proveïdors com a referència: