Google Play AI genereeritud sisu eeskirjad aitavad tagada, et AI genereeritud sisu oleks kõigile kasutajatele ohutu. Kasutajate ohutuse kaitsmiseks peaksid arendajad juurutama oma rakendustes teatud kaitsemeetmed. Selles artiklis kirjeldatakse häid tavasid, mida arendajad saavad oma rakenduste nõuetelevastavuse tagamiseks järgida.
Ülevaade
Arendajad on kohustatud tagama, et nende generatiivse AI rakendused ei looks solvavat sisu, sh Google Play sobimatu sisu eeskirjades loetletud keelatud sisu, laste ekspluateerimist või ärakasutamist võimaldav sisu ega sisu, mis võib kasutajaid petta või võimaldada ebaausat käitumist. Generatiivse AI rakendused peavad järgima ka kõiki muid meie arendaja eeskirjade keskuse eeskirju.
Head tavad
Arendajad peaksid oma generatiivse AI rakenduste loomisel rakendama sisu kaitsemeetmeid, et tagada kasutajate ohutus. See hõlmab testimis- ja turbetavade rakendamist, mis on kooskõlas valdkonnastandarditega.
Teavet selle kohta kuidas on kõige parem ohutust testida, leiavad arendajad Google'i turvalise AI raamistikust (SAIF) ja GenAI turvenõrkuste juhendist projektist OWASP Top 10 for LLM Applications & Generative AI. Alternatiiv: projekt OWASP Top 10 for LLM & Gen AI.
Teie generatiivse AI rakenduses sisuohutuse tagamiseks on mitu võimalust, nt filtrite ja klassifikaatorite rakendamine, et blokeerida kahjulikud sisendid ja väljundid. Paljud AI-mudelite pakkujad avaldavad arendajatele allikaid nende kaitsemeetmete juurutamise kohta. All on toodud viiteks mõned lingid eri pakkujate sisuohutuse pakkumiste ja juhendite juurde.