Google Play MI ģenerēta satura politika palīdz gādāt, ka MI ģenerēts saturs ir drošs visiem lietotājiem. Lai aizsargātu lietotājus, izstrādātājiem savās lietotnēs ir jāievieš noteikti drošības pasākumi. Šajā rakstā ir sniegti paraugprakses ieteikumi, ko izstrādātāji var izmantot, lai nodrošinātu savu lietotņu atbilstību.
Kopsavilkums
Izstrādātāji ir atbildīgi par to, lai viņu ģeneratīvā MI lietotnēs netiktu ģenerēts aizvainojošs saturs (tostarp aizliegts saturs, kas norādīts Google Play politikās par neatbilstošu saturu), saturs, ar kuru var ļaunprātīgi izmantot bērnus, un saturs, kas var maldināt lietotājus vai veicināt negodīgu rīcību. Ģeneratīvā MI lietotnēm ir jāatbilst arī visām pārējām mūsu izstrādātāju politiku centrā publicētajām politikām.
Paraugprakse
Lai gādātu par lietotāju drošību, izstrādātājiem ģeneratīvā MI lietotņu izveides laikā ir jāīsteno satura aizsardzības pasākumi. Tas ietver testēšanas un drošības prakses īstenošanu atbilstoši nozares standartiem.
Lai uzzinātu, kā vislabāk veikt drošības testēšanu, izstrādātājiem ir ieteicams skatīt Google vietni Secure AI Framework (SAIF) un GenAI Red Teaming Guide (Generatīvā MI “sarkanās komandas” vadlīnijas) no OWASP Top 10 for LLM Applications & Generative AI (LVM lietojumprogrammām un ģeneratīvajam MI) projekta alternatīvas “OWASP Top 10 for LLM & Gen AI”.
Ir vairāki veidi, kā gādāt par satura drošību ģeneratīvā MI lietotnē, piemēram, filtru un klasifikatoru izmantošana, lai bloķētu kaitīgu ievades un izvades saturu. Daudzi MI modeļu nodrošinātāji publicē resursus izstrādātājiem par to, kā īstenot šos drošības pasākumus. Tālāk ir pievienotas saites uz dažādu pakalpojumu sniedzēju satura drošības piedāvājumiem un ceļvežiem.