Kebijakan Konten Buatan AI Google Play membantu memastikan bahwa konten buatan AI aman bagi semua pengguna. Untuk melindungi keamanan pengguna, developer harus menyertakan mekanisme pengamanan tertentu di aplikasi mereka. Artikel ini membagikan praktik terbaik yang dapat diterapkan developer untuk memastikan aplikasi mereka mematuhi kebijakan.
Ringkasan
Developer bertanggung jawab untuk memastikan bahwa aplikasi AI generatif mereka tidak menghasilkan konten menyinggung, termasuk konten terlarang yang tercantum dalam kebijakan Konten Tidak Pantas Google Play, konten yang dapat mengeksploitasi atau melecehkan anak-anak, dan konten yang dapat menipu pengguna atau memfasilitasi perilaku yang tidak jujur. Aplikasi AI generatif juga harus mematuhi semua kebijakan lainnya di Pusat Kebijakan Developer kami.
Praktik Terbaik
Developer harus menerapkan pengamanan konten dalam membuat aplikasi AI generatif untuk memastikan keamanan pengguna. Hal ini mencakup penerapan praktik pengujian dan keamanan yang sesuai dengan standar industri.
Untuk mengetahui cara terbaik melakukan pengujian keamanan, developer dianjurkan untuk merujuk ke Secure AI Framework (SAIF) Google, dan Panduan Pengujian Red Team untuk AI Generatif dari OWASP Top 10 for LLM Applications & Generative AI Project (Alternatifnya: OWASP Top 10 for LLM & Gen AI Project).
Ada berbagai cara untuk memastikan keamanan konten di aplikasi AI generatif Anda, seperti menggunakan filter dan pengklasifikasi untuk memblokir input dan output berbahaya. Banyak penyedia model AI memublikasikan referensi untuk developer tentang cara menerapkan mekanisme pengamanan ini. Berikut adalah link ke beberapa penawaran dan panduan keamanan konten dari berbagai penyedia untuk referensi: