Pelajari cara Aplikasi Gemini membantu melindungi pengguna dari serangan injeksi perintah dan konten berbahaya.
Injeksi perintah & konten berbahaya di AI generatif
Serupa dengan ancaman email dan konten seperti serangan malware dan phishing, ancaman keamanan dapat menargetkan alat AI generatif. Injeksi perintah adalah upaya untuk mendapatkan respons yang tidak disengaja atau membahayakan dari alat AI generatif. Penyerang mungkin melakukan injeksi perintah tidak hanya dengan mengirim kueri secara langsung, tetapi juga dengan membagikan konten berbahaya kepada pengguna, yang kemudian tanpa sengaja mereferensikan konten berbahaya ini dalam perintah di alat AI generatif seperti Aplikasi Gemini atau Gemini untuk Workspace.
Untuk membantu melindungi pengguna Gemini, Google menggunakan langkah-langkah pengamanan lanjutan untuk mengidentifikasi konten yang berisiko dan mencurigakan.
Cara Google membantu mendeteksi injeksi perintah & konten berbahaya
Untuk membantu melindungi Anda dari injeksi perintah dan konten berbahaya, Aplikasi Gemini mungkin memblokir sejumlah input jika terdeteksi aktivitas yang mencurigakan.
Saat Gemini mengidentifikasi aktivitas yang terkait dengan perintah yang mungkin mencurigakan
- Aplikasi Gemini memberikan notifikasi peringatan bahwa konten memiliki risiko keamanan
- Terkadang tidak ada konten yang dapat digunakan untuk menghasilkan respons
- Terkadang hanya sebagian konten yang digunakan untuk menghasilkan respons, karena konten yang mencurigakan dikecualikan oleh Gemini
Misalnya, jika Anda meminta Aplikasi Gemini untuk merangkum pesan email, dan salah satu pesan email tersebut berisi konten berbahaya, Gemini mungkin tidak akan merespons perintah Anda karena alasan keselamatan.
Membantu menghindari konten yang tidak aman
Perhatikan saat berinteraksi dengan konten dari seseorang yang tidak Anda kenal
- Perhatikan peringatan dari Google terkait konten yang Anda terima di alat lain seperti Gmail
- Hindari mengklik link dari sumber yang tidak tepercaya
- Berhati-hatilah saat berinteraksi dengan konten yang dibagikan oleh penyedia yang tidak dikenal, seperti aplikasi web Gemini Canvas atau percakapan Aplikasi Gemini yang bersifat publik
Injeksi perintah dan konten berbahaya di AI generatif
Jika Anda menerima respons yang tidak akurat atau yang menurut Anda tidak aman, Anda dapat memberikan masukan tentang respons tersebut untuk memberi tahu kami.