Obtén informació sobre com ajuden les aplicacions de Gemini a protegir els usuaris contra el contingut maliciós i els atacs d'injecció d'indicacions.
Contingut maliciós i injecció d'indicacions a la IA generativa
De manera semblant al que passa amb les amenaces relacionades amb el contingut i el correu electrònic, com ara els atacs de programari maliciós i de pesca de credencials, les amenaces de seguretat poden anar dirigides a les eines d'IA generativa. La injecció d'indicacions és un intent de provocar que les eines d'IA generativa generin una resposta no intencionada o perjudicial. Els atacants poden cometre la injecció d'indicacions no només enviant consultes directament, sinó també compartint contingut maliciós amb un usuari que, després, farà referència a aquest contingut maliciós de manera involuntària en indicacions fetes en eines d'IA generativa, com ara a les aplicacions de Gemini o a Gemini per a Workspace.
Per tal de protegir els usuaris de Gemini, Google utilitza mesures de seguretat avançades destinades a identificar contingut perillós i sospitós.
Com ajuda Google a detectar el contingut maliciós i la injecció d'indicacions
Per protegir-te del contingut maliciós i de la injecció d'indicacions, és possible que les aplicacions de Gemini bloquegin algunes entrades si es detecta activitat sospitosa.
Què passa quan Gemini identifica activitat relacionada amb una indicació que podria ser sospitosa
- Les aplicacions de Gemini envien una notificació per advertir que el contingut té riscos de seguretat.
- De vegades, no es pot utilitzar cap part del contingut per generar una resposta.
- De vegades, només s'utilitza part del contingut per generar una resposta, i Gemini exclou el contingut sospitós.
Per exemple, si demanes a les aplicacions de Gemini que resumeixin els missatges de correu electrònic i un d'aquests missatges té contingut maliciós, és possible que Gemini no respongui a la indicació per motius de seguretat.
Ajudar a evitar el contingut no segur
Parar atenció a l'hora d'interaccionar amb contingut d'una persona desconeguda
- Tingues en compte els advertiments de Google sobre el contingut que reps en altres eines, com ara Gmail.
- Evita fer clic en enllaços de fonts no fiables.
- Ves amb compte quan interaccionis amb contingut compartit, com ara xats públics d'aplicacions de Gemini o aplicacions web de Gemini Canvas, de proveïdors desconeguts.
Contingut maliciós i injeccions d'indicacions a la IA generativa
Si reps una resposta que no és precisa o que no et sembla segura, pots proporcionar comentaris des de la mateixa resposta per fer-nos-ho saber.
Obtén informació sobre com pots informar d'un problema amb les aplicacions de Gemini.