Obteniu informació sobre com ajuda Google Workspace amb Gemini a protegir els usuaris contra el contingut maliciós i els atacs d'injecció d'indicacions.
Contingut maliciós i injecció d'indicacions a la IA generativa
De manera semblant al que passa amb les amenaces relacionades amb el contingut i el correu electrònic, com ara el programari maliciós i els atacs de pesca de credencials, les amenaces de seguretat poden anar dirigides a les eines d'IA generativa. La injecció d'indicacions és un intent de provocar que les eines d'IA generativa generin una resposta no intencionada o perjudicial. Els atacants poden cometre la injecció d'indicacions no només enviant consultes directament, sinó també compartint contingut maliciós amb un usuari que, després, farà referència a aquest contingut maliciós de manera involuntària en indicacions fetes en eines d'IA generativa, com ara a les aplicacions de Gemini o a Google Workspace amb Gemini.
Per ajudar a protegir els usuaris de Gemini, Google utilitza mesures de seguretat avançades destinades a identificar contingut perillós i sospitós.
Com detecta Google el contingut maliciós i la injecció d'indicacions
Per protegir-vos del contingut maliciós i de la injecció d'indicacions, és possible que Gemini a Workspace filtri o bloquegi algunes respostes si es detecta activitat maliciosa.
Què passa quan Gemini identifica activitat relacionada amb una indicació que podria ser maliciosa
- Gemini a Workspace us avisa que el contingut té riscos de seguretat.
- De vegades, no es pot utilitzar cap part del vostre contingut per generar una resposta.
- De vegades, només s'utilitza part del vostre contingut per generar una resposta, i Gemini exclou el contingut maliciós.
Per exemple, si demaneu a Gemini a Gmail que resumeixi els missatges de correu electrònic i un d'aquests missatges té contingut maliciós, és possible que Gemini no respongui a la indicació per motius de seguretat.
Ajudar a evitar el contingut no segur
Parar atenció en interaccionar amb contingut d'una persona desconeguda
- Tingueu en compte els advertiments de Google sobre el contingut que rebeu en altres eines, com ara Gmail.
- Eviteu fer clic en enllaços de fonts no fiables.
- Aneu amb compte quan interaccioneu amb contingut compartit de remitents desconeguts, com ara fitxers de Drive.
Informar de missatges maliciosos a Gmail
Si rebeu un missatge o un URL enganyós a Gmail, podeu informar-ne com a pesca de credencials; és a dir, un intent de robar informació personal utilitzant correus electrònics, missatges, anuncis o llocs web enganyosos que semblen legítims. Per exemple, és possible que un correu electrònic de pesca de credencials sembli que prové del banc i us sol·liciti informació privada sobre el vostre compte bancari. Obteniu informació sobre com podeu informar de pesca de credencials a Gmail.
Informar de documents maliciosos a Documents i Drive
Si rebeu documents, fitxers, imatges i altres continguts maliciosos a Documents i Drive, podeu informar-ne. Obteniu informació sobre com podeu informar de contingut abusiu.
Informar de comportament maliciós a les aplicacions de Gemini a Workspace
Si rebeu una resposta que no és precisa o que no us sembla segura, podeu enviar suggeriments des de la mateixa resposta per fer-nos-ho saber. Obteniu informació sobre com podeu informar d'un ús abusiu a Gemini en aplicacions de Workspace.