Saiba como o Google Workspace com o Gemini ajuda a proteger os utilizadores contra conteúdo malicioso e ataques de injeção de comandos.
Conteúdo malicioso e injeção de comandos na IA generativa
À semelhança das ameaças de email e conteúdo, como software malicioso e ataques de phishing, as ameaças de segurança podem afetar ferramentas de IA generativa. A injeção de comandos é uma tentativa de obter uma resposta indesejada ou prejudicial de ferramentas de IA generativa. Os atacantes podem cometer injeção de comandos não só através do envio direto de pedidos, mas também através da partilha de conteúdo malicioso com um utilizador, que, em seguida, faz referência inadvertidamente a este conteúdo malicioso em comandos nas ferramentas de IA generativa, como as Apps Gemini ou o Google Workspace com o Gemini.
Para ajudar a proteger os utilizadores do Gemini, a Google usa medidas de segurança avançadas para identificar conteúdo arriscado e suspeito.
Como a Google deteta conteúdo malicioso e injeção de comandos
Para ajudar a proteger contra conteúdo malicioso e injeção de comandos, o painel lateral do Gemini pode filtrar ou bloquear algumas respostas caso seja detetada atividade maliciosa.
Quando o Gemini identifica atividade relacionada com um comando que pode ser malicioso
- O painel lateral do Gemini avisa que o conteúdo apresenta riscos de segurança.
- Por vezes, não é possível usar nenhum do seu conteúdo para gerar uma resposta.
- Por vezes, apenas parte do seu conteúdo é usado para gerar uma resposta, sendo o conteúdo malicioso excluído pelo Gemini.
Por exemplo, se pedir ao Gemini no Gmail para resumir mensagens de email e uma dessas mensagens incluir conteúdo malicioso, o Gemini pode não responder ao seu comando por motivos de segurança.
Ajude a evitar conteúdo inseguro
Preste atenção quando interagir com conteúdo de alguém que não conhece
- Tenha em atenção os avisos da Google sobre o conteúdo que recebe noutras ferramentas, como o Gmail.
- Evite clicar em links de fontes não fidedignas.
- Tenha cuidado quando interagir com conteúdo partilhado por remetentes desconhecidos, como ficheiros no Drive.
Denuncie mensagens maliciosas no Gmail
Se receber uma mensagem ou um URL fraudulento no Gmail, pode denunciá-lo como phishing. O phishing é uma tentativa de roubo de informações pessoais através de emails, mensagens, anúncios ou Websites enganadores que parecem legítimos. Um email de phishing pode, por exemplo, ser semelhante a um email enviado pelo seu banco e pedir informações privadas acerca da sua conta bancária. Saiba como denunciar phishing no Gmail.
Denuncie documentos maliciosos no Docs e no Drive
Se receber documentos, ficheiros, imagens e outros conteúdos maliciosos no Docs e no Drive, pode denunciá-los. Saiba como denunciar conteúdo abusivo.
Denuncie comportamento malicioso no Gemini nas apps do Workspace
Se receber uma resposta incorreta ou que não lhe pareça segura, pode enviar-nos o seu feedback sobre essa resposta. Saiba como denunciar abusos no Gemini nas apps do Workspace.