Saiba como o Google Workspace com o Gemini ajuda a proteger os usuários contra conteúdo malicioso e ataques de injeção de comando.
Conteúdo malicioso e injeção de comandos na IA generativa
Assim como as ameaças de e-mail e de conteúdo (malware e ataques de phishing, por exemplo), as ameaças de segurança podem ser direcionadas a ferramentas de IA generativa. A injeção de comandos é uma tentativa de fazer essas ferramentas criarem respostas indesejadas ou prejudiciais. Além de realizarem injeções de comandos enviando consultas diretamente, os invasores também podem compartilhar conteúdo malicioso com um usuário. Essa pessoa depois pode citar, de forma não intencional, as informações que recebeu em comandos para as ferramentas de IA generativa, como os apps do Gemini e o Google Workspace com o Gemini.
Para proteger os usuários do Gemini, o Google usa medidas de segurança avançadas para identificar conteúdo arriscado e suspeito.
Como o Google detecta conteúdo malicioso e injeção de comandos
Para proteger você contra conteúdo malicioso e injeção de comandos, o Gemini no Workspace pode filtrar ou bloquear algumas respostas se uma atividade maliciosa for detectada.
Quando o Gemini identifica uma atividade relacionada a um comando que pode ser malicioso:
- O Gemini no Workspace avisa que o conteúdo tem riscos de segurança.
- Às vezes, nenhum conteúdo é usado para gerar uma resposta.
- E às vezes, apenas parte dele é usada para gerar uma resposta, com o conteúdo malicioso excluído pelo Gemini.
Por exemplo, se você pedir para o Gemini no Gmail resumir mensagens de e-mail e uma delas tiver conteúdo malicioso, o Gemini poderá não responder à solicitação por motivos de segurança.
Ajudar a evitar conteúdo que não é seguro
Cuidado ao interagir com conteúdo de alguém que você não conhece
- Preste atenção aos avisos do Google sobre o conteúdo que você recebe em outras ferramentas, como o Gmail
- Evite clicar em links de fontes não confiáveis
- Cuidado ao interagir com conteúdo compartilhado de remetentes desconhecidos, como arquivos no Drive
Denunciar mensagens maliciosas no Gmail
Se você receber uma mensagem ou um URL enganoso no Gmail, denuncie o conteúdo como phishing. O phishing é uma tentativa de roubar informações pessoais usando e-mails, mensagens, anúncios ou sites enganosos que parecem legítimos. Por exemplo, um e-mail de phishing pode parecer ter sido enviado pelo seu banco e solicitar informações particulares sobre sua conta. Saiba como denunciar phishing no Gmail.
Denunciar documentos maliciosos nos apps Documentos e Drive
Se você receber documentos, arquivos, imagens e outros conteúdos maliciosos nos apps Documentos e Drive, denuncie. Saiba como denunciar conteúdo abusivo.
Denunciar comportamento malicioso envolvendo o Gemini nos apps do Workspace
Se você receber uma resposta imprecisa ou achar que ela não é segura, envie um feedback para nossa equipe. Saiba como denunciar abuso envolvendo o Gemini nos apps do Workspace.