Saiba como o Google Workspace com Gemini ajuda a proteger os usuários contra conteúdo malicioso e ataques de injeção de comando.
Conteúdo malicioso e injeção de comando na IA generativa
Assim como as ameaças de e-mail e de conteúdo (malware e ataques de phishing, por exemplo), as ameaças à segurança podem ser direcionadas a ferramentas de IA generativa. A injeção de comando é uma tentativa de fazer as ferramentas de IA generativa criarem respostas indesejadas ou prejudiciais. Além de realizarem injeções de comandos enviando consultas diretamente, os invasores também podem compartilhar conteúdo malicioso com um usuário. Essa pessoa depois pode citar de forma não intencional as informações que recebeu em comandos para as ferramentas de IA generativa, como os apps do Gemini e o Google Workspace com Gemini.
Para proteger os usuários do Gemini, o Google usa medidas de segurança avançadas para identificar conteúdo arriscado e suspeito.
Como o Google detecta conteúdo malicioso e injeção de comando
Para proteger você contra conteúdo malicioso e injeção de comandos, o painel lateral do Gemini pode filtrar ou bloquear algumas respostas se uma atividade maliciosa for detectada.
Quando o Gemini identifica uma atividade relacionada a um comando que pode ser malicioso:
- O painel lateral do Gemini avisa que o conteúdo tem riscos de segurança.
- Às vezes, nenhum conteúdo é usado para gerar uma resposta.
- E às vezes, apenas parte dele é usada para gerar uma resposta, com o conteúdo malicioso excluído pelo Gemini.
Por exemplo, se você pedir para o Gemini no Gmail resumir mensagens de e-mail e uma delas tiver conteúdo malicioso, o Gemini poderá não responder à solicitação por motivos de segurança.
Ajudar a evitar conteúdo que não é seguro
Cuidado ao interagir com conteúdo de alguém que você não conhece
- Preste atenção aos avisos do Google sobre o conteúdo que você recebe em outras ferramentas, como o Gmail
- Evite clicar em links de fontes não confiáveis
- Cuidado ao interagir com conteúdo compartilhado de remetentes desconhecidos, como arquivos no Drive
Denunciar mensagens maliciosas no Gmail
Se você receber uma mensagem ou um URL enganoso no Gmail, denuncie o conteúdo como phishing. O phishing é uma tentativa de roubar informações pessoais usando e-mails, mensagens, anúncios ou sites enganosos que parecem legítimos. Por exemplo, um e-mail de phishing pode parecer ter sido enviado pelo seu banco e solicitar informações particulares sobre sua conta. Saiba como denunciar phishing no Gmail.
Denunciar documentos maliciosos nos apps Documentos e Drive
Se você receber documentos, arquivos, imagens e outros conteúdos maliciosos nos apps Documentos e Drive, denuncie. Saiba como denunciar conteúdo abusivo.
Denunciar comportamento malicioso no Gemini nos apps do Workspace
Se você receber uma resposta imprecisa ou achar que ela não é segura, envie um feedback para nossa equipe. Saiba como denunciar abuso no Gemini nos apps do Workspace.