Saiba como o Google Workspace com Gemini ajuda a proteger os usuários contra conteúdo malicioso e ataques de injeção de comandos
Conteúdo malicioso e injeção de comandos na IA generativa
Assim como as ameaças de e-mail e de conteúdo (malware e ataques de phishing, por exemplo), as ameaças à segurança podem ser direcionadas a ferramentas de IA generativa. A injeção de comandos é uma tentativa de fazer as ferramentas de IA generativa criarem respostas indesejadas ou prejudiciais. Além de realizarem injeções de comandos enviando consultas diretamente, os invasores também podem compartilhar conteúdo malicioso com um usuário. Essa pessoa depois pode citar de forma não intencional as informações que recebeu em comandos para as ferramentas de IA generativa, como os apps do Gemini e o Google Workspace com Gemini.
Para proteger os usuários do Gemini, o Google usa medidas de segurança avançadas para identificar conteúdo arriscado e suspeito.
Como o Google detecta conteúdo malicioso e injeção de comandos
Para proteger você contra conteúdo malicioso e injeção de comandos, o Gemini no Workspace pode filtrar ou bloquear algumas respostas se atividades maliciosas forem detectadas.
Quando o Gemini identifica uma atividade relacionada a um comando que pode ser malicioso:
- O Gemini no Workspace avisa que o conteúdo tem riscos de segurança.
- Às vezes, nenhum conteúdo seu pode ser usado para gerar uma resposta.
- E às vezes, apenas parte dele é usada para gerar uma resposta, com o conteúdo malicioso excluído pelo Gemini.
Por exemplo, se você pedir para o Gemini no Gmail resumir mensagens de e-mail e uma delas tiver conteúdo malicioso, o Gemini poderá não responder à solicitação por motivos de segurança.
Ajudar a evitar conteúdo que não é seguro
Cuidado ao interagir com conteúdo de alguém que você não conhece
- Preste atenção aos avisos do Google sobre o conteúdo que você recebe em outras ferramentas, como o Gmail.
- Evite clicar em links de fontes não confiáveis.
- Cuidado ao interagir com conteúdo compartilhado de remetentes desconhecidos, como arquivos no Drive.
Denunciar mensagens maliciosas no Gmail
Se você receber uma mensagem ou um URL enganoso no Gmail, denuncie o conteúdo como phishing. O phishing é uma tentativa de roubar informações pessoais usando e-mails, mensagens, anúncios ou sites enganosos que parecem legítimos. Por exemplo, um e-mail de phishing pode parecer ter sido enviado pelo seu banco e solicitar informações particulares sobre sua conta. Saiba como denunciar phishing no Gmail.
Denunciar documentos maliciosos no Docs e Drive
Se você receber documentos, arquivos, imagens e outros conteúdos maliciosos no Docs e Drive, denuncie. Saiba como denunciar conteúdo abusivo.
Denunciar comportamento malicioso no Gemini nos apps do Workspace
Se você receber uma resposta imprecisa ou achar que ela não é segura, envie um feedback para nossa equipe. Saiba como denunciar abuso no Gemini nos apps do Workspace.