Saiba como o Google Workspace com o Gemini ajuda a proteger os usuários contra conteúdo mal-intencionado e ataques de injeção de comando.
Conteúdo mal-intencionado e injeção de comando na IA generativa
Assim como as ameaças de e-mail e de conteúdo (malware e ataques de phishing, por exemplo), as ameaças à segurança podem ser direcionadas a ferramentas de IA generativa. A injeção de comando é uma tentativa de fazer as ferramentas de IA generativa criarem respostas indesejadas ou prejudiciais. Além de realizarem injeções de comandos enviando consultas diretamente, os invasores também podem compartilhar conteúdo mal-intencionado com um usuário. Essa pessoa depois pode citar de forma não intencional as informações que recebeu em comandos para as ferramentas de IA generativa, como os apps do Gemini e o Google Workspace com o Gemini.
Para proteger os usuários do Gemini, o Google usa medidas de segurança avançadas para identificar conteúdo arriscado e suspeito.
Como o Google detecta conteúdo mal-intencionado e injeção de comandos
Para proteger você, o Gemini no Workspace pode filtrar ou bloquear algumas respostas se atividades mal-intencionadas forem detectadas.
O que o Gemini faz ao identificar atividades suspeitas relacionadas a um comando:
- O Gemini no Workspace avisa que o conteúdo tem riscos de segurança.
- Às vezes, nenhum conteúdo que você forneceu é usado para gerar uma resposta.
- E às vezes, o Gemini usa apenas parte dele, excluindo o conteúdo mal-intencionado.
Por exemplo, se você pedir para o Gemini no Gmail resumir e-mails e um deles tiver conteúdo mal-intencionado, o Gemini poderá não responder à solicitação por motivos de segurança.
Ajudar a evitar conteúdo que não é seguro
Cuidado ao interagir com conteúdo de alguém que você não conhece
- Preste atenção aos avisos do Google sobre o conteúdo que você recebe em outras ferramentas, como o Gmail
- Evite clicar em links de fontes não confiáveis
- Tenha cuidado ao interagir com conteúdo compartilhado de remetentes desconhecidos, como arquivos no Drive
Denunciar mensagens mal-intencionadas no Gmail
Se você receber uma mensagem ou um URL enganoso no Gmail, denuncie o conteúdo como phishing. O phishing é uma tentativa de roubar informações pessoais usando e-mails, mensagens, anúncios ou sites enganosos que parecem legítimos. Por exemplo, um e-mail de phishing pode parecer ter sido enviado pelo seu banco e solicitar informações particulares sobre sua conta. Saiba como denunciar phishing no Gmail.
Denunciar documentos mal-intencionados nos editores de arquivos Google
Se você receber algum documento, arquivo, imagem ou outro conteúdo mal-intencionado nos editores de arquivos Google, denuncie-o. Saiba como fazer isso.
Denunciar comportamento mal-intencionado envolvendo o Gemini nos apps do Workspace
Se você receber uma resposta imprecisa ou achar que ela não é segura, envie um feedback para nossa equipe. Saiba como denunciar abuso no Gemini nos apps do Workspace.