Descubre cómo Google Workspace con Gemini ayuda a proteger a los usuarios del contenido malicioso y los ataques de inyección de instrucciones.
El contenido malicioso y la inyección de instrucciones en la IA generativa
Al igual que las amenazas de correo electrónico y contenido, como el malware y los ataques de phishing, las amenazas de seguridad pueden afectar a las herramientas de IA generativa. La inyección de instrucciones es un intento de obtener una respuesta no deseada o dañina de las herramientas de IA generativa. Los atacantes pueden realizar la inyección de instrucciones no solo enviando consultas directamente, sino también compartiendo contenido malicioso con un usuario, quien luego hará referencia a este contenido de forma involuntaria en instrucciones para herramientas de IA generativa, como las Apps con Gemini o Google Workspace con Gemini.
Para ayudar a proteger a los usuarios de Gemini, Google utiliza medidas de seguridad avanzadas para identificar contenido riesgoso y sospechoso.
Cómo Google detecta el contenido malicioso y la inyección de instrucciones
Para protegerte del contenido malicioso y la inyección de instrucciones, Gemini en Workspace puede filtrar o bloquear algunas respuestas si se detecta actividad maliciosa.
Qué ocurre cuando Gemini identifica actividad relacionada con una instrucción que puede ser maliciosa
- Gemini en Workspace te advierte que el contenido tiene riesgos de seguridad.
- Algunas veces, no se puede usar nada del contenido para generar una respuesta.
- Otras, solo se puede usar una parte del contenido para generar una respuesta, mientras que Gemini excluye el contenido malicioso.
Por ejemplo, si le pides a Gemini en Gmail que resuma los mensajes de correo electrónico y uno de esos mensajes incluye contenido malicioso, es posible que Gemini no responda tu solicitud por motivos de seguridad.
Ayuda a evitar el contenido no seguro
Presta atención cuando interactúes con el contenido de alguien que no conoces
- No ignores las advertencias de Google sobre el contenido que recibes en otras herramientas, como Gmail.
- Evita hacer clic en vínculos de fuentes poco confiables.
- Ten cuidado cuando interactúes con contenido compartido de remitentes desconocidos, como archivos en Drive.
Denuncia los mensajes maliciosos en Gmail
Si recibes un mensaje o una URL engañosos en Gmail, puedes denunciarlos como phishing. El phishing es un intento de robar información personal mediante correos electrónicos, mensajes, anuncios o sitios web engañosos que parecen legítimos. Por ejemplo, un correo electrónico de phishing puede ser similar a uno procedente de tu banco y puede solicitar información privada sobre tu cuenta bancaria. Obtén más información para denunciar el phishing en Gmail.
Denuncia los documentos maliciosos en Documentos y Drive
Si recibes documentos, archivos, imágenes y otro contenido malicioso en Documentos y Drive, puedes denunciarlos. Obtén más información para denunciar contenido abusivo.
Denuncia comportamientos maliciosos en Gemini en las apps de Workspace
Si recibes una respuesta incorrecta o que crees que no es segura, puedes enviarnos tus comentarios sobre esa respuesta para informarnos al respecto. Descubre cómo denunciar abusos en Gemini en las apps de Workspace.