Descubre cómo ayuda Google Workspace con Gemini a proteger a los usuarios frente al contenido malicioso y a los ataques de inyección de peticiones.
Contenido malicioso e inyección de mensajes en la IA generativa
Al igual que las amenazas relacionadas con correo electrónico y contenido, como el malware y los ataques de phishing, las amenazas de seguridad pueden dirigirse a las herramientas de IA generativa. La inyección de peticiones es un intento de provocar una respuesta no deseada o dañina de las herramientas de IA generativa. Los atacantes pueden realizar inyecciones de peticiones no solo enviando consultas directamente, sino también compartiendo contenido malicioso con un usuario que, sin querer, haga referencia a este contenido malicioso en las peticiones a herramientas de IA generativa, como aplicaciones de Gemini o Google Workspace con Gemini.
Con el fin de proteger a los usuarios de Gemini, Google utiliza medidas de seguridad avanzadas para identificar contenido peligroso y sospechoso.
Cómo detecta Google el contenido malicioso y la inyección de peticiones
Para protegerte del contenido malicioso y la inyección de peticiones, el panel lateral de Gemini puede filtrar o bloquear algunas respuestas si se detecta actividad maliciosa.
Cuando Gemini identifica actividad relacionada con una petición que puede ser maliciosa
- El panel lateral de Gemini te avisa de que el contenido presenta riesgos de seguridad.
- A veces, no se puede usar nada de tu contenido para generar una respuesta.
- En ocasiones, solo se usa parte de tu contenido para generar una respuesta, y Gemini excluye el contenido malicioso.
Por ejemplo, si pides a Gemini que resuma mensajes de correo en Gmail y en uno de esos mensajes se observa contenido malicioso, es posible que Gemini no responda a tu petición por motivos de seguridad.
Consejos para evitar contenido no seguro
Ten cuidado al interactuar con contenido de personas que no conoces
- Presta atención a las advertencias de Google sobre el contenido que recibes en otras herramientas, como Gmail.
- No hagas clic en enlaces de fuentes que no sean de confianza.
- Ten cuidado al interactuar con contenido compartido de remitentes desconocidos, como archivos de Drive.
Denunciar mensajes maliciosos en Gmail
Si recibes un mensaje o una URL engañosos en Gmail, puedes denunciarlos como phishing. El phishing es una técnica con la que se intenta robar información personal utilizando correos, mensajes, anuncios o sitios web engañosos que parecen legítimos. Por ejemplo, podrían enviarte un correo de phishing que parezca provenir de tu banco en el que te pidan que proporciones información privada sobre tu cuenta bancaria. Más información sobre cómo denunciar el phishing en Gmail
Denunciar documentos maliciosos en Documentos y Drive
Si recibes documentos, archivos, imágenes u otro contenido malicioso en Documentos y Drive, puedes denunciarlos. Consulta cómo denunciar contenido inadecuado.
Denunciar comportamientos maliciosos en Gemini en aplicaciones de Workspace
Si recibes una respuesta incorrecta o que consideras peligrosa, puedes hacérnoslo saber enviando tus comentarios sobre ella. Consulta cómo denunciar usos inadecuados de Gemini en aplicaciones de Workspace.