Descubre cómo ayuda Google Workspace con Gemini a proteger a los usuarios frente al contenido malicioso y a los ataques de inyección de peticiones.
Contenido malicioso e inyección de peticiones en la IA generativa
Al igual que las amenazas relacionadas con los correos y el contenido, como el malware y los ataques de phishing, las amenazas de seguridad pueden dirigirse a las herramientas de IA generativa. La inyección de peticiones es un intento de provocar una respuesta no deseada o dañina de las herramientas de IA generativa. Los atacantes pueden realizar inyecciones de peticiones no solo enviando consultas directamente, sino también compartiendo contenido malicioso con un usuario que, después, haga referencia sin querer a ese contenido malicioso en las peticiones a herramientas de IA generativa, como aplicaciones de Gemini o Google Workspace con Gemini.
Con el fin de proteger a los usuarios de Gemini, Google utiliza medidas de seguridad avanzadas para identificar contenido peligroso y sospechoso.
Cómo detecta Google el contenido malicioso y la inyección de peticiones
Para protegerte del contenido malicioso y la inyección de peticiones, Gemini en Workspace puede filtrar o bloquear algunas respuestas si se detecta actividad maliciosa.
Qué ocurre cuando Gemini identifica actividad relacionada con una petición que puede ser maliciosa
- Gemini en Workspace te avisa de que el contenido presenta riesgos de seguridad.
- A veces, no se puede usar nada de tu contenido para generar una respuesta.
- A veces, solo se usa parte de tu contenido para generar una respuesta, y Gemini excluye el contenido malicioso.
Por ejemplo, si pides a Gemini en Gmail que resuma mensajes de correo y en uno de esos mensajes hay contenido malicioso, es posible que Gemini no responda a tu petición por motivos de seguridad.
Consejos para evitar contenido no seguro
Ten cuidado al interactuar con contenido de personas que no conoces
- Presta atención a las advertencias de Google sobre el contenido que recibes en otras herramientas, como Gmail.
- No hagas clic en enlaces de fuentes que no sean de confianza.
- Ten cuidado al interactuar con contenido compartido de remitentes desconocidos, como archivos de Drive.
Denunciar mensajes maliciosos en Gmail
Si recibes un mensaje o una URL engañosos en Gmail, puedes denunciarlos como phishing. El phishing es una técnica con la que se intenta robar información personal utilizando correos, mensajes, anuncios o sitios web engañosos que parecen legítimos. Por ejemplo, podrían enviarte un correo de phishing que parezca provenir de tu banco en el que te pidan que proporciones información privada sobre tu cuenta bancaria. Consulta cómo denunciar el phishing en Gmail.
Denunciar documentos maliciosos en Documentos y Drive
Si recibes documentos, archivos, imágenes u otro contenido malicioso en Documentos y Drive, puedes denunciarlos. Consulta cómo denunciar contenido inadecuado.
Denunciar comportamientos maliciosos en Gemini en aplicaciones de Workspace
Si recibes una respuesta incorrecta o que consideras peligrosa, puedes enviarnos tus comentarios sobre ella para hacérnoslo saber. Consulta cómo denunciar abusos de Gemini en aplicaciones de Workspace.