Ontdek hoe Google Workspace met Gemini gebruikers beschermt tegen schadelijke content en promptinjectie.
Schadelijke content en promptinjectie in generatieve AI
Net als bij e-mail- en contentdreigingen, zoals malware- en phishingaanvallen, kunnen tools voor generatieve AI ook het doelwit zijn van beveiligingsdreigingen. Bij promptinjectie wordt er geprobeerd om tools voor generatieve AI onbedoelde of schadelijke reacties te laten geven. Aanvallers kunnen prompts niet alleen injecteren door rechtstreeks vragen te stellen, maar ook door schadelijke content te delen met een gebruiker die deze dan onbedoeld gebruikt in prompts in tools voor generatieve AI, zoals Gemini Apps en Google Workspace met Gemini.
Google gebruikt geavanceerde beveiligingsmaatregelen om risicovolle en verdachte content te herkennen en zo Gemini-gebruikers te beschermen.
Hoe Google schadelijke content en promptinjectie opspoort
Gemini in Workspace kan bepaalde reacties filteren of blokkeren als er schadelijke activiteit wordt gedetecteerd. Zo word je beschermd tegen schadelijke content en promptinjectie.
Wanneer Gemini activiteit met betrekking tot een mogelijk schadelijke prompt vaststelt
- Gemini in Workspace waarschuwt je dat de content beveiligingsrisico's bevat.
- Soms kan geen van je content worden gebruikt om een reactie te genereren.
- Soms wordt maar een deel van je content gebruikt om een reactie te genereren, waarbij Gemini de schadelijke content uitsluit.
Als je Gemini in Gmail bijvoorbeeld vraagt om e-mailberichten samen te vatten en als een van die berichten schadelijke content bevat, reageert Gemini om veiligheidsredenen misschien niet op je prompt.
Onveilige content vermijden
Let op bij het gebruik van content van iemand die je niet kent
- Let op waarschuwingen van Google voor content die je krijgt in andere tools, zoals Gmail.
- Klik niet op links van onbetrouwbare bronnen.
- Wees voorzichtig met gedeelde content van onbekende afzenders, zoals bestanden in Drive.
Schadelijke berichten in Gmail melden
Als je een misleidend bericht of een misleidende URL in Gmail krijgt, kun je dit melden als phishing. Bij phishing wordt geprobeerd om persoonlijke informatie te stelen via misleidende e-mails, berichten, advertenties of websites die er legitiem uitzien. Een phishingmail kan bijvoorbeeld afkomstig lijken van je bank en om privé-informatie over je bankrekening vragen. Meer informatie over hoe je phishing meldt in Gmail.
Schadelijke documenten in Documenten en Drive melden
Als je schadelijke documenten, bestanden, afbeeldingen en andere content krijgt in Documenten en Drive, kun je deze melden. Meer informatie over hoe je ongeoorloofde content meldt.
Schadelijk gedrag in Gemini in Workspace-apps melden
Als je een reactie krijgt die niet klopt of waarvan je denkt dat deze onveilig is, kun je feedback over die reactie geven om dit te melden. Meer informatie over hoe je misbruik in Gemini in Workspace-apps meldt.