Hier erfahren Sie, wie Google Workspace mit Gemini dazu beiträgt, Nutzer vor schädlichen Inhalten und Prompt-Injection-Angriffen zu schützen.
Schädliche Inhalte und Prompt Injection in der generativen KI
Ähnlich wie bei Malware, Phishing-Angriffen und anderen Bedrohungen in E-Mails und Inhalten können Sicherheitsbedrohungen auch auf generative KI-Tools abzielen. Als „Prompt Injection“ wird der Versuch bezeichnet, eine unbeabsichtigte oder schädliche Antwort von Tools zu erzielen, die auf generativer KI basieren. Bei einer Prompt Injection wird folgendermaßen vorgegangen: Der Angreifer reicht direkt Suchanfragen ein oder teilt schädliche Inhalte mit einem Nutzer. Der Nutzer wiederum verwendet diese schädlichen Inhalte dann unbeabsichtigt in Prompts in generativen KI-Tools wie Gemini-Apps oder Google Workspace mit Gemini.
Google möchte alle Nutzer von Gemini schützen und verwendet deshalb erweiterte Sicherheitsmaßnahmen, mit denen riskante und verdächtige Inhalte erkannt werden können.
So erkennt Google schädliche Inhalte und Prompt Injection
Zum Schutz vor schädlichen Inhalten und Prompt Injection werden bei Gemini in Workspace möglicherweise Antworten gefiltert oder blockiert, wenn gefährliche Aktivitäten erkannt werden.
Wenn Gemini Aktivitäten im Zusammenhang mit einem Prompt erkennt, die schädlich sein können
- Sie werden von Gemini in Workspace gewarnt, dass die Inhalte Sicherheitsrisiken bergen.
- Manchmal kann kein Teil Ihrer Inhalte verwendet werden, um eine Antwort zu generieren.
- Manchmal werden nur einige Ihrer Inhalte verwendet, um eine Antwort zu generieren. Schädliche Inhalte werden von Gemini ausgeschlossen.
Wenn Sie Gemini in Gmail beispielsweise bitten, E-Mails zusammenzufassen, und eine dieser E-Mails schädliche Inhalte enthält, reagiert Gemini aus Sicherheitsgründen möglicherweise nicht auf Ihren Prompt.
Unsichere Inhalte vermeiden
Vorsicht bei der Interaktion mit Inhalten von Personen, die Sie nicht kennen
- Beachten Sie Warnungen von Google zu Inhalten, die Sie in anderen Tools wie Gmail erhalten.
- Klicken Sie nicht auf Links von nicht vertrauenswürdigen Quellen.
- Seien Sie vorsichtig, wenn Sie mit Inhalten von unbekannten Absendern interagieren, z. B. mit Dateien in Drive.
Schädliche Nachrichten in Gmail melden
Wenn Sie in Gmail eine betrügerische Nachricht oder URL erhalten, können Sie sie als Phishing melden. Phishing ist der Versuch, mithilfe betrügerischer E‑Mails, Nachrichten, Werbung oder gefälschter Websites personenbezogene Daten zu stehlen. Phishing-E-Mails können beispielsweise so aussehen, als stammten sie von Ihrer Bank. Betrüger versuchen damit, an Ihre vertraulichen Bankkontoinformationen zu gelangen. Informationen zum Melden von Phishing in Gmail
Schädliche Dokumente in Google Docs und Drive melden
Wenn Sie in Google Docs und Google Drive schädliche Dokumente, Dateien, Bilder und andere Inhalte erhalten, können Sie sie melden. Weitere Informationen zum Melden missbräuchlicher Inhalte
Schädliches Verhalten in Gemini in Workspace-Apps melden
Wenn Sie eine Antwort erhalten haben, die fehlerhaft oder Ihrer Meinung nach unsicher ist, können Sie uns das gern mitteilen. So können Sie Missbrauch in Gemini in Workspace-Apps melden