Finden Sie heraus, wie Gemini-Apps dabei helfen, Nutzer vor schädlichen Inhalten und Prompt-Injection-Angriffen zu schützen.
Schädliche Inhalte und Prompt Injection in generativer KI
Ähnlich wie bei Bedrohungen in E‑Mails und Inhalten – wie Malware und Phishing-Attacken – können Angreifer es auch auf Tools basierend auf generativer KI abgesehen haben. Prompt Injection ist der Versuch, diesen Tools eine nicht beabsichtigte oder schädliche Antwort zu „entlocken“. Angreifer können einen Prompt-Injection-Angriff nicht nur durch die direkte Übermittlung von Anfragen auslösen, sondern auch, indem sie schädliche Inhalte mit einem Nutzer teilen, der dann unbeabsichtigt in Tools wie Gemini-Apps oder Gemini für Workspace auf diese schädlichen Inhalte in Prompts verweist.
Damit Nutzer von Gemini geschützt werden, wendet Google innovative Sicherheitsmaßnahmen an, um risikobehaftete und verdächtige Inhalte zu identifizieren.
So kann Google dabei helfen, Nutzer vor schädlichen Inhalten und Prompt Injection zu schützen
Um Sie besser vor schädlichen Inhalten und Prompt-Injection-Angriffen zu schützen, können Gemini-Apps einige Eingaben blockieren, wenn verdächtige Aktivitäten erkannt werden.
Wenn Gemini verdächtige Aktivitäten in Bezug auf einen Prompt erkennt
- In Gemini-Apps wird eine Warnung angezeigt, dass in Bezug auf die Inhalte Sicherheitsbedenken bestehen.
- Manchmal kann keiner der Inhalte dazu verwendet werden, eine Antwort zu generieren.
- Manchmal können nur einige Inhalte dazu verwendet werden, eine Antwort zu generieren – die schädlichen Inhalte werden von Gemini nicht berücksichtigt.
Wenn Sie Gemini-Apps beispielsweise dazu auffordern, E‑Mails zusammenzufassen, und eine dieser E‑Mails schädliche Inhalte enthält, reagiert Gemini aus Sicherheitsgründen möglicherweise nicht auf Ihren Prompt.
Dabei helfen, sich und andere vor unsicheren Inhalten zu schützen
Seien Sie vorsichtig, wenn Sie mit Inhalten von Personen interagieren, die Sie nicht kennen
- Beachten Sie Warnungen von Google in Bezug auf Inhalte, die Sie in anderen Tools wie Gmail erhalten.
- Klicken Sie nicht auf Links von unseriösen Quellen.
- Seien Sie vorsichtig, wenn Sie mit geteilten Inhalten von unbekannten Anbietern interagieren – dazu gehören beispielsweise öffentliche Chats in Gemini-Apps oder Gemini Canvas-Web-Apps.
Schädliche Inhalte und Prompt Injections in generativer KI
Wenn Sie eine fehlerhafte Antwort erhalten haben oder glauben, dass sie nicht sicher ist, können Sie uns dies mitteilen.