瞭解 Gemini 系列應用程式如何協助保護使用者,防範惡意內容和提示詞注入。
生成式 AI 中的惡意內容和提示詞注入
如同惡意軟體及網路釣魚攻擊對電子郵件和內容構成威脅,生成式 AI 工具也有可能成為安全威脅的目標。「提示詞注入」會嘗試誘導生成式 AI 工具提供非預期或有害的回覆。攻擊者進行提示詞注入時,不只會直接提交查詢,還會和使用者分享惡意內容,讓你在使用 Gemini 系列應用程式、Gemini for Workspace 等生成式 AI 工具時,無意間在提示詞中引用了這些惡意內容。
為了協助保護 Gemini 使用者,Google 採取先進安全措施,辨別危險和可疑的內容。
Google 如何協助偵測惡意內容和提示詞注入
為了協助保護使用者,防範惡意內容和提示詞注入,Gemini 系列應用程式偵測到可疑活動時,可能會封鎖相關內容。
當 Gemini 偵測到與可疑提示詞有關的活動時
- 遇到有安全風險的內容時,Gemini 系列應用程式會發出警告通知
- 有時候,這類內容完全無法用來生成回覆
- 有時候 Gemini 會將可疑內容排除,只使用部分內容生成回覆
舉例來說,如果請 Gemini 系列應用程式歸納電子郵件訊息重點,而其中一封郵件含有惡意內容,出於安全考量,Gemini 可能就不會回覆你的提示詞。
協助避開不安全的內容
如果內容來自陌生人,互動時應小心
- 在 Gmail 等工具中收到內容時,留意 Google 發出的警告
- 不要點按來路不明的連結
- 與來路不明的共用內容互動時,請提高警覺,例如 Gemini 系列應用程式中的公開對話、Gemini Canvas 網頁應用程式等
生成式 AI 中的惡意內容和提示詞注入
如果回覆內容不正確或有安全風險,可以提供意見回饋告訴我們。
這個頁面可能含有使用 AI 技術翻譯的內容,也許會有錯誤。