Gemini 系列應用程式如何協助保護使用者,防範惡意內容和提示詞注入

瞭解 Gemini 系列應用程式如何協助保護使用者,防範惡意內容和提示詞注入。

生成式 AI 中的惡意內容和提示詞注入

如同惡意軟體及網路釣魚攻擊對電子郵件和內容構成威脅,生成式 AI 工具也有可能成為安全威脅的目標。「提示詞注入」會嘗試誘導生成式 AI 工具提供非預期或有害的回覆。攻擊者進行提示詞注入時,不只會直接提交查詢,還會和使用者分享惡意內容,讓你在使用 Gemini 系列應用程式、Gemini for Workspace 等生成式 AI 工具時,無意間在提示詞中引用了這些惡意內容。

為了協助保護 Gemini 使用者,Google 採取先進安全措施,辨別危險和可疑的內容。

Google 如何協助偵測惡意內容和提示詞注入

為了協助保護使用者,防範惡意內容和提示詞注入,Gemini 系列應用程式偵測到可疑活動時,可能會封鎖相關內容。

當 Gemini 偵測到與可疑提示詞有關的活動時

  • 遇到有安全風險的內容時,Gemini 系列應用程式會發出警告通知
  • 有時候,這類內容完全無法用來生成回覆
  • 有時候 Gemini 會將可疑內容排除,只使用部分內容生成回覆

舉例來說,如果請 Gemini 系列應用程式歸納電子郵件訊息重點,而其中一封郵件含有惡意內容,出於安全考量,Gemini 可能就不會回覆你的提示詞。

協助避開不安全的內容

如果內容來自陌生人,互動時應小心

  • 在 Gmail 等工具中收到內容時,留意 Google 發出的警告
  • 不要點按來路不明的連結
  • 與來路不明的共用內容互動時,請提高警覺,例如 Gemini 系列應用程式中的公開對話、Gemini Canvas 網頁應用程式等

生成式 AI 中的惡意內容和提示詞注入

如果回覆內容不正確或有安全風險,可以提供意見回饋告訴我們。

瞭解如何回報 Gemini 系列應用程式的問題。

這個頁面可能含有使用 AI 技術翻譯的內容,也許會有錯誤。
搜尋
清除搜尋內容
關閉搜尋
Google 應用程式
主選單
9073185832137074710
true
搜尋說明中心
false
true
true
true
true
true
5295044
false
false
false
false
false