Google Workspace with Gemini 如何協助使用者防範惡意內容和提示詞注入攻擊

瞭解 Google Workspace with Gemini 如何協助使用者防範惡意內容和提示詞注入攻擊。

生成式 AI 中的惡意內容和提示詞注入

惡意軟體和網路釣魚等攻擊會對電子郵件或內容造成安全性威脅，同樣地，也會鎖定生成式 AI 工具做為攻擊目標。「提示詞注入」攻擊會企圖誘導生成式 AI 工具生成非預期或有害的回覆。攻擊者進行提示詞注入攻擊時，除了直接對查詢動手腳，可能還會與使用者分享惡意內容，導致他們使用 Gemini 系列應用程式或 Google Workspace with Gemini 等生成式 AI 工具時，在提示詞中無意間參照了這些惡意內容。

為保護 Gemini 使用者，Google 採用了先進的安全措施，來辨別有風險和可疑的內容。

Google 如何偵測惡意內容和提示詞注入攻擊

為協助使用者防範惡意內容和提示詞注入攻擊，Gemini in Workspace 可能會在偵測到惡意活動時，篩除或封鎖部分回覆。

Gemini 偵測到提示詞內容可能涉及惡意活動

Gemini in Workspace 會警告該內容存在安全風險。
在某些情況下，Gemini 不會採用您提供的任何內容來生成回覆。
在某些情況下，Gemini 會排除惡意內容，只採用您提供的部分內容來生成回覆。

舉例來說，如果在 Gmail 中要求 Gemini 匯總電子郵件訊息，而其中一封郵件含有惡意內容，出於安全考量，Gemini 可能不會回覆您的提示。

協助防範不安全的內容

小心使用來路不明的內容

在 Gmail 等其他工具中收到內容時，請留意 Google 發出的警告。
請避免點按來源可疑的連結。
使用來路不明的共用內容時 (例如雲端硬碟中的檔案)，請務必小心謹慎。

檢舉 Gmail 中的惡意郵件

如果在 Gmail 中收到詐騙訊息或網址，您可以檢舉為網路釣魚。「網路釣魚」攻擊會利用詐騙電子郵件、訊息、廣告，或看似合法的網站，企圖竊取個人資訊。舉例來說，網路釣魚電子郵件可能會偽裝成銀行寄出的電子郵件，並要求您提供與銀行帳戶相關的私人資訊。請參閱這篇文章，瞭解如何在 Gmail 中檢舉網路釣魚郵件。

檢舉 Google 文件編輯器中的惡意文件

如果在 Google 文件編輯器中收到惡意文件、檔案、圖片或其他內容，您可以提出檢舉。請參閱這篇文章，瞭解如何檢舉不當內容。

檢舉 Gemini in Workspace 應用程式中的惡意行為

如果覺得生成的回覆內容不正確或有安全疑慮，您可以提供意見給我們。請參閱這篇文章，瞭解如何檢舉 Gemini in Workspace 應用程式中的濫用行為。