内置 Gemini 的 Google Workspace 如何帮助用户防范恶意内容和提示注入

了解内置 Gemini 的 Google Workspace 如何帮助用户防范恶意内容和提示注入攻击。

生成式 AI 中的恶意内容和提示注入

与恶意软件和钓鱼式攻击等针对邮件和内容的威胁类似，一些安全威胁也可能会将生成式 AI 工具作为攻击目标。提示注入是指试图诱使生成式 AI 工具给出非预期或有害回答的行为。攻击者施行提示注入的方式包括：直接提交查询，或通过与用户分享恶意内容，让用户在生成式 AI 工具（例如 Gemini 应用或内置 Gemini 的 Google Workspace）的提示中无意间引用这些恶意内容。

为保护 Gemini 用户，Google 采用先进的安全措施来识别存在风险的可疑内容。

Google 如何检测恶意内容和提示注入

为保护您免受恶意内容和提示注入的侵害，Workspace 中的 Gemini 在检测到恶意活动时，可能会滤除或屏蔽某些回答。

如果 Gemini 发现与某个提示相关的活动可能具有恶意

Workspace 中的 Gemini 会发出警告，提醒您相应内容存在安全风险。
有时，Gemini 无法使用您的任何内容来生成回答。
有时，Gemini 会排除恶意内容，只使用您的部分内容来生成回答。

例如，如果您让 Gmail 中的 Gemini 总结邮件内容，而其中某封邮件包含恶意内容，那么出于安全考虑，Gemini 可能不会针对您的提示给出回答。

防范不安全内容

接触来源不明内容时的注意事项

留意 Google 针对您在 Gmail 等其他工具中收到的内容所发出的警告。
请勿点击来自不可信来源的链接。
谨慎对待未知发件人分享的内容（例如云端硬盘中的文件）。

在 Gmail 中举报恶意邮件

如果您在 Gmail 中收到欺骗性讯息或网址，可以将其举报为钓鱼式攻击内容。钓鱼式攻击是指试图利用看似合法的欺骗性邮件、讯息、广告或网站来窃取个人信息的行为。例如，钓鱼邮件可能会伪装成银行发来的邮件，要求您提供自己的银行账户私密信息。了解如何在 Gmail 中举报钓鱼邮件。

在 Google 文档编辑器中举报恶意文档

如在 Google 文档编辑器中收到恶意文档、文件、图片等内容，您可以直接举报。了解如何举报滥用内容。

在 Workspace 应用中的 Gemini 中举报恶意行为

如果您认为得到的回答不准确或存在安全风险，可以提交相应的反馈告诉我们。了解如何在 Workspace 应用中的 Gemini 中举报滥用行为。