了解内置 Gemini 的 Google Workspace 如何帮助用户防范恶意内容和提示注入攻击。
生成式 AI 中的恶意内容和提示注入
与恶意软件和钓鱼式攻击等针对邮件和内容的威胁类似，安全威胁也可能会将生成式 AI 工具作为攻击目标。提示注入是指试图从生成式 AI 工具中引出意外或有害的回答。攻击者施行提示注入的方式包括：直接提交查询，或通过与用户分享恶意内容，让用户在生成式 AI 工具（例如 Gemini 应用或内置 Gemini 的 Google Workspace）的提示中无意间引用这些恶意内容。
为保护 Gemini 用户，Google 采用先进的安全措施来识别存在风险的可疑内容。
Google 如何检测恶意内容和提示注入
为保护您免受恶意内容和提示注入的侵害，Workspace 中的 Gemini 在检测到恶意活动时，可能会滤除或屏蔽某些回答。
如果 Gemini 发现与某个提示相关的活动可能具有恶意
- Workspace 中的 Gemini 会发出警告，提醒您相应内容存在安全风险。
- 有时，Gemini 无法使用您的任何内容来生成回答。
- 有时，Gemini 会排除恶意内容，只使用您的部分内容来生成回答。
例如，如果您让 Gmail 中的 Gemini 总结邮件内容，而其中某封邮件包含恶意内容，那么出于安全考虑，Gemini 可能不会针对您的提示给出回答。
帮助您避免接触不安全内容
接触陌生人分享的内容时，请务必谨慎
- 留意 Google 针对您在 Gmail 等其他工具中收到的内容所发出的警告。
- 避免点击来自不可信来源的链接。
- 接触未知发件人分享的内容（例如云端硬盘中的文件）时，请务必谨慎。
在 Gmail 中举报恶意邮件
如果您在 Gmail 中收到欺骗性讯息或网址，可以将其举报为钓鱼式攻击内容。钓鱼式攻击是指试图利用看似合法的欺骗性邮件、讯息、广告或网站来窃取个人信息的行为。例如，钓鱼邮件可能会伪装成银行发来的邮件，要求您提供自己的银行账户私密信息。了解如何在 Gmail 中举报钓鱼邮件。
在 Google 文档和云端硬盘中举报恶意文档
如果您在 Google 文档和云端硬盘中收到恶意文档、文件、图片和其他内容，可以举报这些内容。了解如何举报滥用内容。
在 Workspace 应用中的 Gemini 中举报恶意行为
如果您认为得到的回答不准确或存在安全风险，可以就相应回答提供反馈，将此情况告诉我们。了解如何在 Workspace 应用中的 Gemini 中举报滥用行为。