Google Workspace with Gemini が悪意のあるコンテンツやプロンプト インジェクション攻撃からユーザーを保護する仕組みをご紹介します。
生成 AI における悪意のあるコンテンツとプロンプト インジェクション
メールやコンテンツを標的とする脅威にはマルウェアやフィッシング攻撃などがありますが、同様に生成 AI ツールを標的とするセキュリティ脅威も存在します。プロンプト インジェクションとは、生成 AI ツールから意図しない回答や有害な回答を引き出そうとする試みです。攻撃者がプロンプト インジェクションを実行する方法としては、質問を直接送信する方法だけでなく、悪意のあるコンテンツをユーザーと共有する方法もあります。後者の場合、ユーザーが気がつかずに生成 AI ツール（Gemini アプリや Google Workspace with Gemini）のプロンプトで悪意のあるコンテンツを参照してしまうことで、プロンプト インジェクションが発生します。
Google は高度なセキュリティ対策により危険なコンテンツや不審なコンテンツを特定し、Gemini ユーザーを保護します。
悪意のあるコンテンツやプロンプト インジェクションが Google で検出される仕組み
悪意のあるコンテンツやプロンプト インジェクションからユーザーを保護するため、Gemini in Workspace では、悪意のあるアクティビティが検出されると、一部の回答が除外またはブロックされることがあります。
プロンプトに関連して悪意のある可能性があるアクティビティが検出されたとき
- Gemini in Workspace は、コンテンツにセキュリティ上のリスクがあるという警告を表示します。
- コンテンツがまったく使用されず、回答が生成されないこともあります。
- コンテンツの一部のみが回答の生成に使用され、悪意のあるコンテンツは Gemini によって除外されることもあります。
たとえば、Gemini in Gmail で複数のメール メッセージの要約をリクエストしたときに、そのうちの 1 つに悪意のあるコンテンツが含まれていた場合、安全上の理由から Gemini がプロンプトに回答しないことがあります。
安全ではないコンテンツを回避する
知らない人のコンテンツを使用する際は注意する
- 他のツール（Gmail など）からコンテンツを受け取る際は Google からの警告に注意してください。
- 信頼できない情報源からのリンクをクリックしないようにしてください。
- Google ドライブ内のファイルなど、不明な送信者から共有されたコンテンツを使用する際は、十分に注意してください。
Gmail で悪意のあるメールを報告する
Gmail で偽のメールや URL を受信した場合は、フィッシングとして報告できます。フィッシングとは、本物を装った偽のメール、メッセージ、広告、ウェブサイトなどを通じて個人情報の不正入手を試みることです。たとえば、銀行から送信されたメールのように見せかけて、銀行口座に関する個人情報を求めてくることがあります。Gmail でフィッシング メールを報告する方法をご確認ください。
Google ドキュメントと Google ドライブで不正なドキュメントを報告する
ドキュメントやドライブで不正なドキュメント、ファイル、画像などのコンテンツを見つけた場合は、報告できます。不正なコンテンツを報告する方法をご確認ください。
Gemini in Workspace アプリでの悪意のある行為を報告する
回答が不正確または安全でないと思われる場合は、フィードバックを送信してください。詳しくは、Gemini in Workspace アプリで不正行為を報告するをご確認ください。