AI 生成の画像、動画、音声を検証する

ログインしているユーザーであれば、Gemini アプリ内で利用できる検証ツールで、画像、動画、音声が AI モデルによって生成または編集されたものかどうかを識別できます。

Gemini アプリで、AI 生成コンテンツを確認するために使用されるテクノロジーは次の 2 つです。

SynthID: 目に見えない透かしを使用して、画像、動画、音声が Google の AI モデルによって生成または編集されたものかどうかを判断します。
Content Credentials: デジタルパスポートのように機能するテクノロジーで、デジタルコンテンツの作成元と履歴を記録します。AI コンテンツと AI 以外のコンテンツの両方に使用されます。

必要なもの

AI 検証を使用するには、次のものが必要です。

個人用アカウントまたは対象となる Workspace アカウント
コンテンツの検証にアプリを使用する場合は、最新バージョンの Gemini アプリ。
Gemini アプリにログインしていること。Gemini アプリへのログイン方法

検証したいコンテンツをアップロードする

重要:

検証のために選択できる画像、動画、音声ファイルは一度に 1 つのみで、ファイルサイズは 100 MB 以下である必要があります。
動画は 1 本あたり 90 秒以内、音声ファイルは 1 本あたり 1 時間以内である必要があります
画像をスクリーンショットで検証する場合は、精度を最大限に高めるために画像の周囲をぴったりと切り取ります。複数の画像をコラージュしたものは検証できません。

パソコンで https://gemini.google.com を開きます。
ファイルを追加をクリックします。
- サポートされている形式のファイルをデバイスからアップロードする場合は「ファイルをアップロード」アイコンをクリックします。
- サポートされている形式のファイルをフォトライブラリからアップロードする場合は、[その他のアップロード] Google フォトアイコンをクリックします。
- サポートされている形式のファイルを Google ドライブからアップロードする場合は [Google ドライブ] をクリックします。
  
  ヒント: Google ドライブからファイルを追加するには、[アクティビティの保存] をオンにし、Google Workspace を Gemini アプリに接続する必要があります。接続されていない場合は、接続するためのオプションが表示されます。Gemini アプリと Google Workspace データについて
検証のため次のような質問をします。
- 「この画像 / 動画 / 音声は Google AI によって作成または編集されたもの？」
- 「これは AI で生成されたもの？」
- 「これは本物の動画？」

検証結果について

重要:

他の企業も SynthID の透かしの導入を開始していますが、Gemini は現在、Google AI ツールで作成されたコンテンツのみを認識できます。
Content Credentials は、コンテンツの作成元と履歴、AI ツールを使用して作成または編集されたかどうかに関する情報を提供します。

検証プロセスが完了すると、検証結果に基づいて Gemini から回答が提供されます。

SynthID の場合

SynthID の透かしが検出された場合は、その画像 / 動画の一部またはすべてが Google の AI モデルによって作成または編集されたことを意味します。
SynthID の透かしが検出されなかった場合、その画像 / 動画は Google AI によって作成または編集されたものではありませんが、他の AI システムによって作成された可能性はあります。
Google AI によって画像 / 動画が作成または編集されたかどうかを判断できない場合があります。一般的な理由としては以下が考えられます。
- 「透かしを入れるほどの詳細情報がない」（非常にシンプルなコンテンツや抽象的なコンテンツなど）。
- 「編集部分が小さすぎる」（変更が軽微な場合、検出可能な透かしが残らない可能性があります）。

動画ファイルの場合、Gemini は動画のどの部分で SynthID の透かしが検出されたかを回答します。ただし、これは動画のその部分のすべてで検出されたことを意味するわけではありません。

Content Credentials の場合

コンテンツに Content Credentials が含まれている場合は、以下の情報を確認できます。

メディアの構成
編集履歴
AI が使用されたかどうか

AI 生成のコンテンツかどうかを識別するその他の方法

Gemini アプリのコンテンツ検証は強力なツールですが、他の方法でも AI 生成の可能性があるコンテンツを特定できます。

視覚的なアーティファクトを探す: 画像や動画を細かくチェックし、AI 生成コンテンツでよく見られる不整合やエラーがないか検証します。以下に例を挙げます。
- 画像や動画内のテキストが食い違っている、または文字化けしている。
- 手、歯、背景要素などの細かい部分にエラーがある。
- 光と影の方向が一致していない。
- 繰り返しのパターンが不自然。
画像を使用して検索する: 画像を使用した検索ツール（Google 画像検索など）により、元の画像や類似する画像を検索します。これにより、コンテンツの出所が既知であるか、AI によって作成または改変されていない新しいコンテンツであるかを判断できます。
メタデータを分析する: 元のファイル（スクリーンショットではない画像）にアクセスできる場合は、埋め込まれている情報を確認できます。写真には、カメラのモデル、日付、設定などの EXIF データが含まれていることがあります。
編集ソフトウェアの痕跡を探す: メタデータから、プロ仕様の編集ソフトウェアが使用されたかどうかを特定できる場合があります。

SynthID に関するよくある質問

SynthID とは

SynthID は、Google AI モデルによって生成されたコンテンツにデジタル透かしを直接埋め込むツールです。このツールは、現時点では Google AI ツールで作成または編集された画像、動画、音声ファイルかどうかを検証するために使用できます。詳しくは、SynthID についての記事をご覧ください。

Google が SynthID を作成したのはなぜですか？

生成 AI の技術は急速に進化しており、AI が生成したコンテンツと AI 以外の方法で作成または編集されたコンテンツを識別することが難しくなっています。AI によって生成されたコンテンツかどうかを識別できるようにすることで、AI 生成コンテンツの透明性を高めたいと考えています。

元の AI 生成ファイルに変更を加えた場合でも SynthID は引き続き機能しますか？

はい。通常、画像 / 動画 / 音声のサイズや色を変更したり、圧縮などの変更を加えたりした場合でもデジタル透かしは残ります。ただし、何度も変更を加えたことで、透かしが検出されなくなる可能性はあります。

AI 生成コンテンツに追加されるデジタル透かしとメタデータの違いは何ですか？

透かしは検証目的で使用されるもので、コンテンツに直接埋め込まれます。デジタル透かしはユーザーには見えません。メタデータは、コンテンツの作成者が元のファイルにコンテキストを追加して、コンテンツに関する詳細情報を提供するために使用するものです。透かしとメタデータはどちらも、AI 生成コンテンツの透明性を高めるために使用されます。

1 日あたりの検証回数に制限はありますか？

画像検証は 1 日あたり約 10 回、動画検証は 1 日あたり約 10 回（合計 5 分）、音声検証は 1 日あたり約 3 時間に制限されています。これらの上限に達すると、Gemini アプリに通知が表示されます。

Content Credentials に関するよくある質問

Content Credentials とは何ですか？

Content Credentialsは、メディア履歴や透明性を提供する技術です。コンテンツの作成に AI が関与したかどうかなどの情報も提供されます。Coalition for Content Provenance and Authenticity（C2PA）によって開発された業界標準であり、さまざまな企業の多くのプロダクトでサポートされています。

Content Credentials は、情報に基づく意思決定にどのように役立ちますか？

Content Credentials でできること

さまざまな企業のデバイスやアプリで利用できる標準規格により、コンテンツの出所と履歴に関する詳細情報を提供します。
画像、動画、音声ファイルの作成や編集に使用された AI ツールや AI 以外のツールに関する、アプリやデバイスのメーカーからの情報を提供します。

Content Credentials でできないこと

画像、動画、音声ファイルが AI によって生成されたものかどうかを判定する（ただし、ユーザーがコンテンツ自体の元データや履歴データも参照して判断することは可能です）。

Content Credentials は、Gemini アプリではどのような仕組みで機能するのですか？

重要: Content Credentials で検証できるのは、Content Credentials 形式に対応しているデバイスやアプリからの画像、動画、音声ファイルです。

検証可能な場合、Content Credentials は次のように機能します。

情報を提供して暗号署名を施した会社を表示します。たとえば、「Google LLC による情報」と表示されている場合は、情報が Google によって提供されていることを示しています。
- 検証結果に複数の会社が表示される場合もあります。

Content Credential のエラーの意味を教えてください。

Gemini アプリによる Content Credentials の検証時に問題が発生すると、認証情報が無効であるというメッセージが表示されることがあります。これは、次のような一般的なエラーが原因である可能性があります。

適切な方法で変更されていません: Content Credentials は、ファイルの各編集者が保存および署名した履歴に基づいて構成されます。メディア履歴が改ざん、または C2PA データが適切に更新されずに変更された場合は、エラーが発生します。
互換性がない、またはサポートされていません: Gemini アプリは、Content Credentials バージョン 2.2 以降をサポートしています。ただし、C2PA 準拠の製品リストに記載されていない製品の認証情報は、有効または信頼できると見なされない場合があります。また、一部のサードパーティ製の Content Credentials アプリでは、メタデータが画像、動画、音声ファイルとは別にリモートで保存されている場合がありますが、Gemini アプリはリモートメタデータをサポートしていません。
認識できません: ファイルを生成したアプリにバグが発生した場合、不適切な形式の Content Credentials がファイルに含まれている可能性があります。Gemini アプリで Content Credentials を検出することは可能ですが、それを解釈できない場合があります。