Google Play の AI 生成コンテンツに関するポリシーは、AI 生成コンテンツがすべてのユーザーにとって安全なものとなり、デベロッパーがユーザーからのフィードバックを取り入れて責任あるイノベーションを実現できるようにすることを目的としています。
概要
デベロッパーは、生成 AI アプリが不適切なコンテンツを生成しないようにする責任を負っています。たとえば、Google Play の不適切なコンテンツに関するポリシーに記載されている禁止されたコンテンツ、児童を搾取または虐待するおそれのあるコンテンツ、ユーザーを欺いたり、不正行為を助長したりする可能性のあるコンテンツなどです。生成 AI アプリは、デベロッパー ポリシー センターに記載されている、それ以外のポリシーにもすべて準拠する必要があります。
AI 生成コンテンツに関するポリシーは、テキスト、音声、画像のメッセージ入力の組み合わせによって生成される AI 生成コンテンツを対象としています。たとえば、次のような種類の生成 AI アプリが含まれますが、これらに限定されません。
- テキストからテキストを生成する AI チャットボット アプリ。AI 生成のチャットボットとのやり取りがアプリの中心的な機能です。
- AI を使用してテキストから画像、音声から画像、画像から画像を生成するアプリ。
- AI を使用して実在する個人の音声や動画の記録を作成するアプリ。
現時点では、このポリシーは、範囲が限定された次のような種類の AI アプリを対象とすることは想定していません。
- AI 生成コンテンツをホストするだけで、AI を使用してコンテンツを作成できないアプリ（AI コンテンツ生成機能が含まれていないソーシャル メディア アプリなど）。
- AI 生成コンテンツをホストするユーザー作成コンテンツ アプリには、ユーザー作成コンテンツに関するポリシーが適用されます。
- AI 生成でないコンテンツを要約するアプリ（検索結果の要約やドキュメントの要約（例: 書籍の要約）など）で、要約機能がアプリの唯一の機能である場合。
- AI を使用して既存の機能を改善する生産性向上アプリ（AI が提案するメールの下書き機能を搭載したメールアプリなど）。
違反している AI 生成コンテンツの例には次のようなものがありますが、これらに限定されません。
- AI 生成の同意のないディープフェイクの性的コンテンツ。
- 実在する個人の音声や動画の記録で、詐欺を助長するもの。
- 有害な行為（危険な行為、自傷行為など）を助長するために生成されたコンテンツ。
- 明らかに虚偽であるか誤った選挙関連コンテンツ。
- いじめやハラスメントを助長するために生成されたコンテンツ。
- 性的満足を主な目的とする生成 AI アプリ。
- 不正行為を助長する AI 生成の公式ドキュメント。
- 悪意のあるコードの作成。