Google Play의 AI 생성 콘텐츠 정책은 AI 생성 콘텐츠가 모든 사용자에게 안전하도록 하고, 개발자가 사용자 의견을 반영하여 책임감 있는 혁신을 이루도록 하는 것을 목표로 합니다.
개요
개발자는 생성형 AI 앱이 Google Play의 부적절한 콘텐츠 정책에 명시된 금지된 콘텐츠, 아동을 착취 또는 학대할 수 있는 콘텐츠, 사용자를 속이거나 부정 행위를 조장하는 콘텐츠를 비롯한 불쾌감을 주는 콘텐츠를 생성하지 않도록 할 책임이 있습니다. 생성형 AI 앱은 Google의 개발자 정책 센터에 명시된 다른 정책도 모두 준수해야 합니다.
AI 생성 콘텐츠 정책은 텍스트, 음성, 이미지 프롬프트 입력의 조합으로 생성되는 AI 생성 콘텐츠에 적용되며 여기에는 다음 유형의 생성형 AI 앱이 포함되나 이에 국한되지 않습니다.
- AI로 생성된 챗봇 상호작용이 앱의 핵심 기능인 텍스트 대 텍스트 AI 챗봇 앱
- AI를 사용하여 이미지를 생성하는 텍스트 대 이미지, 음성 대 이미지 및 이미지 대 이미지 앱
- AI를 사용하여 실제 개인의 음성 또는 동영상을 생성하는 앱
현재 다음과 같은 제한된 범위의 AI 앱에는 이 정책이 적용되지 않습니다.
- AI 생성 콘텐츠만 호스팅하고 AI를 사용해 콘텐츠를 만들 수 없는 앱(예: AI 콘텐츠 생성 기능이 포함되지 않은 소셜 미디어 앱)
- AI 생성 콘텐츠를 호스팅하는 UGC 앱에는 사용자 제작 콘텐츠 정책이 적용됩니다.
- 요약 기능이 앱의 유일한 기능인 경우 검색 결과 요약 및 문서 요약(예: 책 요약)과 같이 AI가 생성하지 않은 콘텐츠를 요약하는 앱
- AI가 추천하는 이메일 초안을 제공하는 이메일 앱과 같이 AI를 사용하여 기존 기능을 개선하는 생산성 앱
정책을 위반하는 AI 생성 콘텐츠에는 다음이 포함되나 이에 국한되지 않습니다.
- AI로 동의 없이 생성한 딥페이크 성적 콘텐츠
- 사기를 조장하는 실제 개인의 음성 또는 동영상 녹음
- 유해한 행동(예: 위험한 행위, 자해)을 조장하기 위해 생성된 콘텐츠
- 명백히 사기성이 있거나 거짓인 선거 관련 콘텐츠
- 폭력과 괴롭힘을 조장하기 위해 생성된 콘텐츠
- 성적 만족을 주 목적으로 하는 생성형 AI 애플리케이션
- 부정 행위를 조장하는 AI 생성 공식 문서
- 악성 코드 생성