Мы подготовили правила Google Play в отношении контента, созданного ИИ, поскольку хотим, чтобы такие материалы были безопасны для всех, а разработчики учитывали полученные отзывы при дальнейшем развитии продуктов.
Обзор
Разработчики обязаны следить за тем, чтобы в их приложениях на основе генеративного ИИ нельзя было создавать оскорбительный контент, включая запрещенный контент, перечисленный в правилах Google Play в отношении неприемлемого контента, материалы, в которых может быть показана эксплуатация детей или насилие над ними, и контент, способный ввести пользователей в заблуждение или способствующий недобросовестной деятельности. Продукты, в которых применяется генеративный ИИ, также должны соответствовать всем остальным правилам в нашем Центре правил для разработчиков.
Правила в отношении контента, созданного ИИ, распространяются на материалы, сгенерированные текстовыми, голосовыми и графическими запросами в любых сочетаниях, включая, помимо прочего, результаты, полученные при помощи следующих типов приложений с генеративным ИИ:
- приложений с чат-ботами, в которых письменное общение пользователей с ИИ – главная функция продукта;
- приложений, в которых ИИ генерирует изображения на основе текстовых, графических или голосовых запросов;
- приложений, в которых с помощью ИИ создаются аудио- или видеозаписи реальных личностей.
В настоящее время эти правила не распространяются на следующие типы приложений с ограниченной сферой применения ИИ:
- приложения (например, для социальных сетей), в которых размещается созданный ИИ контент, но нет возможности его генерировать;
- приложения с пользовательским контентом, в которых сгенерированные ИИ материалы регулируются правилами в отношении контента, созданного пользователями;
- приложения, в которых кратко описывается контент, созданный не ИИ, такой как информация из результатов поиска или документов (например, обобщается содержание книг), если тезисное изложение – единственная функция продукта;
- продукты для эффективной работы, в которых ИИ помогает улучшать существующие функции, например создавать черновики электронных писем в почтовых приложениях.
Примеры созданного ИИ контента с нарушениями включают, помимо прочего, следующее:
- сгенерированные дипфейки сексуального характера, полученные без согласия присутствующих в них лиц;
- содействующие мошенничеству аудио- или видеозаписи реальных личностей;
- контент, который создан с целью поощрять причиняющее вред поведение, например опасные действия или самоповреждение;
- недостоверные или явно вводящие в заблуждение материалы, связанные с выборами;
- контент, созданный с целью способствовать издевательствам и оскорблениям;
- сгенерированные с помощью ИИ материалы, в первую очередь предназначенные для сексуального удовлетворения;
- созданная ИИ официальная документация, которая способствует недобросовестной деятельности;
- вредоносный код.