Мы составили правила Google Play в отношении контента, созданного ИИ, поскольку хотим, чтобы сгенерированные материалы были безопасны для всех. В этой статье рассказано, какие меры позволят разработчикам защитить пользователей и обеспечить соответствие нашим требованиям.
Общие сведения
Разработчики обязаны следить за тем, чтобы в их приложениях на основе генеративного ИИ нельзя было создавать оскорбительный контент, включая запрещенный контент, перечисленный в правилах Google Play в отношении неприемлемого контента, материалы, в которых может быть показана эксплуатация детей или насилие над ними, и контент, способный ввести пользователей в заблуждение или способствующий недобросовестной деятельности. Продукты на основе генеративного ИИ также должны соответствовать всем остальным правилам в нашем Центре правил для разработчиков.
Рекомендации
При создании приложений на основе генеративного ИИ разработчики должны принимать меры для защиты пользователей, а также следовать принципам тестирования и безопасности, которые соответствуют отраслевым стандартам.
Чтобы узнать больше, ознакомьтесь с концепцией безопасного ИИ (SAIF) компании Google и прочитайте руководство по тестированию внешних угроз для генеративного ИИ из топ-10 OWASP, составленного для приложений на основе больших языковых моделей и генеративного ИИ.
Обеспечивать безопасность контента, который создается в приложениях на основе генеративного ИИ, можно разными способами. Например, с помощью фильтров и классификаторов, которые блокируют неприемлемые запросы и результаты. Материалы о таких защитных мерах и рекомендации публикуют многие поставщики ИИ-моделей. Ниже приведены ссылки на некоторые из этих ресурсов.