Правила Google Play щодо контенту, створеного ШІ, покликані зробити такий контент безпечним для всіх. Щоб захистити користувачів, розробники повинні вжити певних заходів безпеки у своїх додатках. У цій статті наведено практичні поради, які допоможуть їм забезпечити відповідність вимогам.
Огляд
Розробники повинні подбати про те, щоб їхні додатки з генеративним ШІ не створювали образливий контент, зокрема заборонений контент, приклади якого перелічено в правилах Google Play щодо неприйнятного контенту; контент, який може сприяти експлуатації дітей чи насильству над ними; і контент, який може вводити користувачів в оману або сприяти недобросовісній діяльності. Додатки з генеративним ШІ мають також відповідати всім іншим правилам, які наведено в Центрі правил для розробників.
Практичні поради
Задля безпеки користувачів розробники повинні застосовувати механізми захисту контенту під час створення додатків із генеративним ШІ. Зокрема, це включає методи тестування й безпеки, які відповідають галузевим стандартам.
Щоб дізнатися, як найкраще проводити тестування безпеки, радимо розробникам ознайомитися з принципами Secure AI Framework (SAIF), розробленими Google, і посібником із тестування зовнішніх загроз для генеративного ШІ зі списку OWASP Top 10 проєкту LLM Applications & Generative AI Project (OWASP Top 10 for LLM & Gen AI Project).
Є різні способи захистити контент у додатку з генеративним ШІ, наприклад застосувати фільтри й класифікатори, що блокують шкідливі вхідні й вихідні дані. Інформацію про це публікують для розробників багато постачальників моделей ШІ. Нижче наведено посилання на деякі пропозиції і посібники щодо безпеки контенту від різних постачальників.