Zasady Google Play dotyczące treści generowanych przez AI zostały opracowane, aby zapewnić, że treści generowane przez AI będą bezpieczne dla wszystkich użytkowników. W związku z tym deweloperzy powinni uwzględnić w swoich aplikacjach określone zabezpieczenia. W tym artykule przedstawiamy sprawdzone metody, które mogą stosować deweloperzy, aby zapewnić zgodność swoich aplikacji.
Omówienie
Deweloperzy mają obowiązek dopilnować, aby ich aplikacje wykorzystujące generatywną AI nie generowały obraźliwych treści, w tym niedozwolonych treści wymienionych w zasadach Google Play dotyczących nieodpowiednich treści, a także treści przedstawiających wykorzystywanie dzieci lub naruszanie ich praw oraz treści, które mogą wprowadzać użytkowników w błąd lub umożliwiać nieuczciwe postępowanie. Aplikacje wykorzystujące generatywną AI powinny być też zgodne ze wszystkimi innymi zasadami opisanymi w naszym Centrum zasad dla deweloperów.
Sprawdzone metody
Aby zadbać o bezpieczeństwo użytkowników, deweloperzy powinni stosować zabezpieczenia treści w aplikacji z generatywną AI. Obejmuje to stosowanie testów i praktyk dotyczących bezpieczeństwa zgodnych ze standardami branżowymi.
Aby dowiedzieć się, jak najlepiej przeprowadzić testy bezpieczeństwa, deweloperzy powinni zapoznać się z Secure AI Framework (SAIF) Google oraz przewodnikiem dotyczącym zespołów red team i generatywnej AI z projektu OWASP Top 10 for LLM Applications & Generative AI.
Bezpieczeństwo treści w aplikacji korzystającej z generatywnej AI można zapewnić na różne sposoby, np. stosując filtry i klasyfikatory blokujące szkodliwe dane wejściowe i wyjściowe. Wielu dostawców modeli AI publikuje dla deweloperów materiały dotyczące wdrażania tych zabezpieczeń. Poniżej znajdziesz linki do niektórych ofert i przewodników dotyczących bezpieczeństwa treści od różnych dostawców: