Zasady Google Play dotyczące treści generowanych przez AI zostały opracowane z myślą o odpowiedzialnej innowacyjności. Ich celem jest zagwarantowanie, że treści generowane przez AI będą bezpieczne dla wszystkich użytkowników i że opinie użytkowników będą brane pod uwagę.
Omówienie
Deweloperzy mają obowiązek dopilnować, aby ich aplikacje wykorzystujące generatywną AI nie generowały obraźliwych treści, w tym niedozwolonych treści wymienionych w zasadach Google Play dotyczących nieodpowiednich treści, a także treści przedstawiających wykorzystywanie dzieci lub naruszanie ich praw oraz treści, które mogą wprowadzać użytkowników w błąd lub umożliwiać nieuczciwe postępowanie. Aplikacje wykorzystujące generatywną AI powinny być też zgodne ze wszystkimi innymi zasadami opisanymi w naszym Centrum zasad dla deweloperów.
Zasady dotyczące treści generowanych przez AI obejmują treści tworzone przez AI na podstawie promptów obejmujących dowolną kombinację tekstu, głosu i obrazu, w tym między innymi te typy aplikacji wykorzystujących generatywną AI:
- aplikacje tekstowych czatbotów AI, których główną funkcją jest interakcja z botem wygenerowanym przez AI;
- aplikacje wykorzystujące AI do generowania obrazu na podstawie tekstu, głosu lub innego obrazu;
- aplikacje tworzące za pomocą AI nagrania głosowe lub wideo z udziałem prawdziwych osób.
Obecnie zasady nie dotyczą tych typów aplikacji opartych na AI w ograniczonym zakresie:
- aplikacje, które tylko hostują treści wygenerowane przez AI i nie są w stanie tworzyć materiałów z użyciem AI (na przykład aplikacje mediów społecznościowych, które nie zawierają funkcji generowania treści przez AI);
- aplikacje z treściami użytkowników, które hostują treści wygenerowane przez AI, podlegają zasadom dotyczącym treści użytkowników;
- aplikacje streszczające treści niegenerowane przez AI, na przykład tworzące podsumowania wyników wyszukiwania czy streszczenia dokumentów (przykładowo książek), jeśli jest to jedyna funkcja aplikacji;
- aplikacje zwiększające produktywność, które wykorzystują AI do ulepszania dotychczasowych funkcji, np. aplikacje do poczty e-mail z sugerowanymi wersjami roboczymi wiadomości generowanymi przez AI.
Przykłady treści generowanych przez AI, które naruszają zasady, to między innymi:
- wygenerowane przez AI bez zgody przedstawionych osób treści o charakterze seksualnym wykorzystujące technologię deepfake;
- nagrania głosowe lub wideo z udziałem prawdziwych osób, które umożliwiają dokonywanie oszustw;
- treści tworzone, aby zachęcać do szkodliwych zachowań (na przykład niebezpiecznych aktywności czy samookaleczania);
- treści związane z wyborami, które w sposób oczywisty wprowadzają w błąd lub są niezgodne z prawdą;
- treści tworzone, aby umożliwiać dręczenie i nękanie;
- aplikacje wykorzystujące generatywną AI przede wszystkim do wywołania pobudzenia seksualnego;
- dokumenty urzędowe wygenerowane przez AI, które umożliwiają nieuczciwe postępowanie;
- tworzenie szkodliwego kodu.