Правилата на Google Play относно генерираното от AI съдържание имат за цел да гарантират, че то е безопасно за всички потребители. За да обезпечат безопасността на потребителите, програмистите трябва да внедрят определени предпазни мерки в приложенията си. В тази статия се споделят най-добрите практики, които програмистите могат да използват, за да гарантират, че приложенията им спазват изискванията.
Общ преглед
Програмистите носят отговорност приложенията им с генеративен AI да не генерират обидно съдържание, включително забраненото съдържание, посочено в правилата на Google Play относно неподходящото съдържание, съдържание, което може да представлява експлоатация или тормоз на деца, и съдържание, което може да подведе потребителите или да допусне непочтено поведение. Приложенията с генеративен AI трябва да спазват и всички други правила в нашия Център за правила за програмисти.
Най-добри практики
Програмистите трябва да използват предпазни мерки за съдържанието, когато създават приложения с генеративен AI, така че да гарантират безопасността на потребителите. Това включва въвеждането на практики за тестване и сигурност, които са в съответствие с отрасловите стандарти.
За най-добрия начин за провеждане на тестове, свързани с безопасността, препоръчваме на програмистите да прегледат Secure AI Framework (SAIF) на Google и ръководството за провеждане на тестове с червен екип за генеративния AI от OWASP Top 10 for LLM Applications & Generative AI Project (алтернативно заглавие: OWASP Top 10 for LLM & Gen AI Project).
Има различни начини за осигуряване на безопасността на съдържанието в приложението ви с генеративен AI, като например използването на филтри и класификатори за блокиране на опасни входящи данни и изходни резултати. Много доставчици на модели на AI публикуват ресурси за програмисти относно това как да въведат тези предпазни мерки. По-долу са посочени връзки към някои от предложенията и ръководствата за безопасност на съдържанието от различни доставчици, които можете да използвате за справка: