Google Play'in Yapay Zekayla Üretilen İçerik Politikası, yapay zekayla üretilen içeriklerin tüm kullanıcılar için güvenli olmasını sağlar. Geliştiricilerin, kullanıcı güvenliğini korumak için uygulamalarına belirli önlemleri eklemesi gerekir. Bu makalede, geliştiricilerin uygulamalarının uyumlu olmasını sağlamak için yararlanabilecekleri en iyi uygulamalar paylaşılmaktadır.
Genel Bakış
Üretken yapay zeka uygulamalarının rahatsız edici içerik oluşturmamasını sağlamak geliştiricilerin sorumluluğundadır. Google Play'in Uygunsuz İçerik Politikaları kapsamında listelenen yasaklanmış içerikler, çocukları istismar ya da taciz edebilecek içerikler ve kullanıcıları aldatabilecek ya da dürüst olmayan davranışlara imkan verecek içerikler de bu kapsamdadır. Üretken yapay zeka uygulamaları, Geliştirici Politika Merkezimizdeki diğer tüm politikalara da uymalıdır.
En İyi Uygulamalar
Geliştiriciler, kullanıcı güvenliğini sağlamak için üretken yapay zeka uygulamalarını oluştururken içerik koruma önlemlerini yerine getirmelidir. Endüstri standartlarına uygun test ve güvenlik uygulamalarının benimsenmesi de buna dahildir.
Geliştiricilerin, güvenlik testini en iyi şekilde nasıl yapacakları konusunda Google'ın Güvenli Yapay Zeka Çerçevesi'ne (SAIF) ve LLM Uygulamaları ile Üretken Yapay Zeka Projesi İçin OWASP Top 10'daki (OWASP Top 10 for LLM & Gen AI Project) GenAI Red Teaming Guide'a göz atmaları önerilir.
Üretken yapay zeka uygulamanızda içerik güvenliğini sağlamanın farklı yolları vardır. Örneğin, zararlı girişleri ve çıkışları engellemek için filtreler ve sınıflandırıcılar kullanabilirsiniz. Birçok yapay zeka modeli sağlayıcısı, geliştiricilerin bu önlemleri nasıl uygulayacağıyla ilgili kaynaklar yayınlar. Aşağıda, farklı sağlayıcıların içerik güvenliği tekliflerinin ve kılavuzlarının bağlantıları verilmiştir: