एआई से बनाए गए कॉन्टेंट से जुड़ी Google Play की नीति से यह पक्का करने में मदद मिलती है कि एआई से बनाया गया कॉन्टेंट, सभी उपयोगकर्ताओं के लिए सुरक्षित हो. उपयोगकर्ता की सुरक्षा के लिए, डेवलपर को अपने ऐप्लिकेशन में सुरक्षा के कुछ उपाय शामिल करने होंगे. इस लेख में, डेवलपर के लिए सबसे सही तरीके बताए गए हैं. इन्हें अपनाकर वे यह पक्का कर सकते हैं कि उनके ऐप्लिकेशन, नीति के मुताबिक हों.
खास जानकारी
यह पक्का करना डेवलपर की ज़िम्मेदारी है कि उनके जनरेटिव एआई ऐप्लिकेशन, आपत्तिजनक कॉन्टेंट जनरेट न करें. इसमें, Google Play की आपत्तिजनक कॉन्टेंट से जुड़ी नीतियों के तहत पाबंदी वाला कॉन्टेंट, बच्चों का शोषण या उनके साथ बुरे बर्ताव को बढ़ावा देने वाला कॉन्टेंट, और लोगों को धोखा देने या बेईमानी को बढ़ावा देने वाला कॉन्टेंट शामिल है. जनरेटिव एआई वाले ऐप्लिकेशन में, हमारे डेवलपर नीति केंद्र पर बताई गई अन्य सभी नीतियों का भी पालन किया जाना चाहिए.
सबसे सही तरीके
डेवलपर को जनरेटिव एआई वाले ऐप्लिकेशन बनाते समय, कॉन्टेंट की सुरक्षा से जुड़े कुछ उपाय अपनाने चाहिए, ताकि उपयोगकर्ताओं सुरक्षित रहें. इसमें इंडस्ट्री स्टैंडर्ड के मुताबिक, टेस्टिंग और सुरक्षा के तरीके अपनाना शामिल है.
बेहतर तरीके से सुरक्षा जांच करने के लिए, डेवलपर को Google के एआई सिस्टम को सुरक्षित रखने का फ़्रेमवर्क (एसएआईएफ़) और ओडब्ल्यूएएसपी टॉप 10 फ़ॉर एलएलएम ऐप्लिकेशन ऐंड जनरेटिव एआई प्रोजेक्ट से जुड़ी जेन एआई रेड टीमिंग गाइड पढ़ें. इस प्रोजेक्ट को यह भी कहा जा सकता है: ओडब्ल्यूएएसपी टॉप 10 फ़ॉर एलएलएम ऐप्लिकेशन ऐंड जनरेटिव एआई प्रोजेक्ट.
जनरेटिव एआई वाले अपने ऐप्लिकेशन में कॉन्टेंट को सुरक्षित रखने के कई तरीके हैं. जैसे, नुकसान पहुंचाने वाले इनपुट और आउटपुट को ब्लॉक करने के लिए फ़िल्टर और क्लासिफ़ायर का इस्तेमाल करना. एआई मॉडल उपलब्ध कराने वाली कई कंपनियां, डेवलपर के लिए इन सुरक्षा उपायों को अपनाने के तरीके से जुड़े संसाधन पब्लिश करती हैं. यहां कुछ कंपनियों की बनाई गई गाइड और कॉन्टेंट को सुरक्षित रखने से जुड़े उपायों के लिंक दिए गए हैं. इनका इस्तेमाल रेफ़रंस के तौर पर किया जा सकता है: