Google Play की एआई से तैयार किए गए कॉन्टेंट से जुड़ी नीति का मकसद, यह पक्का करना है कि एआई से तैयार किया गया कॉन्टेंट, सभी उपयोगकर्ताओं के लिए सुरक्षित हो. साथ ही, उपयोगकर्ताओं से मिले सुझावों की मदद से डेवलपर बेहतर ऐप्लिकेशन तैयार कर सकें.
खास जानकारी
यह पक्का करना डेवलपर की ज़िम्मेदारी है कि उनके जनरेटिव एआई ऐप्लिकेशन, आपत्तिजनक कॉन्टेंट जनरेट न करें. इसमें, Google Play की आपत्तिजनक कॉन्टेंट से जुड़ी नीतियों के तहत पाबंदी वाला कॉन्टेंट, बच्चों का शोषण या उनके साथ बुरे बर्ताव को बढ़ावा देने वाला कॉन्टेंट, और लोगों को धोखा देने या बेईमानी को बढ़ावा देने वाला कॉन्टेंट शामिल है. जनरेटिव एआई ऐप्लिकेशन में, हमारे डेवलपर नीति केंद्र पर बताई गई अन्य सभी नीतियों का भी पालन किया जाना चाहिए.
एआई से तैयार किए गए कॉन्टेंट से जुड़ी नीति, टेक्स्ट, वॉइस, और इमेज प्रॉम्प्ट इनपुट के किसी भी कॉम्बिनेशन से तैयार किए गए एआई कॉन्टेंट पर लागू होती है. इसमें, नीचे बताए गए अलग-अलग तरह के जनरेटिव एआई ऐप्लिकेशन के अलावा, और भी चीज़ें शामिल हो सकती हैं:
- टेक्स्ट-टू-टेक्स्ट एआई चैटबॉट ऐप्लिकेशन, जिसमें एआई का इस्तेमाल करके कॉन्टेंट तैयार करने वाले चैटबॉट से इंटरैक्शन करना, एक मुख्य सुविधा के तौर पर शामिल हो.
- टेक्स्ट-टू-इमेज, वॉइस-टू-इमेज, और इमेज-टू-इमेज की सुविधा वाले ऐसे ऐप्लिकेशन जो इमेज तैयार करने के लिए, एआई का इस्तेमाल करते हैं.
- ऐसे ऐप्लिकेशन जो एआई का इस्तेमाल करके, असल ज़िंदगी के लोगों की आवाज़ और/या वीडियो रिकॉर्डिंग तैयार करते हैं.
फ़िलहाल, इस नीति में नीचे दिए गए अलग-अलग तरह के सीमित सुविधा वाले एआई ऐप्लिकेशन शामिल नहीं किए गए हैं:
- ऐसे ऐप्लिकेशन जो सिर्फ़ एआई से तैयार किया गया कॉन्टेंट होस्ट करते हैं और एआई का इस्तेमाल करके कॉन्टेंट तैयार नहीं कर सकते. जैसे, ऐसे सोशल मीडिया ऐप्लिकेशन जिनमें एआई की मदद से कॉन्टेंट तैयार करने की सुविधाएं मौजूद नहीं हैं.
- एआई से तैयार किया गया कॉन्टेंट होस्ट करने वाले यूजीसी (लोगों का बनाया कॉन्टेंट) ऐप्लिकेशन पर, यूज़र जनरेटेड कॉन्टेंट की नीति लागू होती है.
- एआई के इस्तेमाल के बिना तैयार किए गए कॉन्टेंट (जैसे, खोज के नतीजे और किताब या किसी दस्तावेज़ की खास जानकारी) की खास जानकारी देने वाले ऐप्लिकेशन. हालांकि, इन ऐप्लिकेशन में, खास जानकारी देना ही एकमात्र सुविधा के तौर पर शामिल होना चाहिए.
- बेहतर ढंग से काम करने में मदद करने वाले ऐसे ऐप्लिकेशन जो किसी मौजूदा सुविधा को बेहतर बनाने के लिए, एआई का इस्तेमाल करते हैं. जैसे, ऐसे ईमेल ऐप्लिकेशन जो एआई के सुझाव से ईमेल ड्राफ़्ट करने में मदद करते हैं.
एआई से जुड़ी नीति का उल्लंघन करने वाले कॉन्टेंट के उदाहरण यहां दिए गए हैं. हालांकि, इसमें कुछ और तरह का कॉन्टेंट भी शामिल हो सकता है:
- एआई से तैयार किया गया बिना सहमति वाला डीपफ़ेक सेक्शुअल कॉन्टेंट.
- असल ज़िंदगी के लोगों की ऐसी आवाज़ या वीडियो रिकॉर्डिंग जिनसे धोखाधड़ी को बढ़ावा मिले.
- ऐसा कॉन्टेंट जिसे नुकसान पहुंचाने वाले व्यवहार को बढ़ावा देने के लिए बनाया गया हो. जैसे, खतरनाक गतिविधियां, खुद को नुकसान पहुंचाना.
- चुनाव से जुड़ा ऐसा कॉन्टेंट जिससे साफ़ तौर पर धोखाधड़ी या गलत जानकारी मिलती हो.
- धमकाने और उत्पीड़न के लिए बनाया गया कॉन्टेंट.
- ऐसे जनरेटिव एआई ऐप्लिकेशन जो खास तौर पर यौन संतुष्टि देने के मकसद से बनाए गए हों.
- बेईमानी के मकसद से, एआई का इस्तेमाल करके तैयार किया गया कोई आधिकारिक दस्तावेज़.
- नुकसान पहुंचाने वाला कोड बनाना.