जानें कि Google Workspace with Gemini, नुकसान पहुंचाने वाले कॉन्टेंट और प्रॉम्प्ट इंजेक्शन के हमलों से बचने में उपयोगकर्ताओं की मदद कैसे करता है.
जनरेटिव एआई में नुकसान पहुंचाने वाला कॉन्टेंट और प्रॉम्प्ट इंजेक्शन
जिस तरह ईमेल और कॉन्टेंट पर फ़िशिंग और मैलवेयर जैसे सायबर हमलों का खतरा होता है, उसी तरह जनरेटिव एआई टूल भी सुरक्षा से जुड़े खतरों के निशाने पर होते हैं. प्रॉम्प्ट इंजेक्शन वह तरीका है जिसका इस्तेमाल करके, जनरेटिव एआई टूल से अनचाहे या नुकसान पहुंचाने वाले जवाब जनरेट कराने की कोशिश की जाती है. हमलावर, प्रॉम्प्ट इंजेक्शन का इस्तेमाल न सिर्फ़ सीधे क्वेरी सबमिट करके, बल्कि किसी उपयोगकर्ता को नुकसान पहुंचाने वाला कॉन्टेंट भेजकर भी कर सकते हैं. इससे वह उपयोगकर्ता, Gemini Apps या Google Workspace with Gemini जैसे जनरेटिव एआई टूल में प्रॉम्प्ट के तौर पर, नुकसान पहुंचाने वाले उस कॉन्टेंट का रेफ़रंस अनजाने में दे सकता है.
Gemini के उपयोगकर्ताओं की सुरक्षा के लिए, Google सुरक्षा से जुड़े ऐडवांस तरीकों का इस्तेमाल करके, खतरनाक और संदिग्ध कॉन्टेंट की पहचान करता है.
Google, नुकसान पहुंचाने वाले कॉन्टेंट और प्रॉम्प्ट इंजेक्शन का पता कैसे लगाता है
आपको नुकसान पहुंचाने वाले कॉन्टेंट और प्रॉम्प्ट इंजेक्शन से सुरक्षित रखने के लिए, Workspace में Gemini, नुकसान पहुंचाने वाली गतिविधि का पता चलने पर कुछ जवाबों को फ़िल्टर या ब्लॉक कर सकता है.
Gemini को जब प्रॉम्प्ट के कॉन्टेंट से किसी ऐसी गतिविधि का पता चलता है जो नुकसान पहुंचा सकती है
- Workspace में मौजूद Gemini, आपको चेतावनी देता है कि कॉन्टेंट में सुरक्षा से जुड़े जोखिम हैं.
- कभी-कभी, हो सकता है कि जवाब जनरेट करने के लिए, आपका कोई भी कॉन्टेंट इस्तेमाल न किया जाए.
- कई बार, जवाब जनरेट करने के लिए, Gemini आपके कॉन्टेंट में से सिर्फ़ सुरक्षित हिस्सा इस्तेमाल करता है और नुकसान पहुंचाने वाले हिस्से को हटा देता है.
उदाहरण के लिए, अगर आप Gmail में Gemini से, ईमेल की खास जानकारी देने के लिए कहें और उनमें से किसी एक ईमेल में नुकसान पहुंचाने वाला कॉन्टेंट मौजूद हो, तो हो सकता है कि Gemini सुरक्षा वजहों से आपके प्रॉम्प्ट का जवाब न दे.
असुरक्षित कॉन्टेंट के इस्तेमाल से बचने में मदद पाना
किसी अनजान व्यक्ति से मिले कॉन्टेंट के साथ इंटरैक्ट करते समय सावधानी बरतें
- Gmail जैसे अन्य टूल पर मिलने वाले कॉन्टेंट के बारे में Google से मिली चेतावनियों पर ध्यान दें.
- ऐसे सोर्स से मिले लिंक पर क्लिक करने से बचें जो भरोसेमंद नहीं हैं.
- अनजान लोगों से मिले कॉन्टेंट के साथ इंटरैक्ट करते समय सावधानी बरतें. जैसे, Drive में शेयर की गई फ़ाइलें.
Gmail में मिले नुकसान पहुंचाने वाले ईमेल की शिकायत करना
अगर आपको Gmail में धोखाधड़ी वाला कोई ईमेल या यूआरएल मिलता है, तो उसकी शिकायत फ़िशिंग के तौर पर की जा सकती है. फ़िशिंग एक ऐसा तरीका है जिसमें धोखाधड़ी वाले ईमेल, मैसेज, विज्ञापन या असली दिखने वाली वेबसाइटों का इस्तेमाल करके, निजी जानकारी चुराने की कोशिश की जाती है. उदाहरण के लिए, फ़िशिंग ईमेल आपके बैंक से मिले ईमेल की तरह दिख सकता है, जिसमें आपके बैंक खाते से जुड़ी आपकी निजी जानकारी मांगी जा सकती है. Gmail में फ़िशिंग की शिकायत करने का तरीका जानें.
Docs एडिटिंग टूल में नुकसान पहुंचाने वाले दस्तावेज़ों की शिकायत करना
अगर आपको Docs एडिटिंग टूल में नुकसान पहुंचाने वाले दस्तावेज़, फ़ाइलें, इमेज, और कोई अन्य कॉन्टेंट मिलता है, तो उसकी शिकायत की जा सकती है. नीति का उल्लंघन करने वाले कॉन्टेंट की शिकायत करने का तरीका जानें.
Workspace के ऐप्लिकेशन में मौजूद Gemini में, नुकसान पहुंचाने वाली गतिविधियों की शिकायत करना
अगर आपको ऐसा जवाब मिलता है जो गलत है या आपको सुरक्षित नहीं लग रहा है, तो उसके बारे में अपना सुझाव/राय दें या उसकी शिकायत करें. Workspace के ऐप्लिकेशन में मौजूद Gemini के गलत इस्तेमाल की शिकायत करने का तरीका जानें.