Gemini अॅप्स ही दुर्भावनापूर्ण आशयापासून आणि प्रॉम्प्ट इंजेक्शन अटॅकपासून वापरकर्त्यांचे संरक्षण करण्यात कशी मदत करतात हे जाणून घ्या.
जनरेटिव्ह AI मधील दुर्भावनापूर्ण आशय आणि प्रॉम्प्ट इंजेक्शन
मालवेअर आणि फिशिंग हल्ल्यांसारख्या ईमेल आणि आशयासंबंधित धोक्यांप्रमाणेच, सुरक्षा धोके हे जनरेटिव्ह AI टूलना लक्ष्य करू शकतात. प्रॉम्प्ट इंजेक्शन हा जनरेटिव्ह AI टूलमधून अनपेक्षित किंवा हानिकारक प्रतिसाद निर्माण करण्याचा प्रयत्न असतो. हल्लेखोर फक्त थेट क्वेरी सबमिट करून नव्हे, तर वापरकर्त्यासह दुर्भावनापूर्ण आशय शेअर करूनदेखील प्रॉम्प्ट इंजेक्शन करू शकतात, जो नंतर Gemini अॅप्स किंवा Workspace साठी Gemini यांसारख्या जनरेटिव्ह AI टूलमध्ये या दुर्भावनापूर्ण आशयाचा अनवधानाने संदर्भ देतो.
Gemini वापरकर्त्यांचे संरक्षण करण्यात मदत करण्यासाठी, Google हे धोकादायक आणि संशयास्पद आशय ओळखण्याकरिता प्रगत सुरक्षा उपाययोजना वापरते.
दुर्भावनापूर्ण आशय आणि प्रॉम्प्ट इंजेक्शन डिटेक्ट करण्यास Google कशी मदत करते
दुर्भावनापूर्ण आशय आणि प्रॉम्प्ट इंजेक्शनपासून तुमचे संरक्षण करण्यासाठी, Gemini अॅप्स द्वारे संशयास्पद अॅक्टिव्हिटी डिटेक्ट झाल्यास, काही इनपुट ब्लॉक केली जाऊ शकतात.
जेव्हा Gemini संशयास्पद असू शकणाऱ्या प्रॉम्प्टशी संबंधित असलेली अॅक्टिव्हिटी ओळखते
- Gemini अॅप्स आशयामध्ये सुरक्षेसंबंधित धोके असल्याच्या चेतावणीचे नोटिफिकेशन देतात
- काहीवेळा प्रतिसाद जनरेट करण्यासाठी कोणताही आशय वापरता येत नाही
- काहीवेळा प्रतिसाद जनरेट करण्यासाठी फक्त काही आशय वापरला जातो, तसेच Gemini संशयास्पद आशय वगळते
उदाहरणार्थ, तुम्ही Gemini अॅप्सना ईमेल मेसेजचा सारांश देण्यास सांगितल्यास आणि त्यापैकी एका मेसेजमध्ये दुर्भावनापूर्ण आशय असल्यास, सुरक्षेच्या कारणास्तव कदाचित Gemini तुमच्या प्रॉम्प्टला प्रतिसाद देणार नाही.
असुरक्षित आशय टाळण्यास मदत करा
तुम्हाला माहीत नसलेल्या एखाद्या व्यक्तीकडील आशयाशी संवाद साधताना लक्ष द्या
- तुम्हाला Gmail सारख्या इतर टूलमध्ये मिळणाऱ्या आशयाबद्दल Google कडून दिल्या जाणाऱ्या चेतावण्यांकडे लक्ष द्या
- अविश्वासू स्रोतांकडील लिंकवर क्लिक करणे टाळा
- Gemini अॅप्सची सार्वजनिक चॅट किंवा अज्ञात पुरवठादारांकडील Gemini Canvas वेब ॲप्स यांसारख्या शेअर केलेल्या आशयाशी संवाद साधताना सावधगिरी बाळगा
जनरेटिव्ह AI मधील दुर्भावनापूर्ण आशय आणि प्रॉम्प्ट इंजेक्शन
अयोग्य प्रतिसाद मिळाल्यास किंवा मिळालेला प्रतिसाद असुरक्षित असल्याचे तुम्हाला वाटत असल्यास, आम्हाला कळवण्यासाठी तुम्ही त्या प्रतिसादावर फीडबॅक देऊ शकता.
Gemini अॅप्सशी संबंधित समस्येची तक्रार कशी करावी हे जाणून घ्या.