لنتعرّف على كيفية حماية "Google Workspace مع Gemini" للمستخدمين من المحتوى الضار والهجمات بحقن الطلبات.
المحتوى الضارّ وحقن الطلبات في الذكاء الاصطناعي التوليدي
تمامًا مثل التهديدات المرتبطة بالرسائل الإلكترونية والمحتوى، كالبرامج الضارّة وهجمات التصيّد الاحتيالي، يمكن لتهديدات الأمان أن تستهدف أدوات الذكاء الاصطناعي التوليدي. فهجمات حقن الطلبات هي في الواقع محاولة لجعل هذه الأدوات تقدّم ردودًا غير مقصودة أو ضارّة. لا تقتصر هجمات حقن الطلبات على إرسال الطلبات مباشرةً فحسب، بل يمكن أيضًا للمخترقين مشاركة محتوى ضار مع مستخدم يُضمّن بدوره هذا المحتوى في الطلبات التي يرسلها إلى أدوات الذكاء الاصطناعي التوليدي، مثل "تطبيقات Gemini" أو "Google Workspace مع Gemini".
بهدف حماية مستخدمي Gemini، تستخدم Google تدابير أمنية متقدّمة لرصد المحتوى الخطير والمريب.
كيف ترصد Google المحتوى الضارّ وهجمات حقن الطلبات؟
للمساعدة في حمايتك من المحتوى الضار وهجمات حقن الطلبات، قد يفلتر "Gemini في Workspace" بعض الردود أو يحظرها في حال رصد نشاط ضار.
ماذا يحدث عندما يرصد Gemini نشاطًا مرتبطًا بطلب قد يكون ضارًا؟
- يحذّرك "Gemini في Workspace" من أنّ المحتوى يتضمن مخاطر أمنية.
- في بعض الأحيان، لا يتم استخدام أيّ من المحتوى لإنشاء رد.
- في أحيان أخرى، يستخدم Gemini جزءًا من المحتوى فقط لإنشاء رد، فيستبعد المحتوى الضار.
على سبيل المثال، إذا طلبت من "Gemini في Gmail" تلخيص الرسائل الإلكترونية، وكانت إحدى هذه الرسائل تتضمن محتوًى ضارًا، قد لا يستجيب Gemini لطلبك لأسباب تتعلق بالسلامة.
كيف يمكنك المساهمة في مكافحة المحتوى غير الآمن؟
توخَّ الحذر عند التفاعل مع محتوى من شخص مجهول
- من المهم الانتباه إلى تحذيرات Google بشأن المحتوى الذي يصلك في أدوات أخرى، مثل Gmail.
- من الضروري تجنُّب النقر على روابط من مصادر غير موثوقة.
- يجب الحذر عند التفاعل مع محتوى شاركه مرسِلون غير معروفين، على شكل ملفات في Drive مثلاً.
أبلِغ عن الرسائل الضارّة في Gmail
إذا تلقّيت رسالة أو عنوان URL مخادعَين في Gmail، يمكنك الإبلاغ عنهما كمحاولة "تصيّد احتيالي"، أي محاولة سرقة معلومات شخصية باستخدام رسائل إلكترونية أو مراسلات أو إعلانات أو مواقع إلكترونية مخادعة تبدو وكأنّها شرعية. على سبيل المثال، قد تصلك رسالة إلكترونية تهدف إلى التصيّد الاحتيالي فتبدو وكأنّها واردة من مصرفك وتطلب معلومات خاصة حول حسابك المصرفي. طريقة الإبلاغ عن التصيّد الاحتيالي في Gmail
أبلِغ عن المستندات الضارّة في "مستندات Google" وDrive
إذا تلقّيت مستندات وملفات وصورًا ومحتوى آخر ضارًا في "مستندات Google" وDrive، يمكنك الإبلاغ عنها. طريقة الإبلاغ عن محتوى مسيء
الإبلاغ عن السلوك الضارّ في Gemini في تطبيقات Workspace
إذا تلقّيت ردًّا غير دقيق أو غير آمن، يمكنك إعلامنا بملاحظاتك حوله. كيفية الإبلاغ عن إساءة الاستخدام في Gemini في تطبيقات Workspace