كيف يحمي "Google Workspace مع Gemini" المستخدمين من المحتوى الضار والهجمات بحقن الطلبات؟
المحتوى الضار والهجمات بحقن الطلبات في الذكاء الاصطناعي التوليدي
على غرار التهديدات المرتبطة بالرسائل الإلكترونية والمحتوى، مثل البرامج الضارة وهجمات التصيّد الاحتيالي، يمكن أن تستهدف التهديدات الأمنية أدوات الذكاء الاصطناعي التوليدي. فتحاول الهجمات بحقن الطلبات جعل هذه الأدوات تقدّم ردودًا غير مقصودة أو ضارة. يمكن للمخترقين شنّ هذه الهجمات بطريقتَين: إما عبر إرسال طلبات مباشرة، أو عبر مشاركة محتوى ضار مع مستخدم، ما يدفعه بدون قصد إلى تضمين هذا المحتوى في الطلبات التي يرسلها إلى أدوات الذكاء الاصطناعي التوليدي، مثل "تطبيقات Gemini" أو "Google Workspace مع Gemini".
لحماية مستخدمي Gemini، تتّخذ Google تدابير أمنية متقدّمة لرصد المحتوى الخطير والمريب.
كيف ترصد Google المحتوى الضارّ وهجمات حقن الطلبات؟
للمساعدة في حمايتك من المحتوى الضار وهجمات حقن الطلبات، قد يفلتر "Gemini في Workspace" بعض الردود أو يحظرها في حال رصد نشاط ضار.
ماذا يحدث عندما يرصد Gemini نشاطًا مرتبطًا بطلب قد يكون ضارًا؟
- يحذّرك "Gemini في Workspace" من أنّ المحتوى يتضمن مخاطر أمنية.
- في بعض الأحيان، لا يتم استخدام أيّ من المحتوى لإنشاء رد.
- في أحيان أخرى، يستخدم Gemini جزءًا من المحتوى فقط لإنشاء رد، فيستبعد المحتوى الضار.
على سبيل المثال، إذا طلبت من "Gemini في Gmail" تلخيص الرسائل الإلكترونية، وكانت إحدى هذه الرسائل تتضمن محتوًى ضارًا، قد لا يستجيب Gemini لطلبك لأسباب تتعلق بالسلامة.
كيف يمكنك المساهمة في مكافحة المحتوى غير الآمن؟
توخَّ الحذر عند التفاعل مع محتوى من شخص مجهول
- من المهم الانتباه إلى تحذيرات Google بشأن المحتوى الذي يصلك في أدوات أخرى، مثل Gmail.
- من الضروري تجنُّب النقر على روابط من مصادر غير موثوقة.
- يجب الحذر عند التفاعل مع محتوى شاركه مرسِلون غير معروفين، على شكل ملفات في Drive مثلاً.
أبلِغ عن الرسائل الضارّة في Gmail
إذا تلقّيت رسالة مخادعة أو عنوان URL ضارًّا في Gmail، يمكنك الإبلاغ عنهما كعملية تصيّد احتيالي، أي محاولة سرقة معلومات شخصية باستخدام رسائل إلكترونية أو مراسلات أو إعلانات أو مواقع إلكترونية مخادعة تبدو وكأنّها شرعية. مثلاً، قد تبدو رسالة إلكترونية تهدف إلى التصيّد الاحتيالي كأنّها واردة من مصرفك وتطلب معلومات خاصة حول حسابك المصرفي. كيفية الإبلاغ عن التصيّد الاحتيالي في Gmail
كيفية الإبلاغ عن المستندات الضارّة في "أدوات تحرير المستندات"
إذا تلقّيت مستندات وملفات وصورًا ومحتوى آخر ضارًا في "أدوات تحرير المستندات"، يمكنك الإبلاغ عنها. طريقة الإبلاغ عن محتوى مسيء
الإبلاغ عن السلوك الضارّ في "Gemini في تطبيقات Workspace"
إذا تلقّيت ردًّا غير دقيق أو غير آمن بنظرك، يمكنك تقديم ملاحظاتك عن هذا الردّ لإعلامنا بذلك. كيفية الإبلاغ عن إساءة الاستخدام في "Gemini في تطبيقات Workspace"