يمكنك التعرّف على كيفية حماية "Google Workspace مع Gemini" للمستخدمين من المحتوى الضار والهجمات بحقن الطلبات.
المحتوى الضار والهجمات بحقن الطلبات في الذكاء الاصطناعي التوليدي
على غرار التهديدات المرتبطة بالرسائل الإلكترونية والمحتوى، مثل البرامج الضارة وهجمات التصيّد الاحتيالي، يمكن أن تستهدف التهديدات الأمنية أدوات الذكاء الاصطناعي التوليدي. فتحاول الهجمات بحقن الطلبات جعل هذه الأدوات تقدّم ردودًا غير مقصودة أو ضارة. يمكن للمخترقين شنّ هذه الهجمات بطريقتَين: إما عبر إرسال طلبات مباشرة، أو عبر مشاركة محتوى ضار مع مستخدم، ما يدفعه بدون قصد إلى تضمين هذا المحتوى في الطلبات التي يرسلها إلى أدوات الذكاء الاصطناعي التوليدي، مثل "تطبيقات Gemini" أو "Google Workspace مع Gemini".
لحماية مستخدمي Gemini، تتّخذ Google تدابير أمنية متقدّمة لرصد المحتوى الخطير والمريب.
كيف ترصد Google المحتوى الضارّ وحقن الطلبات؟
للمساعدة في حمايتك من المحتوى الضار وحقن الطلبات، قد تفلتر لوحة Gemini الجانبية بعض الردود أو تحظرها في حال رصد نشاط ضار.
ماذا يحدث عندما يرصد Gemini نشاطًا مرتبطًا بطلب قد يكون ضارًا؟
- تحذّرك لوحة Gemini الجانبية من أنّ المحتوى يتضمن مخاطر أمنية.
- في بعض الأحيان، لا يتم استخدام أيّ من المحتوى لإنشاء رد.
- في أحيان أخرى، يستخدم Gemini جزءًا من المحتوى فقط لإنشاء رد، فيستبعد المحتوى الضار.
على سبيل المثال، إذا طلبت من "Gemini في Gmail" تلخيص الرسائل الإلكترونية، وكانت إحدى هذه الرسائل تتضمن محتوًى ضارًا، قد لا يستجيب Gemini لطلبك لأسباب تتعلق بالسلامة.
كيف يمكنك المساهمة في مكافحة المحتوى غير الآمن؟
توخَّ الحذر عند التفاعل مع محتوى من شخص مجهول
- من المهم الانتباه إلى تحذيرات Google بشأن المحتوى الذي يصلك في أدوات أخرى، مثل Gmail.
- من الضروري تجنُّب النقر على روابط من مصادر غير موثوقة.
- يجب الحذر عند التفاعل مع محتوى شاركه مرسِلون غير معروفين، على شكل ملفات في Drive مثلاً.
أبلِغ عن الرسائل الضارّة في Gmail
إذا تلقّيت رسالة أو عنوان URL مخادعَين في Gmail، يمكنك الإبلاغ عنهما كمحاولة تصيّد احتيالي، وهو محاولة سرقة معلومات شخصية باستخدام رسائل إلكترونية أو مراسلات أو إعلانات أو مواقع إلكترونية مخادعة لكنّها تبدو شرعية. على سبيل المثال، قد تبدو رسالة إلكترونية تهدف إلى التصيّد الاحتيالي كأنّها واردة من مصرفك وتطلب معلومات خاصة حول حسابك المصرفي. طريقة الإبلاغ عن التصيّد الاحتيالي في Gmail
أبلِغ عن المستندات الضارّة في "مستندات Google" وDrive
إذا تلقّيت مستندات وملفات وصورًا ومحتوى آخر ضارًا في "مستندات Google" وDrive، يمكنك الإبلاغ عنها. طريقة الإبلاغ عن محتوى مسيء
أبلِغ عن السلوك الضارّ في "Gemini في تطبيقات Workspace"
إذا تلقّيت ردًّا غير دقيق أو غير آمن بنظرك، يمكنك تقديم ملاحظاتك عن هذا الردّ لإعلامنا بذلك. كيفية الإبلاغ عن إساءة الاستخدام في "Gemini في تطبيقات Workspace"