במאמר הזה מוסבר איך Google Workspace עם Gemini עוזר להגן על המשתמשים מפני תוכן זדוני ומתקפות של החדרת הנחיות.
תוכן זדוני והחדרת הנחיות ב-AI גנרטיבי
בדומה לאיומים באימייל ובתוכן, כמו תוכנות זדוניות והתקפות פישינג, גם כלים של AI גנרטיבי עלולים להיות מטרה לאיומי אבטחה. החדרת הנחיות היא ניסיון לגרום לתגובה לא מכוונת או מזיקה מכלים של AI גנרטיבי. כדי להחדיר הנחיות, התוקפים יכולים לשלוח שאילתות ישירות ל-AI הגנרטיבי, כמו ממשקי Gemini או Google Workspace עם Gemini, או לשתף תוכן זדוני עם המשתמש, כדי שהוא יתייחס בטעות לתוכן הזה בהנחיות שלו.
כדי להגן על המשתמשים ב-Gemini, Google משתמשת באמצעי אבטחה מתקדמים כדי לזהות תוכן מסוכן וחשוד.
איך Google מזהה תוכן זדוני והחדרת הנחיות
כדי להגן עליכם מפני תוכן זדוני והחדרת הנחיות, Gemini ב-Workspace עשוי לסנן או לחסום תשובות מסוימות אם הוא יזהה פעילות זדונית.
מה קורה כש-Gemini מזהה פעילות שקשורה להנחיה שעלולה להיות זדונית
- Gemini ב-Workspace מתריע על סיכוני אבטחה בתוכן.
- לפעמים המערכת חוסמת לגמרי את האפשרות להשתמש בתוכן שלכם כדי ליצור תשובה.
- במקרים אחרים, התוכן הזדוני מוחרג על ידי Gemini ורק חלק מהתוכן שלכם משמש ליצירת תשובה.
לדוגמה, אם תבקשו מ-Gemini ב-Gmail לסכם הודעות אימייל, שאחת מהן מכילה תוכן זדוני, יכול להיות ש-Gemini לא יגיב להנחיה שלכם מטעמי בטיחות.
איך להימנע מתכנים לא בטוחים
חשוב לשים לב כשאתם מקיימים אינטראקציה עם תוכן ממישהו שאתם לא מכירים
- שימו לב לאזהרות של Google לגבי תוכן שאתם מקבלים בכלים אחרים, כמו Gmail.
- מומלץ לא ללחוץ על קישורים ממקורות לא מהימנים.
- כדאי להיזהר כשמקיימים אינטראקציה עם תוכן משותף משולחים לא מוכרים, כמו קבצים ב-Drive.
דיווח על הודעות זדוניות ב-Gmail
אם קיבלתם הודעה מטעה או כתובת URL מטעה ב-Gmail, אתם יכולים לדווח עליה כפישינג. פישינג הוא ניסיון לגנוב מידע אישי באמצעות הודעות, מודעות ואימיילים מטעים, או באמצעות אתרים שנראים לגיטימיים. לדוגמה, הודעת פישינג באימייל עשויה להיראות כאילו היא נשלחה מהבנק שלכם ומבקשים בה מידע פרטי על חשבון הבנק שלכם. איך מדווחים על פישינג ב-Gmail
דיווח על מסמכים זדוניים ב-Docs וב-Drive
אם קיבלתם מסמכים, קבצים, תמונות ותוכן זדוני אחר ב-Docs וב-Drive, אתם יכולים לדווח עליהם. איך מדווחים על תוכן פוגעני
דיווח על התנהגות זדונית ב-Gemini ב-Workspace
אם אחת מהתשובות שקיבלתם לא מדויקת או אם לדעתכם היא לא הולמת, אתם יכולים לשלוח לנו משוב על התשובה הזו. איך מדווחים על התנהלות פוגעת ב-Gemini ב-Workspace