במאמר הזה מוסבר איך Google Workspace עם Gemini עוזר להגן על המשתמשים מפני תוכן זדוני ומתקפות של החדרת פרומפטים.
תוכן זדוני והחדרת פרומפטים ב-AI גנרטיבי
בדומה לאיומים באימייל ובתוכן, כמו תוכנות זדוניות והתקפות פישינג, גם כלים של AI גנרטיבי עלולים להיות מטרה לאיומי אבטחה. החדרת פרומפטים היא ניסיון לגרום לכלים של AI גנרטיבי ליצור תשובה לא מכוונת או מזיקה. כדי להחדיר פרומפטים, התוקפים יכולים לשלוח שאילתות ישירות ל-AI הגנרטיבי, כמו ממשקי Gemini או Google Workspace עם Gemini, או לשתף תוכן זדוני עם המשתמש כדי שהוא יבקש בטעות להתייחס לתוכן הזה בפרומפטים שהוא נותן.
כדי להגן על המשתמשים ב-Gemini, Google משתמשת באמצעי אבטחה מתקדמים שעוזרים לזהות תוכן מסוכן וחשוד.
איך Google מזהה תוכן זדוני והחדרת פרומפטים
כדי להגן עליכם מפני תוכן זדוני והחדרת פרומפטים, Gemini ב-Workspace עשוי לסנן או לחסום תשובות מסוימות אם הוא יזהה פעילות זדונית.
מה קורה כש-Gemini מזהה פעילות שקשורה לפרומפט שעלולה להיות זדונית
- Gemini ב-Workspace מתריע על סיכוני אבטחה בתוכן.
- לפעמים המערכת חוסמת לגמרי את האפשרות להשתמש בתוכן שלכם כדי ליצור תשובה.
- במקרים אחרים, התוכן הזדוני מוחרג על ידי Gemini ורק חלק מהתוכן שלכם משמש ליצירת תשובה.
לדוגמה, אם מבקשים מ-Gemini ב-Gmail לסכם הודעות אימייל, ואחת מההודעות האלה מכילה תוכן זדוני, יכול להיות ש-Gemini לא יגיב לפרומפט שלכם מטעמי בטיחות.
איך להימנע מתכנים לא בטוחים
אם אתם מקיימים אינטראקציה עם תוכן ממישהו שאתם לא מכירים, חשוב שתהיו זהירים
- שימו לב לאזהרות של Google לגבי תוכן שאתם מקבלים בכלים אחרים, כמו Gmail.
- מומלץ לא ללחוץ על קישורים ממקורות לא מהימנים.
- כדאי להיזהר כשמקיימים אינטראקציה עם תוכן משותף, כמו קבצים ב-Drive, שמגיע משולחים לא מוכרים.
דיווח על הודעות זדוניות ב-Gmail
אם קיבלתם הודעה מטעה או כתובת URL מטעה ב-Gmail, אתם יכולים לדווח עליה כפישינג. פישינג הוא ניסיון לגנוב מידע אישי באמצעות הודעות, מודעות ואימיילים מטעים, או באמצעות אתרים שנראים לגיטימיים. לדוגמה, הודעת פישינג באימייל עשויה להיראות כאילו היא נשלחה מהבנק שלכם ומבקשים בה מידע פרטי על חשבון הבנק שלכם. איך מדווחים על פישינג ב-Gmail.
דיווח על מסמכים זדוניים בעורכי Docs
אם קיבלתם תוכן זדוני בעורכי Docs ‒ למשל מסמכים, תמונות או קבצים זדוניים אחרים כלשהם ‒ אתם יכולים לדווח עליהם. איך מדווחים על תוכן פוגעני
דיווח על התנהגות זדונית ב-Gemini באפליקציות Workspace
אם אחת מהתשובות שקיבלתם לא מדויקת או אם לדעתכם היא לא הולמת, אתם יכולים לשלוח לנו משוב על התשובה הזו. איך מדווחים על התנהלות פוגעת ב-Gemini בכלי Workspace