Få flere oplysninger om, hvordan Google Workspace med Gemini hjælper med at beskytte brugerne mod skadeligt indhold og prompt injection-angreb.
Skadeligt indhold og prompt injection i generativ AI
Ligesom det er tilfældet med mail- og indholdsrelaterede trusler som f.eks. malware- og phishingangreb, kan sikkerhedstrusler være rettet mod værktøjer med generativ AI. Prompt injection er et forsøg på at fremkalde et utilsigtet eller skadeligt svar fra værktøjer med generativ AI. Hackere kan ikke kun foretage prompt injection ved at indsende forespørgsler direkte, men også ved at dele skadeligt indhold med en bruger, som derefter utilsigtet bruger dette skadelige indhold i prompter i værktøjer med generativ AI som f.eks. Gemini-apps eller Google Workspace med Gemini.
For at beskytte Gemini-brugere bruger Google avancerede sikkerhedsforanstaltninger til at identificere risikabelt og mistænkeligt indhold.
Sådan registrerer Google skadeligt indhold og prompt injection
For at beskytte dig mod skadeligt indhold og prompt injection kan Gemini-sidepanelet filtrere eller blokere visse svar, hvis der registreres skadelig aktivitet.
Når Gemini identificerer aktivitet, der er relateret til en prompt, som kan være skadelig:
- Gemini-sidepanelet advarer dig om, at indholdet indebærer sikkerhedsrisici.
- Nogle gange kan intet af dit indhold bruges til at generere et svar.
- Nogle gange er det kun noget af dit indhold, der bruges til at generere et svar, hvor det skadelige indhold ekskluderes af Gemini.
Hvis du f.eks. beder Gemini i Gmail om at opsummere mailmeddelelser, og en af disse meddelelser har skadeligt indhold, svarer Gemini muligvis ikke på din besked af sikkerhedsmæssige årsager.
Hjælp med at undgå usikkert indhold
Vær opmærksom, når du interagerer med indhold fra en person, du ikke kender
- Vær opmærksom på advarsler fra Google om indhold, du modtager i andre værktøjer, f.eks. Gmail.
- Undgå at klikke på links fra utroværdige kilder.
- Vær forsigtig, når du interagerer med delt indhold fra ukendte afsendere, f.eks. filer i Drev.
Rapportér skadelige meddelelser i Gmail
Hvis du får en vildledende meddelelse eller webadresse i Gmail, kan du rapportere den som phishing. Phishing er et forsøg på at stjæle personlige oplysninger ved hjælp af vildledende mails, meddelelser, annoncer eller websites, der ser legitime ud. En phishingmail kan f.eks. ligne en meddelelse fra din bank og anmode om private oplysninger om din bankkonto. Få flere oplysninger om, hvordan du rapporterer phishing i Gmail.
Rapportér skadelige dokumenter i Docs og Drev
Hvis du modtager skadelige dokumenter, filer, billeder og andet indhold i Docs og Drev, kan du rapportere dem. Få flere oplysninger om, hvordan du rapporterer krænkende indhold.
Rapportér skadelig adfærd i Gemini i Workspace-apps
Hvis du får et svar, der er unøjagtigt, eller som du mener er risikabelt, kan du give os besked ved at give feedback om det pågældende svar. Se, hvordan du rapporterer misbrug i Gemini i Workspace-apps.