Scopri in che modo Google Workspace con Gemini aiuta a proteggere gli utenti da contenuti dannosi e attacchi di prompt injection.
Contenuti dannosi e prompt injection nell'AI generativa
Proprio come esistono minacce via email e legate ai contenuti, come malware e attacchi di phishing, esistono anche minacce alla sicurezza che possono prendere di mira gli strumenti di AI generativa. La prompt injection consiste nel tentare di ottenere una risposta indesiderata o dannosa da strumenti di AI generativa. Gli utenti malintenzionati possono eseguire la prompt injection non solo inviando domande direttamente, ma anche condividendo contenuti dannosi con un utente, che poi farà riferimento involontariamente a questi contenuti nei prompt per gli strumenti di AI generativa, come le app Gemini o Google Workspace con Gemini.
Per contribuire a proteggere gli utenti di Gemini, Google utilizza misure di sicurezza avanzate per identificare contenuti rischiosi e sospetti.
In che modo Google rileva contenuti dannosi e prompt injection
Per proteggerti da contenuti dannosi e prompt injection, il riquadro laterale di Gemini può filtrare o bloccare alcune risposte se vengono rilevate attività dannose.
Cosa succede quando Gemini identifica un'attività correlata a un prompt potenzialmente dannosa
- Il riquadro laterale di Gemini ti avvisa che i contenuti presentano rischi per la sicurezza.
- A volte, nessuno dei tuoi contenuti può essere utilizzato per generare una risposta.
- A volte, solo una parte dei tuoi contenuti viene utilizzata per generare una risposta e i contenuti dannosi vengono esclusi da Gemini.
Ad esempio, se chiedi a Gemini in Gmail di riassumere le email e una di queste presenta contenuti dannosi, Gemini potrebbe non rispondere al tuo prompt per motivi di sicurezza.
Aiuta a evitare contenuti non sicuri
Fai attenzione quando interagisci con i contenuti di una persona che non conosci
- Tieni conto degli avvisi di Google sui contenuti che ricevi in altri strumenti, come Gmail.
- Evita di fare clic su link provenienti da fonti non attendibili.
- Fai attenzione quando interagisci con contenuti condivisi da mittenti sconosciuti, ad esempio file su Drive.
Segnala messaggi dannosi in Gmail
Se ricevi un messaggio o un URL ingannevole in Gmail, puoi segnalarlo come phishing. Il phishing è un tentativo di rubare informazioni personali usando indirizzi email, messaggi, annunci o siti web ingannevoli che sembrano legittimi. Ad esempio, un'email di phishing potrebbe sembrare un messaggio inviato dalla tua banca e richiedere informazioni private relative al tuo conto. Scopri come segnalare tentativi di phishing in Gmail.
Segnala documenti dannosi in Documenti e Drive
Se ricevi documenti, file, immagini e altri contenuti dannosi in Documenti e Drive, puoi segnalarli. Scopri come segnalare contenuti illeciti.
Segnala comportamenti dannosi in Gemini nelle app Workspace
Se ricevi una risposta che non è precisa o che ritieni non sicura, puoi inviare un feedback per comunicarcelo. Scopri come segnalare abusi in Gemini nelle app Workspace.