Scopri come le app Gemini aiutano a proteggere gli utenti da contenuti dannosi e attacchi con prompt injection.
Contenuti dannosi e prompt injection nell'AI generativa
In modo simile alle minacce email e contenuti, come malware e attacchi di phishing, le minacce alla sicurezza possono prendere di mira gli strumenti di AI generativa. Prompt injection è un tentativo di provocare una risposta indesiderata o dannosa da parte degli strumenti di AI generativa. I malintenzionati possono eseguire prompt injection non solo inviando direttamente query, ma anche condividendo contenuti dannosi con un utente, che poi fa riferimento involontariamente a questi contenuti dannosi nei prompt degli strumenti di AI generativa come le app Gemini o Gemini in Workspace.
Per contribuire a proteggere gli utenti di Gemini, Google utilizza misure di sicurezza avanzate per identificare contenuti rischiosi e sospetti.
Come Google aiuta a rilevare contenuti dannosi e prompt injection
Per proteggerti da contenuti dannosi e prompt injection, le app Gemini potrebbero bloccare alcuni input se viene rilevata un'attività sospetta.
Quando Gemini identifica un'attività correlata a un prompt che potrebbe essere sospetto
- Le app Gemini forniscono una notifica di avviso che il contenuto presenta rischi per la sicurezza
- A volte nessuno dei contenuti può essere utilizzato per generare una risposta
- A volte solo una parte dei contenuti viene utilizzata per generare una risposta, mentre il contenuto sospetto viene escluso da Gemini
Ad esempio, se chiedi alle app Gemini di riepilogare le email e una di queste ha contenuti dannosi, Gemini potrebbe non rispondere alla tua richiesta per motivi di sicurezza.
Contribuisci a evitare contenuti non sicuri
Presta attenzione quando interagisci con contenuti di qualcuno che non conosci
- Prendi nota degli avvisi di Google sui contenuti che ricevi in altri strumenti come Gmail
- Evita di fare clic su link provenienti da fonti non affidabili
- Presta attenzione quando interagisci con contenuti condivisi, come le chat pubbliche delle app Gemini o le app web di Gemini Canvas, provenienti da fornitori sconosciuti
Contenuti dannosi e prompt injection nell'AI generativa
Se ricevi una risposta imprecisa o che ritieni non sicura, puoi fornire un feedback per farcelo sapere.