Přečtěte si, jak aplikace s Gemini pomáhají chránit uživatele před škodlivým obsahem a útoky prostřednictvím vsouvání pokynů.
Škodlivý obsah a vsouvání pokynů v generativní umělé inteligenci
Podobně jako existují e‑mailové a obsahové hrozby, například malware a phishing, existující i bezpečnostní hrozby, které cílí na nástroje s generativní umělou inteligencí. Vsunutí pokynu je pokus přimět nástroje s umělou inteligencí k nechtěné nebo škodlivé odpovědi. Vsouvání pokynů mohou útočníci provádět nejen přímým odesíláním dotazů, ale také sdílením škodlivého obsahu s uživateli, aby na něj neúmyslně odkazovali ve svých pokynech pro nástroje s generativní umělou inteligencí, jako jsou aplikace s Gemini nebo Gemini for Workspace.
Společnost Google chrání uživatele Gemini tím, že používá pokročilá bezpečnostní opatření k identifikaci rizikového a podezřelého obsahu.
Jak Google pomáhá odhalovat škodlivý obsah a vsouvání pokynů
Aby vás aplikace s Gemini ochránily před škodlivým obsahem a vsouvání pokynů, mohou v případě zjištění podezřelé aktivity některé vstupy zablokovat
Když Gemini v souvislosti s pokynem identifikuje potenciálně podezřelou aktivitu
- Aplikace s Gemini poskytují varovné oznámení ohledně bezpečnostních rizik v obsahu.
- Někdy z obsahu nelze k vygenerování odpovědi použít nic.
- Někdy se ke generování odpovědi použije pouze část obsahu a podezřelý obsah Gemini vyloučí.
Pokud například aplikace s Gemini požádáte o shrnutí e‑mailových zpráv a jedna z nich má škodlivý obsah, nemusí Gemini na váš pokyn z bezpečnostních důvodů reagovat.
Vyhýbejte se nebezpečnému obsahu
Při interakci s obsahem od lidí, které neznáte, buďte obezřetní
- Všímejte si varování od Googlu u obsahu, který dostáváte v jiných nástrojích, jako je Gmail.
- Neklikejte na odkazy z nedůvěryhodných zdrojů.
- Buďte opatrní při interakci se sdíleným obsahem od neznámých poskytovatelů, jako jsou veřejné chaty v aplikacích s Gemini nebo webové aplikace Gemini Canvas.
Škodlivý obsah a vsouvání pokynů v generativní umělé inteligenci
Pokud obdržíte odpověď, která je nepřesná nebo se vám zdá nebezpečná, můžete nám o tom dát prostřednictvím zpětné vazby vědět.