Přečtěte si, jak Google Workspace s Gemini pomáhá chránit uživatele před škodlivým obsahem a útoky vložením manipulativních promptů.
Škodlivý obsah a manipulativní prompty u generativní umělé inteligence
Podobně jako u e‑mailových a obsahových hrozeb, jako je malware a phishing, můžou útočníci cílit i na nástroje s generativní AI. Vložení manipulativního promptu je pokus získat z nástrojů generativní umělé inteligence nezamýšlenou nebo škodlivou odpověď. Útok vložením manipulativním promptu můžou útočníci provést nejen přímým zadáním dotazu, ale taky sdílením škodlivého obsahu s uživatelem, který pak na tento škodlivý obsah neúmyslně odkáže ve svých promptech pro nástroje generativní umělé inteligence, například v aplikaci Gemini nebo Google Workspace s Gemini.
Gemini používá pokročilá bezpečnostní opatření, aby rozpoznal rizika nebo podezřelý obsah a uživatele Gemini před nimi uchránil.
Jak Google rozpoznává škodlivý obsah a manipulativní prompty
Když Gemini ve Workspace zjistí škodlivou aktivitu, může některé odpovědi filtrovat nebo zablokovat, aby uživatele ochránil před škodlivým obsahem a vkládáním manipulativních promptů.
Když Gemini zjistí aktivitu související s promptem, který může být škodlivý
- Gemini ve Workspace vás upozorní, že obsah představuje bezpečnostní riziko.
- V některých případech nebude možné vygenerovat na základě obsahu odpověď.
- Někdy se k vygenerování odpovědi použije jen část vašeho obsahu, přičemž škodlivý obsah služba Gemini vyloučí.
Pokud například požádáte Gemini v Gmailu o shrnutí několika e-mailů a v jednom z nich se vyskytne škodlivý obsah, nemusí Gemini na váš požadavek z bezpečnostních důvodů reagovat.
Jak se nebezpečnému obsahu vyhnout
Buďte opatrní při interakci s obsahem od někoho, koho neznáte
- Věnujte pozornost varováním od Googlu ohledně obsahu, který obdržíte v jiných nástrojích, jako je Gmail.
- Neklikejte na odkazy z nedůvěryhodných zdrojů.
- Při interakci se sdíleným obsahem od neznámých odesílatelů, například se sdílenými soubory na Disku, buďte opatrní.
Hlášení škodlivých zpráv v Gmailu
Pokud v Gmailu dostanete klamavou zprávu nebo adresu URL, můžete ji nahlásit jako phishing. Phishing je pokus o odcizení osobních údajů pomocí podvodných e-mailů, zpráv, reklam nebo webů, které vypadají jako pravé. Phishingový e-mail, který vás žádá o soukromé informace o vašem bankovním účtu, může například působit jako zpráva od vaší banky. Přečtěte si, jak můžete v Gmailu phishing nahlásit.
Hlášení škodlivých dokumentů v Dokumentech a na Disku
Pokud se vám v Dokumentech a na Disku zobrazí škodlivé dokumenty, soubory, obrázky nebo jiný obsah, můžete je nahlásit. Obsah porušující zásady nahlásíte takto.
Nahlášení škodlivého chování v Gemini ve Workspace
Když dostanete odpověď, která není správná nebo vám připadá nebezpečná, můžete nám k ní poslat zpětnou vazbu. Přečtěte si, jak nahlásit zneužití v Gemini ve Workspace