Ako pomáhajú aplikácie Gemini chrániť používateľov pred škodlivým obsahom a vložením škodlivého pokynu

Prečítajte si, ako aplikácie Gemini pomáhajú chrániť používateľov pred škodlivým obsahom a útokmi vložením škodlivého pokynu do kódu.

Škodlivý obsah a vloženie škodlivého pokynu pri používaní generatívnej umelej inteligencie

Hrozby, ako sú malvér a phishingové útoky, nemusia byť zacielené iba na správy a obsah, ale aj na nástroje generatívnej umelej inteligencie. Pri vložení škodlivého pokynu ide o pokus vytvoriť nechcenú alebo škodlivú odpoveď v nástrojoch generatívnej umelej inteligencie. Útočníci môžu vložiť škodlivý pokyn nie iba priamym odoslaním dopytov, ale aj zdieľaním škodlivého obsahu s používateľom, ktorý potom bez zlého úmyslu na tento škodlivý obsah odkazuje v pokyne pre nástroj generatívnej umelej inteligencie, ako sú aplikácie Gemini alebo Gemini pre Workspace. 

Google používa na identifikáciu nebezpečného a podozrivého obsahu pokročilé bezpečnostné opatrenia, čím pomáha chrániť používateľov Gemini.

Ako Google pomáha rozpoznávať škodlivý obsah a vloženie škodlivého pokynu

Keď aplikácie Gemini rozpoznajú podozrivú aktivitu, môžu zablokovať niektoré vstupy, čím vás pomáhajú chrániť pred škodlivým obsahom a vložením škodlivého pokynu.

Keď Gemini identifikuje aktivitu súvisiacu s pokynom, ktorá môže byť podozrivá

  • Ak aplikácie Gemini zistia, že obsah je nedostatočne zabezpečený, upozornia vás.
  • Niekedy sa odpoveď nedá vygenerovať pomocou žiadnej časti obsahu.
  • Niekedy Gemini vylúči podozrivý obsah a odpoveď vygeneruje iba pomocou jeho zostávajúcej časti. 

Ak napríklad požiadate aplikácie Gemini o zhrnutie správ a jedna z nich obsahuje škodlivý obsah, Gemini nemusí z bezpečnostných dôvodov na váš pokyn odpovedať.

Ako predchádzať interakciám s nebezpečným obsahom

Pri interakcii s obsahom od niekoho, koho nepoznáte, postupujte obozretne

  • Venujte pozornosť upozorneniam na obsah od Googlu, ktoré dostávate v iných nástrojoch, napríklad v Gmaile.
  • Neklikajte na odkazy z nedôveryhodných zdrojov.
  • Pri interakcii so zdieľaným obsahom (napríklad verejnými četmi v aplikáciách Gemini alebo webovými aplikáciami Gemini Canvas) od neznámych poskytovateľov postupujte obozretne.

Škodlivý obsah a vloženie škodlivého pokynu pri používaní generatívnej umelej inteligencie

Ak dostanete odpoveď, ktorá je nepresná alebo podľa vás nebezpečná, môžete k nej poskytnúť spätnú väzbu, a tým nás informovať.

Ako nahlásiť problém s aplikáciami Gemini

Táto stránka môže zahŕňať obsah preložený pomocou technológie umelej inteligencie. Preklady od umelej inteligencie môžu obsahovať chyby.
Vyhľadávanie
Vymazať vyhľadávanie
Zavrieť vyhľadávanie
Hlavná ponuka
12368395655448371322
true
Vyhľadávanie v Centre pomoci
false
true
true
true
true
true
5295044
false
false
false
false
false