Prečítajte si, ako aplikácie Gemini pomáhajú chrániť používateľov pred škodlivým obsahom a útokmi vložením škodlivého pokynu do kódu.
Škodlivý obsah a vloženie škodlivého pokynu pri používaní generatívnej umelej inteligencie
Hrozby, ako sú malvér a phishingové útoky, nemusia byť zacielené iba na správy a obsah, ale aj na nástroje generatívnej umelej inteligencie. Pri vložení škodlivého pokynu ide o pokus vytvoriť nechcenú alebo škodlivú odpoveď v nástrojoch generatívnej umelej inteligencie. Útočníci môžu vložiť škodlivý pokyn nie iba priamym odoslaním dopytov, ale aj zdieľaním škodlivého obsahu s používateľom, ktorý potom bez zlého úmyslu na tento škodlivý obsah odkazuje v pokyne pre nástroj generatívnej umelej inteligencie, ako sú aplikácie Gemini alebo Gemini pre Workspace.
Google používa na identifikáciu nebezpečného a podozrivého obsahu pokročilé bezpečnostné opatrenia, čím pomáha chrániť používateľov Gemini.
Ako Google pomáha rozpoznávať škodlivý obsah a vloženie škodlivého pokynu
Keď aplikácie Gemini rozpoznajú podozrivú aktivitu, môžu zablokovať niektoré vstupy, čím vás pomáhajú chrániť pred škodlivým obsahom a vložením škodlivého pokynu.
Keď Gemini identifikuje aktivitu súvisiacu s pokynom, ktorá môže byť podozrivá
- Ak aplikácie Gemini zistia, že obsah je nedostatočne zabezpečený, upozornia vás.
- Niekedy sa odpoveď nedá vygenerovať pomocou žiadnej časti obsahu.
- Niekedy Gemini vylúči podozrivý obsah a odpoveď vygeneruje iba pomocou jeho zostávajúcej časti.
Ak napríklad požiadate aplikácie Gemini o zhrnutie správ a jedna z nich obsahuje škodlivý obsah, Gemini nemusí z bezpečnostných dôvodov na váš pokyn odpovedať.
Ako predchádzať interakciám s nebezpečným obsahom
Pri interakcii s obsahom od niekoho, koho nepoznáte, postupujte obozretne
- Venujte pozornosť upozorneniam na obsah od Googlu, ktoré dostávate v iných nástrojoch, napríklad v Gmaile.
- Neklikajte na odkazy z nedôveryhodných zdrojov.
- Pri interakcii so zdieľaným obsahom (napríklad verejnými četmi v aplikáciách Gemini alebo webovými aplikáciami Gemini Canvas) od neznámych poskytovateľov postupujte obozretne.
Škodlivý obsah a vloženie škodlivého pokynu pri používaní generatívnej umelej inteligencie
Ak dostanete odpoveď, ktorá je nepresná alebo podľa vás nebezpečná, môžete k nej poskytnúť spätnú väzbu, a tým nás informovať.