Dowiedz się, jak aplikacje z Gemini chronią użytkowników przed szkodliwymi treściami i wstrzykiwaniem promptów.
Szkodliwe treści i wstrzykiwanie promptów w generatywnej AI
Z pewnością znasz takie zagrożenia jak złośliwe oprogramowanie czy phishing, które są wymierzone w pocztę elektroniczną i inne treści. Podobne zagrożenia mogą też dotyczyć narzędzi generatywnej AI. Wstrzykiwanie promptów to próba zmuszenia generatywnej AI do podania szkodliwych lub niezamierzonych odpowiedzi. Osoby o złych zamiarach mogą przeprowadzać takie ataki, przesyłając zapytania bezpośrednio albo udostępniając szkodliwe treści. Użytkownicy mogą później nieświadomie wykorzystać takie treści w swoich promptach w narzędziach takich jak aplikacje z Gemini czy Gemini w Google Workspace.
Aby chronić użytkowników Gemini, Google stosuje zaawansowane zabezpieczenia, które rozpoznają ryzykowne i podejrzane treści.
Jak Google wykrywa szkodliwe treści i wstrzykiwanie promptów
Aby chronić Cię przed szkodliwymi treściami i wstrzykiwaniem promptów, aplikacje z Gemini mogą blokować niektóre dane wejściowe po wykryciu podejrzanej aktywności.
Gdy Gemini rozpozna związaną z promptem aktywność, która może być podejrzana
- Aplikacje z Gemini wyświetlają ostrzeżenie, że dane treści mogą być niebezpieczne.
- Niekiedy do wygenerowania odpowiedzi nie można wykorzystać żadnego elementu treści.
- Czasem tylko ich część jest używana do wygenerowania odpowiedzi, a Gemini wyklucza wszystkie podejrzane elementy.
Na przykład jeśli poprosisz aplikacje z Gemini o podsumowanie wiadomości e-mail, a jedna z nich będzie zawierać szkodliwe treści, Gemini może nie odpowiedzieć na prompta ze względu na Twoje bezpieczeństwo.
Ochrona przed niebezpiecznymi treściami
Zachowaj ostrożność podczas korzystania z treści od nieznanych osób
- Zwracaj uwagę na ostrzeżenia Google dotyczące treści otrzymywanych w innych narzędziach (takich jak Gmail).
- Nie klikaj linków z niezaufanych źródeł.
- Ostrożnie podchodź do treści udostępnianych przez nieznane osoby – takich jak publiczne czaty w aplikacjach z Gemini czy aplikacje internetowe w Gemini Canvas.
Szkodliwe treści i wstrzykiwanie promptów w generatywnej AI
Jeśli otrzymasz odpowiedź, która jest nieprawidłowa lub która Twoim zdaniem jest niebezpieczna, możesz nas o tym poinformować, przesyłając opinię.