Gemini 기반 Google Workspace가 악성 콘텐츠 및 프롬프트 인젝션 공격으로부터 어떻게 사용자를 보호하는지 알아보세요.
생성형 AI의 악성 콘텐츠 및 프롬프트 인젝션
멀웨어와 피싱 공격 등 이메일 및 콘텐츠의 위협과 마찬가지로, 생성형 AI 도구에도 보안 위협이 가해질 수 있습니다. 프롬프트 인젝션은 생성형 AI 도구로부터 의도치 않거나 유해한 대답을 유도하려는 시도입니다. 공격자는 질문을 직접 제출하는 것뿐만 아니라 사용자와 악성 콘텐츠를 공유하여 프롬프트 인젝션을 실행할 수 있습니다. 그러면 이 사용자가 의도치 않게 Gemini 앱 또는 Gemini 기반 Google Workspace와 같은 생성형 AI 도구의 프롬프트에서 이 악성 콘텐츠를 참조하게 됩니다.
Gemini 사용자를 보호하기 위해 Google은 고급 보안 조치를 사용하여 위험하고 의심스러운 콘텐츠를 식별합니다.
Google에서 악성 콘텐츠 및 프롬프트 인젝션을 감지하는 방법
Gemini 측면 패널은 악성 콘텐츠 및 프롬프트 인젝션으로부터 사용자를 보호하기 위해 악성 활동이 감지되면 일부 대답을 필터링하거나 차단할 수 있습니다.
Gemini에서 악의가 포함되어 있을 수 있는 프롬프트와 관련된 활동을 식별한 경우
- Gemini 측면 패널에 콘텐츠에 보안 위험이 있음을 경고하는 메시지가 표시됩니다.
- 사용자의 콘텐츠에 대답을 생성하는 데 사용할 수 있는 콘텐츠가 없을 수도 있습니다.
- Gemini에서 악성 콘텐츠를 제외하고 일부 콘텐츠만 사용하여 대답을 생성하는 경우도 있습니다.
예를 들어 Gmail의 Gemini에게 이메일 메시지를 요약해 달라고 요청했는데 그중 하나에 악성 콘텐츠가 포함되어 있으면 Gemini가 안전상의 이유로 사용자의 프롬프트에 대답하지 않을 수 있습니다.
안전하지 않은 콘텐츠 예방하기
알 수 없는 사용자의 콘텐츠와 상호작용할 때 주의하기
- Gmail 등 기타 도구에서 수신하는 콘텐츠에 대한 Google의 경고에 주의를 기울이세요.
- 신뢰할 수 없는 출처의 링크는 클릭하지 마세요.
- Drive의 파일과 같이 알 수 없는 발신자가 공유한 콘텐츠를 사용할 때는 주의하세요.
Gmail에서 악성 메일 신고하기
Gmail에서 사기성 메일이나 URL을 받았다면 피싱으로 신고할 수 있습니다. 피싱은 사기성 이메일, 메시지, 광고 또는 합법적으로 보이는 웹사이트를 사용하여 개인 정보를 도용하려는 시도를 말합니다. 예를 들어, 피싱 이메일은 은행에서 전송된 것처럼 위장하여 은행 계좌와 관련된 개인 정보를 요청할 수 있습니다. Gmail에서 피싱 신고하는 방법 알아보기
Docs 및 Drive에서 악성 문서 신고하기
Docs 및 Drive에서 악성 문서, 파일, 이미지, 기타 콘텐츠를 발견하면 신고할 수 있습니다. 악성 콘텐츠를 신고하는 방법 알아보기
Workspace 앱의 Gemini에서 악의적인 행동 신고하기
Gemini로부터 부정확하거나 안전하지 않다고 생각되는 대답을 받으면 해당 대답에 관한 의견을 제출하여 알려 주시기 바랍니다. Workspace 앱의 Gemini에서 악용 사례를 신고하는 방법 알아보기