Ниже описано, как Google Workspace с Gemini помогает защитить пользователей от вредоносного контента и атак с внедрением запроса.
Вредоносный контент и внедренные запросы в генеративном ИИ
Как и в электронной почте, которую мошенники могут взломать при помощи вредоносного ПО и фишинговых атак, в инструментах на базе искусственного интеллекта существуют аналогичные угрозы безопасности. Внедрение запросов – это попытка получить в инструменте на базе генеративного ИИ непредусмотренный или вредоносный ответ. Злоумышленники могут внедрять запросы, не только напрямую отправляя их в ИИ, но и передавая вредоносный контент пользователям, которые затем непреднамеренно ссылаются на него в запросах при использовании ИИ, например в приложениях Gemini или в Google Workspace с Gemini.
Чтобы защитить пользователей Gemini, Google применяет усиленные меры безопасности для выявления подозрительного и потенциально опасного контента.
Как Google выявляет вредоносный контент и внедренные запросы
Чтобы защитить вас от вредоносного контента и внедренных запросов, Gemini в Workspace может автоматически фильтровать или блокировать некоторые ответы при обнаружении подозрительных действий.
Что будет, если Gemini выявит потенциально вредоносный запрос
- Gemini в Workspace предупреждает о том, что контент представляет угрозу безопасности.
- В некоторых случаях весь введенный вами контент может быть не принят для генерирования ответа.
- В некоторых случаях вредоносная часть исключается из запроса, а для генерирования ответа используется лишь безопасная часть вашего контента.
Например, если вы попросите Gemini в Gmail сделать краткий пересказ переписки в почте, а в одном из писем обнаружится вредоносный контент, Gemini может не дать вам ответ из соображений безопасности.
Как помочь нам исключать опасный контент
Будьте внимательны при использовании контента из незнакомых источников
- Обращайте внимание на предупреждения о контенте, которые показывает вам Google, например в приложении Gmail.
- Не переходите по ссылкам из непроверенных источников.
- Будьте осторожны при работе с контентом, которым с вами поделились незнакомые пользователи, например с файлами на Диске.
Сообщайте о мошеннических письмах в Gmail
Если вы получили поддельное письмо или вредоносную ссылку в Gmail, сообщите нам о фишинге. Фишинг – это попытка украсть ваши личные данные при помощи поддельных сайтов, рекламы или электронных писем, имитирующих контент от благонадежных отправителей. Так, фишинговое письмо может выглядеть как сообщение от банка с запросом ваших реквизитов. Подробнее о том, как сообщать о фишинге в Gmail…
Сообщайте о вредоносных документах на Диске и в Google Документах
Если вы получили вредоносные документы, файлы, изображения или другой контент в Google Документах или на Диске, пожалуйтесь на них. Подробнее о том, как пожаловаться на недопустимый контент…
Сообщайте о вредоносных ответах при использовании Gemini в приложениях Workspace
Если какой-то ответ показался вам неточным или потенциально опасным, вы можете сообщить нам об этом. Подробнее о том, как пожаловаться на нарушения при использовании Gemini в приложениях Workspace…