Tìm hiểu cách Google Workspace có tích hợp Gemini giúp bảo vệ người dùng khỏi nội dung độc hại và các cuộc tấn công chèn câu lệnh.
Nội dung độc hại và thủ đoạn chèn câu lệnh trong AI tạo sinh
Tương tự như những mối đe doạ về email và nội dung như phần mềm độc hại và các cuộc tấn công giả mạo, các mối đe doạ bảo mật có thể nhắm đến công cụ AI tạo sinh. Chèn câu lệnh là thủ đoạn cố gắng tạo ra câu trả lời ngoài dự kiến hoặc gây hại trong các công cụ AI tạo sinh. Kẻ tấn công không chỉ có thể chèn câu lệnh bằng cách gửi trực tiếp câu hỏi, mà còn có thể chia sẻ nội dung độc hại với người dùng để rồi người dùng vô tình đưa nội dung độc hại đó vào câu lệnh trong các công cụ AI tạo sinh như Các ứng dụng Gemini hoặc Google Workspace có tích hợp Gemini.
Để bảo vệ người dùng Gemini, Google sử dụng các biện pháp bảo mật nâng cao để xác định nội dung có rủi ro và đáng ngờ.
Cách Google phát hiện nội dung độc hại và thủ đoạn chèn câu lệnh
Để giúp bảo vệ bạn khỏi nội dung độc hại và thủ đoạn chèn câu lệnh, Gemini trong Workspace có thể lọc hoặc chặn một số câu trả lời nếu phát hiện hoạt động độc hại.
Trường hợp Gemini phát hiện ra hoạt động liên quan đến một câu lệnh có thể độc hại
- Gemini trong Workspace sẽ cảnh báo cho bạn rằng nội dung đó có rủi ro bảo mật.
- Đôi khi, Gemini có thể không dùng bất cứ nội dung nào của bạn để tạo câu trả lời.
- Đôi khi, Gemini chỉ sử dụng một số nội dung của bạn để tạo câu trả lời, đồng thời loại trừ nội dung độc hại
Ví dụ: Nếu bạn yêu cầu Gemini trong Gmail tóm tắt các email và một trong những email đó có nội dung độc hại, thì Gemini có thể không phản hồi câu lệnh của bạn vì lý do an toàn.
Góp phần tránh nội dung không an toàn
Chú ý khi tương tác với nội dung của người lạ
- Chú ý các cảnh báo của Google về nội dung bạn nhận được trong các công cụ khác như Gmail.
- Tránh nhấp vào đường liên kết của các nguồn không đáng tin cậy.
- Thận trọng khi tương tác với nội dung do người lạ chia sẻ, chẳng hạn như tệp trong Drive.
Báo cáo thư độc hại trong Gmail
Nếu nhận được một URL hoặc thư lừa đảo trong Gmail, bạn có thể báo cáo URL hoặc thư đó là tấn công giả mạo. Tấn công giả mạo là thủ đoạn cố gắng đánh cắp thông tin cá nhân bằng cách sử dụng những email, tin nhắn, quảng cáo hoặc trang web lừa đảo trông có vẻ hợp pháp. Ví dụ: Một email giả mạo có thể trông giống như email do ngân hàng của bạn gửi và yêu cầu bạn cung cấp thông tin riêng tư về tài khoản ngân hàng của bạn. Tìm hiểu cách báo cáo email giả mạo trong Gmail.
Báo cáo tài liệu độc hại trong Tài liệu và Drive
Nếu nhận được tài liệu, tệp, hình ảnh và nội dung độc hại khác trong Tài liệu và Drive, bạn có thể báo cáo những nội dung đó. Tìm hiểu cách báo cáo nội dung vi phạm.
Báo cáo hành vi độc hại trong Gemini trong các ứng dụng của Workspace
Nếu nhận được câu trả lời không chính xác hoặc khiến bạn cảm thấy không an toàn, bạn có thể gửi ý kiến phản hồi về câu trả lời đó cho chúng tôi. Tìm hiểu cách báo cáo hành vi sai trái trong Gemini trong các ứng dụng của Workspace.