CSAM là gì?
Google dùng phương pháp nào để chống lại nội dung xâm hại tình dục trẻ em?
Google xác định nội dung xâm hại tình dục trẻ em trên nền tảng của mình bằng cách nào?
Chúng tôi đầu tư rất nhiều cho hoạt động chống lại nạn bóc lột tình dục trẻ em trên mạng và dùng công nghệ để ngăn chặn, phát hiện và loại bỏ nội dung xâm hại tình dục trẻ em khỏi các nền tảng của chúng tôi. Ngoài việc dựa vào những báo cáo do người dùng và bên thứ ba (như các tổ chức phi chính phủ) gửi đến, chúng tôi còn sử dụng công nghệ phát hiện tự động và quy trình đánh giá thủ công. Chúng tôi triển khai công nghệ so khớp bằng hàm băm, chẳng hạn như công nghệ CSAI Match của YouTube, để phát hiện những nội dung xâm hại tình dục trẻ em từng được phát hiện. Chúng tôi cũng triển khai các thuật toán phân loại bằng công nghệ học máy để khám phá những nội dung xâm hại tình dục trẻ em chưa từng được phát hiện. Những nội dung này sau đó sẽ được các nhóm chuyên viên đánh giá của chúng tôi xác nhận. Việc phát hiện những nội dung xâm hại tình dục trẻ em hoàn toàn mới mang lại lợi ích cho hệ sinh thái bảo vệ sự an toàn của trẻ em theo nhiều cách, chẳng hạn như xác định các nạn nhân cần được bảo vệ và đóng góp dữ liệu cho tập hợp giá trị băm nhằm cải thiện khả năng phát hiện nội dung xâm hại tình dục trẻ em từng được biết đến. Bằng cách dùng các thuật toán phân loại, Google tạo ra API An toàn về nội dung và cung cấp API này cho những bên khác nhằm giúp họ ưu tiên nội dung vi phạm cần đánh giá thủ công.
Những pháp nhân đủ điều kiện và muốn chống lại hành vi sai trái trên nền tảng của mình có thể dùng cả CSAI Match và API An toàn về nội dung – vui lòng xem tại đây để biết thêm chi tiết.
Google làm gì khi phát hiện nội dung xâm hại tình dục trẻ em trên nền tảng của mình?
NCMEC là một trung tâm trao đổi thông tin kiêm trung tâm báo cáo toàn diện tại Hoa Kỳ về các vấn đề liên quan đến hành vi bóc lột trẻ em. Sau khi NCMEC nhận được một báo cáo, họ có thể chuyển tiếp báo cáo đó đến các cơ quan thực thi pháp luật trên khắp thế giới.
Báo cáo CyberTipline là gì, chứa những loại thông tin nào?
Sau khi được biết về những nội dung rõ ràng là hành vi xâm hại tình dục trẻ em, Google sẽ tạo một báo cáo cho NCMEC. Những báo cáo này thường được gọi là báo cáo CyberTipLine hoặc CyberTip. Ngoài ra, chúng tôi cũng nỗ lực xác định những trường hợp liên quan đến hành vi ngược đãi trẻ vị thành niên, sản xuất nội dung xâm hại tình dục trẻ em hoặc buôn bán trẻ em. Trong những trường hợp như vậy, chúng tôi gửi một báo cáo CyberTip bổ sung đến NCMEC để họ ưu tiên xử lý. Báo cáo chúng tôi gửi đến NCMEC có thể chứa thông tin nhận dạng người dùng, thông tin nhận dạng nạn nhân là trẻ vị thành niên và có thể chứa nội dung vi phạm và/hoặc những dữ liệu hữu ích khác có liên quan.
Dưới đây là một vài ví dụ về tác động thực tế của các báo cáo CyberTip mà Google đã gửi. Xin lưu ý rằng những ví dụ này nhằm cung cấp cho bạn thông tin cơ bản về loại báo cáo này và không bao gồm mọi loại nội dung.
- Một báo cáo Cybertip của Google đã báo cáo nhiều nội dung xâm hại tình dục trẻ em liên quan đến học sinh tiểu học được chụp/quay trong một môi trường học đường. Một số nội dung xâm hại tình dục trẻ em được báo cáo là những nội dung mà Google từng không xác định được và có vẻ như chúng do chủ Tài khoản Google tạo ra. NCMEC đã chuyển báo cáo này cho cơ quan thực thi pháp luật, từ đó giúp xác định và bảo vệ 2 trẻ vị thành niên xuất hiện trong hình ảnh xâm hại tình dục trẻ em được báo cáo.
- Một báo cáo Cybertip của Google đã báo cáo về việc một chủ tài khoản gạ gẫm và sản xuất nội dung xâm hại tình dục trẻ em. Kẻ này đã yêu cầu thực hiện nhiều video mô tả hành vi trực tiếp xâm hại hàng chục cậu bé vị thành niên để đổi lấy tiền. NCMEC đã chuyển báo cáo này cho cơ quan thực thi pháp luật. Chủ tài khoản đã bị kết án vì sản xuất nội dung xâm hại tình dục trẻ em và hàng chục trẻ em đã được xác định và bảo vệ khỏi hành vi xâm hại đang diễn ra.
- Một báo cáo Cybertip của Google đã báo cáo một nội dung xâm hại tình dục trẻ em đã biết, dẫn tới việc bắt giữ chủ tài khoản, người bị phát hiện sở hữu nhiều nội dung xâm hại tình dục trẻ em khác. Theo cơ quan thực thi pháp luật, chủ tài khoản này trực tiếp thực hiện hành vi xâm hại trẻ vị thành niên do mình chăm sóc, cũng như để người khác xâm hại những trẻ vị thành niên đó. Nhờ những nỗ lực của Google, NCMEC và cơ quan thực thi pháp luật, 3 trẻ em đã được giải cứu khỏi hành vi xâm hại tình dục.
- Một báo cáo Cybertip của Google đã báo cáo nội dung xâm hại tình dục trẻ em do một chủ Tài khoản Google tạo ra nhằm gạ gẫm trẻ vị thành niên mà chủ tài khoản này tiếp cận được trên mạng. Chủ tài khoản này sau đó bị bắt và cơ quan thực thi pháp luật xác định kẻ này từng là một chuyên gia y tế được bệnh nhân tin tưởng: kẻ này đã lợi dụng chức vụ của mình để xâm hại bệnh nhân mà mình chăm sóc và trực tiếp tiếp cận trẻ vị thành niên trên mạng để gạ gẫm sản xuất nội dung xâm hại tình dục trẻ em.
Google làm thế nào để ngăn ngừa những rủi ro có liên quan đến nội dung xâm hại tình dục trẻ em liên quan đến AI tạo sinh (GenAI)?
Nội dung xâm hại tình dục trẻ em do AI tạo hoặc hình ảnh do máy tính tạo có mô tả hành vi xâm hại tình dục trẻ em là một mối đe doạ mà Google hết sức quan tâm. Chúng tôi luôn nỗ lực phát hiện, xoá bỏ và báo cáo nội dung xâm hại tình dục trẻ em, bao gồm cả nội dung vi phạm liên quan đến trẻ vị thành niên thực sự, hình ảnh đã qua chỉnh sửa về việc đưa một trẻ vị thành niên (có thể xác định danh tính) vào hành vi khiêu dâm và hình ảnh do máy tính tạo ra không thể phân biệt được với hình ảnh một trẻ vị thành niên thực sự bị đưa vào hành vi như vậy.
Google đặc biệt chú trọng đến việc đảm bảo an toàn cho trẻ em khi tạo ra các mô hình và sản phẩm AI tạo sinh của riêng mình. Chúng tôi tuân thủ Nguyên tắc về AI tạo sinh có trách nhiệm của Google trong việc bảo vệ tất cả mô hình được Google cung cấp công khai cũng như những dịch vụ được xây dựng dựa trên những mô hình đó.
Chúng tôi triển khai nhiều biện pháp bảo vệ an toàn cho trẻ em cho các mô hình và sản phẩm AI tạo sinh của mình. Chẳng hạn như những biện pháp bảo vệ nhằm ngăn ngừa sự xuất hiện của nội dung xâm hại tình dục trẻ em trong dữ liệu huấn luyện làm nền tảng xây dựng nên các mô hình của chúng tôi, các câu lệnh tìm kiếm và tạo nội dung xâm hại tình dục trẻ em cũng như kết quả đầu ra mang tính vi phạm. Chúng tôi cũng tiến hành thử nghiệm về mức hiệu quả của biện pháp bảo vệ an toàn trẻ em trên các mô hình của mình trước khi ra mắt công chúng để nắm được và giảm thiểu khả năng nội dung xâm hại tình dục trẻ em được tạo ra.
Chúng tôi cũng hợp tác với những tổ chức khác trong hệ sinh thái bảo vệ an toàn cho trẻ em, trong đó có liên minh Technology Coalition và các tổ chức phi chính phủ về bảo vệ trẻ em, nhằm chia sẻ và tìm hiểu các phương pháp hay nhất trong quá trình công nghệ này không ngừng phát triển.
Google ngăn cản việc người dùng tìm nội dung xâm hại tình dục trẻ em trên Google Tìm kiếm bằng cách nào?
Google đóng góp như thế nào vào hệ sinh thái bảo vệ sự an toàn của trẻ em trong công cuộc chống lại nội dung xâm hại tình dục trẻ em?
Nhóm an toàn cho trẻ em của Google xây dựng công nghệ phát hiện, báo cáo và xoá bỏ nội dung xâm hại tình dục trẻ em một cách chính xác để bảo vệ người dùng và ngăn trẻ em không bị tổn hại khi sử dụng các sản phẩm của Google. Chúng tôi đã phát triển Bộ công cụ bảo vệ trẻ em để đảm bảo hệ sinh thái rộng lớn hơn cũng có thể tiếp cận công nghệ mạnh mẽ này, cũng như góp phần ngăn chặn tình trạng phát tán nội dung xâm hại tình dục trẻ em trên mạng. Ngoài ra, chúng tôi cũng cung cấp API So khớp giá trị băm của Google cho NCMEC nhằm giúp họ ưu tiên và đánh giá các báo cáo CyberTipline sao cho hiệu quả hơn, cho phép họ tập trung vào những báo cáo liên quan đến trẻ em cần được trợ giúp ngay lập tức.
Chúng tôi cũng chia sẻ các tín hiệu về nội dung bóc lột và xâm hại tình dục trẻ em để có thể xoá bỏ nội dung xâm hại tình dục trẻ em khỏi hệ sinh thái rộng lớn hơn. Chúng tôi chia sẻ hàng triệu giá trị băm có liên quan đến nội dung xâm hại tình dục trẻ em với cơ sở dữ liệu băm trong ngành của NCMEC, để các nhà cung cấp khác cũng có thể truy cập và sử dụng những dữ liệu băm đó. Chúng tôi cũng ký kết tham gia Project Lantern, một chương trình giúp các công ty công nghệ chia sẻ tín hiệu có liên quan nhằm chống lại hành vi bóc lột và xâm hại tình dục trên mạng một cách an toàn và có trách nhiệm, vì chúng tôi hiểu rằng hành vi này có thể xuất hiện trên nhiều nền tảng và dịch vụ.
Chúng tôi đồng thời là thành viên tích cực của một số liên minh, chẳng hạn như Technology Coalition, WeProtect Global Alliance và INHOPE. Những liên minh này liên kết các công ty và tổ chức phi chính phủ để chung tay phát triển những giải pháp ngăn chặn vấn nạn trao đổi nội dung xâm hại tình dục trẻ em trên mạng và nạn bóc lột tình dục trẻ em. Google ưu tiên việc tham gia vào các liên minh này. Đồng thời, trong quá trình hợp tác với các tổ chức phi chính phủ như NCMEC và Thorn, chúng tôi chia sẻ kiến thức chuyên môn của mình, khám phá các phương pháp hay nhất và tìm hiểu thêm về những mối đe doạ mới nhất đối với những vấn đề quan trọng có liên quan đến sự an toàn của trẻ em.