什麼是兒少性虐待內容？
Google 如何打擊兒少性虐待內容？
Google 如何找出自家平台上的兒少性虐待內容？
Google 投入大量資源打擊線上兒少性剝削內容，並使用相關技術來杜絕、偵測及移除自家平台上的兒少性虐待內容，包括採用自動偵測技術和專人審查機制，以及仰賴使用者和第三方 (例如非政府組織) 提出檢舉。我們運用雜湊比對技術 (包括 YouTube 的 CSAI Match 技術) 偵測已知的兒少性虐待內容，同時也使用機器學習分類技術找出前所未見的兒少性虐待內容，再交由專家審查團隊確認。偵測前所未見的兒少性虐待內容可帶來許多助益，進一步確保兒童上網安全，包括找出需要受到保護的未成年受害者，以及提供資料給雜湊資料庫，強化偵測已知兒少性虐待內容的能力。Google 還利用自家的分類技術打造了 Content Safety API，並提供給其他平台使用，協助他們優先針對兒少性虐待內容進行專人審查。
凡是想打擊自家平台上兒少性虐待內容的實體，只要符合資格，即可使用 CSAI Match 技術和 Content Safety API。詳情請參閱這個網頁。
Google 在自家平台上偵測到兒少性虐待內容時，會採取哪些動作？
NCMEC 是美國兒童剝削相關問題的資訊交換所暨綜合回報中心。接獲通報後，NCMEC 可將報告轉給世界各地的執法機關。
什麼是 CyberTipline 報告？報告中包含哪類資訊？
Google 發現明確的兒少性虐待內容時，就會向 NCMEC 提交報告。這類報告通常稱為 CyberTipLine 報告或 CyberTip。此外，我們也會嘗試找出實際虐待未成年人、製作兒少性虐待內容或販運兒童的案例。如有這類情形，我們會向 NCMEC 提交 CyberTip 補充報告，協助相關單位優先處理這些案例。提交給 NCMEC 的報告可能包含相關使用者和未成年受害者的身分資訊，也可能包含違規內容和/或其他有幫助的相關脈絡資料。
以下列舉幾個例子，說明 Google 提交的 CyberTip 報告會對現實世界造成什麼影響。請注意，這些例子只是為了幫助各位對於這類報告有基本的認識，並未涵蓋每一種類型的內容。
- Google 在一份 CyberTip 報告中檢舉了大量兒少性虐待內容，這些內容涉及國小生在教室中接受拍攝。我們回報的兒少性虐待內容中，有部分是 Google 先前未曾偵測到的內容，且似乎出自 Google 帳戶持有人之手。執法機關接獲 NCMEC 轉交的報告後，成功找到出現在所回報兒少性虐待圖像中的兩名未成年人，並給予妥善保護。
- Google 在一份 CyberTip 報告中檢舉了涉及徵求及製作兒少性虐待內容的帳戶持有人。該名帳戶持有人以錢財作為交換條件，要求他人大量製作實際對未成年男性進行性虐待的影片，受害者共計數十名。執法機關接獲 NCMEC 轉交的報告後，以製作兒少性虐待內容為由將該帳戶持有人定罪，且成功找出數十名受害兒童並給予妥善保護，避免他們再次遭受性虐待。
- Google 在一份 CyberTip 報告中檢舉了一項已知的兒少性虐待內容，成功使某名帳戶持有人遭到逮捕。據執法機關所述，該帳戶持有人擁有大量兒少性虐待內容，且涉嫌直接對所照料的未成年人做出虐待行為，甚至還開放他人虐待這些受害兒童。在 Google、NCMEC 和執法機關共同努力下，三名遭性虐待的受害兒童成功獲救。
- Google 在一份 CyberTip 報告中檢舉了兒少性虐待內容。該內容出自某名 Google 帳戶持有人之手，受害者是該帳戶持有人透過網路聯絡的未成年人。該名帳戶持有人在之後遭到逮捕，且執法機關認定其為受患者信任的醫療專業人士：加害者濫用職權虐待所照護的患者，且能夠透過網路直接與未成年人聯絡，誘拐對方製作兒少性虐待內容。
Google 如何因應生成式 AI (GenAI) 帶來的兒少性虐待內容風險？
AI 生成的兒少性虐待內容或電腦生成的兒少性虐待圖像，是 Google 十分重視的一大威脅。我們在偵測、移除及回報兒少性虐待內容時，一直都將下列違規內容列為目標：涉及真實未成年人的內容、可辨識身分的未成年人做出情色露骨行為的經修改圖像，以及呈現真實未成年人做出情色露骨行為，令人難以辨別真偽的電腦生成圖像。
兒少安全是 Google 打造自家 GenAI 模型和產品時的一大考量。因此，我們恪守 Google 的負責任生成式 AI 開發原則，致力保護 Google 所有的公開模型，以及使用這些模型打造的服務。
我們針對自家的 GenAI 模型和產品採用各種兒少安全防護措施，包括確保模型採用的訓練資料不含兒少性虐待內容、防範旨在尋找和產生兒少性虐待內容的提示，以及避免輸出違規內容。在公開模型之前，我們也會先對模型進行完善的兒少安全測試，藉此瞭解並降低模型遭人用於生成兒少性虐待內容的可能性。
此外，隨著這項技術持續演進，我們也與其他兒少安全聯盟與機構 (包括 Technology Coalition 和兒少安全非政府組織) 合作，以便分享與瞭解相關最佳做法。
為杜絕使用者透過 Google 搜尋服務尋找兒少性虐待內容，Google 採取了哪些行動？
在打擊兒少性虐待內容以確保兒童上網安全方面，Google 做出了哪些貢獻？
Google 的兒童安全團隊致力打造相關技術，以利精準偵測、回報及移除兒少性虐待內容，進而保護使用者並避免兒童在使用 Google 產品時受到傷害。我們開發了兒童安全工具包，確保大環境也能受益於這項強大技術，並避免線上兒少性虐待內容數量不斷增加。同時，我們將 Google 的 Hash Matching API 提供給 NCMEC，協助他們有效安排 CyberTipline 報告的審查順序，若報告提及的兒童急需幫助，便能優先處理。
我們也會分享兒少性虐待及剝削信號，協助移除整體大環境中的兒少性虐待內容。我們將數百萬個兒少性虐待內容雜湊提供給 NCMEC 的業界雜湊資料庫，讓其他供應商也能存取及使用這些雜湊。由於線上性虐待和剝削行為可能會在多個平台和服務上發生，因此我們也參與了 Project Lantern 計畫，與其他科技公司分享相關信號，共同以安全且負責任的方式打擊這類濫用行為。
此外，我們還加入了許多相關聯盟 (例如 Technology Coalition、WeProtect Global Alliance 和 INHOPE)，串聯眾多公司及非政府機構共同發展解決方案，致力防止使用者透過網路交流兒少性虐待內容，並杜絕兒少性剝削行為。參與這類聯盟是 Google 的首要之務，而且與 NCMEC 和 Thorn 等非政府組織合作時，我們會分享自家的專業知識、探討各種最佳做法，並進一步瞭解與重要兒少安全議題相關的最新威脅。