Що таке матеріали із зображенням сексуального насильства над дітьми?
Як компанія Google бореться з матеріалами із зображенням сексуального насильства над дітьми?
Як компанія Google виявляє на своїх платформах матеріали із зображенням сексуального насильства над дітьми?
Ми вкладаємо значні кошти в боротьбу із сексуальною експлуатацією дітей в Інтернеті й за допомогою технологій виявляємо, не допускаємо до публікації і видаляємо з наших платформ матеріали із зображенням сексуального насильства над дітьми. Зокрема, для цього ми застосовуємо автоматичне виявлення, перевірку спеціалістами й враховуємо скарги наших користувачів і третіх осіб (як-от неурядових організацій). Уже відомі матеріали із зображенням сексуального насильства над дітьми ми виявляємо за збігами хешів, наприклад за допомогою розробленої для YouTube технології CSAI Match. Також ми застосовуємо алгоритми машинного навчання, щоб знаходити раніше не виявлені матеріали, які потім перевіряють і підтверджують наші спеціалісти. У такий спосіб ми допомагаємо екосистемі безпеки дітей, зокрема визначаємо дітей-жертв, які потребують захисту, і розширюємо базу хешів, щоб краще визначати вже відомі матеріали із зображенням сексуального насильства над дітьми. Для цього ми створили Content Safety API – технологію попередньої класифікації неприйнятного контенту для пріоритетної перевірки спеціалістами, і тепер ділимося нею з іншими.
CSAI Match і Content Safety API доступні для відповідних організацій, які прагнуть боротися з порушеннями на своїх платформах. Щоб дізнатися більше, перегляньте цей сайт.
Яких заходів вживає компанія Google, якщо виявляє на своїх платформах матеріали із зображенням сексуального насильства над дітьми?
NCMEC функціонує як інформаційна служба і єдина в США інстанція прийому повідомлень про порушення, пов’язані з експлуатацією дітей. Отримавши повідомлення, працівники NCMEC можуть передавати його правоохоронним органам інших країн.
Що таке повідомлення через систему CyberTipline і яку інформацію воно містить?
Коли нам стає відомо про матеріали із зображенням сексуального насильства над дітьми, ми доповідаємо про них NCMEC через систему CyberTipline. Крім того, ми намагаємося виявляти участь користувачів наших продуктів і сервісів у насильстві над неповнолітніми, торгівлі дітьми й виготовленні матеріалів із зображенням сексуального насильства над дітьми. У таких випадках ми надсилаємо NCMEC додаткове повідомлення через систему CyberTipline, щоб забезпечити пріоритетний розгляд. Повідомлення, яке отримує NCMEC, може містити інформацію, яка ідентифікує користувача, неповнолітню жертву, а також неприйнятний контент і/або інші корисні контекстуальні дані.
Нижче наведено приклади реального впливу наших повідомлень через систему CyberTipline (зверніть увагу, що це лише кілька прикладів).
- Компанія Google повідомила через систему CyberTipline про численні одиниці контенту із зображеннями сексуального насильства над дітьми початкової школи, знятими в класі. Деякі із цих матеріалів не було виявлено раніше, і їх, судячи з усього, створив власник облікового запису Google. Працівники NCMEC передали це повідомлення правоохоронним органам, завдяки чому вдалося виявити двох неповнолітніх, зображених у матеріалах, і забезпечити їхній захист.
- Компанія Google повідомила через систему CyberTipline про вимагання і виготовлення матеріалів із зображенням сексуального насильства над дітьми: власник облікового запису вимагав виготовити численні відео із зображенням насильства над десятками неповнолітніх хлопчиків в обмін на гроші. Працівники NCMEC передали це повідомлення правоохоронним органам, після чого власника облікового запису було засуджено за виготовлення матеріалів із зображенням сексуального насильства над дітьми. Також правоохоронні органи змогли виявити кілька десятків дітей і захистити їх від подальшого насильства.
- Компанія Google повідомила через систему CyberTipline про одну одиницю раніше відомого контенту із зображенням сексуального насильства над дітьми, що призвело до затримання власника облікового запису. За даними правоохоронних органів, у власника було знайдено багато інших матеріалів із зображенням сексуального насильства над дітьми, а сам він був безпосередньо залучений до насильства над неповнолітніми, що перебували під його опікою, а також дозволяв іншим особам жорстоко поводитися з ними. Завдяки спільним зусиллям Google, NCMEC і правоохоронних органів трьох дітей вдалося врятувати від сексуального насильства.
- Компанія Google повідомила через систему CyberTipline про матеріали із зображенням сексуального насильства над дітьми, виготовлені власником облікового запису Google. Він отримав їх через Інтернет унаслідок вимагання в неповнолітніх. Пізніше правоохоронні органи затримали власника облікового запису й виявили, що він медичний працівник, який користується довірою. Зловживаючи своєю посадою, він учиняв насильницькі дії з пацієнтами під його опікою і мав прямий онлайн-доступ до неповнолітніх, у яких вимагав матеріали із зображенням сексуального насильства.
Як Google бореться з ризиками, пов’язаними з матеріалами із зображенням сексуального насильства над дітьми у сфері генеративного ШІ?
Ми дуже серйозно ставимося до загрози, яку становлять матеріали із зображенням сексуального насильства над дітьми, створені за допомогою ШІ. Серед матеріалів, які ми виявляли, видаляли й включали у звіти для компетентних органів, завжди був неприйнятний контент із реальними дітьми, зміненими зображеннями впізнаваних неповнолітніх і згенерованими ШІ образами, які важко відрізнити від справжніх дітей.
Створюючи власні моделі генеративного ШІ й продукти, у яких вони застосовуються, Google приділяє особливу увагу безпеці дітей. Ми дотримуємося принципів Google щодо відповідального використання генеративного ШІ, захищаючи всі загальнодоступні моделі й сервіси Google, побудовані на їх основі.
Ми застосовуємо різноманітні засоби захисту дітей у наших моделях генеративного ШІ й пов’язаних із ними продуктах. Зокрема, ми не допускаємо матеріали із зображенням сексуального насильства над дітьми в навчальних даних, які лежать в основі наших моделей виявлення запитів на отримання й створення таких матеріалів, а також неприйнятних результатів таких запитів. Крім того, перед запуском моделей для загального користування ми ретельно перевіряємо їх з огляду на безпеку дітей, щоб зрозуміти й знизити ймовірність створення матеріалів із зображенням сексуального насильства над дітьми.
Ми також співпрацюємо з іншими учасниками екосистеми безпеки дітей, зокрема з Коаліцією з технологій і неурядовими організаціями, щоб ділитися рекомендаціями й переймати їхній досвід, оскільки ця технологія продовжує розвиватися.
Яких заходів вживає компанія Google, щоб утримати користувачів від пошуку матеріалів із зображенням сексуального насильства над дітьми в системі Пошуку Google?
Який внесок робить Google в екосистему захисту дітей для боротьби з матеріалами із зображенням сексуального насильства над неповнолітніми?
Команда Google із захисту дітей створює технології, які мають змогу точно виявляти й вилучати матеріали із зображенням сексуального насильства над дітьми, а також повідомляти про них відповідні організації. Так ми захищаємо наших користувачів і запобігаємо заподіянню шкоди дітям через наші продукти. Ми розробили набір інструментів для захисту дітей, щоб інші представники галузі також мали доступ до наших технологій і мали змогу запобігати розповсюдженню в Інтернеті зображень сексуального насильства над дітьми. Також ми надаємо доступ до інструмента Google Hash Matching API працівникам NCMEC, щоб вони могли ефективніше розглядати скарги, надіслані через систему CyberTipline. Завдяки цьому пріоритет надається повідомленням про дітей, що потребують невідкладної допомоги.
Ми також повідомляємо про ознаки сексуального насильства над дітьми і їх експлуатації, щоб видаляти неприйнятні матеріали із ширшої екосистеми. Ми передаємо мільйони хешів матеріалів із зображенням сексуального насильства над дітьми для бази даних хешів NCMEC, щоб їх могли використовувати інші постачальники. Крім того, ми приєдналися до програми Project Lantern, яка дає змогу технологічним компаніям ділитися одна з одною відповідними сигналами, щоб безпечно й відповідально протидіяти сексуальному насильству й експлуатації в Інтернеті, розуміючи, що ці протиправні явища можуть виходити за межі окремих платформ і сервісів.
Ми також належимо до кількох коаліцій, таких як Коаліція з технологій, Глобальний альянс WeProtect і INHOPE. Ці структури об’єднують компанії і неурядові організації для розробки рішень, що запобігають поширенню матеріалів із зображенням сексуального насильства над дітьми в Інтернеті й сексуальній експлуатації дітей. Google надає пріоритет участі в цих коаліціях, і в співпраці з такими неурядовими організаціями, як NCMEC і Thorn, ми ділимося досвідом, досліджуємо оптимальні методи й дізнаємося більше про найновіші загрози, пов’язані з основними питаннями безпеки дітей.