Ключевые выводы
- Европейская комиссия (ЕК) предложила новый набор правил для сдерживания распространения материалов о сексуальном насилии над детьми.
- Предложение призывает к сканированию частных онлайн-разговоров и было раскритиковано защитниками конфиденциальности.
- Что требуется, так это использование технологий, чтобы помочь родителям следить за своими детьми в Интернете, считают эксперты.
Материалы о жестоком обращении с детьми в онлайн-каналах достигли беспрецедентного уровня, но предлагаемое решение по устранению этой угрозы не устраивает защитников конфиденциальности.
Европейская комиссия (ЕК) недавно предложила новые правила, которые требуют, чтобы приложения для чата, такие как WhatsApp и Facebook Messenger, просматривали личные сообщения помеченных пользователей на наличие материалов сексуального насилия над детьми (CSAM).
«Это впечатляюще смелое и амбициозное предложение по систематическому предотвращению предотвратимого жестокого обращения с детьми и ухода за ними, которое имеет место на рекордных уровнях», - Энди Берроуз, глава отдела безопасности детей в Интернете Национального общества предотвращения жестокого обращения с детьми. (NSPCC), сообщил Lifewire по электронной почте. «В случае одобрения он наложит на платформы четкое требование по борьбе со злоупотреблениями, где бы они ни происходили, в том числе в личных сообщениях, где дети подвергаются наибольшему риску».
Конец сквозного?
Регламент направлен на установление новых правил для онлайн-платформ, совместно именуемых поставщиками онлайн-услуг, и охватывает широкий спектр услуг, включая магазины приложений, веб-хостинговые компании и любого поставщика «услуг межличностного общения».
Одним из аспектов предложения, который вызвал раздражение у групп, занимающихся конфиденциальностью, являются обязательства, которые будут применяться к службам обмена сообщениями, таким как WhatsApp и Facebook Messenger.
В соответствии с предложением, если и когда служба обмена сообщениями получит «приказ об обнаружении» от ЕС, они должны будут сканировать сообщения отмеченных пользователей, чтобы найти доказательства CSAM и другого оскорбительного поведения с участием детей. Вместо того, чтобы нанимать людей для этой задачи, предложение призывает использовать инструменты машинного обучения (МО) и искусственного интеллекта (ИИ) для просмотра разговоров.
Маргаритис Схинас, вице-президент по продвижению нашего европейского образа жизни, отметил, что предложение также требует принятия мер по предотвращению злоупотреблений. «Мы говорим только о программе, сканирующей маркеры незаконного контента, точно так же, как программы кибербезопасности постоянно проверяют наличие нарушений безопасности», - отметил Шинас в заявлении ЕК.
Органы, работающие над защитой детей, выступили в поддержку этого предложения. «Это новаторское предложение может установить стандарт регулирования, который уравновешивает основные права всех пользователей Интернета, уделяя приоритетное внимание защите детей», - заявил Берроуз.
Вилы и факелы
Однако защитники конфиденциальности утверждают, что предложение эффективно препятствует использованию сквозного шифрования.
«Угрожая компаниям судебными исками, Комиссия, вероятно, пытается снять с себя ответственность за опасные и нарушающие конфиденциальность меры, в то же время де-факто стимулируя эти меры с помощью закона», - считает Элла Якубовска, политик. Советник группы защиты цифровых прав European Digital Rights (EDRi) в пресс-релизе.
br/
EDRI утверждает, что меры в предложении ставят под угрозу жизненно важную целостность защищенных коммуникаций, вплоть до заявления о том, что новые правила «заставят компании превратить наши цифровые устройства в потенциальные шпионские программы».«Он также возражает против использования инструментов сканирования на основе ИИ, называя их «заведомо неточными».
Дмитрий Шелест, основатель и генеральный директор OneRep, компании по обеспечению конфиденциальности в Интернете, которая помогает людям удалять их конфиденциальную информацию из Интернета, твердо убежден, что никакие правительственные приложения или приложения для социальных сетей не должны сканировать личные сообщения пользователей, даже выборочно.
«Узаконивая такого рода слежку, мы открываем ящик Пандоры и создаем множество возможностей для неправомерного использования информации, полученной в результате такого вторжения в частную жизнь», - сказала Шелест Lifewire по электронной почте.
Якубовска соглашается. В пресс-релизе она спрашивает, разрешено ли компаниям сегодня сканировать наши личные сообщения, что мешает правительствам заставить их «завтра сканировать доказательства инакомыслия или политической оппозиции?»
Однако все это может сойти на нет. Йеспер Лунд, председатель IT-Pol в Дании, считает, что некоторые аспекты этого предложения могут оказаться невыполнимыми с самого начала.
«Предложение включает в себя требование к интернет-провайдерам блокировать доступ к определенным фрагментам контента на веб-сайтах по приказу национальных властей», - пояснил Лунд в пресс-релизе EDRi. «Однако этот тип блокировки будет технически невозможен с HTTPS, который сейчас используется почти на каждом веб-сайте».
На вопрос, является ли нарушение конфиденциальности единственным способом защитить детей в Интернете, Шелест решительно ответила «Нет». Он считает, что реально работающее решение сочетает участие родителей с поддержкой технологий, которые могут помочь родителям следить за действиями своих детей в Интернете.
«Хорошим началом для технологических гигантов, таких как Apple и Google, было бы предоставление более широких возможностей на своих платформах, которые поддерживают родителей с помощью более продвинутой автоматизации», - предположил Шелест. «Ключ в том, чтобы поддерживать родителей в поддержке своих детей».
