Столкновение между цифровая конфиденциальность и защита детей Она вновь оказалась в центре технологических дебатов после... Иск подан в Соединенных Штатах. Штат Западная Вирджиния обвиняет компанию в том, что она позволяет использовать свой облачный сервис iCloud для хранения и распространения материалов, содержащих сцены сексуального насилия над детьми.
Последствия этого дела выходят далеко за пределы одного штата США. Решение суда может повлиять на... Как технологические гиганты справляются с обнаружением незаконного контента? По всему миру, включая Европу, обсуждаются очень строгие правила шифрования и сканирования сообщений и фотографий.
Судебный иск в Западной Вирджинии: iCloud под подозрением
Генеральный прокурор Западной Вирджинии, Дж. Б. МаккаскиВ отношении Apple подан гражданский иск, в котором утверждается, что компания годами позволяла iCloud функционировать как «средство» для хранения и распространения материалов сексуального характера с участием детей. Согласно иску, компания знала, что ее платформа используется для этой цели, и тем не менее… не стали бы принимать эффективные технические меры чтобы остановить это.
В судебном документе утверждается, что Apple, вместо усиления контроля, принимала проектные решения, которые способствовали возникновению проблемы. Маккаски заявляет, что под видом защиты конфиденциальности и шифрования Apple продемонстрировала «умышленное пренебрежение» к этому вопросу. ущерб, который, по мнению прокуратуры, можно было в значительной степени предотвратить.Обвинение квалифицирует этот случай как нарушение законов штата о защите прав потребителей.
Наиболее поразительным аспектом судебного иска являются ссылки на внутренние сообщения самой компании AppleВ одном из заявлений, приписываемых руководителю отдела по борьбе с мошенничеством компании Эрику Фридману, утверждается, что iCloud станет «лучшей платформой для распространения детской порнографии». Если это заявление подтвердится в суде, это будет свидетельствовать о том, что компания осознавала риски, связанные с разработкой облачного сервиса.
Маккаски утверждает, что, несмотря на эти внутренние предупреждения, Apple «долгое время ничего не предпринимала» и что на практике... приоритет отдавался неприкосновенности частной жизни взрослых, а не безопасности несовершеннолетних.Прокурор считает «абсолютно непростительным» защищать конфиденциальность предполагаемых сексуальных преступников, ссылаясь на принципы неприкосновенности частной жизни.
Иск не ограничивается требованием денежного штрафа. Штат Западная Вирджиния требует... компенсация за юридические и штрафные убытки Кроме того, суды должны обязать Apple внедрить эффективные системы обнаружения материалов сексуального характера в iCloud и перепроектировать свои продукты, чтобы включить в них больше мер защиты на будущее.
От сканирования, запланированного на 2021 год, до сквозного шифрования
Техническая подоплека спора восходит к 2021 году, когда Apple анонсировала систему автоматического сравнения фотографий, загруженных в iCloud, с базами данных известных изображений сексуального насилия над детьми. Идея заключалась в использовании метода сравнения (хешей), который позволил бы обнаруживать незаконный контент без прямого просмотра изображений сотрудниками компании. Такой подход был призван сбалансировать защита несовершеннолетних и конфиденциальность пользователей.
Однако это заявление вызвало резкую реакцию со стороны правозащитных организаций, экспертов по криптографии и защитников конфиденциальности как в Соединенных Штатах, так и в Европе. Многие предупреждали, что этот механизм, хотя и представлен как имеющий законные цели, фактически представляет собой создание «Закулисная» слежка авторитарные правительства могут пытаться расширять свою власть с целью преследования инакомыслия, слежки за журналистами или контроля над меньшинствами.
Критика была настолько резкой, что Apple в итоге отложила внедрение этой системы, а некоторое время спустя объявила о полном отказе от проекта. Почти год спустя компания подтвердила, что отменены планы по сканированию фотографий из iCloud В поисках средств защиты детей от сексуального насилия над детьми (CSAM) компания решила сосредоточить свои усилия на превентивных мерах в устройствах и инструментах безопасности в средствах связи.
Крейг Федериги, главный директор Apple по программному обеспечению, объяснил в интервью, что компания предпочитает сосредоточиться на предотвращении случаев насилия над детьми «до того, как это произойдет», а не на массовой проверке уже хранящихся фотографий. Эта стратегия соответствует приверженности Apple сквозному шифрованию, модели, в рамках которой Даже сама компания не имеет доступа к контенту..
Офис генерального прокурора Западной Вирджинии интерпретирует эти решения противоположным образом: он утверждает, что, отказавшись от автоматизированных систем обнаружения и усилив шифрование, Apple превратила iCloud в «безопасный и беспрепятственный путь» для тех, кто хочет хранить и распространять детскую порнографию. Для штата этот сдвиг со стороны компании — не жест в пользу конфиденциальности, а скорее... отказывается использовать имеющиеся инструменты для смягчения очень конкретного вреда..
Представленные данные и сравнение с Google и Meta.
Одним из основных аргументов в этом судебном процессе являются данные уведомлений о сексуальном насилии в отношении детей, предоставляемые крупными технологическими компаниями. Национальный центр пропавших без вести и эксплуатируемых детей (NCMEC)Агентство, которое централизует подобные оповещения в Соединенных Штатах. Федеральный закон требует от компаний, базирующихся в стране, сообщать об обнаружении материалов с изображением сексуального насилия над детьми на своих сервисах.
Согласно документам, предоставленным штатом Западная Вирджиния, в 2023 году Компания Apple сообщила только о 267 отчетах. Это связано с сообщениями о сексуальном насилии над детьми, поступившими в NCMEC. Эта цифра резко контрастирует с более чем 1,47 миллионами сообщений, поступивших от Google, и более чем 30,6 миллионами, приписываемыми Meta (материнской компании Facebook и Instagram) за тот же период. Количественная разница настолько существенна, что стала одним из главных аргументов в этом деле.
Для обвинения этот контраст показывает, что Apple является значительно отстают от других технологических гигантов Маккаски утверждает, что в плане обнаружения и сообщения о незаконном контенте у iCloud недостаточно механизмов для выявления и блокировки материалов сексуального характера. Учитывая контроль Apple над своей аппаратной и программной экосистемой, «нет оправдания» таким низким показателям.
Однако это сравнение порождает сложную дискуссию. Многомиллионные доходы Google и Meta также объясняются интенсивным использованием ими таких технологий, как... PhotoDNA (от Microsoft) или Content Safety API (от Google)Системы массового сканирования могут генерировать огромные списки оповещений, включая потенциальные ложные срабатывания. Разница между 267 оповещениями и более чем 30 миллионами указывает не только на разницу в эффективности, но и в... методология мониторинга.
Этот вопрос особенно актуален в Европе, где законодатели ЕС давно обсуждают, следует ли обязать платформы сканировать зашифрованные сообщения или облачные хранилища на предмет наличия материалов сексуального характера, связанных с детьми. Опыт других сервисов, таких как Google, показал, что автоматизированные системы могут это обнаруживать. блокировать целые аккаунты а также могут привести к потере доступа к электронной почте, фотографиям и документам при возникновении ошибки идентификации.
Конфиденциальность, ложные срабатывания и прецедент для других платформ.
Случай с Apple — не единичный. Многочисленные отзывы, опубликованные на технических форумах и в таких сетях, как Reddit, описывают, как пользователи других сервисов теряли свои учетные записи из-за той же проблемы. ложные срабатывания в алгоритмах обнаруженияВо многих случаях они объясняют, что приостановка действия учетной записи сопровождается лишь общим сообщением о нарушениях правил, без четкой проверки человеком или прозрачной процедуры обжалования.
Подобный опыт укрепил идею о том, что, хотя автоматическое сканирование может помочь обнаружить серьезно противозаконный контент, его применение может иметь очень высокую цену. вся цифровая жизнь человекаДля многих специалистов по безопасности вывод таков: централизовать все персональные данные в одной компании нецелесообразно, и всегда рекомендуется создавать локальные резервные копии всего, что невозможно потерять.
Однако власти Западной Вирджинии считают, что нынешний баланс слишком сильно сместился в сторону защиты частной жизни. Иск направлен на создание прецедента, который обяжет такие компании, как Apple, играть более активную роль. более активная ответственность в выявлении и сообщении о нарушениях от материалов, содержащих сцены сексуального насилия над детьми, даже если это означает пересмотр их политики шифрования или внедрение более инвазивных систем сканирования.
Если суд вынесет решение в пользу государства, это откроет двери для других американских прокуроров, которые смогут возбудить аналогичные дела против Apple или против других компаний. другие платформы, которые выбирают надежные решения для шифрованияРешение по этому вопросу может также повлиять на европейские правила, где уже ведутся дискуссии о том, как согласовать зашифрованные сообщения с обязательством защищать несовершеннолетних в интернете.
Между тем, иск, поданный в Западной Вирджинии, подчеркивает, что подобные ситуации уже существуют. другие открытые юридические пути По аналогичным причинам компания Apple также подала коллективные иски против Apple. В 2024 году тысячи жертв сексуального насилия над детьми подали коллективные иски, обвиняя компанию в том, что она отозвала или не в полной мере внедрила инструменты, которые могли бы помочь автоматически обнаруживать и удалять материалы сексуального характера из ее сервисов.
Ответ Apple и её инструменты родительского контроля
Столкнувшись с шквалом критики, Apple публично защитила свой подход. Компания утверждает, что безопасность и конфиденциальность пользователей, особенно несовершеннолетнихЭто ключевые элементы в дизайне их продукции. В заявлениях для различных СМИ представители группы настаивали на том, что в iOS, iPadOS и других системах реализована многоуровневая защита.
Среди этих мер Apple особо выделяет функцию «Безопасность в коммуникациях»Это может привести к размытию потенциально конфиденциальных изображений обнаженного тела, отправленных или полученных несовершеннолетними в iMessage, а также к появлению аналогичных предупреждений в других функциях, таких как AirDrop, FaceTime или приложение «Фотографии», при обнаружении контента, который может быть неприемлем для детей.
Компания также отмечает, что предлагает расширенные функции родительского контроля, позволяющие матерям и отцам... ограничить использование определенных приложенийдля установки ограничений на контент и управления временем, проведенным за экраном. По данным Apple, эти механизмы в сочетании с шифрованием и другими внутренними мерами образуют надежную систему защиты, которая не требует массового и систематического сканирования всех файлов, хранящихся в iCloud.
В письме 2023 года, адресованном организациям по защите прав детей, компания вновь подтвердила свое несогласие с широкомасштабным анализом цифровых файлов своих пользователей. Apple предупредила, что любая технология, предназначенная для обнаружения определенного типа контента, «открывает двери для…» масса наблюдения«и правительства могут оказывать на него давление с целью расширения его использования за пределы сферы защиты детей».
В свете этих объяснений Генеральная прокуратура Западной Вирджинии считает решения, принятые Apple, «недостаточными» и полагает, что компания уклонилась от своих обязательств. систематически сообщать преступный контент, который может распространяться через ее сервисы. Поэтому государство требует не только компенсации, но и того, чтобы суд обязал компанию перепроектировать свои системы с большим упором на активное выявление материалов сексуального характера.
Глобальное воздействие и потенциальные последствия для Европы
Хотя иск рассматривается в суде... Округ Мейсон, Западная ВирджинияПотенциальные последствия этого носят глобальный характер. Apple управляет iCloud и своими мессенджерами практически на всех рынках, включая Испанию и остальную Европу, поэтому любые существенные изменения в ее системах шифрования или обнаружения, как можно предположить, затронут пользователей по всему миру.
В Европейском Союзе дискуссия о том, как бороться с сексуальным насилием над детьми в интернете, тесно переплелась с обсуждением... сквозное шифрованиеПредложения, подобные так называемому «контролю чата», вызвали сильную напряженность между правительствами, депутатами Европарламента, организациями по защите цифровых прав и ассоциациями по защите детей, которые занимают совершенно противоположные позиции относительно того, что должно быть принято.
Если американские суды в конечном итоге заставят Apple ослабить или изменить свою модель шифрования в iCloud или iMessage, вполне разумно предположить, что европейские власти Они учтут этот опыт при разработке собственных правил. Верно и обратное: решение в пользу Apple укрепит аргументы тех, кто утверждает, что надежное шифрование необходимо и что бороться с материалами сексуального характера можно и без сканирования всех пользовательских данных.
Косвенно этот случай еще раз подчеркивает роль европейских и испанских пользователей. Многие эксперты рекомендуют не полагаться полностью на одного поставщика облачных услуг и советуют храните локальные копии важных документов и фотографий.Именно потому, что деловые решения или ошибки в автоматизированных системах могут привести к внезапной потере доступа ко всем учетным записям.
Тем временем, давление регулирующих органов на гигантов Кремниевой долины усиливается. Аналогичные требования Они уже затронули другие компании, такие как Meta, которую в таких штатах, как Нью-Мексико, обвиняют в создании средства для контакта с несовершеннолетнимиТаким образом, дело «Западная Вирджиния против Apple» усиливает тенденцию к усилению контроля за тем, как платформы управляют рисками, связанными с их услугами.
Будущее этого судебного процесса станет поворотным моментом в вопросе баланса между конфиденциальностью и безопасностью детей в цифровой среде. На кону стоит не только модель iCloud, но и стандарт, который будет применяться ко всей отрасли: если позиция штата Западная Вирджиния возобладает, Apple и другие технологические компании могут быть вынуждены коренным образом перепроектировать свои системы; если же позиция компании возобладает, это укрепит идею о том, что шифрование и защита данных Они не должны уступать, даже под давлением юридических мер, столь деликатных, как борьба с сексуальным насилием над детьми.
