Apple пыталась разработать систему, которая остановила бы распространение материалов с насилием против детей на iPhone и в облаке iCloud. Но когда из-за этой программы взволновались убившие активисты конфиденциальности в сети, компания отказалась от нее. Активисты обрадовались, а вот борцы с насилием против детей разочарованы.
Apple пыталась разработать систему, которая остановила бы распространение материалов с насилием против детей на iPhone и в облаке iCloud. Но когда из-за этой программы взволновались убившие активисты конфиденциальности в сети, компания отказалась от нее. Активисты обрадовались, а вот борцы с насилием против детей разочарованы.
Forbes Ukraine перевел важную статью глобального Forbes о том, как компания Тима Кука бессознательно способствовала распространению детской порнографии. Приводим основные положения.
Forbes рассмотрел около 100 федеральных дел, где детективы искали информацию на устройствах и в сервисах Apple, связанную с эксплуатацией детей. Мы обнаружили, что системы компании использовали для хранения и передачи тысяч материалов с изображением насилия над детьми (МЗНД) между 2014-м и 2023-м.
Интересно, что Apple в 2021 году объявила о внедрении инструмента, который должен был сканировать файлы iCloud на предмет МЗНД. Впрочем, выбор компании в пользу конфиденциальности и недовольства групп, выступающих за конфиденциальность в сети, привели к отказу от нового ПО. Это привело к увольнению ключевых руководителей, активно занимавшихся вопросами безопасности и этой программой, среди которых Мелисса Маррус Полински, директор по расследованиям и детской безопасности; Маргарет Ричардсон, директор по доверию и безопасности; Джейн Горват, главный директор по вопросам конфиденциальности; Майкл Эбботт, глава iCloud; Абгишек Бговмик, ведущий инженер-разработчик ПО для выявления МЗНД.
По словам источников Forbes в Apple, потеря этих работников оставила «большие пробелы в организации», а вопросом защиты детей занимаются хаотично люди в разных командах.
В настоящее время должность директора по конфиденциальности и детской безопасности занимает Эрик Нойеншвандер, до этого занимавшийся инженерными разработками компании. А директором по доверию и безопасности стал Майк Торнберри, 23 года занимавшийся в компании продажами и Apple Pay.
Apple давно придерживается убеждения в том, что конфиденциальность — одно из основных прав человека. Компания изрядно возмутила ФБР, когда отказалась оставить лазейку в системе iOS, которая позволяла бы правоохранителям обходить систему безопасности и получать доступ к данным на айфонах. Apple считает, что такой лазейкой могли бы злоупотреблять правительства и группы влияния.
С этого времени компания даже усилила шифрование своих устройств и ПО. Впрочем, у Apple все же есть возможность сканировать файлы пользователей, которую она использует для обновления данных.
Такая политика, по мнению борцов за безопасность детей, имеет огромный недостаток: Apple, по сути, остается слепой к вредным, незаконным материалам, хранящимся на ее сервисах. Конкуренты компании, от Google, Meta и Microsoft до Dropbox, заняли проактивную позицию по борьбе с сексуальными «хищниками» на своих платформах. По словам правоохранителей и специалистов по технологиям, ежегодно эти компании предоставляют миллионы, а иногда десятки миллионов кибернаведений в Национальный центр потерянных и эксплуатируемых детей (НЦВЭД). Центр пересматривает и систематизирует их, прежде чем отправлять детективам по делам насилия над детьми.
«Их никогда не интересовала защита детей на их платформе, — говорит Forbes Джим Коул, 20 лет работавший в подразделении по расследованию вопросов национальной безопасности. — Они невозмутимы в своей защите конфиденциальности, а закон не требует от них искать МЗНД».
Apple отказалась отвечать на вопросы Forbes, но журнал получил письмо от Нойеншвандера, директора по конфиденциальности и детской безопасности. Он написал, что компания отказалась от плана сканировать свои системы на предмет МЗНД, потому что «его невозможно воплотить так, чтобы не ставить под угрозу безопасность и конфиденциальность наших пользователей». Он также отметил, что Apple предлагает другие опции безопасности для борьбы с эксплуатацией детей.
Массовое сканирование файлов пользователей компании «откроет двери для массового наблюдения» за людьми, предупредил Нойеншвандер.
Как пользователь может быть уверен в том, что один инструмент для наблюдения не используют для другого вида наблюдения, например, за политической активностью или для религиозных преследований? Инструменты для массового наблюдения за населением имеют широкие негативные последствия для свободы слова и демократии», — пишет он.
Он добавил, что недостатки такого сканирования могут ощутить родители, «когда они просто выставят обычные фото своих детей».
Apple имеет возможность сканировать iCloud с помощью PhotoDNA, одного из самых популярных инструментов для борьбы с распространением МЗНД-файлов в сети. Это ПО было создано в 2009-м Microsoft и Дартмутский колледж, и оно превращает изображения в уникальные цифровые коды под названием хэши. Затем их сравнивают в базе данных известных хешей МЗНД. Совпадение по базе дает повод для дальнейшего расследования.
PhotoDNA настолько широко используется, что он фактически стал стандартом индустрии — Facebook и Google используют его более 10 лет. Впрочем, не для Apple.
Как и все технокомпании, Apple по закону обязана подчиняться судебным ордерам и сообщать о МЗНД федеральным властям из-за «горячей» киберлинии CyberTipline, которую организовал НЦВЭД. В прошлом году Facebook и Instagram вместе подали 26 млн таких сообщений, Google — 2 млн, TikTok — почти 300 000, а Apple — 234. А за год до этого Apple вообще сообщила о 160 случаях.
Forbes приводит пример двух показательных дел. Техасец получил более 17 лет тюрьмы за распространение МЗНД после того, как на его аккаунте iCloud обнаружили почти 600 незаконных видео и изображений. А учитель младшей школы признал себя виновным в хранении МЗНД на его iCloud-аккаунте — во время рейда нашли 81 видео и 158 изображений насилия над детьми.
В обоих случаях Apple предоставила данные только когда выписали ордер на обыск. В случае с техасцем кибернаведения сделал мессенджер Kik, популярный среди «хищников». Лишь по двум из 100 дел, которые рассмотрел Forbes, Apple самостоятельно сообщила о МЗНИ, которые она обнаружила в электронных письмах.
В августе 2021 года Apple объявила о собственном инструменте под названием NeuralHash, который будет искать МЗНД, но при этом будет защищать конфиденциальность. Программа будет обнаруживать такие материалы при загрузке на iCloud, но не будет хранить информацию о несвязанных файлах. Те, кто беспокоятся о защите детей, были в восторге. Остальные же раскритиковали программу как огромную угрозу конфиденциальности.
Правозащитные группы по защите конфиденциальности назвали программу лазейкой для увеличения надзора и цензуры по всему миру. Активисты начали заявлять, что подобные инструменты часто неточные и не дают проверять.
Реакция общественности на NeuralHash была так радикальна, что осенью 2021-го Apple прекратила внедрение программы, а в декабре 2022-го вообще от нее отказалась. Многие работающие над инструментом были разочарованы таким решением.
Закрытие NeuralHash ухудшило и так не самые лучшие отношения между Apple и детективами по делам эксплуатации детей. Однако защитники конфиденциальности одобряют решение Apple отказаться от NeuralHash.
