"Siri и iCloud я отключил": эксперт по кибербезопасности объяснил, чем опасны сервисы Apple
Недавно Фокус сообщал о том, что компания Apple планирует использовать новые криптографические технологии, чтобы ограничить распространение Child Sexual Abuse Material (CSAM) в Интернете, сохраняя при этом конфиденциальность источников. Иными словами, ИИ-алгоритм, встроенный по умолчанию в операционные системы iOS и iPadOS, будет сканировать все файлы, оправляемые пользователями в облачное хранилище iCloud, на предмет CSAM-контента. Также известно, что производитель планирует задействовать виртуального помощника Siri, задача которого - препятствовать поиску контента, связанного с насилием над детьми.
Согласно официальному сообщению, опубликованному в блоге компании, по такому принципу будут работать ОС iOS 15, iPadOS 15, watchOS 8 и macOS Monterey, обновления которых выйдут в конце 2021 года.
Многие айтишники и эксперты по кибербезопасности высказываются против внедрения таких "нововведений", несмотря на преследуемую благородную цель. Так, решение Apple раскритиковал профессор Кембриджского университета Росс Андерсон, специализирующийся на шифровании. В своем комментарии Financial Times он назвал это "ужасной идеей", приводящей к "массовой слежке" за пользователями смартфонов и ноутбуков.
Руководитель WhatsApp Уилл Кэткарт написал в соцсетях, что подход, выбранный Apple, вызывает тревогу, и лучше бы компания предоставила юзерам возможность жаловаться на неподобающий контент.
Мэнттью Грин, специалист по шифрованию из Университета Джона Хопкинса, написал колонку, где пояснил, как можно подделать любые данные таким образом, чтобы ИИ-система посчитала их нежелательными и пометила как CSAM.
Украинские эксперты по кибербезопасности тоже считают, что американская BigTech-компания нарушает права пользователей на конфиденциальность, и что ее действия в данном направлении не сулят юзерам ничего хорошего. В частности, об этом написал Андрей Баранович в своем Facebook.
"Как только кто-то начинает вам рассказывать про очередную чудесную технологию для защиты детей - не цельтесь даже, ориентируйтесь на звук. Криптовойна никогда не меняется. С конца 1980-х шифрование используется все чаще и чаще, и с завидным упрямством правительства скулят, что им кровь из носу нужен "черный ход" для прослушки. Во-первых, для защиты детей, во-вторых, для анти-террора, потом - для всего подряд. Практически во всех конституциях такая "защита" называется иначе - необоснованный, несанкционированный обыск", - делится Андрей.
Баранович полагает, что техно-компании, вроде Apple, "не хотят портить шифрование", поэтому идут на "компромисс", и заключается он в том, чтобы сканировать данные до отправки ("точно так же как работают спам-фильтры и антивирусы", - поясняет эксперт). По его словам, "Apple собирается добавить такой фильтр в телефоны, чтобы искать детскую порнографию".
"И никакая это не "скользкая дорожка", мы уже кубарем скатились с горы в яму массовой прослушки. Никакой machine learning не даст точного результата, а затейники с adversarial ML (Adversarial Machine Learning - "вредоносное машинное обучение", - технология, способная обмануть МО-алгоритмы, ред.)... пришлют вам такие картинки, что полиция вышибет ваши двери тараном прежде, чем вы поймете что вообще произошло (такое уже было и до Apple)", - предупреждает специалист.
Пользователям важно знать еще и то, что "поисковый алгоритм можно натренировать на что угодно, например, на шутки про величайших лидеров современности типа "китайского Винни Пуха". "Сейчас в КНР иногда пытаются устанавливать spyware (вредоносная программа, которая без согласия пользователя собирает и передает информацию с устройства, - ред.) на границе, репрессивные режимы используют софт вроде того, который делает NSO (имеется ввиду программа для шпионажа Pegasus, - ред.). И тут Apple открывает им прямой доступ к устройствам пользователей", - рассуждает Андрей.
А буквально на днях состоялась утечка, в результате которой СМИ опубликовали содержание внутренней записки Apple о том, что все, кто противится разрушению тайны личной жизни - в меньшинстве, и что борцов со CSAM им не победить.
"Не понимаю как они собираются обеспечить безопасность системы массовой слежки, если не могут защитить даже внутреннюю переписку", - иронизирует эксперт и добавляет, - "Siri и iCloud я уже отключил, надеюсь, что и планы по сканированию устройств получится сорвать или испортить каким-нибудь другим образом. Потому что так быть не должно".
Apple Правительство США Университеты
