Большой брат слышит тебя. Почему не стоит разговаривать с гаджетами
Последние несколько лет часто приходится выслушивать жалобы: дескать, разговаривали по телефону или через мессенджер, или просто друг с другом возле включенного компьютера - и практически сразу либо Facebook, либо браузер, либо какие-то другие подключенные к интернету программы начинали показывать рекламу того, о чем шла речь в разговоре.
К рекламе, которая начинает сыпаться после введенных в поисковике запросов, уже давно все привыкли, а вот к тому, что даже вводить что-то не обязательно, достаточно просто поговорить возле гаджетов, - еще нет. Но вот мы дождались: в мире вспыхнул целый ряд скандалов, связанных с тем, что IT-корпорации подслушивают людей, которые пользуются их продуктами.
Apple и ее Siri
Одним из первых по-настоящему громких стал скандал, связанный с прослушкой команд для голосового помощника Siri, встроенного в устройства Apple. На "яблочную компанию" подали в суд за нарушение приватности пользователя. Иск подал житель Сан-Хосе (Калифорния), который утверждает, что сотрудники Apple нарушили закон штата, запрещающий записывать разговоры без согласия собеседников.
Дальше - больше. Истец обвинил Apple во лжи конгрессу США в письменных показаниях компании о своей политике приватности. Тогда был задан вопрос: может ли iPhone записывать разговоры владельца без четкой команды (так называемого аудио-триггера). Инженеры "яблочной компании" ответили, что для включения микрофона нужно четко сказать: "Hey Siri" ("Привет, Siri").
Однако в иске приводится множество примеров, свидетельствующих, что Siri активируется буквально от чего угодно, включая звук молнии, пение птиц или взмах руки. То есть из-за ошибок в системе микрофон внезапно включает запись в самых разных ситуациях.
Сам скандал начался не с судебного иска, а с публикации в газете Guardian, в которой один из подрядчиков Apple анонимно рассказал, что компания специально нанимала сотрудников, которые слушали и расшифровывали разговоры обладателей гаджетов Apple с Siri. Формально это делалось для улучшения качества работы помощника, но реально в распоряжении компании оказывалась конфиденциальная медицинская информация, данные о сделках с наркотиками и даже аудиозаписи, сделанные в то время, как владельцы гаджетов занимались сексом.
Представители Apple подтвердили, что такая практика действительно имеет место, но подрядчики обрабатывают только малую долю разговоров с Siri - менее 1% всех записей. Загвоздка, однако, в том, что в политике приватности компании право Apple записывать разговоры с Siri прописано достаточно размыто. Хоть и упоминается задача помочь ассистенту лучше понимать команды пользователей, но там точно нет упоминания, что прослушкой разговоров будут заниматься живые люди, а не ИИ.
После первой волны шумихи в прессе Apple приостановила программу контроля качества Siri, а также разрешила пользователям самим выбирать - предоставлять свои записи для анализа или нет. Но это не спасло компанию от судебного иска. Тем более что были и другие опасные ситуации: в начале этого года выяснилось, что в популярном приложении FaceTime (позволяет владельцам iPhone общаться между собой) есть уязвимость - она позволяет прослушать собеседника еще до того, как он согласился принять звонок. Позже Apple устранила эту уязвимость, но "осадочек остался".
Amazon и ее Echo
Популярный продукт корпорации Amazon - "умные колонки" Amazon Echo, которые позволяют управлять "умным домом", включать музыку, узнавать погоду и искать информацию в интернете, а также взаимодействовать с другими устройствами. За это отвечает встроенный в Echo виртуальный ассистент Alexa - он понимает сказанное и отвечает пользователю. При этом Alexa не умеет различать голоса пользователей, так что любой, кто окажется достаточно близко от колонки, может давать команды наравне с хозяином.
Чтобы инициировать действие, надо сказать "Алекса", после чего произнести команду. Виртуальный ассистент умеет многое, в том числе делать покупки в интернет-магазинах. С этим и был связан один очень забавный (но по-своему зловещий) эпизод.
В январе 2017-го жительнице Далласа (Техас) Меган Найтцел доставили на дом покупку: большой кукольный домик за $170 и два килограмма печенья. Как оказалось, заказ случайно сделала Брук, шестилетняя дочь Меган, - она увидела такой кукольный домик по телевизору и просто попросила у Алексы его и печенье. Ассистент же решил, что ему приказали это купить.
История получила почти что катастрофическое продолжение. Про казус с кукольным домиком рассказали в утренних новостях на канале CW6 в Сан-Диего (Калифорния). В конце сюжета ведущий Джим Пэттон заключил: "Мне нравится эта маленькая девочка, сказавшая: "Алекса, закажи для меня кукольный домик". В следующую секунду сотни колонок Amazon Echo, стоявших в домах, где был включен телевизор, заказали кукольные домики своим зрителям.
Также иногда Echo неправильно понимает команды: в Сети есть видео, на котором ребенок просит колонку спеть детскую песенку, а та начинает перечислять жанры порно. Впрочем, пока, кажется, до судебных разбирательств дело не дошло.
Google и его Аssistant
Свой скандал получила и Google: в июле нынешнего года обнаружилось, что модераторы компании прослушивают голосовые команды, которые пользователи отдают смарт-помощнику Google Аssistant. Этот факт вскрылся, когда произошла утечка примерно тысячи аудиозаписей из собственного хранилища компании. Скандал опять-таки разгорелся в СМИ, и только после этого представители Google признались, что компания действительно записывает и прослушивает пользователей.
Конечно, прозвучала масса оговорок: дескать, это делается исключительно ради улучшения технологии голосового помощника. Как было сказано в официальном заявлении, Google при помощи живых людей обрабатывает всего 0,2% голосовых команд, которые отдают пользователи. Но эта работа "критически важна" для развития Google аssistant, чтобы голосовой помощник мог лучше понимать людей, говорящих на разных языках и с разными акцентами. "Мы проводим расследование и полный пересмотр нашей политики безопасности, чтобы предотвратить подобное злоупотребление в будущем", - резюмировали в Google.
Facebook и ее Messenger
Корпорация Facebook, оказывается, тоже организовала слежку за своими пользователями: она платила сотням сторонних подрядчиков, чтобы они расшифровывали голосовые сообщения пользователей мобильных приложений Messenger, Instagram и WhatsApp. В заявлении компании от 13 августа сказано, что расшифровка звуковых сообщений прекратилась неделю назад. По словам юристов интернет-гиганта, пользователи, чьи сообщения подвергались расшифровке, соглашались на это, выбирая специальную опцию в приложении Messenger для Facebook.
Представители компании говорят, что так проверялось, насколько хорошо с расшифровкой справляется искусственный интеллект. Но тут мы видим те же грабли: Facebook не сообщала пользователям, что их голосовые сообщения будут прослушиваться третьими лицами. Впрочем, этим лицам стоит посочувствовать: можно представить, сколько им пришлось выслушать пользовательских глупостей, бессмысленной и ненужной информации, пошлостей, мычания, молчания и сопения.
Действительно, сотрудники компаний, расшифровывавшие голосовые сообщения, заявили агентству Bloomberg, что им не сообщали ни происхождение записей, ни цели, для которой они расшифровывались. Подчас это были разговоры личного характера с вульгарной лексикой. Так что, судя по всему, на этот раз избежать суда у детища Цукерберга не получится.
Более того, можно вспомнить, что в конце июля Facebook в США оштрафовало на $5 млрд ведомство по защите прав потребителей за нарушение предписаний по защите личных данных.
Microsoft и ее Cortana
14 августа издание Motherboard сообщило, что Microsoft обновила пользовательское соглашение, официально прописав там возможность прослушки аудиосообщений пользователей голосового помощника Cortana и программы Skype Translator. Это произошло после того, как портал Motherboard выяснил, что подрядчики софтверного гиганта прослушивали записи Cortana и Skype Translator, включая конфиденциальные и личные разговоры клиентов Microsoft.
"В некоторых случаях для помощи в улучшении работы наших голосовых сервисов мы привлекаем подрядчиков. При этом мы предпринимаем действия по де-идентификации данных, заключаем соглашения о неразглашении с этими компаниями и их сотрудниками, чтобы защитить конфиденциальность наших клиентов", - пояснили в компании. Спасет ли это Microsoft от суда - пока неясно.
