Недавно владельцы умных колонок узнали, что их команды и разговоры слышат не только робопомощники вроде Siri и Алексы, но и живые, совершенно посторонние люди – сотрудники и подрядчики фирм-производителей.
The Guardian в конце июля рассказал, что попадает на случайные записи с умных колонок и часов Apple, с помощью которых подрядчики оценивают качество распознавания речи и исполнения команд.
Собеседник издания утверждает, что слышал много конфиденциальных записей: беседы врачей и пациентов, бизнес-переговоры, звуки интимных контактов. При этом "оценщикам" Apple доступны не только аудиофайлы, но и координаты мест, где были записаны звуки, и даже контактные данные. При желании этим можно легко воспользоваться в преступных целях, считает источник The Guardian.
Что говорят производители
Apple уверяет, что все сотрудники, имеющие доступ к записям, подписывают строгие договоры о конфиденциальности. Тем не менее меньше чем через неделю после публикации, 2 августа, компания объявила о приостановке "программы оценки" до завершения внутренней проверки и пообещала дать пользователям возможность отказаться от участия в ней.
Раньше в этом году стало известно, что оценкой качества работы своих умных колонок занимаются вручную как минимум сотрудники Amazon и Google.
Правда, в отличие от пользователей Apple обладатели Amazon-устройств могут в любой момент прослушать и удалить все записи, а также, как и пользователи Google, с недавних пор отказаться от участия в программе "улучшения качества".
Google рассказала, что приостановила свою программу в июле. На устройствах компании функция записи разговоров для улучшения качества была выключена по умолчанию с прошлого года.
Подрядчики Microsoft слушают записи Skype-переводчика и голосового помощника Cortana (на умных колонках Invoke), узнали журналисты. В компании утверждают, что делают это для улучшения качества работы сервисов и лишь с согласия пользователей. Microsoft уверяет, что принимает жесткие меры для соблюдения конфиденциальности при работе с такими данными.
Российский "Яндекс" также привлекает людей для разметки запросов к Алисе, своему голосовому помощнику, но лишь в небольшой доле случаев, сообщили The Bell в компании.
Что нужно знать пользователям умных колонок
Почему так происходит и нужно ли пользователям беспокоиться о конфиденциальности? По мере того, как число умных колонок растет, эти вопросы задают себе все больше людей.
К концу 2019 года в мире будут работать 207,9 миллиона умных колонок: почти вдвое больше, чем год назад, утверждает исследовательская компания Canalys. Популярность вполне объяснима, ведь они позволяют с невиданной легкостью управлять умными устройствами в домах. Вместо десятков нажатий теперь достаточно сказать что-то вроде: "Алекса, приглуши свет и поставь романтическую музыку". Магия голосового управления, десятками лет бывшая привилегией киногероев или миллионеров, стала доступна всем без исключения. Речь не только об умном доме: американские ученые тестируют программы, которые помогут при сердечном приступе (вызовут помощь, если услышат звуки, сигнализирующие о проблемах с дыханием). А система Alexa Guard оповестит владельца о любых подозрительных звуках: например, разбивающегося стекла или пожарной сигнализации.
Однако в удобстве этих устройств кроется и очевидная угроза: любая умная колонка – это не только хороший динамик и компьютер в красивом корпусе, но также набор высокочувствительных микрофонов, подключенных к интернету и круглосуточно слушающих, что происходит вокруг. Более того, если у вас дома несколько умных устройств, умные колонки (и их производители) могут знать, когда вы уходите, когда приходите, когда идете спать и множество других подробностей вашей личной жизни.
Даже если отбросить риски, связанные с возможным взломом этих устройств и удаленным управлением микрофонами, умные колонки часто активируются и начинают запись по ошибке в неподходящие моменты, а затем отправляют эти аудиозаписи своей компании-производителю, где их могут отслушивать сотрудники или подрядчики фирм-производителей. Если обычные, "умышленные" запросы, как правило, не несут в себе большого риска для конфиденциальности, с ошибочными записями все гораздо неприятнее. Активацию колонки и запись может спровоцировать, например, звук расстегиваемой молнии (Siri) или просто похожие слова: например, если кого-то в доме зовут Александра, то на это имя может запросто реагировать Alexa.
Умные ошибки
В одном из нашумевших случаев ошибочно записанный разговор Alexa отправила случайному человеку из записной книжки. В Amazon после оправдывались, что колонка активировалась, услышав слово, похожее на "Аlexa" (все голосовые помощники реагируют на ключевые слова – "Alexa", или "Hey Siri", или "OK Google"), начала запись и в одном из фрагментов беседы услышала нечто, что было ею интерпретировано как "send message" ("отправить сообщение"). Затем колонка якобы переспросила "Куда?" (по версии Amazon; владельцы устройства говорят, что ничего не слышали) и решила, что продолжающаяся беседа и есть ответ на ее вопрос. В итоге письмо с записью ушло подчиненному одного из супругов, который немедленно перезвонил: "Отключите все ваши устройства с Alexa, вас пытаются взломать!"
В Amazon назвали инцидент редким и пообещали, что примут меры, "чтобы такие случаи происходили еще реже".
Google в 2017 году пришлось извиняться и выпускать программное обновление, когда выяснилось, что некоторые модели умных устройств Home Mini просто записывали всё и всё время.
Пока компании-производители пытаются победить эти проблемы, улучшить качество понимания умными колонками речи и уменьшить долю ложных срабатываний, американский штат Калифорния готовит закон против прослушки с помощью цифровых устройств. Он будет требовать от умных колонок явно получать разрешение пользователей на хранение аудиозаписей разговоров.
До тех пор, пока законодатели и производители не выработают единые правила защиты пользовательских данных и не предложат возможности легко контролировать, что и когда умные колонки записывают и куда отсылают, единственным гарантированным способом защиты от "прослушки" будет отключение умных колонок от электроэнергии и интернета.
Или хотя бы осознание, что в любой момент вас может слышать не только "искусственный интеллект" Alexa/Siri/Google Assistant, но и совершенно посторонние люди.
