В последние месяцы усилились опасения относительно "цифровых помощников" - растущего рынка, который может рассматриваться как новый рубеж в вычислительной технике.
Недавние инциденты, связанные с устройствами Google, Apple и Amazon, показывают, что несмотря на быстрый рост рынка интеллектуальных голосовых устройств, требуются дополнительные усилия, чтобы убедить потребителей в надежной защите их данных при использовании этих технологий.
Apple на этой неделе заявил о приостановке программы "Siri grading", в рамках которой прослушивались фрагменты различных разговоров для улучшения технологии распознавания голоса: британская газета Guardian сообщила, что участники слышали конфиденциальную медицинскую информацию, криминальные происшествия и даже сексуальные контакты.
Google заявил, что приостановит работу "помощника Google" по прослушиванию и расшифровке разговоров на территории Евросоюза на фоне ведущегося расследования в Германии, связанного с нарушением конфиденциальности.
Amazon также признал, что использует наемный персонал в работах по развитию искусственного интеллекта устройств на базе Alexa, и объявил о внедрении новой функции, облегчающей удаление всех записанных данных.
Все эти факты создают у потребителей впечатление, что кто-то "слушает" их разговоры, хотя это редко бывает правдой.
"С точки зрения технологии неудивительно, что эти компании используют людей для аннотирования данных, потому что машина пока недостаточно хороша, чтобы понимать всё", - говорит Флориан Шауб, профессор Мичиганского университета, специализирующийся на взаимодействии человека и компьютера, который провел собственное исследование цифровых помощников. "Проблема в том, что люди этого не ожидают, и об этом открыто не говорится".
Каролина Миланези, технологический аналитик творческих стратегий, согласилась, что для улучшения технологии требуется участие людей:
"У пользователей есть несколько нереалистичное ожидание, что эти помощники просто по волшебству станут лучше, что они могут обучаться и улучшаться самостоятельно, но мы все еще находимся в самом начале ИИ, и человеческое вмешательство по-прежнему важно".
По данным исследовательской фирмы eMarketer, почти 112 миллионов человек - треть населения США - заявляет о готовности использовать голосовой помощник по крайней мере ежемесячно на разных устройствах, в том числе для поиска музыки или информации.
Опрос Microsoft потребителей в пяти странах показал, что 80 процентов позитивно оценили свой опыт работы с цифровыми помощниками. Но 41% опрошенных заявили, что у них есть опасения по поводу конфиденциальности, доверия и пассивного прослушивания.
Некоторые опасения относительно конфиденциальности при использовании смарт-динамиков основаны на ложных предположениях. Устройства не записывают и не передают информацию, пока не будут "активированы" с помощью ключевого слова или фразы, такой как "Hey, Siri" или "Alexa".
"Но всегда есть риск ложной активации", - отметил Шауб. "Вам придется верить устройству и производящей его компании, что микрофон работает только на прием, пока не будет произнесено слово активации".
Райан Кало, директор "Tech Policy Lab" Университета Вашингтона, говорит об опасениях по поводу доступа к разговорам:
"Если сотрудники слышат вещи, к которым они не должны иметь доступа, это действительно "красный сигнал", это плохая практика".
Р.Кало утверждает, что проблемы конфиденциальности при использовании цифровых помощников будут увеличиваться, поскольку устройства расширяют свои возможности:
"Я беспокоюсь о тенденции, когда эти системы будут слышать и воспринимать не только ваши команды: они могут начать реагировать на звук разбитого стекла, или признаки беды, или плач ребенка. Внезапно окажется, что система прослушивает всё, а лягушка сварилась постепенно".
Кало также выразил обеспокоенность тем, что устройства могут быть включены удаленно, что представляет потенциальную угрозу для гражданских свобод.
"Если правоохранительные органы получат ордер, ваше Echo превратится в подслушивающее устройство".
Ф.Шауб утверждает, что потребителей также беспокоит использование данных с их устройств для таргетинга рекламы.
"Люди хотят преимуществ, но не позволяют использовать их данные против них".
