Как на самом деле работают «голосовые помощники»

8e357a35413945.570cea227c6d8

Когда в вашей спальне всегда есть третий лишний.

Хлопнуть в ладоши, чтобы включить свет. Заплатить за еду, просто посмотрев в камеру. Вести разговор в пустой комнате. Технологии, и особенно голосовые помощники, нормализовали некоторые причудливые формы поведения. Сегодня странно вспоминать, что обращение к Alexa или Siri в часах, при пустом экране или динамике в комнате, воспринималось изначально с некоторой жутью, как почти любая практика, которая предполагает общение с невидимым. Возможно, потому что голосовые помощники невидимы, мы неосознанно приняли идею, что искусственный интеллект, приводящий их в действие, работает как волшебство, независимо отвечая на наши команды без вмешательства человека. Ох как же мы были неправы!

Ранее издание Bloomberg сообщило, что сотни сотрудников подрядных фирм Facebook прослушивали и расшифровывали голосовые сообщения, которые пользователи отправляли в приложении Messenger. Их работа состояла в проверке того, что сгенерированные ИИ стенограммы соответствуют озвученным фразам. В Facebook утверждают, что сообщения оставались анонимными, и ни один из пользователей не был идентифицирован.

«Так же, как Apple и Google, мы приостановили рецензирование звука человеком более недели назад» — заявил представитель компании Facebook в электронном письме в The Atlantic.

Это может звучать как очередной скандал на тему конфиденциальности личных данных вокруг Facebook. Но среди технологических компаний найм людей для анализа разговоров между устройствами и их пользователями является обычным делом. Apple поручала подрядчикам анализировать аудиообращения к Siri, но закончила программу в начале августа после того, как о ней стало широко известно. Подрядчики Microsoft расшифровывали взаимодействие пользователей со Skype Translate. Подрядчики Google расшифровали команды, с которыми работал помощник Google. Подрядчики Amazon расшифровали обращения пользователей к Alexa.

И каждая из этих компаний не смогла донести до пользователей очевидную мысль, что у них на запястьях или в гостиных расположен постоянно включённый микрофон. В апреле бельгийский новостной портал VRT воспроизводил записанные и сохранённые фрагменты аудио обращений ошеломленных владельцев Google Assistant, которые заявляли, что понятия не имеют, что их записывают. Подрядчики Apple рассказали The Guardian, что они прослушивали обращения в том числе, когда Siri вызывали случайно, среди подобных казусов оказались сделка по покупке наркотиков, личный разговор с врачами и даже секс, когда на Apple Watch случайно вызвали Siri. Один подрядчик Microsoft рассказал, что слушал секс по телефону между парами, а также анализировал голосовые запросы для Cortana в поисках порно. Некоторые подрядчики Amazon указывают, что им случайно оказалась доступна запись, на которой можно идентифицировать сексуальное нападение.

И Facebook не отстаёт. Иными словами, это не столько серия «скандалов», связанных с персональными данными, сколько результаты того, что пользователи практически не знают, как на самом деле работает технология голосовых помощников. Наши подслушивающие устройства сделали то, для чего они и были предназначены. Мы просто не поняли, кто нас слушает.

Работа ИИ, на которую опирается технология распознавания голоса, создается в цикле обратной связи: продукты работают достаточно хорошо, голосовые данные от клиентов собираются и используются для улучшения обслуживания, все больше людей покупают продукт по мере его улучшения, а затем появляется больше данных. Собираем – улучшаем –ещё больше собираем. Этот цикл требует большой клиентской базы для поддержания себя, что поднимает вопрос: столько людей купили бы эти продукты, если бы знали, что румынские подрядчики будут слушать их разговоры, даже если они не умышленно запустили свои устройства? Представитель Facebook подтвердил, что подрядчики транскрибируют аудио только от пользователей, которые разрешили данное использование в настройках, но неясно, могли ли пользователи вообще использовать функцию голосовой транскрипции, не включив соответствующую опцию.

Поскольку в этом цикле обратной связи существует комплекс инструментов ИИ и человеческого анализа, ставки становятся все выше, поскольку компании улучшают голосовых помощников, подталкивая нас к всё большему их внедрению в повседневную жизнь. Amazon запатентовала технологию, которая позволит ее устройствам оценивать эмоциональные состояния пользователей и соответствующим образом корректировать реакции. Google подал патент, согласно которому ассистент может реагировать на звуки чистки зубов и приёма пищи. Голосовые помощники уже проходят тестирование в полицейских участках, классных комнатах и ​​больницах.

В результате наши инструменты будут знать о нас все больше и больше, а мы наоборот, знаем о них все меньше и меньше. В недавней статье для The New Yorker, рассуждая о рисках автоматизации, профессор Гарвардского университета Джонатан Зиттрейн предложил определение «интеллектуальный долг»: феномен, согласно которому мы с охотой внедряем новые технологии в нашу жизнь, но не понимаем, как они работают. По сути, сначала покупаем, потом задаём вопросы. Это второй цикл обратной связи, идущий вперед вместе с первым, своего рода комплекс автоматизации-прокрастинации. Поскольку голосовые помощники становятся неотъемлемой частью здравоохранения и правоохранительных органов, мы накапливаем больше «интеллектуальных долгов» во многих аспектах жизни. А так как технологии становятся всё сложнее и совершеннее, мы всё меньше знаем о ней.

В последние два года наблюдается рост не только интеллектуальных технологий, но и призывов к пересмотру конфиденциальности пользователей. В результате конфиденциальность стала своего рода рекламной фишкой техноиндустрии. В рамках своих маркетинговых стратегий Facebook, Google и Amazon утверждают, что они защищают нашу конфиденциальность, даже когда записывают голоса пользователей во время секса или бесед с врачами. Facebook пообещал перевернуть новую страницу после скандала с Cambridge Analytica и комментариев Марка Цукерберга на Капитолийском холме. Apple даже сделала конфиденциальность частью своей маркетинговой кампании 2019 года: «Конфиденциальность. Это iPhone». Но конфиденциальность сама по себе не решит проблемы. Для потребителей так же важно знать, как действительно работают наши устройства.


Самые известные бренды мира
Математические ошибки в истории

Читайте также:

 

 

 

 

 

 

МОЖНО ПРОДОЛЖИТЬ