Сотрудники Amazon подслушивают “разговоры” с Алексой

Агентство Bloomberg сообщает, что специалисты, нанятые Amazon, занимаются сбором и анализом фрагментов разговоров, записанных умным помощником Алекса. Колонки Echo, оснащены интеллектуальным помощником Алекса. По сообщениям, корпорация наняла тысячи сотрудников по всему миру, для анализа разговоров с ИИ. Это необходимо для улучшения программы и качества её услуг. Все диалоги записываются и помечаются комментариями, а затем снова передаются Алексе для более точных ответов на запросы. Целью является, прежде всего, устранить проблемы с пониманием речи.

“Мы серьезно относимся к безопасности и конфиденциальности личной информации наших клиентов. Мы только отмечаем очень маленькие фрагменты голосовых записей, чтобы улучшить качество обслуживания клиентов. Эта информация помогает нам улучшить наши системы распознавания речи и её естественное понимание, чтобы Alexa могла лучше выполнять ваши указания”, – сказал представитель Amazon в своем заявлении, направленном по электронной почте Bloomberg.

Само существование процесса разработки приложений не является секретом, но роль, которую играет человек, может стать сюрпризом для некоторых людей (официальный FAQ содержит только информацию о том, что пользовательский опыт используется для улучшения функциональности). Стоит напомнить, что Alexa – это программа, работающая в облаке, она самообучающаяся, но похоже, что вторая функция верна лишь частично. Алгоритм, конечно, развивает свои возможности, но его поддерживают “легионы человеческих наставников”.

“У нас строгая техническая и эксплуатационная безопасность, а также политика абсолютной нетерпимости в отношении неправильного использования нашей системы. Сотрудники не имеют прямого доступа к информации, которая может идентифицировать человека или учетную запись, с которой они контактируют во время работы. Вся информация обрабатывается с высокой степенью конфиденциальности, и мы используем многофакторную аутентификацию для ограничения доступа, а также шифрование сервисов и аудит нашей контрольной среды для обеспечения максимальной защиты” – говорит представитель Amazon.

И как это выглядит на практике? Агентство Bloomberg выслушало семерых представителей анализирующих групп. Стоит отметить, что они состоят как из штатных сотрудников Amazon, так и из людей, работающих по контрактам. Большинство из них работают по девять часов в день, слушая до тысячи аудиофайлов за одну смену.

Опрошенные аналитики признают, что в некоторых случаях они сталкивались с вещами, которые можно расценивать как частные – это душевые вокальные представления или разговоры, в которых озвучивались имена и детали, связанные с банковскими счетами.

Аудиторы также имеют доступ к именам и номерам, присвоенным данной учетной записи пользователя. Более того, время от времени “подслушиватели” сталкиваются с записями, предполагающие возможность совершения преступлений, что неудивительно, если принять во внимание масштаб проекта и подход людей к таким системам, как Алекса.

У Amazon есть специальные процедуры, подготовленные для таких случаев, однако несколько сотрудников офиса румынского отделения признают, что после указания проблемной записи им сообщили, что вмешательство не является задачей группы. Стоит ли этому верить? И возможно в таких ситуациях, вмешательство действительно необходимо.