Работники Amazon рассказали о подслушивании через «умные» колонки Echo
Несколько тысяч работников Amazon прослушивают записи с колонок Echo для обучения искусственного интеллекта распознаванию человеческой речи, рассказали семеро работавших над этим проектом. 11 апреля результаты анонимных интервью опубликовало агентство Bloomberg.
«Умные» колонки Echo от Amazon используются покупателями для игр, поиска в интернете, непринужденных бесед и другим подобным вариантам голосового взаимодействия с цифровым помощником Але́кса (Alexa). Для улучшения возможностей Alexa по распознаванию речи компания Amazon решила дополнительно обучать его с помощью «распознавателей»-людей, наняв несколько тысяч человек в разных городах мира.
Рабочий день такого работника длится 9 часов, за это время он успевает прослушать не меньше тысячи аудиоклипов. Он транскрибирует услышанное в текст, снабжает его аннотациями и отправляет на программную обработку.
Среди аудиоклипов могут попадаться записи, не предназначенные именно для колонки. Среди них, например, пение в душе, крики о помощи от избиваемого ребенка или даже звуки сексуального насилия.
Реагировать на звуки услышанного насилия работники могут только пассивно, например, могут рассказать об этом в частном чате своим коллегам для облегчения стресса. Двое «распознавателей» из Румынии отметили, что на просьбу о помощи в таких ситуациях получили ответ, что вмешиваться — не дело компании Amazon.
Представитель Amazon пояснил, что компания высоко ценит приватность покупателей и «распознаватели» не могут идентифицировать владельца конкретной колонки Echo, через которую был записан тот или иной аудиоклип.
Однако скриншот с рабочего места «распознавателя» дал Bloomberg основание утверждать, что аудиоклипы сопровождаются номером аккаунта Amazon, именем клиента и серийным номером колонки.
Комментарий редакции
Обучение искусственного интеллекта распознаванию человеческой речи не может обойтись без помощи человека. Доказано деньгами Amazon, потраченными на «распознавателей»–людей. При этом, занимающиеся распознаванием речи корпорации, включая Amazon, рекламируют свои программные продукты как самообучающиеся без участия человека. Как видим, реальная картина мира отличается от маркетинговых заявлений.
Также актуализируется вопрос — может ли без человека, т.е. гуманизма, обойтись само человечество? Ведь описанное столкновение людей-«распознавателей» с аудиозаписями насилия и невозможность как-то вмешаться — бесчеловечно.