Ключевые выводы
- Системы искусственного интеллекта, которые отслеживают грузовики доставки, несправедливо наказывают водителей Amazon, утверждается в новом отчете.
- Система Amazon является частью растущей тенденции компаний, использующих технологии для удаленного мониторинга своих работодателей.
-
Некоторое программное обеспечение ИИ позволяет работодателям постоянно отслеживать поведение сотрудников в фоновом режиме и рисовать закономерности в их рабочем процессе.
Работодатели все чаще обращаются к программному обеспечению для удаленного мониторинга сотрудников, что вызывает обеспокоенность у некоторых защитников конфиденциальности.
В новом отчете утверждается, что камеры с искусственным интеллектом в фургонах доставки Amazon несправедливо наказывают водителей. В статье было обнаружено, что водители страдают от ошибочных предупреждений, неправильных оценочных карточек водителей, непрактичных предположений о состоянии дорожного движения и водителей, применяющих методы обхода технологии.
«Хотя ИИ совершенствуется, ошибки все равно будут совершаться», - сказал в интервью Lifewire по электронной почте Рэймонд Ку, директор Центра права и политики в области киберпространства в Университете Кейс Вестерн Резерв. «Справедливости ради, я думаю, мы все считаем, что кто-то, кто каким-либо образом наказывается в результате принятия решений ИИ, должен быть осведомлен об этом факте и иметь возможность оспорить это решение».
Камеры Amazon с искусственным интеллектом
Amazon заявила, что установила камеры с искусственным интеллектом в своих транспортных средствах в качестве меры безопасности. Камеры предназначены для наблюдения за тем, когда водители-экспедиторы совершают опасные маневры, например, пропускают знаки остановки или совершают незаконные развороты.
Когда камеры обнаруживают возможные «события» небезопасного вождения, эти случаи учитываются в оценках производительности работников. Более низкие баллы снижают шансы водителей на получение бонусов, доплат и призов.
Но водители Amazon сообщили Motherboard, что их наказывают за некоторые привычки вождения, которые считаются безопасными или находятся вне их контроля. Amazon не ответил на запрос Lifewire о комментарии.
Ку отметил, что, поскольку водители согласились на запись, они не страдают от вторжения в частную жизнь по закону.
«Однако это не означает, что средний работник был бы доволен слежкой или не возражал бы, если бы мог», - добавил он. «Это особенно верно, когда слежка начинает вторгаться в более традиционные личные пространства».
Отчет поднимает более широкие вопросы о том, могут ли данные быть доступны и использованы в судебных процессах или полицией и федеральными чиновниками, сказала Lifewire адвокат по вопросам конфиденциальности данных Бетани А. Корбин в интервью по электронной почте. Она также указала, что это может повлиять на ответственность.
«Например, если технология искусственного интеллекта говорит сотруднику не смотреть в боковые зеркала, и сотрудник попадает в аварию как прямой результат этого совета, кто виноват?» - добавил Корбин.
Растущее наблюдение
Наблюдение не ограничивается Amazon. Все большее число компаний используют технологии для удаленного наблюдения за своими сотрудниками, сказал Lifewire эксперт по конфиденциальности Крис Хаук в интервью по электронной почте.
Например, компания Blackbelt, занимающаяся маркетингом искусственного интеллекта, использует систему отслеживания времени Allocate, позволяющую компании автономно контролировать и отслеживать компьютерную активность своих сотрудников. Microsoft Workplace Analytics позволит работодателям отслеживать, сколько времени сотрудник проводит на веб-сайтах, пишет электронные письма и выполняет другие действия в течение рабочего дня.
Walmart также работает над системой, которая прислушивается к шороху сумок или звуковым сигналам сканеров на кассе, чтобы отслеживать показатели сотрудников и обеспечивать правильное и эффективное выполнение сотрудниками своих задач. Датчики могут даже подслушивать клиентов, когда они болтают в очереди, и определять, правильно ли сотрудники приветствуют клиентов.
Наблюдение за рабочим местом становится все более распространенным с начала пандемии, сказал Lifewire эксперт по вопросам конфиденциальности Панкадж Шривастава в интервью по электронной почте.
«Большая часть этой технологии позиционируется как «повышение производительности», однако то, как работают некоторые из этих инструментов, предполагает большую терпимость работодателей к контролю за каждой деятельностью своей рабочей силы», - добавил он. «Например, отслеживание того, сколько времени сотрудники тратят на выполнение каждой задачи, удаленная фотосъемка, позволяющая убедиться, что сотрудники находятся за своим столом, и даже отслеживание посещенных веб-сайтов и запись нажатий сотрудников на клавиатуре и движений мыши».
Хотя ИИ совершенствуется, ошибки все равно будут совершаться.
По его словам, Некоторое программное обеспечение с искусственным интеллектом позволяет работодателям постоянно отслеживать поведение сотрудников в фоновом режиме и выявлять закономерности в их рабочем процессе.
«Сотрудник может быть уволен на основании его персонального отчета о производительности, ссылающегося на то, что ему потребовалось на несколько минут больше времени, чем обычно, чтобы выполнить задание», - сказал Шривастава.
"До свидания, перерывы на уборку."
