Ключевые выводы
- Компании используют искусственный интеллект для наблюдения за своими сотрудниками.
- Amazon установила камеры с машинным обучением в своих фургонах в начале этого года.
- Наблюдение за ИИ может привести к проблемам с конфиденциальностью и безопасностью, если оно используется недобросовестными компаниями.
Работодатели все чаще отслеживают своих работников с помощью искусственного интеллекта, и наблюдатели говорят, что эта практика вызывает опасения в отношении конфиденциальности.
Amazon установила камеры с машинным обучением в своих фургонах в начале этого года. Недавно компания сообщила своим водителям, что они должны дать согласие на их использование. Практика слежки на рабочем месте может быть законной, но не все согласны с тем, что она этична.
«Компании десятилетиями использовали инструменты мониторинга сотрудников, но с развитием технологий они становятся все более инвазивными», - сказала в интервью по электронной почте Эйми О'Дрисколл, исследователь безопасности на веб-сайте сравнения технологий Comparitech.
"Слежка за сотрудниками в большинстве случаев может рассматриваться как вторжение в частную жизнь, и можно утверждать, что то, что делает Amazon, мало чем отличается от установки камер видеонаблюдения в офисе."
Будьте замечены или вас уволят
Примерно 75 000 водителей Amazon в США теперь должны подписать форму «биометрического согласия». Форма разрешения позволяет камерам с искусственным интеллектом отслеживать местоположение, движение и биометрические данные водителей. Сотрудники, не подписавшие документ, могут быть уволены.
Наблюдение за ИИ отслеживает все, что делают водители Amazon, вторгаясь в предполагаемую конфиденциальность субъекта, сказал в интервью по электронной почте Крис Хаук, исследователь конфиденциальности на веб-сайте конфиденциальности Pixel Privacy.
«Это включает запись каждый раз, когда субъект зевает или чешет чувствительную область», - добавил он. «Водитель имеет хоть какое-то право на некое подобие частной жизни в своем автомобиле».
Слежка за сотрудниками с помощью ИИ становится все более серьезной проблемой. По словам О’Дрисколла, Walmart запатентовала технологию искусственного интеллекта, которая позволяет прослушивать взаимодействие сотрудников с покупателями на кассе.
Разработчик программного обеспечения Enaible предоставляет инструменты повышения производительности на основе программного обеспечения ИИ. Различные компании, в том числе Macy’s, используют систему аналитики Microsoft, которая может отслеживать поведение сотрудников. Domino’s использовала технологию искусственного интеллекта для проверки правильности приготовления пиццы.
«Одна из основных проблем заключается в том, что при неправильном использовании отсутствие конфиденциальности может привести к проблемам с безопасностью», - сказал О’Дрисколл.
"Данные наблюдения могут оказаться в руках преступников, или же злоумышленники сами могут использовать слежку с помощью ИИ для нацеливания на жертв."
Биометрическое сканирование лица приводит к математическому представлению лица субъекта данных, которое можно использовать для идентификации и отслеживания его в любом месте до конца жизни, сказал Рэй Уолш, эксперт по конфиденциальности на веб-сайте ProPrivacy. интервью по электронной почте.
«Это создает серьезные риски для конфиденциальности и безопасности водителей Amazon, чьи данные могут быть взломаны, просочились или потенциально даже использованы правительственными шпионами с использованием ордера», - добавил он..
Поскольку технология искусственного интеллекта является относительно новой, конкретных рекомендаций по ее использованию в отношении конфиденциальности не существует, сказал О’Дрисколл. «Тем не менее, безопасность, вероятно, всегда будет законным оправданием для вторжения в частную жизнь, поэтому Amazon подпадает под действие своих нынешних намерений», - добавила она.
Хотя сотрудники имеют право уволиться или дать согласие на предлагаемый мониторинг ИИ, они делают это перед лицом огромного дисбаланса сил, О’Дрисколл сказал, что слежка за ИИ должна регулироваться. «В идеале у компаний должны быть законные причины (например, безопасность) для наблюдения за ИИ», - добавила она.
Некоторые штаты приняли законы, которые ограничивают и регулируют использование наблюдения на рабочем месте, но федеральное законодательство отсутствует, указал Уолш.
В 2019 году в Палату представителей и Сенат был внесен Закон об алгоритмической ответственности, но в конечном итоге он был отклонен. Аналогичный закон может быть принят в этом году, и «есть надежда, что Конгресс и Белый дом под руководством демократов могут улучшить его шансы на принятие», - сказал Уолш.
Не ждите конфиденциальности на работе
Не все считают, что слежка Amazon за своими водителями является вторжением в частную жизнь.
«Думаю, трудно утверждать, что у сотрудника есть разумное ожидание конфиденциальности в автомобиле, принадлежащем компании», - сказал в интервью по электронной почте Уилл Гриффин, директор по этике компании Hypergiant, работающей с искусственным интеллектом.
"Больше всего беспокоит то, что через несколько лет все эти водители будут заменены автономными транспортными средствами. Таким образом, любые споры о политике в отношении водителей станут спорным вопросом, поскольку автопарк станет полностью автономным".
Случай с Amazon подчеркивает необходимость создания профсоюза или целенаправленного федерального вмешательства как способа восстановить баланс сил между работниками Amazon и компанией, сказал Гриффин.
«Хотя сотрудники имеют право уволиться или дать согласие на предлагаемый мониторинг ИИ, они делают это перед лицом огромного дисбаланса сил», - добавил он.
