Ключевые выводы
- Все больше компаний используют ИИ для чтения ваших эмоций.
- Искусственный интеллект, считывающий эмоции, потенциально может упростить использование технологий.
- Некоторые эксперты беспокоятся о последствиях для конфиденциальности компаний, собирающих ваши эмоциональные данные.
Искусственный интеллект (ИИ) вскоре может знать о вас больше, чем вы думаете.
Стартап под названием Hume AI утверждает, что использует алгоритмы для измерения эмоций по мимике, голосу и вербальным выражениям. Это одна из растущего числа компаний, которые намерены считывать человеческие эмоции с помощью компьютеров. Но некоторые эксперты говорят, что эта концепция вызывает проблемы с конфиденциальностью.
«Тот, кто контролирует эти системы и платформы, будет иметь много информации о людях», - сказал в интервью Lifewire Боб Билбрук, консультант по стартапам. «Они смогут создавать профили для этих людей, которые можно использовать для получения денежной выгоды, контроля результатов или потенциально более гнусного макрослежения за людьми и обществом».
Чтение лица?
Хьюм говорит, что секрет обучения ИИ читать эмоции - это большие данные. Компания заявляет, что обучает свой ИИ массивным наборам данных из Северной Америки, Африки, Азии и Южной Америки.
«Наше видение - это мир, в котором ИИ переводит научные открытия в новые способы улучшения эмоционального опыта человека», - пишет компания на своем веб-сайте. «Эмоциональная осведомленность - это недостающий компонент, необходимый для создания алгоритмов социальных сетей, оптимизирующих благополучие пользователей…»
Hume - одна из многих компаний, пытающихся использовать данные для понимания человеческих эмоций. Компании используют эмоциональный мониторинг, чтобы попытаться разработать эффективную рекламу, сказал в интервью Lifewire Алексей Шалденко, профессор, который занимается исследованиями искусственного интеллекта в Киевском политехническом институте имени Игоря Сикорского в Украине. Аналогичная технология используется для оценки тона голоса в колл-центрах, отслеживания поведения водителей в автомобилях и измерения отношения зрителей в стриминговых и продюсерских компаниях.
Для пользователей есть значительные потенциальные преимущества в том, что ИИ читает их эмоции, сказал технический директор AI Dynamics Райан Монсурейт в интервью Lifewire по электронной почте. Он сказал, что одним из вариантов использования будет разработка интерфейсов, которые уменьшат вероятность того, что люди разочаруются или разозлятся на свои технологии.
Более сложная проблема, которую необходимо решить, заключается в том, чтобы генерировать соответствующие эмоциональные реакции на эмоции, воспринимаемые ИИ, взаимодействующим с людьми, сказал Монсурейт.
"Многие из нас разговаривали с помощниками из разведки, и хотя качество тембра и интонации их голосов за последнее десятилетие улучшились, они не лучше умеют общаться, передавая различные эмоции, " добавил он.«Я вижу, что генеративные модели способны генерировать синтетические голоса с эмоциями и с контекстуально соответствующими эмоциями по мере роста размеров и сложности моделей или по мере того, как мы совершаем новые прорывы в области глубокого обучения».
Но самая немедленная выгода от технологии чтения эмоций может быть для компаний, пытающихся продавать вещи. Например, система SenseR позволяет ритейлерам персонализировать работу в магазине. Компьютеры наблюдают и анализируют выражения и язык тела покупателей. Сотрудники могут использовать результаты, чтобы подтолкнуть продажу в правильном направлении, когда их подскажут продавцы в магазине, сказала Фариха Ризван, эксперт по информационным технологиям и связям с общественностью, в интервью Lifewire по электронной почте.
«С точки зрения розничной аналитики использование машинного зрения для отслеживания покупателей-людей может дать розничному продавцу информацию о продолжительности взаимодействия в магазине, уровне интереса на основе тепловых карт, посещениях магазинов и демографических данных покупателей», - добавил Ризван.
Кому принадлежат ваши эмоции?
По мере того, как компании все чаще обращаются к ИИ для чтения эмоций, существует множество потенциальных ловушек для конфиденциальности. По словам Ризвана, технологии распознавания лиц, которые управляют системами чтения эмоций, обычно работают в общественных и частных местах без согласия отслеживаемых людей, сохраняя их данные и иногда продавая эти данные тому, кто больше заплатит.
«Мы также не знаем, в какой степени эти системы защищены от кибератак, которые потенциально могут передать карту лица человека в руки злоумышленника», - добавил Ризван. «Эти опасения вызвали сдвиг в усилении мониторинга, наблюдения, раскрытия конфиденциальности и подотчетности».
Самые большие проблемы с конфиденциальностью связаны не с ИИ, а с уже существующими базовыми структурами и правилами обмена информацией, утверждает Монсурейт. Если компании смогут монетизировать ваши данные и использовать их для манипулирования вашим поведением, то понимание вашего эмоционального состояния поможет им в этом.
«Что нам нужно, так это законы, которые в первую очередь препятствуют такому поведению, независимо от того, какие инструменты они используют для достижения своих целей», - добавил Монсурейт. «Дело не в инструментах, а в злоумышленниках, и наши текущие законы о конфиденциальности крайне неадекватны».
