Ключевые выводы
- Ряд новых приложений может обнаруживать эмоции учащихся.
- Intel и производитель программного обеспечения Class, как сообщается, разрабатывают программное обеспечение, которое будет следить за лицами и языком тела цифровых студентов.
- Некоторые эксперты обеспокоены тем, что использование ИИ для наблюдения за учениками может привести к вторжению в частную жизнь.
Школы скоро смогут использовать искусственный интеллект (ИИ) для мониторинга эмоционального состояния учащихся.
Intel и производитель программного обеспечения Class разрабатывают программное обеспечение, которое будет следить за лицами и языком тела цифровых учащихся. Сообщается, что система может определить, скучают ли ученики, отвлекаются или сбиты с толку, но некоторые эксперты обеспокоены тем, что программное обеспечение может привести к вторжению в частную жизнь.
«Такие продукты для мониторинга на основе ИИ должны быть прозрачными в отношении того, как используются эти данные», - сказал Lifewire Майкл Хут, соучредитель компании Xayn и глава вычислительного отдела Имперского колледжа Лондона. интервью. «Если они используются для отслеживания участия в когорте учащихся, где участие на индивидуальном уровне не регистрируется, это несколько менее проблематично с точки зрения конфиденциальности. Однако, если какие-либо из этих данных будут использоваться для влияния на оценку учащихся, я можно увидеть всевозможные возникающие проблемы."
Присмотр за студентами
Class и Intel заключили партнерское соглашение для интеграции технологии на основе искусственного интеллекта, которая работает вместе с программным обеспечением для видеоконференций Zoom, сообщает Protocol. В отчете говорится, что программное обеспечение можно использовать для наблюдения за учащимися.
«Благодаря нашему партнерству с Intel мы сможем привнести в программное обеспечение Class новые иммерсивные функции, основанные на функциях, подкрепленных исследованиями», - говорится на веб-сайте компании. «Мы также будем работать вместе с Intel, чтобы использовать ресурсы и предоставлять преподавателям и учащимся ценную информацию, совместные тематические исследования, официальные документы, вебинары и многое другое».
Intel сообщила протоколу, что программное обеспечение для занятий в классе находится на ранней стадии, и нет никаких планов по выпуску продукта на рынок.
Партнерство с Class - не единственное потенциальное сотрудничество между программным обеспечением Intel для чтения эмоций и другими производителями. Интернет-брошюра от Intel рекламирует новую электронную доску под названием Viewboard, предназначенную для школ. Программное обеспечение Intel «позволяет myViewboard оценивать и отображать эмоциональное состояние учащихся в качестве немедленной обратной связи для преподавателей», говорится в брошюре.
Class - один из многих программных продуктов, предназначенных для отслеживания эмоций учащихся с помощью ИИ. Существует также 4Little Trees, платформа обучения обнаружению эмоций, которая является «виртуальным помощником преподавателя, [который] поможет, выбрав для вас наиболее подходящие вопросы или бросив вам вызов, когда это необходимо», согласно веб-сайту компании..
Ашиш Фернандо, генеральный директор компании iSchoolConnect, занимающейся искусственным интеллектом, сказал Lifewire в интервью по электронной почте, что ИИ можно научить оценивать поведение и особенности человека без влияния субъективных предубеждений, которых придерживаются люди.
«ИИ может оценивать значительно большее количество человеческих поведений, включая микровыражения, которые легко пропустить, гораздо быстрее, чем человек», - сказал Фернандо. «Там, где на обратную связь могли уйти часы, ИИ теперь может предоставить то же самое в течение нескольких минут».
Конфиденциальность
Использование ИИ для наблюдения за людьми растет. В Snapchat есть технология искусственного интеллекта, которая оценивает эмоциональный уровень группы людей на живом мероприятии. Mad Street Den использует искусственный интеллект компьютерного зрения, чтобы помочь ритейлерам распознавать выражения лиц и эмоции потенциальных покупателей. BrainQ использует искусственный интеллект, чтобы понять, как пассажиры взаимодействуют с автономными транспортными средствами, которые они используют. А компании используют ИИ для отслеживания усталости водителей.
«Это отличный вариант использования для безопасности дорожного движения, но он поднимает вопросы, касающиеся прав водителей на неприкосновенность частной жизни в их личных автомобилях», - сказал Хут. «Будет ли информация об усталости передана страховой компании или производителю автомобилей? Или она просто предупредит водителя, чтобы он остановился и отдохнул? Это не проблема для коммерческих автомобилей, таких как грузовики, фургоны для доставки или такси».
Одна из проблем заключается в том, что информация ИИ, такая как движение мышц для определения эмоционального состояния, может быть недостоверной, сказал Хут. «Это создает дилемму, поскольку для более надежного ИИ может потребоваться доступ к еще более конфиденциальным данным, таким как сигналы ЭЭГ», - добавил он.
Студентам ИИ может быть полезен для контроля соблюдения требований во время онлайн-экзаменов, когда наблюдатель не может присутствовать физически. Но такое использование ИИ для этого является спорным, сказал Хут, потому что система пытается определить, намеревается ли студент списывать или действительно списывает, и существует реальная вероятность ложных срабатываний, которые приводят к необоснованному наказанию студентов, которые не сделали ничего плохого..
«Любой ИИ, используемый для этой цели, должен быть достаточно надежным, чтобы справляться с перерывами в туалете, нервными тиками отдельных учеников (например, беспорядочными движениями глаз) и так далее», - сказал Хут.
