Ключевые выводы
- Tencent создала технологию распознавания лиц, чтобы поймать детей, играющих в видеоигры после установленного государством комендантского часа.
- Родительский контроль без родителей, присматривающих за детьми, не является чем-то новым.
- Эксперты говорят, что проблемы с правилами распознавания лиц включают личную конфиденциальность и точность.
Китайская игровая компания Tencent использует технологию распознавания лиц, чтобы ввести комендантский час в играх для несовершеннолетних, и эксперты говорят, что мир правил, обеспечиваемых технологиями, не за горами.
Программное обеспечение для распознавания лиц не является новой технологией, но по мере того, как оно становится все более продвинутым, у него появляются все более противоречивые области применения, помимо разблокировки наших смартфонов. Доктор Вир Фоха, профессор Колледжа инженерии и компьютерных наук Сиракузского университета, говорит, что при использовании распознавания лиц для обеспечения соблюдения правил возникает множество проблем, но эта проблема особенно выделяется среди остальных.
«Меня больше всего беспокоит то, что… частный бизнес становится инструментом государства для обеспечения соблюдения законов», - сказал Фоха Lifewire по телефону. «И это важно, потому что внутри… частного сектора может не быть достаточной системы сдержек и противовесов, чтобы обеспечить прозрачность того, как все делается внутри».
Родительский контроль без родителей
Tencent заявила, что использует технологию распознавания лиц, чтобы поймать детей, играющих в видеоигры поздно ночью. В 2019 году в Китае был принят закон, который вводит комендантский час в играх для всех, кто младше 18 лет, и ограничивает время, проводимое за игрой, будними и выходными часами. Таким образом, хотя технология кажется агрессивной, она была создана, чтобы решить проблему детей, нарушающих комендантский час.
Согласно Digital Trends, технология, известная как «Полуночный патруль», сканирует лицо человека с экрана компьютера, чтобы сопоставить его с зарегистрированным именем и лицом, и соответственно отслеживает их игровое время.
Даже если некоторые родители приветствовали бы второй взгляд на своих детей, подчиняющихся правилам, могут ли технологии действительно заменить родителя?
«Я думаю, что существует конфликт между родительскими правами и родительскими обязанностями. А с государственными вещами обычно лучше всех судят родители», - сказал Пхоха.
Хотя эта конкретная технология используется в Китае, Федеральная торговая комиссия одобрила в 2015 году поддающийся проверке метод родительского согласия, который позволяет организациям использовать технологию распознавания лиц для получения родительского согласия. Эта технология немного отличается тем, что она предназначена для сканирования лиц родителей, прежде чем дети смогут получить доступ к определенному контенту, чтобы убедиться, что родители согласны с ним. Тем не менее, Фоха сказал, что наличие камеры в вашем доме, отслеживающей вещи, может привести к потенциальным неприятностям.
«Если камера разрешена в доме, например, третье лицо, позволяющее получить доступ к моему дому, когда мой ребенок играет, я думаю, что это большая, большая проблема», - сказал он.
Проблемы с правилами распознавания лиц
Помимо этических вопросов, связанных с установленными государством правилами или взятием на себя роли родителя, Фоха сказал, что с распознаванием лиц всегда возникают проблемы с точностью.
«[Распознавание лиц] можно очень легко подделать, особенно если оно выполняется перед компьютером и выполняется удаленно, как это делает Tencent», - сказал он.
Если это санкционировано государством, и если оно носит принудительный характер или влечет за собой карательные меры, то меня это не очень устраивает».
Если распознавание лиц станет более широко распространенным способом обеспечения соблюдения правил, оно может значительно повлиять на цветных людей из-за присущей технологии расовой предвзятости. Многочисленные исследования показали, что распознавание лиц может неправильно идентифицировать людей, особенно цветных.
Используя фотографии приложения более высокого качества, процент ложноположительных результатов самый высокий у жителей Западной и Восточной Африки и Восточной Азии и самый низкий у жителей Восточной Европы. Этот эффект, как правило, велик, с коэффициентом ложных срабатываний в 100 раз больше. между странами», - говорится в части исследования NIST 2019 года, посвященного демографии распознавания лиц.
Фоха добавил, что в научных исследованиях распознавание лиц может определять гораздо больше, чем просто черты лица, в том числе определять частоту сердечных сокращений человека и определять, есть ли у человека определенное заболевание.
Технология распознавания лиц также может определять ваши эмоции. Например, программное обеспечение Amazon для распознавания лиц, известное как Rekignition, может обнаруживать эмоции на лицах людей, включая страх.
Фоха сказал, что с помощью этих технологий мы приближаемся к миру правил распознавания лиц/наблюдения. Он добавил, что мы должны быть особенно осторожны с государственной системой правил распознавания лиц.
«Когда я хочу войти в телефон и использовать аутентификацию по лицу, я могу сделать это по своему усмотрению - это мой выбор, и я могу использовать его так, как хочу», - сказал он. «Но если это государственное задание, и если оно носит принудительный характер или влечет за собой карательные меры, то меня это не очень устраивает».
