Twitter объявил результаты открытого конкурса на выявление искажений в системе кадрирования фотографий.
Награда за вознаграждение началась в июле после того, как пользователи Twitter показали, что автоматизированный инструмент для обрезки на сайте отдает предпочтение лицам со светлым цветом лица, а не людям с более темным цветом лица. Это вызвало некоторые вопросы о том, как программное обеспечение отдавало предпочтение цвету кожи и определенным факторам над другими.
Задача заключалась в том, чтобы найти, какие еще ошибки и погрешности могут быть в системе кадрирования, чтобы исправить проблемы.
Первое место досталось Богдану Кулиничу, чье представление показало, как фильтры красоты могут обыгрывать модель подсчета очков алгоритма, который, в свою очередь, усиливает традиционные стандарты красоты. Представление показало, что алгоритм предпочитает молодые и стройные лица со светлым или теплым оттенком кожи. Кулиныч выиграл 3 500 долларов.
Второе место досталось HALT AI, технологическому стартапу из Торонто, который обнаружил, что изображения пожилых людей и инвалидов были вырезаны из фотографий. Команда получила 2000 долларов за второе место.
Третье место и 500 долларов достались Ройе Пакзад, основателю Taraaz Research, которая обнаружила, что алгоритм предпочитает обрезать латинские шрифты, а не арабские, что может нанести ущерб языковому разнообразию.
Подробные результаты были представлены на DEF CON 29 Румманом Чоудхури, директором команды Twitter META. Команда META изучает непреднамеренные проблемы в алгоритмах и отсеивает любые гендерные и расовые предубеждения, которые могут быть в таких системах.
Данные, полученные в ходе этого конкурса, будут использоваться для устранения ошибок и предвзятости в алгоритме обрезки, а также для обеспечения более инклюзивной среды.
