Ключевые выводы
- Программное обеспечение YouTube для автоматического ограничения возраста вызывает обеспокоенность по поводу контента ЛГБТК+ на платформе.
- Компания была омрачена разногласиями в отношении создателей контента ЛГБТК+, укрепляющих сомнения.
- Предубеждения в машинном обучении подтверждают идею о том, что его несовершенная реализация фильтров может несправедливо ограничивать доступ.
С учетом истории несправедливого нацеливания на создателей контента ЛГБТК+ в процессе модерации новая технология YouTube на основе искусственного интеллекта рассматривается как тревожный следующий шаг для технологического гиганта.
На прошлой неделе в официальном блоге YouTube платформа для обмена видео обнародовала планы по выпуску нового автоматического программного обеспечения для «более последовательного применения возрастных ограничений» к видео, которые считаются неподходящими для более молодых зрителей.
Вдохновленная недавними опасениями о детях в приложении, новая система основана на программном обеспечении искусственного интеллекта с машинным обучением с возможностью отказа от модераторов-людей в пользу более автоматического процесса. Проблема? Автоматизированные системы YouTube обвиняют в том, что они выделяют ЛГБТК+-контент и создателей просто из существующих.
Даже если это не злонамеренно, а я так не думаю, это отсутствие мнений с разных сторон или, по крайней мере, неуважение.
«Машинное обучение формируется и создается людьми, и вполне возможно иметь те предубеждения, присущие ему или усвоенные самой машиной», - сказал ютубер Роуэн Эллис в телефонном интервью Lifewire. «Его предвзятость в отношении контента [ЛГБТК+] была очевидна в предыдущем опыте [ЛГБТК+] ютуберов, и я не видел доказательств того, что что-либо было сделано, чтобы остановить это."
Детка, теперь у нас плохая кровь
Эллис - ютубер, создающая образовательный контент с феминистскими и квир-наклонами, а в 2017 году она опубликовала видео о закрытом режиме компании. В качестве первого шага к автоматической модерации контента этот режим позволял пользователям дополнительно предварительно проверять «потенциально зрелый контент» из поисковых предложений и рекомендаций.
Набрав более 100 000 просмотров, она считает, что были предприняты сознательные усилия, чтобы предотвратить ограничение ее канала из-за ее активного несогласия с эксцессами нового шага YouTube к модерации. Другим пользователям на платформе не так повезло, и они сообщили об этом YouTube.
Групповой иск против YouTube был подан в августе 2019 года группой из восьми создателей ЛГБТК+, которые обвинили компанию Кремниевой долины в ограничении создателей видео и контента для гомосексуалистов и транссексуалов. В иске утверждается, что сайт использует «незаконные методы регулирования, распространения и монетизации контента, которые стигматизируют, ограничивают, блокируют, демонетизируют и наносят финансовый ущерб ЛГБТ-истцам и всему ЛГБТ-сообществу». Это все еще проходит через суды Калифорнии.
Машинное обучение информируется и создается людьми, и вполне возможно, что эти предубеждения присущи ему или изучены самой машиной.
В июне того же года платформа привлекла к себе внимание средств массовой информации после того, как отказалась быстро объявить выговор популярному консервативному комментатору Стивену Краудеру за многомесячную гомофобную кампанию преследования журналиста Vox и ведущего Карлоса Маза. Это закрепило то, что, по словам Эллиса, является моделью игнорирования онлайн-платформой уникальных проблем, с которыми сталкиваются квир-творцы. Неверие создателей ЛГБТК+ в способность YouTube показывать их не без оснований.
«Я не думаю, что они поняли необходимость обеспечения прозрачности в отношении социальных вопросов и обеспечения равенства», - сказала она. «Во всем мире все еще есть дети, которые выросли с идеей, что быть геем - это неправильно, и когда они начинают сомневаться в этом убеждении, но обнаруживают, что оно опровергается безопасным обыском или ограничением, это укрепляет эту идею о том, что это неправильно. неправильно, неуместно, взросло, извращенно и грязно."
Невозможность автоматического обучения
С его грязной историей в отношении создателей контента LGBTQ + на его платформе все еще беспокоятся о реализации способности программного обеспечения для машинного обучения различать более высокие нормы. Дон Хейдер, исполнительный директор Центра прикладной этики Марккулы, считает, что возможность совершить глупость - это слишком большой риск, чтобы играть в азартные игры.
«Трудно поверить, что ИИ может эффективно управлять контентом из разных стран с разными культурными нормами и стандартами», - написал он в интервью по электронной почте. «ИИ слишком часто рассматривается как ответ на сложные вопросы. На данный момент ИИ и способ его создания с трудом справляются даже с простыми задачами, не говоря уже о любой модерации контента любого уровня сложности».
YouTube решил использовать технологию искусственного интеллекта из-за отсутствия последовательной модерации со стороны модераторов-людей, говорится в его блоге. Расширение использования компьютеризированных фильтров для удаления видео, которые считаются неподходящими, стало нормой, и внедрение тех же процедур для политики возрастных ограничений рассматривается как логичный следующий шаг.
Как компания, стремящаяся постепенно улучшить свои процессы после давней критики в отношении ее отношения к детям-потребителям, это решение не стало неожиданностью.
Я не думаю, что они поняли необходимость прозрачности в отношении социальных вопросов и обеспечения равенства.
Дети стали ключевой демографической группой для сайта обмена видео. В августе аналитическая фирма Tubular, занимающаяся цифровым видео, обнаружила, что, помимо музыкальных клипов, контент, предназначенный для детей, возглавил список самых просматриваемых видео на YouTube на конец месяца.
Заинтересованность компании в защите этой прибыльной, развивающейся электростанции на платформе имеет смысл. Однако инструменты, используемые для обеспечения этой защиты, по-прежнему вызывают дискомфорт у тех, кто уже оказался ниже по течению процедур модерации компании.
"Меня беспокоит то, что это нанесет большой вред и не защитит [ЛГБТК+] молодежь, которой нужен информативный, откровенный и честный контент, который могут предоставить многие [ЛГБТК+] ютуберы, но который помечен в его системе. как неуместное», - сказал Эллис.«Даже если это не злонамеренно, а я так не думаю, это отсутствие мнения разных людей или, по крайней мере, отсутствие уважения.
Мы все время видим это в технологиях. Когда вы смотрите на распознавание лиц, неспособное различать разные лица чернокожих, или когда мы смотрим на медицину и видим, что лекарства были протестированы только на определенном поле. Эти - это более масштабные разговоры, и YouTube не исключение из этого правила».