Ключевые выводы
- Социальные сети ищут способы защитить пользователей от оскорблений.
- Instagram упрощает предотвращение нежелательных комментариев и личных сообщений.
- Насилие в Интернете является обычным явлением, согласно опросу исследовательского центра Pew Research Center.
Компании социальных сетей пытаются бороться с продолжающейся проблемой злоупотреблений на своих платформах.
Instagram недавно заявил, что это упростит предотвращение нежелательных комментариев и прямых сообщений в социальной сети для обмена фотографиями и видео. Теперь пользователи могут автоматически отфильтровывать оскорбительный контент и скрывать комментарии и запросы прямых сообщений от определенных пользователей.
«Если компании социальных сетей не будут бороться с оскорбительными сообщениями, они закончат тем, что оскорбительные пользователи будут оскорблять друг друга, и никто на самом деле не будет разумно потреблять контент социальных сетей», - Томас Руле, профессор Кембриджский университет, изучающий проблемы социальных сетей, рассказал Lifewire в интервью по электронной почте.
"В долгосрочной перспективе они потеряют хороших и ценных пользователей."
Атаки безудержны
Спорт недавно стал горячей точкой для атак в социальных сетях. После финала Евро-2020 разгневанные болельщики напали на футболистов сборной Англии в Instagram после поражения команды. Инциденты, которые включали расистские комментарии и смайлики, высветили беспомощность пользователей Instagram в предотвращении атак на платформу. Модель Крисси Тейген удалила свой аккаунт в Твиттере в марте после того, как пожаловалась на оскорбления на платформе.
«Мы разработали эту функцию, потому что создатели и общественные деятели иногда сталкиваются с внезапным всплеском комментариев и запросов в DM от людей, которых они не знают», - написал в своем блоге глава Instagram Адам Моссери.
Новая функция «Ограничения» в Instagram предназначена для предотвращения злоупотреблений, позволяя пользователям выбирать, кто может взаимодействовать с ними в часы пик. Пользователи могут включать ограничения для учетных записей, которые не подписаны на них, и тех, которые принадлежат последним подписчикам. Когда ограничения включены, эти учетные записи не могут оставлять комментарии или отправлять запросы в личную переписку в течение определенного периода.
Еще одна функция Instagram под названием «Скрытые слова», предназначенная для защиты пользователей от нежелательных запросов в личных сообщениях, также расширяется. Скрытые слова автоматически фильтруют запросы, содержащие оскорбительные слова, фразы и смайлики. Фильтр помещает вещи, которые вы не хотите видеть, в скрытую папку, где вы можете решить, хотите ли вы их видеть. Он также отфильтровывает запросы, которые, вероятно, являются спамом или имеют низкое качество.
Instagram обновил свою базу данных скрытых слов новыми типами оскорбительной лексики, включая строки смайликов, и включил их в фильтр, сказал Моссери. Эта функция была запущена в некоторых странах и будет доступна по всему миру к концу месяца.
Twitter рассматривает способы предотвращения злоупотреблений
Другие платформы социальных сетей также рассматривают возможность принятия мер по борьбе со злоупотреблениями.
Twitter изучает способы помочь пользователям предотвратить нежелательное внимание. Система уведомлений компании предупреждает пользователя, когда он был непосредственно отмечен в твите. Функция полезна, если твит интересен. Но оскорбительный контент может привести к киберзапугиванию.
Компания заявила, что рассматривает различные способы предотвращения злоупотреблений, включая предоставление пользователям возможности «не упоминать» себя. Эта возможность позволит пользователям удалить свое имя из чужого твита, чтобы они больше не были отмечены в нем, и предотвратит появление нежелательных комментариев в их ленте.
Злоупотребления в Интернете – обычное дело. Недавний опрос Pew Research Center показал, что 41% американцев лично сталкивались с той или иной формой онлайн-домогательств. Когда их попросили оценить, насколько хорошо эти компании справляются с домогательствами или издевательствами в Интернете на своих платформах, только 18% ответили, что компании, работающие в социальных сетях, работают отлично или хорошо.
Руле сказал, что злоупотребления в социальных сетях трудно решить. Первыми контактными лицами являются пользователи, подвергшиеся насилию, которые могут сообщать об оскорбительных сообщениях. Если о пользователе сообщают несколько раз, IP-адрес может быть забанен.
«Важно, поскольку компании, работающие в социальных сетях, накапливают данные о зарегистрированных сообщениях, они могут автоматизировать и улучшить обнаружение оскорбительных сообщений с помощью машинного обучения, с риском того, что иногда они подвергают цензуре приемлемый контент», - добавил Руле.
Моссери заявил, что Instagram «будет инвестировать в организации, ориентированные на расовую справедливость и равноправие».
«Мы знаем, что многое еще предстоит сделать, в том числе улучшить наши системы, чтобы быстрее находить и удалять оскорбительный контент, а также привлекать к ответственности тех, кто его публикует», - написал Моссери.
