Что такое модерация в социальных сетях и как она работает

Модерация — это проверка контента и действий пользователей на соответствие требованиям закона и политике социальной сети.

Модерация помогает вовремя удалить оскорбительные, непристойные или вводящие в заблуждение публикации. А также борется со спамом, троллингом, распространением фишинговых ссылок и другими формами запрещенного поведения.

Каждая соцсеть устанавливает свои правила поведения. Когда пользователь присоединяется к платформе, он даёт согласие не только на регистрацию, но и на соблюдение условий площадки. Они определяют, какой контент нельзя публиковать и какие действия нельзя совершать.

При регистрации в VK пользователь автоматически принимает пользовательское соглашение

Правила модерации могут меняться по мере возникновения новых проблем. Когда используемых методов защиты становится недостаточно, внедряют новые. Например, в 2020 году, во время президентских выборов США, в «Твиттере» появилось большое количество дезинформации и фэйковых новостей. Чтобы обезопасить аудиторию, платформа стала дополнять посты на политические темы предупреждающими надписями.

Пометка «This claim about election fraud is disputed» («Это утверждение о мошенничестве на выборах оспаривается») позволила снизить градус доверия пользователей к публикациям, содержащим неподтвержденные факты. Источник

Зачем нужна модерация

Ежедневно объём контента, публикуемого в соцсетях, увеличивается. Модерация позволяет обрабатывать множество данных в режиме реального времени и быстро реагировать на появляющиеся проблемы.

Модерация решает несколько основных задач:

Защищает от нежелательного контента. Помогает предотвратить или быстро заметить неприемлемый контент.
Обеспечивает безопасность. Останавливает мошенничество, кибербуллинг, харассмент и другие вредоносные действия. Помогает защитить персональные данные пользователей.
Поддерживает репутацию. Обеспечивает качественный контент. Это позволяет получить доверие пользователей и создать репутацию надеждой соцсети.
Помогает соблюдать законодательство. Соцсети должны соблюдать местные и международные законы: об авторском праве, защите персональных данных, правах человека и другие. Модерация помогает отслеживать нарушения.

В мае в сети появилась новость о том, что Twitter могут запретить на территории ЕС, если соцсеть не будет соответствовать вступающему в силу закону о борьбе с дезинформацией

Как работает модерация

Для выявления нарушений и оскорбительного контента соцсети используют автоматическую и ручную модерацию.

Автоматическая модерация. Специальные алгоритмы определяют тематику контента и проверяют, соблюдены ли правила площадки. Затем на основании этих данных публикациям и комментариям пользователей выносят вердикт — либо допускают к публикации, либо блокируют. У каждой платформы свои алгоритмы. Например, YouTube активнее всего использует автоматизированные системы для удаления оскорбительных комментариев.

Иногда YouTube не удаляет комментарии, а предлагает пользователю перед отправкой проверить, точно ли он соблюдает правила платформы. Источник

Также для борьбы с токсичностью соцсети прибегают к помощи искусственного интеллекта. Например, внедряют API Google — он использует методы машинного обучения и умеет определять оскорбления, нецензурную лексику и другие нарушения.

Ручная модерация. «Машины» не могут обнаружить всё. Например, какое сообщение действительно разжигает ненависть, а какое — граничит с оскорблением, но приемлемо. Поэтому некоторые публикации отправляются на ручную проверку. Их проверяют живые люди. Это могут быть наёмные работники или добровольцы. Например, Twitter и Facebook* нанимают фрилансеров, которые модерируют контент за деньги. В то же время Reddit полагается на модераторов-добровольцев, которых выбирают из наиболее активных членов сообщества.

Ручная модерация может быть очень полезной при сборе обратной связи. Классическая ситуация: к вам в комменты приходит очень злой человек, говорит, что вы плохо работаете. При грамотном подходе и правильных вопросах вы, как минимум, узнаете, что такое «‎плохо работаете». В самом лучшем случае получите крупицы адекватной критики, которая важна для компании, а заодно успокоите человека, и он перестанет громко возмущаться. Все в плюсе.

Ксения Сальникова

SMM-специалист сервиса автопостинга SMMplanner

Обычные пользователи тоже могут выполнять роль модераторов. Если, по мнению человека, какой-то контент нарушает правила площадки, он может отправить жалобу.

Обычно у соцсетей есть внутренние правила, согласно которым публикацию удаляют, если какое-то количество пользователей пожаловалось на неё.

В Instagram* пользователь может пожаловаться на контент, который, по его мнению, нарушает правила площадки. Если таких жалоб окажется много, соцсеть удалит публикацию и пришлет её автору предупреждение о блокировке аккаунта в случае дальнейшего несоблюдения правил

Какой бывает модерация

В зависимости от санкций, которые применяют соцсети в случае нарушения правил, выделяют два вида модерации: мягкую и жесткую.

Жесткая модерация. Запрещенный контент незамедлительно удаляют, и другие пользователи не могут получить к нему доступ. Если владелец аккаунта продолжает нарушать правила соцсети, его учетную запись блокируют.

Если пользователь не совершал запрещенных действий, но его аккаунт забанили, он может подать жалобу.

В Instagram* пользователю сразу предлагают перейти по ссылке, которая помогает обжаловать блокировку

Мягкая модерация. При мягкой модерации платформы не удаляют контент, но информируют пользователей о потенциальных проблемах. Для этого юзеру показывают предупреждающую надпись.

Если TikTok подозревает, что контент пользователя вводит в заблуждение, ему показывают предупреждающую надпись, которая призывает убедиться в достоверности информации

Иногда после того, как пользователь получает предупреждение, его публикации сопровождаются специальными маркировками.