Модерация в контексте социальных сетей — это процесс проверки контента и действий пользователей на соответствие установленным правилам и законодательным требованиям. 2 Она позволяет своевременно удалять оскорбительные, непристойные или вводящие в заблуждение материалы, а также борется со спамом, троллингом, распространением фишинговых ссылок и другими формами недопустимого поведения. 2

Отличие заключается в том, что модерация может быть автоматической и ручной: 3

• Автоматическая модерация. 3 Специальные алгоритмы определяют тематику контента и проверяют, соблюдены ли правила площадки. 3 Затем на основании этих данных публикациям и комментариям пользователей выносят вердикт — либо допускают к публикации, либо блокируют. 3
• Ручная модерация. 23 Некоторые публикации отправляются на ручную проверку, которую осуществляют живые модераторы. 2 Это могут быть как наёмные работники, так и добровольцы. 2

В зависимости от применяемых санкций в случае нарушения правил, существует два основных вида модерации: мягкая и жёсткая: 2

• Жёсткая модерация. 2 Запрещённый контент немедленно удаляется, и другие пользователи теряют к нему доступ. 2 Если владелец аккаунта продолжает нарушать правила, его учётная запись может быть заблокирована. 2
• Мягкая модерация. 2 В отличие от жёсткой, мягкая модерация не предполагает удаления контента, однако пользователи информируются о потенциальных проблемах. 2