Цифровые платформы могут способствовать распространению шокирующих историй в интернете несколькими способами:
- Предоставление площадки для публикации. 2 Пользователи загружают на платформы жестокий, шокирующий и незаконный контент: фото и видео с насилием, преступлениями, казнями, терроризмом, издевательствами над людьми и животными. 1
- Обеспечение вирусности контента. 4 Чтобы удерживать внимание людей на своих сайтах как можно дольше, платформы используют алгоритмы, которые рекомендуют потенциально наиболее интересные публикации. 4 Если система фиксирует популярность того или иного видео, то она распространяет его больше, в результате контент получает больше просмотров. 4
- Сбор персональных данных пользователей. 2 Платформы собирают много информации о человеке, который размещает контент: где он публикует, с кем общается, в каких сообществах состоит и другие данные. 2 Это позволяет выявить распространителей информации и либо передать её в правоохранительные органы, либо заблокировать пользователя. 2
Для борьбы с распространением шокирующего контента платформы используют модераторов, которые просматривают и удаляют опасный контент. 1 Однако из-за роста потокового вещания распознавание жестокого контента становится сложнее: видео может быть показано до того, как цензор узнает, что оно транслировалось. 4