Как работает система распознавания деликатного контента в смартфонах?

Системы распознавания деликатного контента в смартфонах работают на основе машинного обучения. 45 Алгоритм обучают на миллионах единиц непристойного контента, поэтому он с лёгкостью отличает такие изображения от всех прочих. 4

Например, в устройствах Apple функция «Предупреждение о нецензурном или неприемлемом контенте» анализирует фотографии и видео прямо на устройстве. 5 Если функция обнаруживает контент, который может содержать наготу, она размывает изображение, выводит соответствующее предупреждение и предлагает способы получения поддержки. 5

В смартфонах на базе Android, например в приложении Google Messages, система работает благодаря технологии SafetyCore. 23 Если приложение обнаруживает, что входящее изображение может содержать откровенный контент, оно автоматически накладывает размытие. 2 Получатель может выбрать один из трёх вариантов: просмотреть изображение, заблокировать отправителя или получить дополнительную информацию о причине срабатывания фильтра. 2

Также предусмотрено предупреждение при попытке отправки потенциально откровенного снимка. 2 Система информирует отправителя о характере изображения перед отправкой, позволяя пересмотреть своё решение. 2