Как работает система распознавания деликатного контента в смартфонах?

Системы распознавания деликатного контента в смартфонах работают на основе машинного обучения. www.mentoday.ru support.apple.com Алгоритм обучают на миллионах единиц непристойного контента, поэтому он с лёгкостью отличает такие изображения от всех прочих. www.mentoday.ru

Например, в устройствах Apple функция «Предупреждение о нецензурном или неприемлемом контенте» анализирует фотографии и видео прямо на устройстве. support.apple.com Если функция обнаруживает контент, который может содержать наготу, она размывает изображение, выводит соответствующее предупреждение и предлагает способы получения поддержки. support.apple.com

В смартфонах на базе Android, например в приложении Google Messages, система работает благодаря технологии SafetyCore. www.ixbt.com support.google.com Если приложение обнаруживает, что входящее изображение может содержать откровенный контент, оно автоматически накладывает размытие. www.ixbt.com Получатель может выбрать один из трёх вариантов: просмотреть изображение, заблокировать отправителя или получить дополнительную информацию о причине срабатывания фильтра. www.ixbt.com

Также предусмотрено предупреждение при попытке отправки потенциально откровенного снимка. www.ixbt.com Система информирует отправителя о характере изображения перед отправкой, позволяя пересмотреть своё решение. www.ixbt.com