Как работает система обнаружения контента в Android System Safety Core?

Android System SafetyCore — утилита, разработанная компанией Google для обнаружения и обработки чувствительного контента на устройствах Android. vk.com Основная задача — защитить пользователей, особенно несовершеннолетних, от нежелательного контента в приложении Google Messages. vk.com www.securitylab.ru

Система работает по следующим принципам: www.securitylab.ru

• Локальная обработка. www.securitylab.ru Система анализирует все данные прямо на устройстве и не отправляет их на серверы Google. www.securitylab.ru
• Выборочный анализ. www.securitylab.ru Проверяются только те изображения, которыми пользователи обмениваются в чатах. www.securitylab.ru
• Мгновенная реакция. www.securitylab.ru Благодаря локальным ИИ-моделям система принимает решения практически мгновенно. www.securitylab.ru
• Полная конфиденциальность. www.securitylab.ru Результаты проверки нигде не сохраняются и не передаются третьим лицам. www.securitylab.ru

Если SafetyCore обнаруживает потенциально нежелательный контент, например, изображения обнажённого тела, он автоматически размывает изображение и показывает предупреждение. vk.com gogov.ru Пользователь должен подтвердить, что он действительно хочет просмотреть картинку. vk.com

SafetyCore также используется для обнаружения спама, фишинговых ссылок и мошеннических попыток в сообщениях. gogov.ru