Android System SafetyCore — утилита, разработанная компанией Google для обнаружения и обработки чувствительного контента на устройствах Android. 1 Основная задача — защитить пользователей, особенно несовершеннолетних, от нежелательного контента в приложении Google Messages. 12

Система работает по следующим принципам: 2

• Локальная обработка. 2 Система анализирует все данные прямо на устройстве и не отправляет их на серверы Google. 2
• Выборочный анализ. 2 Проверяются только те изображения, которыми пользователи обмениваются в чатах. 2
• Мгновенная реакция. 2 Благодаря локальным ИИ-моделям система принимает решения практически мгновенно. 2
• Полная конфиденциальность. 2 Результаты проверки нигде не сохраняются и не передаются третьим лицам. 2

Если SafetyCore обнаруживает потенциально нежелательный контент, например, изображения обнажённого тела, он автоматически размывает изображение и показывает предупреждение. 15 Пользователь должен подтвердить, что он действительно хочет просмотреть картинку. 1

SafetyCore также используется для обнаружения спама, фишинговых ссылок и мошеннических попыток в сообщениях. 5