Система защиты контента в Android Messages работает на основе сервиса Android System SafetyCore. 13 Его задача — защитить пользователей, особенно несовершеннолетних, от нежелательного контента в приложении Google Messages. 1

Основная функция SafetyCore — анализ изображений при обмене сообщениями. 1 Если сервис обнаруживает потенциально нежелательный контент (например, изображения обнажённого тела), программа автоматически делает его размытым и показывает предупреждение. 1 Пользователь видит предупреждение вместе с полезными ресурсами и может сам решить, стоит ли открывать картинку. 1

Главные принципы работы SafetyCore:

• Локальная обработка. 1 Система анализирует все данные прямо на устройстве и не отправляет их на серверы Google. 1
• Выборочный анализ. 1 Проверяются только те изображения, которыми пользователи обмениваются в чатах. 1
• Мгновенная реакция. 1 Благодаря локальным ИИ-моделям система принимает решения практически мгновенно. 1
• Полная конфиденциальность. 1 Результаты проверки нигде не сохраняются и не передаются третьим лицам. 1

Для взрослых пользователей SafetyCore — это опциональная функция, её можно отключить в настройках. 1 Для несовершеннолетних функция активирована по умолчанию в целях их безопасности. 1