Подходы к оценке ответов голосовых помощников различаются, потому что показатели, которые используются для оценки, зависят от типа умной колонки и стадии её разработки. unionvk.com
Некоторые подходы и метрики, которые применяются для оценки ответов голосовых помощников:
- Качество ответа. unionvk.com Для расчёта этого показателя берут количество запросов пользователей и релевантных ответов. unionvk.com Однако такая оценка субъективна и затратна, так как люди, которые оценивают ответы, понимают релевантность по-своему. unionvk.com
- Длина диалога. unionvk.com Этот показатель актуален для умных колонок, ориентированных на общение. unionvk.com
- Индекс потребительской лояльности (NPS). unionvk.com Этот показатель тесно связан с качеством ответов, высокий NPS сопровождается эффективностью выполнения задач и правильными ответами умной колонки. unionvk.com
- Достижение цели за сессию. unionvk.com Даже когда пользователь получает релевантный ответ на вопрос, не всегда понятно, достигнута ли его цель. unionvk.com
Кроме того, при оценке ответов голосовых помощников учитывают такие параметры, как естественность языка, контекстуальная уместность, полнота ответа и его практическая применимость. blog.rt.ru