Почему значения Шепли считаются важной концепцией в машинном обучении?

Значения Шепли считаются важной концепцией в машинном обучении, потому что они обеспечивают принципиальный способ объяснить предсказания нелинейных моделей. en.wikipedia.org

Интерпретируя модель, обученную на наборе признаков, как функцию ценности для коалиции игроков, значения Шепли позволяют вычислить, какие признаки вносят вклад в прогноз или вносят вклад в неопределённость прогноза. en.wikipedia.org

Кроме того, на основе значений Шепли предложен метод выбора стабильной модели, который помогает стабилизировать показатели точности моделей при искажении предикторов и шумов, а также повышать показатели точности при снижении набора данных. www.researchgate.net

Также SHAP-значения дают возможность заглядывать в «чёрные ящики» моделей машинного обучения, что позволяет получить представление о том, как именно каждый из признаков воздействует на выходные данные моделей. habr.com