Как SHAP объясняет влияние отдельных признаков на предсказания модели машинного обучения?

SHAP (SHapley Additive explanation) объясняет влияние отдельных признаков на предсказания модели машинного обучения с помощью значений SHAP. 14 Эти значения показывают, насколько конкретный признак изменил предсказание по сравнению с базовым значением этого признака. 4

Процесс работы SHAP включает несколько шагов: 1

1. Определение базового предсказания. 1 Обычно это среднее предсказание модели по всему набору данных. 1
2. Перестановки объектов. 1 Каждый объект систематически удаляется из модели, и измеряется влияние на прогноз. 1 Этот процесс повторяется для всех возможных комбинаций объектов. 1
3. Расчёт значения SHAP. 1 Путем анализа изменений в прогнозах, полученных в результате перестановок, вычисляются значения SHAP для каждого объекта. 1
4. Объяснение прогноза. 1 Значение SHAP каждого объекта указывает, насколько оно отодвинуло прогноз от базовой линии. 1 Положительные значения означают, что функция увеличила прогноз, а отрицательные — что уменьшила его. 1

Для классификации SHAP показывает вклад каждого признака в вероятность предсказанного класса — то есть насколько значение признака отклоняет итоговую вероятность от базовой (средней по выборке). 2 Для регрессии SHAP показывает, насколько каждый признак влияет на отклонение от среднего предсказания модели по обучающей выборке. 2