В чём разница между SHAP и LIME?

Разница между SHAP и LIME заключается в подходах к объяснению предсказаний моделей машинного обучения. 18

SHAP (SHapley Additive exPlanations) объясняет вклад каждого признака в предсказание модели. 3 Он основан на концепции значений Шепли из теории кооперативных игр, где значение каждого признака рассчитывается как его вклад в общий результат, учитывая взаимодействие с другими признаками. 3 SHAP обеспечивает как глобальную, так и локальную интерпретацию. 6

LIME (Local Interpretable Model-agnostic Explanations) объясняет предсказания для отдельных экземпляров данных. 3 Он работает путём создания упрощённой, легко интерпретируемой модели в окрестности конкретного тестового примера. 3 LIME фокусируется на локальной интерпретации, объясняя, почему модель сделала конкретное предсказание для заданного экземпляра. 6

Некоторые другие различия:

• Вычислительная сложность. 2 У LIME она относительно низкая, у SHAP — высокая, особенно для моделей с большим количеством признаков. 2
• Применимость к моделям. 2 LIME подходит для любой модели, SHAP также модельно-агностичен, но оптимизации и реализации могут варьироваться для разных типов моделей. 2
• Интуитивность результатов. 2 Интерпретация LIME легко понимается благодаря простоте моделей, SHAP требует более глубокого понимания теории игр и значений Шепли для полного понимания. 2
• Гарантия согласованности. 7 SHAP гарантирует согласованность: если модель меняется так, что признак оказывает большее влияние, его значение атрибуции не уменьшается. 7 LIME не даёт такой гарантии, его объяснения могут варьироваться в зависимости от выборки и внутренних параметров. 7

Выбор между SHAP и LIME зависит от специфики задачи, требований к интерпретации и ограничений по вычислительным ресурсам. 2 В некоторых случаях может быть даже полезно использовать оба инструмента в комбинации, чтобы получить как глубокое понимание общего влияния признаков (через SHAP), так и ясные интерпретации отдельных предсказаний (через LIME). 2