В чём разница между LIME и SHAP как методами объяснения моделей?

Некоторые различия между LIME и SHAP как методами объяснения моделей:

• Подход к интерпретации. 1 LIME фокусируется на генерации локальных объяснений путём возмущения входных данных и построения локальных суррогатных моделей, а SHAP предоставляет как локальные, так и глобальные объяснения с помощью значений Шепли и концепций теории кооперативных игр. 1
• Совместимость с моделями. 1 LIME подходит для любой модели машинного обучения, независимо от её типа или архитектуры. 1 SHAP имеет специфическую поддержку для древовидных моделей через TreeExplainer, но его также можно применять к другим моделям. 1
• Важность признаков. 1 LIME объясняет важность признаков на уровне отдельных примеров, выделяя наиболее влиятельные в предсказании для конкретного пункта данных. 1 SHAP, в свою очередь, обеспечивает как локальную, так и глобальную важность признаков, позволяя понимать общее влияние признаков на весь набор данных. 1
• Визуализация объяснений. 1 LIME обычно генерирует визуализации, такие как гистограммы важности признаков или текстовые объяснения, фокусируясь на конкретном объясняемом примере. 1 SHAP, помимо визуализаций на уровне отдельных примеров, предлагает различные графики, такие как силовые графики и сводные графики, которые предоставляют комплексное понимание вклада признаков как на локальном, так и на глобальном уровнях. 1
• Математическая основа. 1 LIME использует простые эвристики и применяет взвешенную линейную регрессию в качестве модели объяснения. 1 SHAP основан на теории игр и опирается на значения Шепли, которые имеют твёрдую математическую основу для справедливой и последовательной атрибуции признаков по примерам. 1

Выбор между LIME и SHAP зависит от специфики задачи, требований к интерпретации и ограничений по вычислительным ресурсам. 2 В некоторых случаях может быть даже полезно использовать оба инструмента в комбинации, чтобы получить как глубокое понимание общего влияния признаков (через SHAP), так и ясные интерпретации отдельных предсказаний (через LIME). 2