而在做了一些SHAP分析之后感觉有一些SHAP值还是有一些难以理解的地方比如为什么有负值SHAP值为0

The

在目前所有特征值的设定下某特征值对于实际预测值和平均与预测值的差的贡献。

[1]https://christophm.github.io/interpretable-ml-book/shapley.html

对这句话的理解要分回归和分类两种情况计算SHAP值的时候会有一个基础值就是平均预测值。

对于回归模型来说SHAP值是预测值和平均预测值之间的差值。

如果说计算SHAP值的结局变量是连续性变量比如房价那么SHAP值尺度和单位和房价是相同的。

SHAP值为0的时候该特征值不能对预测值产生影响SHAP值大于0

代表预测值高于平均预测值的程度SHAP值小于0代表预测值低于平均预测值的程度。

对于分类模型SHAP值反映的是概率的变化。

在R语言的shapviz包中默认的不是概率差值而是对数几率log

odd也称logit这就是为什么SHAP值看着不像概率因为作者认为这个函数更能反映概率的变化但是提供了转换的方法。

这时候SHAP为0

代表事件发生的概率是50%V.S.50%SHAP值大于0可以解释为发生某结局的概率增加SHAP小于0代表发生相对结局的概率增加。

几率更准确的说成功的几率被定义为成功的概率/失败的概率。

明天晴天的概率为80%非晴天的概率为20%则几率为

0.8/0.24

https://zhuanlan.zhihu.com/p/445485992

The

[1]https://christophm.github.io/interpretable-ml-book/shapley.html

有效SHAP值是可以反映特征贡献的一致是两个不同变量之间的贡献是可比的哑性指的是如果一个特征的SHAP值为0代表其不会改变预测值所以SHAP值的正负代表变化的方向不同。

可加指的是变量间的贡献程度是可以相加的。

SHAP值注意事项

以上所查询的信息基本上能解答自己在理解SHAP值的一些困惑有不准确的地方还请大家指正。