predictorImportance

估计预测决策树分类合奏的重要性

语法

小鬼= predictorImportance(实体) (imp, ma) = predictorImportance(实体)

描述

小鬼= predictorImportance (实体)计算估计预测的重要性实体通过总结这些估计在所有薄弱的学习者。小鬼有一个元素为每个输入预测数据用于训练这合奏。高价值表明该预测是很重要的实体。

(小鬼,马)= predictorImportance (实体)返回一个P——- - - - - -P协会的矩阵预测措施P预测,当学习者实体包含代理分裂。看到更多关于。

输入参数

`实体`	决策树的分类集合,由`fitcensemble`或`紧凑的`方法。

输出参数

`小鬼`	一个行向量与相同数量的元素数量预测(列)`实体。X`。条目的估计预测的重要性,`0`代表最小的重要性。
`马`	一个`P`——- - - - - -`P`协会的矩阵预测措施`P`预测因子。元素`硕士(I, J)`是协会的预测方法预测平均值替代分裂吗`J`的预测`我`最优分割预测。`predictorImportance`平均的预测测量协会在合奏中所有的树木。

例子

全部展开

估计预测的重要性

打开生活的脚本

所有变量的估计预测重要性费舍尔虹膜数据。

加载费雪的虹膜数据集。

负载fisheriris

训练一个分类使用AdaBoostM2合奏。指定树桩作为弱的学习者。

t = templateTree (“MaxNumSplits”1);实体= fitcensemble(量、种类、“方法”,“AdaBoostM2”,“学习者”t);

估计所有预测变量预测的重要性。

小鬼= predictorImportance(实体)

小鬼=1×40.0004 0.0016 0.1266 0.0324

前两个因素并不是很重要。

预测的重要性和代理分裂

打开生活的脚本

所有变量的估计预测重要性费舍尔虹膜数据为一个整体,树木包含代理分裂。

加载费雪的虹膜数据集。

负载fisheriris

使用AdaBoostM2增长100分类树的合奏。指定树桩作为弱的学习者,也确定代孕分裂。

t = templateTree (“MaxNumSplits”,1“代孕”,“上”);实体= fitcensemble(量、种类、“方法”,“AdaBoostM2”,“学习者”t);

估计预测的重要性和协会的预测变量预测措施。

(imp, ma) = predictorImportance(实体)

小鬼=1×40.0674 0.0417 0.1582 0.1537

马=4×41.0000 0 0 0 0.0115 1.0000 0.0022 0.0054 0.3186 0.2137 1.0000 0.6391 0.0392 0.0073 0.1137 1.0000

前两个预测显示比分析更为重要估计预测的重要性。

更多关于

全部展开

预测的重要性

predictorImportance估计预测每棵树学习者的重要性实体并返回加权平均小鬼计算使用ens.TrainedWeight。输出小鬼有一个元素为每个预测。

predictorImportance计算重要性措施的预测在树上求和节点的变化风险由于分裂每个预测,然后之和除以总数量的分支节点。节点的变化风险的区别是风险的父节点和总风险两个孩子。例如,如果一个树分裂一个父节点(例如,节点1)为两个子节点(例如,节点2和3)predictorImportance增加分割预测的重要性

(R₁- - - - - -R₂- - - - - -R₃)/N_分支,

在哪里R_我节点的节点风险吗我,N_分支分支节点的总数。一个节点的风险错误被定义为一个节点或节点杂质的加权节点概率:

R_我=P_我E_我,

在哪里P_我节点的概率节点吗我,E_我要么是节点错误(树种植通过最小化两个标准)或节点杂质(树种植通过最小化一个杂质标准,如基尼系数或异常)的节点我。

预测估计的重要性取决于你使用代理将进行训练。

如果您使用代理分裂,predictorImportance总结节点风险所有分裂的变化在每个分支节点,包括代理分裂。如果不使用代理分裂,那么函数求和最好的分裂在每个分支节点。
估计预测的重要性不依赖于预测如果你使用代理分裂的顺序,但取决于订单如果不使用代理分裂。

杂质和节点错误

基于决策树分裂节点杂质或节点的错误。

杂质之一的含义,这取决于你的选择SplitCriterion名称-值对论点:

基尼的多样性指数(gdi)——一个节点的基尼系数

$1 - \sum_{我} p^{2} (我),$

和在哪里类我在节点p(我)是类与类的观察到的分数我到达节点。一个节点只有一个类(A纯节点)基尼指数0;否则,基尼系数是正的。基尼系数是衡量节点杂质。
异常(“异常”)- - - - - -p(我)一样基尼指数,定义节点的异常

$- \sum_{我} p (我) {日志}_{2} p (我) 。$

一个纯粹的节点有异常0;否则,异常是正的。
两个规则(“两个”)- - -两个不是一个纯洁的一个节点,但不同的衡量决定如何分割一个节点。让l(我)表示成员类的一部分我在左子节点分裂后,R(我)表示成员类的一部分我在右子节点后分裂。选择分割准则最大化

$P (l) P (R) {(\sum_{我} | l (我) - R (我) |)}^{2},$

在哪里P(l),P(R)是观察的分数,分别分成左右。如果表达式很大,纯净的分裂使每个孩子节点。同样,如果表达式是小,分割了每个子节点相似,因此类似于父节点。分割没有增加节点纯度。
节点错误——节点错误节点分类错误的类的一部分。如果j类的训练样本数量最多的一个节点,该节点的错误是什么

1 -p(j)。

预测的协会

的预测的协会是一个值,表明决策规则之间的相似性分割观测。在所有可能的分裂,而决定最优分割(发现树的种植),最好的代理决定分手产量最大的预测指标。第二代孕将拥有第二大的预测指标。

假设x_j和x_k预测变量j和k分别为,j≠k。在节点t预测的协会之间的最优分割x_j<u和代理x_k<v是

$λ_{j k} = \frac{最小值 (P_{l}, P_{R}) - (1 - P_{l_{j} l_{k}} - P_{R_{j} R_{k}})}{最小值 (P_{l}, P_{R})} 。$

P_l节点观测的比例t,这样x_j<u。下标l代表的左子节点t。
P_R节点观测的比例t,这样x_j≥u。下标R代表的右子节点t。
$P_{l_{j} l_{k}}$ 观察节点的比例吗t,这样x_j<u和x_k<v。
$P_{R_{j} R_{k}}$ 观察节点的比例吗t,这样x_j≥u和x_k≥v。
观察缺失值x_j或x_k不会导致比例计算。

λ_jk是一个值(-∞,1]。如果λ_jk> 0,然后x_k<v是一个有价值的代理分裂x_j<u。

算法

元素硕士(i, j)是协会的预测方法预测平均值替代分裂吗j的预测我最优分割预测。这个平均计算加法协会的积极的预测测量值对预测最优分割我并在预测替代分裂j和除以总数量的最优分割预测我,包括分裂的预测方法预测之间的联系我和j是负的。

扩展功能

GPU数组
加速代码运行在一个图形处理单元(GPU)使用并行计算工具箱™。

这个函数完全支持GPU数组。万博1manbetx有关更多信息,请参见运行在GPU MATLAB函数(并行计算工具箱)。

另请参阅

predictorImportance (ClassificationTree)|templateTree