如何计算随机森林中的变量重要性？

在随机森林的分类器中（random forest），应该如何计算其中的变量重要性啊（variable importance）？知道的高手请给下具体的公式。

推荐答案推荐于2018-03-23

首先对于每棵树，每次利用Bootstrap方法抽取样本进行训练，但是有1/3的数据没有抽取到，这样的数据成为袋外数据OOB（out of bag），将OOB带入决策树中，计算出误差error1,对OOB中所有样本的特征X对应的值进行噪声干扰，即随机改变特征的值，再将数据带入决策树中，计算出误差error2。对于N棵树，计算出变量X的重要性为error2-error1的均值

温馨提示：答案为网友推荐，仅供参考

当前网址：http://66.wendadaohang.com/zd/UsDvpUvsU.html

其他回答

第1个回答推荐于2016-12-01

分类器是一种计算机程序。
他的设计目标是在通过学习后，可以自动的对给定的数据进行分类。
应用在搜索引擎以及各种检索程序中。同时也大量应于于数据分析与预测领域。本回答被提问者采纳

相似回答

有哪些方法可以评估变量的重要性?答：6.随机森林：随机森林是一种集成学习方法，它可以通过对多个决策树进行投票来得到最终的预测结果。通过观察随机森林中各个特征的重要性得分，我们可以了解哪些变量对预测结果有显著影响。7.它可以帮助我们理解每个特征对预测结果的贡献程度。通过计算SHAP值，我们可以了解哪些变量对预测结果有显著影响。

r中otu界门纲目属分类划分及丰度统计答：主要涉及随机森林组间变量重要性和物种丰度差异检验绘图，包含以下几部分内容：随机森林分类；随机森林分类变量重要性绘图；物种丰度差异检验绘图，随机森林分类变量重要性及物种丰度差异组合图。random forest随机森林分类分析 ntree(构建决策树数量)，mtry(用于构建决策树的变量数)和maxnodes(最大终端节点数)是...

特征筛选(随机森林)答：这里介绍通过gini值来进行评价，我们将变量的重要性评分用VIM来表示，gini值用GI表示，假设有m个特征X 1 ，X 2 ，...X c ，现在要计算出每个特征X j 的gini指数评分VIM j ，即第j个特征在随机森林所有决策树中节点分裂不纯度的平均改变量，gini指数的计算公式如下表示：其中，k表示有k个类别，p...

RandomForest随机森林算法答：3、在决定类别时,它可以评估变数的重要性。 4、对数据集的适应能力强:既能处理离散型数据,也能处理连续型数据,数据集无需规范化。缺点: 1、随机森林容易产生过拟合,特别是在数据集相对小或者是低维数据集的时候。 2、计算速度比单个的决策树慢。 3、当我们需要推断超出范围的独立变量或非独立变量,随机森林...

随机森林答：森林中任何两棵树之间的相关性。增加相关性会增加森林错误率。森林中每棵树的力量(具有低错误率的树是强分类器)。增加单棵数据的强度(分类更精确)会降低森林错误率。 随机森林的弱分类器使用的是CART树,CART决策树又称为分类回归树。当数据集的因变量为连续型数值时,该树算法就是一个回归树,可以用叶节点观...

分类算法 - 随机森林答：1）正如上文所述，随机森林算法能解决分类与回归两种类型的问题，并在这两个方面都有相当好的估计表现 2）随机森林对于高维数据集的处理能力令人兴奋，它可以处理成千上万的输入变量，并确定最重要的变量，因此被认为是一个不错的降维方法。此外，该模型能够输出变量的重要性程度，这是一个非常便利的...

大家正在搜

随机森林变量重要性随机森林变量重要性排序随机森林变量选择随机森林怎么筛选变量森林图变量如何调整随机森林预测连续变量变量重要性预测变量重要性逻辑回归变量重要性

如何计算随机森林中的 变量重要性？

如何计算随机森林中的变量重要性？