熵互信息 Gini指数和不纯度

在学习决策树类的算法时，总是绕不开信息熵、Gini指数和它们相关联的概念，概念不清楚，就很难理解决策树的构造过程，现在把这些概念捋一捋。信息熵信息熵，简称熵，用来衡量随机变量的不确定性大小，熵越 … Continue reading 熵互信息 Gini指数和不纯度