若决策树子节点多怎么用信息增益法
如果决策树的子节点很多,可以考虑使用信息增益率(information gain ratio)来选择最优的划分属性。信息增益率是信息增益除以划分属性的固有信息(intrinsic information),固有信息是划分属性可能取值的熵。因此,信息增益率可以解决信息增益方法在划分属性取值较多时偏向于选择取值较多的属性的问题。
具体地,对于每个划分属性,计算其信息增益率,选择信息增益率最高的属性作为划分属性。如果信息增益率超过一个预设的阈值,则选择该属性作为划分属性;否则,继续考虑其他划分属性。
原文地址: https://www.cveoy.top/t/topic/hdpl 著作权归作者所有。请勿转载和采集!