LightGBM: 离散化特征和Leaf-wise生长策略

LightGBM 使用离散化的方法将连续的特征值转化为 n 个整数，并创建一个宽度为 n 的直方图。这些离散化的数值作为直方图的索引，用于遍历数据时同时累计统计量。在遍历完成后，LightGBM 基于直方图的离散值搜索最优的分割点。除此之外，LightGBM 采用 leaf-wise 生长策略，每次从所有叶子中选择具有最大分裂增益的一个叶子进行分裂。这种策略能够更有效地降低误差。