Page 129 - 统计创新与高质量发展

第六章 现代统计创新方法与前沿技术应用

（三）决策树算法
决策树算法的构建过程是基于对训练数据的特征选择和分裂。在每个内部节
点，算法会从数据的多个属性中选择一个最优的属性进行测试。选择最优属性的

方法通常基于信息增益、信息增益比或基尼指数等指标。例如，在判断一个客户
是否会购买某产品时，数据中包含客户的年龄、收入、职业等多个属性。通过计
算每个属性的信息增益，发现年龄这个属性对区分客户是否购买产品的能力最强，
于是选择年龄作为根节点的测试属性。然后，根据年龄的不同取值范围，将数据

集分裂成多个子集。例如，将年龄分为小于 30 岁、30 - 50 岁、大于 50 岁三个区
间，每个区间对应一个分支。对每个分裂后的子集，算法递归地重复上述特征选
择和分裂过程，直到满足一定的停止条件。停止条件可以是子集中的数据都属于
同一类别，或者数据集中的属性已经全部被使用，或者达到预设的树的深度。例

如，在某个子集中，所有客户都表示会购买产品，那么这个子集就成为一个叶节
点，标记为 “购买” 类别。通过这样的递归构建过程，最终形成一棵决策树。
在对未知数据进行分类或预测时，从决策树的根节点开始，根据数据在各个属性
上的取值，沿着相应的分支向下遍历，直到到达叶节点，叶节点所标记的类别或

值就是对未知数据的分类或预测结果。例如，对于一个新客户，已知其年龄、收
入等属性，从决策树的根节点开始，根据其年龄属性的取值选择相应的分支，再
根据其他属性的取值继续向下遍历，最终得到该客户是否会购买产品的预测结果。
在医疗诊断领域，决策树可用于根据患者的症状、检查结果等数据判断患者

是否患有某种疾病。例如，根据患者的体温、咳嗽症状、白细胞计数等属性构建
决策树，医生可以根据决策树的结果快速判断患者是否感染了某种病毒。在金融
风险评估中，决策树可以根据客户的信用记录、收入水平、负债情况等属性，判
断客户是否会违约，帮助金融机构做出贷款决策。在销售预测中，决策树可以根

据历史销售数据、市场趋势、季节因素等属性，预测未来产品的销售量。例如，
根据过去几年不同季节、不同地区的产品销售数据，以及市场推广活动的投入等
属性，构建决策树来预测下一季度不同地区的产品销售量，为企业的生产和库存
管理提供决策依据。

（四）随机森林算法
随机森林算法是一种基于决策树的集成学习算法。它通过从原始训练数据集
中有放回地抽样，构建多个决策树。每次抽样得到的数据集称为一个自助样本集。

121