决策树

20世纪70年代后期和80年代初期，机器学习研究者J.Ross Quinlan提出了ID3算法以后，决策树在机器学习、数据挖掘领域得到极大的发展。Quinlan后来又提出了C4.5，成为新的监督学习算法。1984年，几位统计学家 提出了CART分类算法。ID3和CART算法几乎同时被提出，但都是采用类似的方法从训练样本中学习决策树。——《Python数据分析与挖掘实战》

 决策树易于理解和实现，人们在在学习过程中不需要使用者了解很多的背景知识，这同时是它的能够直接体现数据的特点，只要通过解释后都有能力去理解决策树所表达的意义
 对于决策树，数据的准备往往是简单或者是不必要的，而且能够同时处理数据型和常规型属性，在相对短的时间内能够对大型数据源做出可行且效果良好的结果。
 易于通过静态测试来对模型进行评测，可以测定模型可信度；如果给定一个观察的模型，那么根据所产生的决策树很容易推出相应的逻辑表达式。

1.分类问题：用于对不同类别进行预测。
2.数据理解：帮助理解数据中的模式和关系。
3.变量选择：确定哪些变量对决策或分类最重要

1.数据加载与准备： 导入所需的数据集，并确保数据的格式正确。 可能需要对数据进行一些预处理，如缺失值处理、特征工程等。
2.构建决策树模型： 选择合适的决策树算法，如 ID3、C4.5 或 CART 等。 根据具体需求设置决策树的参数，如最大深度、最小样本分割等。

3.训练决策树模型： 将准备好的数据作为输入，使用构建好的决策树模型进行训练。
4.模型评估： 使用测试集或交叉验证等方法评估模型的性能，如准确率、召回率、F1 值等指标。
5.可视化决策树： 可以使用相关工具将决策树可视化，以便更好地理解模型的结构和决策逻辑。
6.应用决策树模型： 将训练好的决策树模型应用于新的数据，进行预测或决策。
需要注意的是，具体的使用方法可能因决策树库的不同而有所差异，在实际使用时，还需要根据库的文档和具体情况进行适当的调整和优化

戴淑芬 ．管理学教程 ．北京大学出版社．2009．76-79
曹赛玉.几种决策概率模型在现实生活中的应用.理论与实践理论月刊，2006（5）
基于决策树的数据挖掘算法的应用与研究．拓步ERP资讯网．2012-10-30 [引用日期2013-01-16]
陈诚,基于AFS理论的模糊分类器设计, 大连理工大学,2010
什么是决策树？．中国机床网 [引用日期2013-01-16]
Jiawei Han．数据挖掘概念与技术．机械工业出版社．2012
《Python大数据分析与机器学习商业案例实战》

为了适应市场的需要，某地准备扩大电视机生产。市场预测表明：产品销路好的概率为0.7；销路差的概率为0.3。备选方案有三个：第一个方案是建设大工厂，需要投资600万元，可使用10年；如销路好，每年可赢利200万元；如销路不好，每年会亏损40万元。第二个方案是建设小工厂，需投资280万元；如销路好，每年可赢利80万元；如销路不好，每年也会赢利60万元。第三个方案也是先建设小工厂，但是如销路好，3年后扩建，扩建需投资400万元，可使用7年，扩建后每年会赢利190万元。
各点期望：

点②：0.7×200×10+0.3×（-40）×10-600（投资）=680（万元）
点⑤：1.0×190×7-400=930（万元）
点⑥：1.0×80×7=560（万元）
比较决策点4的情况可以看到，由于点⑤（930万元）与点⑥（560万元）相比，点⑤的期望利润值较大，因此应采用扩建的方案，而舍弃不扩建的方案。把点⑤的930万元移到点4来，可计算出点③的期望利润值。
点③：0.7×80×3+0.7×930+0.3×60×（3+7）-280 = 719（万元）
最后比较决策点1的情况。由于点③（719万元）与点②（680万元）相比，点③的期望利润值较大，因此取点③而舍点②。这样，相比之下，建设大工厂的方案不是最优方案，合理的策略应采用前3年建小工厂，如销路好，后7年进行扩建的方案。