首页 > 技术文章 > 数据挖掘学习笔记-第三章 从贝叶斯到决策树

xinluo-fresher 2019-04-24 21:07 原文

第三章 Bates & Decision Tree Model 

Classification   a kind of supervised learning 

Bates Theorem  

贝叶斯公式的应用:癌症与阳性关系 

 

Naive Bates Classifier      假设:conditionally independent  

 

条件独立的一些例子 

 

 

Independent != Uncorrelated  

避免连乘是出现0,需要做拉普拉斯平滑。 

应用例子

预测某条件下打网球的概率 

文章推荐 

 

 

决策树

Decision Making  

一些规则如:One dataset,many possible trees 

      Simpler tree are generally preferred. 

ID3  常用的决策树 

Entropy  and Gain 

 

根据Entropy 和 Gain 即可做 Attribute Selection  

 

ID3 Frameworks  

 

Overfitting 测试

  pruning  

Entropy Bias 

Continuous Attribute  

Reading Materials  

总结:ID3 是最基本的决策树,还有很多新发展的决策树可以学习,不同的决策树对

连续型的处理,对缺失值的处理都有不同的方式可以去好好学习

 

推荐阅读