首页 > 技术文章 > 2017.07.17——机器学习——朴素贝叶斯

aaronsw 2017-07-17 22:43 原文

     今天应该是把朴素贝叶斯算法层面上的东西全部理解了,朴素贝叶斯总的来说是比较简单的机器学习模型,是生成模型,而不是判别模型,是在假定y的条件下看x的生成情况。朴素贝叶斯两个朴素的但不一定正确的假设,条件概率,到贝叶斯公式,再推广到朴素贝叶斯的公式,利用朴素的假设简化模型,类别的参数估计总是用MLE或者MAP估计(平滑),对于给定y之后的x,如果假设x服从高斯分布,利用最大似然估计去估计均值和方差,得到给定y后x的概率,这个就是高斯朴素贝叶斯;如果假设x服从多项式分布,进行参数估计,阿尔法为1,拉普拉斯平滑,MAP,阿尔法为0,无平滑,MLE,再有平滑是,也可以起到防止过拟合作用,也可以防止某个概率为0,这个就是多项式朴素贝叶斯;还有就是伯努利朴素贝叶斯,这个计算各个概率值的时候和多项朴素贝叶斯是一致的,适用于数据稀疏,且只取两个值的时候。基本上是总结到位了,明天需要在看看朴素贝叶斯的应用实例场景。

 

 

参考:

朴素贝叶斯算法原理小结

朴素贝叶斯常用的三个模型

贝叶斯朴素分类器

朴素贝叶斯理论与常见三个模型的推导

NLP系列(2)_用朴素贝叶斯进行文本分类(上)

 NLP系列(3)_用朴素贝叶斯进行文本分类(下)

推荐阅读