机器学习实战教程(四):朴素贝叶斯基础篇之言论过滤器

2017年11月7日10:38:18 74 10,982 °C
摘要

朴素贝叶斯算法是有监督的学习算法,解决的是分类问题,如客户是否流失、是否值得投资、信用等级评定等多分类问题。该算法的优点在于简单易懂、学习效率高、在某些领域的分类问题中能够与决策树、神经网络相媲美。但由于该算法以自变量之间的独立(条件特征独立)性和连续变量的正态性假设为前提,就会导致算法精度在某种程度上受影响。本篇文章将从朴素贝叶斯推断原理开始讲起,通过实例进行辅助讲解。最后,使用Python3编程实现一个简单的言论过滤器。

机器学习实战教程(四):朴素贝叶斯基础篇之言论过滤器

一、前言

朴素贝叶斯算法是有监督的学习算法,解决的是分类问题,如客户是否流失、是否值得投资、信用等级评定等多分类问题。该算法的优点在于简单易懂、学习效率高、在某些领域的分类问题中能够与决策树、神经网络相媲美。但由于该算法以自变量之间的独立(条件特征独立)性和连续变量的正态性假设为前提,就会导致算法精度在某种程度上受影响。

 

本篇文章将从朴素贝叶斯推断原理开始讲起,通过实例进行辅助讲解。最后,使用Python3编程实现一个简单的言论过滤器。

机器学习实战教程(四):朴素贝叶斯基础篇之言论过滤器

二、朴素贝叶斯理论

朴素贝叶斯是贝叶斯决策理论的一部分,所以在讲述朴素贝叶斯之前有必要快速了解一下贝叶斯决策理论。

1、贝叶斯决策理论

假设现在我们有一个数据集,它由两类数据组成,数据分布如下图所示:

机器学习实战教程(四):朴素贝叶斯基础篇之言论过滤器

我们现在用p1(x,y)表示数据点(x,y)属于类别1(图中红色圆点表示的类别)的概率,用p2(x,y)表示数据点(x,y)属于类别2(图中蓝色三角形表示的类别)的概率,那么对于一个新数据点(x,y),可以用下面的规则来判断它的类别:

  • 如果p1(x,y)>p2(x,y),那么类别为1
  • 如果p1(x,y)<p2(x,y),那么类别为2

也就是说,我们会选择高概率对应的类别。这就是贝叶斯决策理论的核心思想,即选择具有最高概率的决策。已经了解了贝叶斯决策理论的核心思想,那么接下来,就是学习如何计算p1和p2概率。

2、条件概率

在学习计算p1 和p2概率之前,我们需要了解什么是条件概率(Conditional probability),就是指在事件B发生的情况下,事件A发生的概率,用P(A|B)来表示。

机器学习实战教程(四):朴素贝叶斯基础篇之言论过滤器

根据文氏图,可以很清楚地看到在事件B发生的情况下,事件A发生的概率就是P(A∩B)除以P(B)。

机器学习实战教程(四):朴素贝叶斯基础篇之言论过滤器

因此,

机器学习实战教程(四):朴素贝叶斯基础篇之言论过滤器

同理可得,

机器学习实战教程(四):朴素贝叶斯基础篇之言论过滤器

所以,

机器学习实战教程(四):朴素贝叶斯基础篇之言论过滤器

机器学习实战教程(四):朴素贝叶斯基础篇之言论过滤器

这就是条件概率的计算公式。

3、全概率公式

除了条件概率以外,在计算p1和p2的时候,还要用到全概率公式,因此,这里继续推导全概率公式。

假定样本空间S,是两个事件A与A'的和。

机器学习实战教程(四):朴素贝叶斯基础篇之言论过滤器

上图中,红色部分是事件A,绿色部分是事件A',它们共同构成了样本空间S。

在这种情况下,事件B可以划分成两个部分。

机器学习实战教程(四):朴素贝叶斯基础篇之言论过滤器

机器学习实战教程(四):朴素贝叶斯基础篇之言论过滤器

在上一节的推导当中,我们已知

机器学习实战教程(四):朴素贝叶斯基础篇之言论过滤器

所以,

机器学习实战教程(四):朴素贝叶斯基础篇之言论过滤器

这就是全概率公式。它的含义是,如果A和A'构成样本空间的一个划分,那么事件B的概率,就等于A和A'的概率分别乘以B对这两个事件的条件概率之和。

将这个公式代入上一节的条件概率公式,就得到了条件概率的另一种写法:

机器学习实战教程(四):朴素贝叶斯基础篇之言论过滤器

4、贝叶斯推断

对条件概率公式进行变形,可以得到如下形式:

机器学习实战教程(四):朴素贝叶斯基础篇之言论过滤器

我们把P(A)称为"先验概率"(Prior probability),即在B事件发生之前,我们对A事件概率的一个判断。

P(A|B)称为"后验概率"(Posterior probability),即在B事件发生之后,我们对A事件概率的重新评估。

P(B|A)/P(B)称为"可能性函数"(Likelyhood),这是一个调整因子,使得预估概率更接近真实概率。

所以,条件概率可以理解成下面的式子:

这就是贝叶斯推断的含义。我们先预估一个"先验概率",然后加入实验结果,看这个实验到底是增强还是削弱了"先验概率",由此得到更接近事实的"后验概率"。

在这里,如果"可能性函数"P(B|A)/P(B)>1,意味着"先验概率"被增强,事件A的发生的可能性变大;如果"可能性函数"=1,意味着B事件无助于判断事件A的可能性;如果"可能性函数"<1,意味着"先验概率"被削弱,事件A的可能性变小。

为了加深对贝叶斯推断的理解,我们举一个例子。

机器学习实战教程(四):朴素贝叶斯基础篇之言论过滤器

两个一模一样的碗,一号碗有30颗水果糖和10颗巧克力糖,二号碗有水果糖和巧克力糖各20颗。现在随机选择一个碗,从中摸出一颗糖,发现是水果糖。请问这颗水果糖来自一号碗的概率有多大?

我们假定,H1表示一号碗,H2表示二号碗。由于这两个碗是一样的,所以P(H1)=P(H2),也就是说,在取出水果糖之前,这两个碗被选中的概率相同。因此,P(H1)=0.5,我们把这个概率就叫做"先验概率",即没有做实验之前,来自一号碗的概率是0.5。

再假定,E表示水果糖,所以问题就变成了在已知E的情况下,来自一号碗的概率有多大,即求P(H1|E)。我们把这个概率叫做"后验概率",即在E事件发生之后,对P(H1)的修正。

根据条件概率公式,得到

机器学习实战教程(四):朴素贝叶斯基础篇之言论过滤器

已知,P(H1)等于0.5,P(E|H1)为一号碗中取出水果糖的概率,等于30÷(30+10)=0.75,那么求出P(E)就可以得到答案。根据全概率公式,

机器学习实战教程(四):朴素贝叶斯基础篇之言论过滤器

所以,

机器学习实战教程(四):朴素贝叶斯基础篇之言论过滤器

将数字代入原方程,得到

机器学习实战教程(四):朴素贝叶斯基础篇之言论过滤器

这表明,来自一号碗的概率是0.6。也就是说,取出水果糖之后,H1事件的可能性得到了增强。

同时再思考一个问题,在使用该算法的时候,如果不需要知道具体的类别概率,即上面P(H1|E)=0.6,只需要知道所属类别,即来自一号碗,我们有必要计算P(E)这个全概率吗?要知道我们只需要比较 P(H1|E)和P(H2|E)的大小,找到那个最大的概率就可以。既然如此,两者的分母都是相同的,那我们只需要比较分子即可。即比较P(E|H1)P(H1)和P(E|H2)P(H2)的大小,所以为了减少计算量,全概率公式在实际编程中可以不使用。

5、朴素贝叶斯推断

理解了贝叶斯推断,那么让我们继续看看朴素贝叶斯。贝叶斯和朴素贝叶斯的概念是不同的,区别就在于“朴素”二字,朴素贝叶斯对条件个概率分布做了条件独立性的假设。 比如下面的公式,假设有n个特征:

机器学习实战教程(四):朴素贝叶斯基础篇之言论过滤器

由于每个特征都是独立的,我们可以进一步拆分公式 :

机器学习实战教程(四):朴素贝叶斯基础篇之言论过滤器

这样我们就可以进行计算了。如果有些迷糊,让我们从一个例子开始讲起,你会看到贝叶斯分类器很好懂,一点都不难。

某个医院早上来了六个门诊的病人,他们的情况如下表所示:

机器学习实战教程(四):朴素贝叶斯基础篇之言论过滤器

现在又来了第七个病人,是一个打喷嚏的建筑工人。请问他患上感冒的概率有多大?

根据贝叶斯定理:

机器学习实战教程(四):朴素贝叶斯基础篇之言论过滤器

可得:

机器学习实战教程(四):朴素贝叶斯基础篇之言论过滤器

根据朴素贝叶斯条件独立性的假设可知,"打喷嚏"和"建筑工人"这两个特征是独立的,因此,上面的等式就变成了

机器学习实战教程(四):朴素贝叶斯基础篇之言论过滤器

这里可以计算:

机器学习实战教程(四):朴素贝叶斯基础篇之言论过滤器

因此,这个打喷嚏的建筑工人,有66%的概率是得了感冒。同理,可以计算这个病人患上过敏或脑震荡的概率。比较这几个概率,就可以知道他最可能得什么病。

这就是贝叶斯分类器的基本方法:在统计资料的基础上,依据某些特征,计算各个类别的概率,从而实现分类。

同样,在编程的时候,如果不需要求出所属类别的具体概率,P(打喷嚏) = 0.5和P(建筑工人) = 0.33的概率是可以不用求的。

三、动手实战

说了这么多,没点实践编程怎么行?

以在线社区留言为例。为了不影响社区的发展,我们要屏蔽侮辱性的言论,所以要构建一个快速过滤器,如果某条留言使用了负面或者侮辱性的语言,那么就将该留言标志为内容不当。过滤这类内容是一个很常见的需求。对此问题建立两个类型:侮辱类和非侮辱类,使用1和0分别表示。

我们把文本看成单词向量或者词条向量,也就是说将句子转换为向量。考虑出现所有文档中的单词,再决定将哪些单词纳入词汇表或者说所要的词汇集合,然后必须要将每一篇文档转换为词汇表上的向量。简单起见,我们先假设已经将本文切分完毕,存放到列表中,并对词汇向量进行分类标注。编写代码如下:

从运行结果可以看出,我们已经将postingList是存放词条列表中,classVec是存放每个词条的所属类别,1代表侮辱类 ,0代表非侮辱类。

机器学习实战教程(四):朴素贝叶斯基础篇之言论过滤器

继续编写代码,前面我们已经说过我们要先创建一个词汇表,并将切分好的词条转换为词条向量。

从运行结果可以看出,postingList是原始的词条列表,myVocabList是词汇表。myVocabList是所有单词出现的集合,没有重复的元素。词汇表是用来干什么的?没错,它是用来将词条向量化的,一个单词在词汇表中出现过一次,那么就在相应位置记作1,如果没有出现就在相应位置记作0。trainMat是所有的词条向量组成的列表。它里面存放的是根据myVocabList向量化的词条向量。

机器学习实战教程(四):朴素贝叶斯基础篇之言论过滤器

我们已经得到了词条向量。接下来,我们就可以通过词条向量训练朴素贝叶斯分类器。

运行结果如下,p0V存放的是每个单词属于类别0,也就是非侮辱类词汇的概率。比如p0V的倒数第6个概率,就是stupid这个单词属于非侮辱类的概率为0。同理,p1V的倒数第6个概率,就是stupid这个单词属于侮辱类的概率为0.15789474,也就是约等于15.79%的概率。我们知道stupid的中文意思是蠢货,难听点的叫法就是傻逼。显而易见,这个单词属于侮辱类。pAb是所有侮辱类的样本占所有样本的概率,从classVec中可以看出,一用有3个侮辱类,3个非侮辱类。所以侮辱类的概率是0.5。因此p0V存放的就是P(him | 非侮辱类) = 0.0833,P(is | 非侮辱类) = 0.0417,一直到P(dog | 非侮辱类) = 0.0417,这些单词的条件概率。同理,p1V存放的就是各个单词属于侮辱类的条件概率。pAb就是先验概率。

机器学习实战教程(四):朴素贝叶斯基础篇之言论过滤器

已经训练好分类器,接下来,使用分类器进行分类。

我们测试了两个词条,在使用分类器前,也需要对词条向量化,然后使用classifyNB()函数,用朴素贝叶斯公式,计算词条向量属于侮辱类和非侮辱类的概率。运行结果如下:

机器学习实战教程(四):朴素贝叶斯基础篇之言论过滤器

你会发现,这样写的算法无法进行分类,p0和p1的计算结果都是0,显然结果错误。这是为什么呢?下一篇文章继续讲解~

四、总结

朴素贝叶斯推断的一些优点:

  • 生成式模型,通过计算概率来进行分类,可以用来处理多分类问题。
  • 对小规模的数据表现很好,适合多分类任务,适合增量式训练,算法也比较简单。

朴素贝叶斯推断的一些缺点:

  • 对输入数据的表达形式很敏感。
  • 由于朴素贝叶斯的“朴素”特点,所以会带来一些准确率上的损失。
  • 需要计算先验概率,分类决策存在错误率。

其它:

  • 本文中的编程实例,存在一定的问题,需要进行改进,下篇文章会讲解改进方法;
  • 同时,本文中的编程实例,没有进行前期的文本切分,下一篇文章会讲解英文单词和中文单词的切分方法;
  • 下篇文章将使用sklearn进行中文实例练习;
  • 朴素贝叶斯的准确率,其实是比较依赖于训练语料的,机器学习算法就和纯洁的小孩一样,取决于其成长(训练)条件,"吃的是草挤的是奶",但"不是所有的牛奶,都叫特仑苏"。
  • 参考文献:ruanyifeng.com/blog/201
  • 如有问题,请留言。如有错误,还望指正,谢谢!

PS: 如果觉得本篇本章对您有所帮助,欢迎关注、评论、赞!

本文出现的所有代码和数据集,均可在我的github上下载,欢迎Follow、Star:github.com/Jack-Cherish

 

weinxin
微信公众号
分享技术,乐享生活:时时彩公众号每周五推送“时时彩龙虎和全天计划”系列资讯类文章,欢迎您的关注!
时时彩
ai

发表评论

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen:

目前评论:74   其中:访客  39   博主  35

    • avatar blight 来自天朝的朋友 谷歌浏览器 Windows 10 天津市 联通 1

      博主你好setOfWords2Vec(vocabList, inputSet) 在这个函数中,统计出现的词,这里只是出现过的词会被置为1,但是如果出现一段语料中某个单词出现两次呢 还会被置为1,在后面trainNB0中就会产生误差吧 这地方有点疑惑呢

        • avatar 时时彩 Admin 来自天朝的朋友 谷歌浏览器 Windows 10 黑龙江省哈尔滨市 联通

          @blight 这个方法就是这样,只看有没有。不看统计出现次数,如果还要统计次数就得再加一个维度,或者用别的机器学习算法。

        • avatar beo 来自天朝的朋友 谷歌浏览器 Windows 7 广东省广州市番禺区 电信 2

          楼主,这里脑子有点转不过来,求解惑,谢谢。
          因此p0V存放的就是P(非侮辱类 | him),为什么是P(非侮辱类 | him)而不是P(him | 非侮辱类)?
          事件B发生的情况下,事件A发生的概率,用P(A|B)来表示。而p0Num都是在条件是”非侮辱类“下才增加的。所以为什么不是P(him | 非侮辱类)呢?

            • avatar 时时彩 Admin 来自天朝的朋友 谷歌浏览器 Windows 10 黑龙江省哈尔滨市 联通

              @beo 你根据统计的是 先验概率。

                • avatar beo 来自天朝的朋友 谷歌浏览器 Windows 7 广东省广州市番禺区 电信 2

                  @时时彩 #统计属于非侮辱类的条件概率所需的数据,即P(w0|0),P(w1|0),P(w2|0)···
                  博主,我看到你这里的注释,p0Vec里面存放的应该是各个word的P(word|非侮辱类)的概率吧。

                  p(a|X) = p(X|a)*p(a) –> p(0|words) = p(words|0) * p(0),classifyNB才是求得p(非侮辱类|words)的概率,我这样理解的

                    • avatar 时时彩 Admin 来自天朝的朋友 谷歌浏览器 Windows 10 黑龙江省哈尔滨市 联通

                      @beo 嗯嗯,对的。

                        • avatar beo 来自天朝的朋友 谷歌浏览器 Windows 7 广东省广州市番禺区 电信 2

                          @时时彩 那文中的“因此p0V存放的就是P(非侮辱类 | him) = 0.0833,P(非侮辱类 | is) = 0.0417,一直到P(非侮辱类 | dog) = 0.0417”,这句话是否要改为“P(him | 非侮辱类) 、P(is | 非侮辱类) 、P(dog | 非侮辱类) ”这样才对呢?

                          • avatar 时时彩 Admin 来自天朝的朋友 谷歌浏览器 Windows 10 黑龙江省哈尔滨市 联通

                            @beo 嗯嗯,应该是的,过完年我再看下然后修改下。

                    • avatar beo 来自天朝的朋友 谷歌浏览器 Windows 7 广东省广州市番禺区 电信 2

                      博主,你好~
                      条件概率是P(A|B)=P(B|A)*P(A)/P(B)
                      朴素贝叶斯的公式是P(a|X)=P(X|a)*P(a),这里为什么不是P(a|X)=P(X|a)*P(a)/P(X)呢 :?: :shock:

                        • avatar 时时彩 Admin 来自天朝的朋友 谷歌浏览器 Windows 10 黑龙江省哈尔滨市 联通

                          @beo 程序中没有用全概率公式,这是因为最后计算的结果只比较大小,无需知道具体数值。文中有说明。

                        • avatar ssssquirrel 来自天朝的朋友 谷歌浏览器 Windows 10 北京市 中国电信北京研究院 1

                          生成分类器的这段代码里,定义的classifyNB函数中,p0Vec、p1Vec和前面trainNB0中的p0Vect、p1Vect是相同的吗?我理解应该不是,应该是与vec2Classify 相同位数的数组,例如待分类的数组是3个词的词条向量,p0Vec则是对应这三个词的非侮辱性的条件概率数组,p1Vec则是对应这三个词的侮辱性的条件概率数组。求解答

                            • avatar 时时彩 Admin 来自天朝的朋友 Safari浏览器 Mac OS X 10_14 北京市 百度网讯科技联通节点

                              @ssssquirrel 是一样的,就是名字不同而已。对的,就是相应的条件概率。

                                • avatar ssssquirrel 来自天朝的朋友 谷歌浏览器 Windows 10 北京市 中国电信北京研究院 1

                                  @时时彩 博主回复好快。我运行了下了解了~撒花

                              • avatar xxs 来自天朝的朋友 搜狗浏览器 Windows 7 北京市 移动 0

                                条件概率(Condittional probability)拼错了,应为conditional

                                  • avatar 时时彩 Admin 来自天朝的朋友 Safari浏览器 Mac OS X 10_14 北京市 百度网讯科技联通节点

                                    @xxs 感谢,已更正。

                                  • avatar 无无无 来自天朝的朋友 谷歌浏览器 Windows 10 北京市 联通 0

                                    点赞给大牛

                                    • avatar wy 来自天朝的朋友 谷歌浏览器 Windows 10 湖北省武汉市 华中科技大学东校区 2

                                      博主,关于P0V和P1V我有一些疑问。文中说是每个单词属于正类或者负类的概率,我还没太看懂。根据朴素贝叶斯,p(W|ci) = p(w0|ci)p(w1|ci)…p(wn|ci),比如有两个属性:颜色(红 蓝)和大小(大 中 小),训练时,难道不是要训练出
                                      p(颜色=红|正例)、p(颜色=红|反例)、p(颜色=蓝|正例)、p(颜色=蓝|反例)等,这样对同一个属性,应该有四个概率值吧。
                                      原谅我这部分没有想太明白!

                                        • avatar 时时彩 Admin 来自天朝的朋友 Safari浏览器 Mac OS X 10_14_3 北京市 百度网讯科技联通节点

                                          @wy 你这是条件概率没有弄懂啊,你再看下门诊病人的例子。你说的颜色这里是这四个,还有大小属性也是四个。知道这些,然后就可以通过这些先验概率,做预测。

                                            • avatar wy 来自天朝的朋友 谷歌浏览器 Windows 10 华中科技大学韵苑公寓 10号楼 2

                                              @时时彩 我知道是要计算出P(C)和P(x|C).我觉得对于某一个属性的每一个属性值,都应该求两个,分别是正例和反例的两个概率,但是貌似我看你代码中就是只有一个值,不太懂。

                                                • avatar 时时彩 Admin 来自天朝的朋友 Safari浏览器 Mac OS X 10_14_3 北京市 百度网讯科技联通节点

                                                  @wy p0V和p1v就是你说的,你打印看看。

                                            • avatar HUSTHY 来自天朝的朋友 谷歌浏览器 Windows 7 湖北省 电信 1

                                              博主您好!请问一下这个连续型变量在实际生产环境中使用朴素贝叶斯的情况有吗?多吗?

                                                • avatar 时时彩 Admin 来自天朝的朋友 Safari浏览器 Mac OS X 10_14_4 北京市 百度网讯科技联通节点

                                                  @HUSTHY 不多。

                                                    • avatar HUSTHY 来自天朝的朋友 谷歌浏览器 Windows 7 湖北省 电信 1

                                                      @时时彩 好的谢谢!