ML学习笔记之————朴素贝叶斯（Navie Bayesian Model）分类器
source link: http://ghx0x0.github.io/2015/06/11/ML-Navie-Bayesian-Model/
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
朴素贝叶斯分类器
贝叶斯分类是一系列分类算法的总称，这类算法均以贝叶斯定理为基础，故统称为贝叶斯分类。朴素贝叶斯算法（Naive Bayesian) 是其中应用最为广泛的分类算法之一。它是一种十分简单的分类算法，叫它朴素贝叶斯分类是因为这种方法的思想真的很朴素，朴素贝叶斯的思想基础是这样的：对于给出的待分类项，求解在此项出现的条件下各个类别出现的概率，哪个最大，就认为此待分类项属于哪个类别。
贝叶斯定理是贝叶斯分类器的基础，贝叶斯定理为：
条件概率公式为：
训练朴素贝叶斯分类器的算法流程：
所以最终需要计算的就是：
然而，全面的计算特征X的条件概率是不切实际的，因此假设X中每一维的特征之间都是相互独立的，因此可以得到：
这样就能快速的计算出特征X条件下结果是Y类的条件概率。
Tips：
- 一般情况下特征离散值可以直接估算每一维的条件概率，但是当特征出现连续值时，我们假定其服从高斯分布，利用高斯分布来表达他的概率。在压缩跟踪算法中，就是对特征进行了高斯分布的均值和方差更新，来判断具有最大概率的矩形框作为当前帧的检测结果。
- 对于训练集中没出现过的特征，对其概率进行计算时，分子为1。
Recommend
-
88
朴素贝叶斯的那点事儿 在机器学习领域中，朴素贝叶斯是一种基于贝叶斯定理的简单概率分类器（分类又被称为监督式学习，所谓监督式学...
-
94
在机器学习领域中，朴素贝叶斯是一种基于贝叶斯定理的简单概率分类器（分类又被称为监督式学习，所谓监督式学习即从已知样本数据中的特征信息去推测可能出现的输出以完成分类，反之聚类问题被称为非监督式学习），朴素贝叶斯在处理文本数据时可以得到较好的分类结...
-
101
Naive Bayes分类器 Naive Bayes是一个概率分类器，也就是说，在文档d中，返回所有类别c中后验概率最大的类别$\hat{c}$: $$\hat{c}=\text{argmax}P(c\vert d)$$ 回顾一下贝叶斯法则： $$P(x\vert y)...
-
69
本文要讲述一个古老的机器学习算法，叫做朴素贝叶斯。这个算法比较简单明了，没有使用非常复杂的数学定理。用到的核心的数学理论就是概率中的一个定理，叫做贝叶斯定理(Bayes' Theorem)。 贝叶斯定理 现在我们看一个...
-
15
本文介绍了朴素贝叶斯模型，朴素贝叶斯（几乎所有的概率模型）的核心假设： 特征之间的条件概率相互独立。 以垃圾邮...
-
11
Python机器学习 学习笔记与实践 环境：win10 + Anaconda Python3.8 该篇总结各类监督学习算法的实践使用方法 朴素贝叶斯分类器 scikit-learn中实现了三种朴素贝叶斯分类器： GaussianNB、BernoulliNB 和 MultinomialNB。...
-
8
数学篇 - 朴素贝叶斯(Naive Bayes)分类算法(笔记)2020-09-14朴素贝叶斯(Naive Bayes)“用客观的新信息更新我们最初关于某个事物的信念后，我们就会得到一个新的、改进了的信念。” —- 数学家托马斯·贝...
-
7
本篇是概率图模型系列的第一篇，首先介绍朴素贝叶斯分类器和Logistic模型。 概率图模型，由节点和边描述，使用观察节点表示可观察的数据，隐含节点表示潜在的信息或知识，而边可以分为有向边与无向边，表示数据与知识之间的概率关系。简而言之，点表示...
-
4
互不相容事件、独立事件与条件独立事件 如果P(AB)=0，则事件A、B为互不相容事件。 如果或P(AB)=P(A)P(B)或P(A)=P(A∣B)，则事件A、B为独立事件。 如果P(AB∣R)=P(A∣R)P(B∣R)，则事件A、B为条件R下的独立事件。 可见，这三者是...
-
4
机器学习（三）：朴素贝叶斯＋贝叶斯估计+BP人工神经网络习题手算|手工推导与习题计算 - 孤飞 - 博客园 1.有 1000 个水果样例. 它们可能是香蕉，橙子或其它水果，已知每个水果的 3 种特性:是否偏长、是否甜、颜色是否是黄色
About Joyk
Aggregate valuable and interesting links.
Joyk means Joy of geeK