利用近邻方法，很难量化分类的置信度。而基于概率的分类方法--贝叶斯方法，不仅可以分类，还可以给出分类概率。近邻方法别称为惰性学习方法(lazy learner)，当给出数据时，这些分类器只是将他们保存或者记录下来，每次对实例进行训练时，这些分类器都会遍历整个数据集，所以分类器的速度往往跟不上，贝叶斯方法称为勤快学习方法(eager learner).给定训练数据时，这些分类器立即分析数据并构建模型。当要对某个实例进行分类时，他会使用训练得到的内部模型。从而在速度上，勤快学习器优于惰性分类器。

贝叶斯公式：

朴素贝叶斯