首页 > 代码库 > 生成模型与判别模型

生成模型与判别模型

摘要:

  1.定义

  2.常见算法

  3.区别

  4.优缺点

  

内容:

1.定义

  1.1 生成模型:

  在概率统计理论中, 生成模型是指能够随机生成观测数据的模型,尤其是在给定某些隐含参数的条件下。它给观测值和标注数据序列指定一个联合概率分布(joint probability distribution)。在机器学习中,生成模型可以用来直接对数据建模(例如根据某个变量的概率密度函数进行数据采样),也可以用来建立变量间的条件概率分布。条件概率分布可以由生成模型根据贝叶斯准则形成  (参考自:中文wiki)

  1.2 判别模型:判别模型是一种基于概率理论的方法,由数据直接学习决策函数Y=f(X)或者条件概率分布P(Y|X)作为预测的模型,即判别模型。基本思想是有限样本条件下建立判别函数,不考虑样本的产生模型,直接研究预测模型。

2.常见算法

  2.1 生成模型:

  典型的生成模型包括:

  • 混合高斯模型和其他混合模型
  • 隐马尔可夫模型(HMM)
  • 随机上下文无关文法
  • 朴素贝叶斯分类器(NB)
  • AODE分类器
  • 潜在狄利克雷分配模型(LDA)
  • 有限波尔兹曼机

  2.2 判别模型

  典型的判别模型包括:

  • 感知机
  • 逻辑回归
  • 支持向量机
  • k近邻
  • 决策树

3.区别

  https://zh.wikipedia.org/wiki/%E5%88%A4%E5%88%AB%E6%A8%A1%E5%9E%8B

  http://dataunion.org/8743.html

  http://blog.csdn.net/zouxy09/article/details/8195017

生成模型与判别模型