首页 > 代码库 > 统计学习方法（一）（李航）
统计学习方法（一）（李航）
统计学习方法概论：
（一），统计学习
1，统计学习的特点
2，统计学习的对象
3，统计学习的目的
4，统计学习的方法
（二），监督学习重要概念
1，输入空间，特征向量空间，输出空间
（三），统计学习三要素
1，模型
决策函数模型：
条件概率模型：
2，策略
2.1 损失函数：
2.2 经验风险最小化和结构最小化
如贝叶斯估计的最大后验概率就是一种结构风险最小化的一个例子
3，算法
（四）模型评估选择
1，训练误差和测试误差
2，过拟合
过拟合和欠拟合产生的原因及解决方式：
欠拟合的原因：模型复杂度过低，不能很好的拟合所有的数据，训练误差大；
避免欠拟合：增加模型复杂度，如采用高阶模型（预测）或者引入更多特征（分类）等。
过拟合的原因：模型复杂度过高，训练数据过少，训练误差小，测试误差大；
避免过拟合：降低模型复杂度，如加上正则惩罚项，如L1，L2，增加训练数据等。
4，正则化：L1和L2范式
5，交叉验证：训练集，验证集，测试集
6，泛化误差，泛化误差上界
7，生成模型和判别模型
8，分类模型
9，标注问题
10，回归模型
（五），课后习题
统计学习方法（一）（李航）
声明：以上内容来自用户投稿及互联网公开渠道收集整理发布，本网站不拥有所有权，未作人工编辑处理，也不承担相关法律责任，若内容有误或涉及侵权可进行投诉： 投诉/举报 工作人员会在5个工作日内联系你，一经查实，本站将立刻删除涉嫌侵权内容。