首页 > 代码库 > 机器学习基础大纲

机器学习基础大纲

数学基础(2节课)

微积分

极限,e,导数,微分,积分

偏导数,方向导数,梯度

极值,多元函数极值,多元函数泰勒展开

无约束优化,约束优化

拉格朗日乘子,对偶问题

 

线性代数

矩阵,行列式,初等变换

线性相关,线性无关

秩,特征值,特征向量

正交向量、正交矩阵

矩阵分解

 

概率

随机变量,概率密度函数,分布函数

条件概率,全概率公式,贝叶斯公式

期望,方差

大数定理,中心极限定理

协方差,相关系数

常见概率分布,泊松分布

指数族分布,多元高斯分布

参数估计,矩估计,极大似然估计MLE

 

机器学习基本概念(0.5节课)

输入空间,特征空间和输出空间

联合概率分布,假设空间

三要素:方法=模型+策略+算法

损失函数、风险函数、经验风险、结构风险

MLE和MAP

 

感知机Perceptron(1节课)

感知机模型、学习策略、训练方法

0-1损失函数

感知机的几何解释

感知机证明

pocket perceptron

 

线性回归和逻辑回归(2节课)

损失函数、训练方法、几何解释,平方损失函数

梯度下降

逻辑回归的形式,推导和训练,逻辑斯蒂损失

拟牛顿法,LBFGS

 

机器学习诊断和调试(1节课)

训练误差、测试误差、欠拟合、过拟合

正规化、交叉验证

 

树模型和boost(3节课)

熵的定义和应用,信息增益

决策树、ID3、C4.5和CART

Adaboost,指数损失函数

梯度提升树 GBDT

随机森林 Random Forest

 

支持向量机SVM(3-4节课)

硬间隔最大化,函数间隔,几何间隔

软间隔最大化

对偶算法

合页损失函数

核函数、核技巧

SMO算法

 

最大熵模型(1节课)

模型定义、约束条件和推导

重新理解逻辑回归

 

神经网络(1节课)

模型的定义和训练

BPA算法

 

无监督学习(3节课)

K-Means和高斯混合模型GMM

EM算法,推导、解释和理解

Topic Model基础,svd、lsa、plsa、lda

 

总结(1节课)

损失函数比较

模型的比较和选择

解决实际问题的一般步骤

 

机器学习基础大纲