1-参数估计与矩阵运算基础

2-凸优化

3- 广义线性回归和对偶优化

4-牛顿、拟牛顿、梯度下降、随机梯度下降(SGD)

5-熵、最大熵模型MaxEnt、改进的迭代尺度法IIS

6-聚类（k-means、层次聚类、谱聚类等）

7-K近邻、决策树、随机森林(random decision forests)

8-Adaboost

9-朴素贝叶斯、与贝叶斯网络

10-支持向量机（最大间隔分类、拉格朗日乘值、对偶问题、损失函数、最优化理论、SMO）

11-EM、混合高斯模型

12-主题模型（概率潜语义分析PLSA、隐含狄利克雷分布LDA）

13-马尔科夫链、隐马尔可夫模型HMM、采样

14-马尔可夫随机场(Markov Random Field)、条件随机场CRF

15- SVD、主成分分析PCA、因子分析、独立成分分析ICA

16-卷积神经网络(CNN)

17-变分推断方法

18-随机向量

19-多元高斯分布

20-条件期望

21-核定义、正定核

22-核主元

23-主坐标分析

24-期望最大算法 

25-概率PCA

26-最大似然估计方法

27-EM算法

28-MDS方法

29-矩阵次导数

30-矩阵范数

31-Fisher判别分析

32-谱聚类

33-Apriori算法

34-线性回归与Logistic

35-岭回归，Lasso，变量选择技术

36-降维技术

37-Neyman—Pearson判决、实例

38-离散KL变换与特征提取

39-迁移学习

40-隐马尔柯夫模型

1-机器学习目录