监督学习：分类和回归属于监督学习。这类算法必须知道预测什么，即目标变量的分类信息。

　　常见算法：k-近邻算法、线性回归、朴素贝叶斯算法、支持向量机、决策树、Lasso最小回归系数估计、Ridge回归、局部加权线性回归

无监督学习：数据没有类别信息，不给定目标值。

　　常见算法：K-均值、最大期望算法、DBSCAN、Parzen窗设计

机器学习应用步骤：

收集数据——准备输入数据——分析输入数据——训练算法——测试算法——使用算法

另一种框架：

　　训练集——提取特征向量—— 结合一定的算法 ——得到结果

分类和回归算法的评估：

　　1、准确率    2、速度    3、强壮性    4、可解读性

分类：类别型

回归：连续数值型

机器学习基础概念笔记