一、MADlib简介

        MADlib是Pivotal公司与伯克利大学合作的一个开源机器学习库，提供了精确的数据并行实现、统计和机器学习方法对结构化和非结构化数据进行分析，主要目的是扩展数据库的分析能力，可以非常方便的加载到数据库中, 扩展数据库的分析功能，2015年7月MADlib成为Apache软件基金会的孵化项目，其最新版本为MADlib1.11，可以用在Greenplum、PostgreSQL和HAWQ等数据库系统中。官网地址：http://madlib.incubator.apache.org/。

1. 设计思想

        驱动MADlib架构的主要思想与Hadoop是一致的，主要体现在以下方面：

• 操作数据库内的本地数据，不在多个运行时环境中进行不必要的数据移动。
• 充分利用数据库引擎的功能，但将机器学习逻辑从特定数据库的实现细节中分离出来。
• 利用MPP无共享技术提供的并行性和可扩展性，如Greenplum数据库和HAWQ。
• 执行的维护活动对Apache社区和正在进行的学术研究开放。

        如果只用一句话总结MADlib的特点，就如标题所述，可以用SQL玩转数据分析、数据挖掘和机器学习。

2. 特性

（1）分类
        如果所需的输出实质上是分类的，可以使用分类方法建立模型，预测新数据会属于哪一类。分类的目标是能够将输入记录标记为正确的类别。
        分类的例子：假设有描述人口统计的数据，以及个人申请贷款和贷款违约历史数据，那么我们就能建立一个模型，描述新的人口统计数据集合贷款违约的可能性。此场景下输出的分类为“违约”和“正常”两类。

（2）回归
        如果所需的输出具有连续性，我们使用回归方法建立模型，预测输出值。
        回归的例子：如果有真实的描述房地产属性的数据，我们就可以建立一个模型，预测基于房屋已知特征的售价。因为输出反应了连续的数值而不是分类，所以该场景是一个回归问题。

（3）聚类
        识别数据分组，一组中的数据项比其它组的数据项更相似。
        聚类的例子：在客户细分分析中，目标是识别客户行为相似特征组，以便针对不同特征的客户设计各种营销活动，以达到市场目的。如果提前了解客户细分情况，这将是一个受控的分类任务。当我们让数据识别自身分组时，这就是一个聚类任务。

（4）主题建模
        主题建模与聚类相似，也是确定彼此相似的数据组。但这里的相似通常特指在文本领域中，具有相同主题的文档。

（5）关联规则挖掘
        又叫做购物篮分析或频繁项集挖掘。相对于随机发生，确定哪些事项更经常一起发生，指出事项之间的潜在关系。
        关联规则挖掘的例子：在一个网店应用中，关联规则挖掘可用于确定哪些商品倾向于被一起售出。然后将这些商品输入到客户推荐引擎中，提供促销机会，如著名的啤酒与尿布的故事。

（6）描述性统计
        描述性统计不提供模型，因此不被认为是一种机器学习方法。但描述性统计有助于向分析人员提供信息以了解基础数据，为数据提供有价值的解释，可能影响数据模型的选择。
        描述性统计的例子：计算数据集中每个变量内的数据分布，可以帮助分析式理解哪些变量应被视为分类变量，哪些变量是连续性变量，以及值的分布情况。

（7）模型验证
        如果不了解一个模型的准确性就开始使用它，会导致糟糕的结果。正因如此，理解模型存在的问题，并用测试数据评估模型的精度显得尤为重要。需要将训练数据和测试数据分离，频繁进行数据分析，验证统计模型的有效性，评估模型不过分拟合训练数据。N-fold交叉验证也经常被使用。

3. 功能

        MADlib的功能特色如图1所示。

? Data Types and Transformations（数据类型转换）
? Arrays and Matrices（数组与矩阵）
o Array Operations（数组运算）
o Matrix Operations（矩阵运算）
o Matrix Factorization（低矩阵分解）
o Low-rank Matrix Factorization（低阶矩阵分解）
o Singular Value Decomposition（SVD，奇异值分解）
o Norms and Distance functions（规范和距离函数）
o Sparse Vectors（稀疏向量）
? Dimensionality Reduction（降维）
o Principal Component Analysis（PCA主成分分析）
o Principal Component Projection（PCP主成分投影）
? Encoding Categorical Variables（编码分类变量）
? Stemming（切词）
? Model Evaluation（模型评估）
? Cross Validation（交叉验证）
? Statistics（统计）
? Descriptive Statistics（描述性统计）
o Pearson’s Correlation（皮尔斯相关性）
o Summary（摘要汇总）
? Inferential Statistics（推断性统计）
o Hypothesis Tests（假设检验）
? Probability Functions（概率函数）
? Supervised Learning（监督学习算法）
? Conditional Random Field（条件随机场）
? Regression Models（回归模型）
o Clustered Variance（聚类方差）
o Cox-Proportional Hazards Regression（Cox比率风险回归模型）
o Elastic Net Regularization（Elastic Net 回归）
o Generalized Linear Models
o Linear Regression（线性回归）
o Logistic Regression（逻辑回归）
o Marginal Effects（边际效应）
o Multinomial Regression（多项式回归）
o Ordinal Regression（有序回归）
o Robust Variance（鲁棒方差）
? Support Vector Machines（SVM，支持向量机）
? Tree Methods（树模型）
o Decision Tree（决策树）
o Random Forest（随机森林）
? Time Series Analysis（时间序列分析）
? ARIMA（自回归积分滑动平均模型）
? Unsupervised Learning（无监督学习）
? Association Rules（关联规则）
o Apriori Algorithm（Apriori算法）
? Clustering（聚类）
o k-Means Clustering（k-Means）
? Topic Modelling（主题模型）
o Latent Dirichlet Allocation（LDA）
? Utility Functions（效用函数）
? Developer Database Functions（开发者数据库函数）
? Linear Solvers（线性求解器）
o Dense Linear Systems（稠密线性系统）
o Sparse Linear Systems（稀疏线性系统）
? Path Functions（路径函数）
? PMML Export（PMML输出）
? Text Analysis（文本分析）
o Term Frequency（词频，TF）

二、安装

1. 确定安装平台

        MADlib最新发布版本是1.11，可以安装在PostgreSQL、Greenplum和HAWQ中，在不同的数据库中安装过程也不尽相同。我是安装在HAWQ2.1.1.0中。

2. 下载MADlib二进制安装压缩包

        下载地址为：https://network.pivotal.io/products/pivotal-hdb。2.1.1.0版本的HAWQ提供了四个安装文件，如图2所示。经过测试，只有MADlib 1.10.0版本的文件可以正常安装。

3. 安装MADlib

        以下命令需要使用gpadmin用户，在HAWQ的master主机上执行。
（1）解压缩

（2）安装MADlib的gppkg文件

        该命令在HAWQ集群的所有节点（master和segment）上创建MADlib的安装目录和文件，缺省目录为/usr/local/hawq_2_1_1_0/madlib。
（3）在指定数据库中部署MADlib

        该命令在HAWQ的dm数据库中建立madlib schema，-p参数指定平台为HAWQ。命令执行后可以查看在madlib schema中创建的数据库对象。

        可以看到，MADlib部署应用程序madpack首先创建数据库模式madlib，然后在该模式中创建数据库对象，包括 一个表，一个序列，1324个普通函数，135个聚合函数。所有的机器学习和数据挖掘模型、算法、操作和功能都是通过调用这些函数实际执行的。
（4）验证安装

        该命令通过执行29个模型的77个案例，验证所有模型都能正常工作。命令输出如下：

        可以看到，所有案例都已经正常执行，说明MADlib安装成功。

三、卸载

        卸载过程基本上是安装的逆过程。

1. 删除madlib模式

        方法1，使用madpack部署应用程序。

        方法2，使用SQL命令手工删除模式。

2. 删除其它遗留数据库对象

（1）删除模式
        如果测试中途出错，数据库中可能包含测试的模式，这些模式名称的前缀都是madlib_installcheck_，只能手工执行SQL命令删除这些模式，如：

（2）删除用户
        如果存在遗留的测试用户，则删除它。

3. 删除MADlib rpm包

（1）查询包名

        输出如下：

（2）删除rpm包

用SQL玩转数据挖掘之MADlib（一）——安装