在R语言中，线性判别分析（Liner Discriminant Analysis，简称LDA），依靠软件包MASS中有线性判别函数lqa()来实现。该函数有三种调用格式：

1）当对象为数据框data.frame时

   lda(x,grouping,prior = propotions,tol = 1.0e-4,method,CV = FALSE,nu,...)

2) 当对象为公式Formula时

   lda(formula,data,...,subnet,na.action)

3) 当对象为矩阵Matrix时

   lda(x,group,...,subnet,na.action)

   对于第一种情况，grouping表示每个观测样本的所属类别；

   prior表示各类别的先验概率，默认取训练集中各样本的比例；

                   tol表示筛选变量，默认取0.0001

   对于第二种情况，formula表示判别公式，比如，y~x1+x2+x3,或者y~x1*x1

                   data表示数据集

                   subnet表示样本

                   na.action表示处理缺失值的方法，默认为“如果样本中有缺失值，则lda()函数无法运行”；如果设置为na.omit，则表示“自动删除样本中的缺失值，然                    后，进行计算”

   对于第三种情况，x表示矩阵                

   data表示数据集

                   subnet表示样本

                   na.action表示处理缺失值的方法，默认为“如果样本中有缺失值，则lda()函数无法运行”；如果设置为na.omit，则表示“自动删除样本中的缺失值，然                    后，进行计算”

    下面，举一个例子，来说明线性判别分析。我们选用kknn软件包中的miete数据集进行算法演示。miete数据集记录了1994年慕尼黑的住房佣金标准中一些有趣变量，比如房子的面积、是否有浴室、是否有中央供暖、是否供应热水等等，这些因素都影响着佣金的高低。

    1.数据概况

    首先，简单了解一下，miete数据集。

> library(kknn)
> data(miete)
> head(miete)

> dim(miete)

  我们看到，该数据集一共有1082条样本，和17个变量。下面，我们利用summary（）来查看变量的信息。

> summary(miete)

      我们可以选择nmkat(净租金)作为 待判别变量---一是，由于该变量在含义上容易受其他变量影响，为被解释变量；二是，nmkat自身就有5个等级类别，其相应的样本量依次为 219、230、210、208、215，即每一类的样本量都为200个左右，分布比较均匀。

      2.数据预处理

      下面，我们将miete数据集，分为训练集和测试集。

      为了提高判别效果，我们考虑采用分层抽样的方式，由于miete数据集中，待判别变量nmkat的5个等级分布比较均匀，因此采用5个等级按等量抽取样本。（如果分布不均匀，则采用按比例抽取样本）。具体如下：

> library(sampling)
> n = round(2/3*nrow(miete)/5)
> n

    可以看到，训练集占总样本的2/3，测试集占总样本的1/3，从训练集中nmkat变量的每一个等级抽取的样本数是144个。

> #以nmkat变量的5个等级划分层次，进行分层抽样
> sub_train = strata(miete,stratanames = "nmkat",size=rep(n,5),method="srswor")
> head(sub_train)

>

> #获取如上ID_unit所对应的样本构成训练集，并删除变量1、3、12
> data_train = getdata(miete[,c(-1,-3,-12)],sub_train$ID_unit)
> data_test = getdata(miete[,c(-1,-3,-12)],-sub_train$ID_unit)
> dim(data_train); dim(data_test) #分别显示训练集、测试集的维度

> head(data_test)

   至此，数据理解和数据预处理过程结束，得到可以直接使用的训练集data_train和测试集data_test。

      3.线性判别
      这里使用公式formula格式，进行判别。首先要加载软件包MASS,接着使用nmkat作为待判别变量，其他变量作为特征变量，根据公式nmkat~. （如果变量为y，则公式为y~. ） ，使用训练集data_train来运行 lda()函数。

> library(MASS)
> fit_lda1 = lda(nmkat~., data_train) #以公式格式进行线性判别
> names(fit_lda1)
> fit_lda1$prior 

  我们可以看到，各类别的先验概率在5个等级中都为0.2，之和为1，即它们都相等，这与它们分别均匀对应。

> fit_lda1$means

R语言中的线性判别分析