机器学习中的数据不平衡问题

最近碰到一个问题，其中的阳性数据比阴性数据少很多，这样的数据集在进行机器学习的时候会使得学习到的模型更偏向于预测结果为阴性。查找了相关的一些文献，了解了一些解决这个问题的一些方法和技术。

首先，数据集不平衡会造成怎样的问题呢。一般的学习器都有下面的两个假设：一个是使得学习器的准确率最高，另外一个是学习器应该用在与训练集有相同分布的测试集上。如果数据不平衡，那么学习器使得它的准确率最高肯定是更偏向于预测结果为比例更大的类别。比如说阳性的比例为1%，阴性的比例为99%，很明显的是即使不学习，直接预测所有结果为阴性，这样做的准确率也能够达到99%，而如果建立学习器也很有可能没有办法达到99%。这就是数据比例不平衡所造成的问题。这样建立的模型即使准确率再高，在实际应用的时候效果肯定不好，而且也不是我们想要的模型。

明白了数据集的不平衡对于学习过程所造成的问题，相应的解决办法也有不少。下面是一些常用的两类方法。
1 从数据集入手。既然数据不平衡，那我们就人为的把数据集给平衡一下。可以通过随机采样比例大的类别使得训练集中大类的个数与小类相当，也可以重复小类使得小类的个数与大类相当。前者的问题是可能会丢失信息，因为只采用部分样本。后者的问题是可能造成过拟合，因为有重复样本。前者的问题可以通过esemble的方法来解决，即每次形成训练集的时候包括所有小类样本，同时从大类样本中随机选择样本构成训练集，这样重复很多次得到很多训练集和训练模型。在测试的时候使用投票的方法来判断分类结果。
除了平衡数据集外，还可以通过分别在大类和小类中筛选特征，然后组合起来构成学习器。这样也可能提高效果。

2 从学习器入手。最简单的是通过改变判断类别的cutoff来改变类别样本比例；也可以只学习一个类别。此外，在学习的时候考虑到误判不同样本的不同成本，使得学习器更偏向于预测小类。这样也能够改进模型。

如何处理不平衡数据集相关的问题有很多研究，详细的请见参考文献中的综述。

参考文献
1 Sotiris Kotsiantis, et al. Handing imbalanced datasets:A review.2006.
2Foster Provost. Machine learning from imbalanced data sets.


本文引用地址：http://blog.sciencenet.cn/blog-54276-377102.html