首页 > 代码库 > 简单易学的机器学习算法——极限学习机(ELM)

简单易学的机器学习算法——极限学习机(ELM)

极限学习机的概念

ELM是一种新型的快速学习算法,对于单隐层神经网络,ELM可以随机初始化输入权重和偏置并得到相应的输出权重。

技术分享

对于一个单隐层神经网络,假设有N个任意的样本技术分享,其中技术分享技术分享

。对于一个有技术分享个隐层节点的单隐层神经网络可以表示为

 技术分享

其中,技术分享为激活函数,技术分享为输入权重, 技术分享为输出权重,技术分享是第技术分享个隐层单元的偏置。

单隐层神经网络的学习目标是使得输出的误差最小,可以表示为

技术分享

即存在技术分享技术分享技术分享 ,使得

技术分享

可以矩阵表述为
技术分享

其中,技术分享是隐层节点的输出,技术分享为输出权重,技术分享为期望输出。

技术分享

技术分享

 

 技术分享技术分享

 

简单易学的机器学习算法——极限学习机(ELM)