首页 > 代码库 > 反向传播

反向传播

 

技术分享

 

激活函数详解:http://www.cnblogs.com/fanhaha/p/7061318.html

 

 

流程:

输入训练集

对于训练集中的每个样本x,设置输入层(Input layer)对应的激活值技术分享技术分享
  • 前向传播:
    技术分享, 技术分享
   计算输出层产生的错误:
      技术分享
   反向传播错误:技术分享
    技术分享
      使用梯度下降(gradient descent),训练参数:
 
          技术分享
 
          技术分享
 

参考博文:http://www.cnblogs.com/Crysaty/p/6138390.html

 

补充问题: 防止过拟合?

                  梯度下降解释

反向传播