首页 > 代码库 > 学习中的梯度下降Ⅱ-学习率
学习中的梯度下降Ⅱ-学习率
调试梯度下降。用x轴上的迭代数绘制一个图。现在测量成本函数,J(θ)随迭代次数下降。如果J(θ)不断增加,那么你可能需要减少α。
自动收敛试验。如果该声明收敛(θ)小于E在一次迭代中减少,其中E是一些小的值,如10?3。然而,在实践中很难选择这个阈值。
它已被证明,如果学习率α足够小,那么J(θ)每次迭代都减小。
总结:
如果α太小,收敛速度慢
如果α太大:?可能不会在每次迭代不收敛,从而降低。
学习中的梯度下降Ⅱ-学习率
声明:以上内容来自用户投稿及互联网公开渠道收集整理发布,本网站不拥有所有权,未作人工编辑处理,也不承担相关法律责任,若内容有误或涉及侵权可进行投诉: 投诉/举报 工作人员会在5个工作日内联系你,一经查实,本站将立刻删除涉嫌侵权内容。