首页 > 代码库 > 最优化算法 (一)
最优化算法 (一)
最速下降法采用负梯度方向进行一维搜索,总体上看搜索速度应该是比较快,但是当迭代进行到靠近精确最优点时,会出现锯齿形搜索路径,这样就会大大降低搜索效率,所以通常在搜索前期采用最速下降法,当接近精确最优解时,改用牛顿法等其他在最优解附近搜索效率更高的方法。
但是牛顿法也有缺点:一方面需要计算Hesse矩阵及其逆,因而计算量往往很大;另一方面要求Hesse矩阵正定,这一点也常常得不到满足。考虑到最速下降法在远离精确最优解时收敛速度快,而牛顿法在接近最优解时收敛速度较快,所以通常在搜索的前期采用最速下降法,而在后期改用牛顿法,这样可以获得比较好的效果。
最优化算法 (一)
声明:以上内容来自用户投稿及互联网公开渠道收集整理发布,本网站不拥有所有权,未作人工编辑处理,也不承担相关法律责任,若内容有误或涉及侵权可进行投诉: 投诉/举报 工作人员会在5个工作日内联系你,一经查实,本站将立刻删除涉嫌侵权内容。