牛顿迭代法中的牛顿方向问题
1. 在数学分析和数理统计的课程中提到牛顿迭代法,它的几何意义是相当于在某一点做一个抛物线,求抛物线的最小值对应的函数值,来达到一个快速下降的目的。但是这种抛物线是怎么得来的?或者说怎么就知道这个迭代动作就是在走一个抛物线呢?
2. 在后面关于牛顿法的局限性中,有一点提到二阶导矩阵可能是不可逆的,这时候根本就没有牛顿方向,也不太能理解没有牛顿方向是什么样的情形。。。如果套用一阶导的思维,可以理解为不小心走到了$$ f^{\prime}(x)=0$$ 的位置,下一步迭代出来的$$ x $$就直接跑到无穷去了,然后整个迭代过程就进行不下去了么?
3. 麻烦老师了
4 个回复
wgb - 机器学习与数据挖掘从业者
赞同来自: fish 、kapoyegou
gloriadeng
赞同来自: kapoyegou
邹博 - 计算机科学博士,深谙机器学习算法原理
赞同来自: kapoyegou
kapoyegou
赞同来自: