定理已证明
牛顿法的二次收敛性
命题陈述
设 f 在根 r 附近二次连续可微,且 f′(r)=0。则存在 r 的一个邻域,使得若牛顿迭代从该邻域内部出发,迭代序列收敛于 r,并且对某常数 C=2min∣f′∣max∣f′′∣(最大值与最小值均在该邻域上取)满足 ∣xn+1−r∣≤C∣xn−r∣2。
为什么成立?
切线对光滑曲线的逼近非常好,以至于它产生的误差与已走过距离的平方成正比,因此每多正确一位小数,到下一步正确位数大约翻倍。
证明思路
第一步(围绕当前猜测值作泰勒展开)。由于 f 二次可微,带拉格朗日余项的泰勒定理给出对某个 ξn between xn and r 有 f(r)=f(xn)+f′(xn)(r−xn)+21f′′(ξn)(r−xn)2。这是精确等式而非近似,因为余项承载了全部二阶误差。
第二步(代入根的条件)。由于 f(r)=0,左边为零,剩下 0=f(xn)+f′(xn)(r−xn)+21f′′(ξn)(r−xn)2。两边同除以 f′(xn)(在 r 附近非零,因为 f′(r)=0 且 f′ 连续),分离出 r−xn:0=f′(xn)f(xn)+(r−xn)+2f′(xn)f′′(ξn)(r−xn)2。
第三步(识别出牛顿步)。整理得 r−(xn−f′(xn)f(xn))=−2f′(xn)f′′(ξn)(r−xn)2。左边括号内恰是牛顿更新 xn+1,故用 en=xn−r 可写成 r−xn+1=−2f′(xn)f′′(ξn)en2,即 en+1=−2f′(xn)f′′(ξn)en2。
第四步(界定常数)。取绝对值,并用该邻域上的极值 max∣f′′∣ 和 1/min∣f′∣ 分别界定 ∣f′′(ξn)∣ 与 1/∣f′(xn)∣,即得 C=2min∣f′∣max∣f′′∣ 下的 ∣xn+1−r∣≤C∣xn−r∣2。一旦 C∣x0−r∣<1,该递推关系就迫使 ∣xn−r∣ 收缩到 0,从而证明收敛性,而 ∣xn+1−r∣≤C∣xn−r∣2 中的平方正是二次收敛速度的体现。