专题进阶 · 数值算法推荐总顺序 · 第 101 / 148 课

从切线方程推导更新,理解简单根附近的快速收敛与初值风险。

先学会这些,再进入本课 二分求根
还有 1 节先修课未标记掌握;已具备基础时可以直接学习,遇到障碍再沿链接补课。
专题详解 · 数值算法

牛顿求根Newton Method

沿切线更新 x←x−f/f′;靠近简单根时可二次收敛,但初值和导数过小会带来问题。

建议 40 分钟 · 含手算、代码与三层练习

本课要建立的能力

从切线方程推导更新,理解简单根附近的快速收敛与初值风险。

先手算,再对照代码;理解为什么成立,最后用改变条件的练习检查迁移能力。

01先把问题说具体

仍求 x²−2=0,已知道二分可靠,但每轮只折半。能否利用函数在当前点的斜率?

02一步步得到方法

导数是局部变化率

在 x 附近,f(x+δ)≈f(x)+f′(x)δ。导数可理解为极小横向变化引起的函数变化比例,例如 f(x)=x² 的导数为 2x。把局部直线的函数值设为零,得到 δ=−f(x)/f′(x)。

因此 x_new=x−f(x)/f′(x),几何上是当前切线与横轴的交点。它使用局部信息预测根,而不是保持一个包根区间,所以可能跳到很远的地方。

收敛速度需要条件

在足够光滑的函数、简单根 f′(r)≠0、初值足够近时,误差可近似平方下降,即二次收敛。重根、导数接近零或初值太远时,这个结论不适用。

代码检查残差、导数和迭代上限。若步长很小但残差仍大,可能是停滞而非成功;工程中常结合相对容差、包根区间、阻尼或可靠求根库。

局部切线近似解释快与不稳

Newton 用当前切线与横轴的交点预测根,靠近简单根时切线近似很好,误差可能快速缩小。远离根时,切线可能指向很远的位置,甚至在多个点之间循环。

当导数接近0,除法会放大误差;重根还可能失去通常的二次收敛速度。可以结合夹逼、阻尼或回溯提高可靠性,并用最大迭代次数与失败状态避免无限循环。

03把一个小例子完全算清楚

f=x²−2,f′=2x,从 x₀=2 开始。

步骤计算与状态为什么这样做
x₀=22−2/4=1.5第一条切线
x₁=1.51.5−0.25/3≈1.4166667残差大幅减少
下一步约 1.414215686逼近正根
再一步约 1.414213562接近机器精度

窄屏可左右滑动表格,阅读完整计算与理由。

速度来自准确的局部线性预测,不是无条件保证。

04为什么这个方法成立

  1. 切线近似给出更新公式,但近似本身不构成全局收敛证明。
  2. 简单根附近用 Taylor 展开可令一阶误差抵消,剩余项为误差平方量级。
  3. 导数非零与足够近的邻域保证更新留在可收敛区域;缺条件时应检测失败。

05把推导翻译成代码

Python · 可独立运行的教学实现

from math import isfinite
def newton(f,derivative,x,tol=1e-12,iterations=50):
    for _ in range(iterations):
        value = f(x)
        if not isfinite(value): raise ValueError("nonfinite residual")
        if abs(value) <= tol: return x
        slope = derivative(x)
        if not isfinite(slope) or abs(slope) < 1e-14:
            raise ArithmeticError("derivative too small")
        x -= value/slope
        if not isfinite(x): raise ArithmeticError("nonfinite iterate")
    raise RuntimeError("did not converge")

逐个理解关键决定

abs(value) <= tol
本接口容差定义为残差容差,不承诺相同大小的位置误差。
x -= value/slope
除的是当前位置导数,不是固定常数或函数值本身。

06时间、空间与实现范围

每轮一次函数与导数计算,若迭代 K 次,成本 O(K(C_f+C_f′)),标量工作空间 O(1)。

二次收敛是局部性质,不能给任意初值固定 K 保证;数值阈值应按实际尺度调整。

07改变条件,检查哪里会出错

导数为零仍直接做除法

会产生无穷或崩溃,应改初值、阻尼或回退包根方法。

只比较相邻两次 x 就宣布找到根

步长小也可能是数值停滞,应同时核对残差、导数与问题尺度。

08从手算到独立迁移

先写出自己的结果和理由,再展开提示或解析。三题依次检查具体执行、边界条件和方法迁移。

练习 1 · 复现与理解

x²−2 从 x=0 开始为何失败?

需要一点提示

导数 2x。

查看解析与答案

导数为零,切线水平,没有可用交点。

练习 2 · 边界与辨析

x²=0 是简单根吗?

需要一点提示

根处导数。

查看解析与答案

不是,f′(0)=0;牛顿迭代 x→x/2 只有线性收敛。

练习 3 · 变式与迁移

牛顿求根和牛顿优化有什么联系?

需要一点提示

优化的一阶条件是什么?

查看解析与答案

优化可求解 f′(x)=0,此时更新用 f′/f″,但驻点还不一定是最小值。

继续深入这个专题

本站例子、推导与教学代码独立编写。以下是相关教材、作者论文或官方文档,可继续核对定义、证明与更完整的工程实现。

Driscoll 与 Braun · Fundamentals of Numerical Computation

理解之后,继续递进

能解释手算中的每一步,并独立完成迁移题后,再标记掌握。