偏导数与梯度

点积将梯度投影到所选的行进方向上:只有完全与梯度同向时才能获得梯度的全部模长,而垂直于梯度沿等高线行走时变化率为零。

定义一元函数 $g(t) = f(a + t\mathbf{u})$。由方向导数的定义知 $D_{\mathbf{u}}f(a) = g'(0)$。因为 $f$ 在点 $a$ 可微,当 $t \to 0$ 时有 $f(a + t\mathbf{u}) - f(a) = \nabla f(a) \cdot (t\mathbf{u}) + o(|t|)$。两边除以 $t$ 并取 $t \to 0$ 的极限,即得 $D_{\mathbf{u}}f(a) = \nabla f(a) \cdot \mathbf{u}$。

由欧几里得内积的几何公式以及单位长度条件 $\|\mathbf{u}\| = 1$,可得 $\nabla f(a) \cdot \mathbf{u} = \|\nabla f(a)\|\,\|\mathbf{u}\|\cos\theta = \|\nabla f(a)\|\cos\theta$。由于 $-1 \le \cos\theta \le 1$,最大值 $\|\nabla f(a)\|$ 唯一地在 $\theta = 0$ 即 $\mathbf{u} = \frac{\nabla f(a)}{\|\nabla f(a)\|}$ 处取得,最小值 $-\|\nabla f(a)\|$ 在 $\theta = \pi$ 处取得。

混合偏导数的对称性保证了海森矩阵是对称矩阵,对其二次型配方即可看出曲面在水平切平面附近是向上凹陷如碗、向下拱起如穹顶,还是像马鞍一样扭曲。

对非零小量 $h, k$,考虑二阶差分 $\Delta(h,k) = f(x_0+h,y_0+k) - f(x_0+h,y_0) - f(x_0,y_0+k) + f(x_0,y_0)$。先对 $[x_0, x_0+h]$ 上的 $g(x) = f(x,y_0+k) - f(x,y_0)$ 应用一元中值定理,再沿 $y$ 对 $f_x$ 应用中值定理,得 $\Delta(h,k) = hk\,f_{yx}(c_1, d_1)$;按相反顺序应用则得 $\Delta(h,k) = hk\,f_{xy}(c_2, d_2)$,其中各中间点均收敛于 $(x_0,y_0)$。令两者相等并利用连续性取极限 $(h,k) \to (0,0)$,即证得 $\frac{\partial^2 f}{\partial x\partial y}(x_0,y_0) = \frac{\partial^2 f}{\partial y\partial x}(x_0,y_0)$。

在满足 $\nabla f(x_0,y_0) = \mathbf{0}$ 的驻点处,泰勒公式给出 $f(x_0+h,y_0+k) - f(x_0,y_0) = \frac{1}{2}Q(h,k) + o(h^2+k^2)$,其中 $Q(h,k) = f_{xx}h^2 + 2f_{xy}hk + f_{yy}k^2$。当 $f_{xx} \ne 0$ 时,配方可得 $Q(h,k) = \frac{1}{f_{xx}}\left[(f_{xx}h + f_{xy}k)^2 + Dk^2\right]$,其中 $D = f_{xx}f_{yy} - f_{xy}^2$。若 $D > 0$,方括号内的和在任意 $(h,k) \ne (0,0)$ 处严格为正,故 $Q(h,k)$ 的符号与 $f_{xx}$ 一致($f_{xx} > 0$ 时为严格极小,$f_{xx} < 0$ 时为严格极大)。若 $D < 0$,则 $Q(h,k)$ 沿过原点的不同直线可正可负,从而形成鞍点。