偏微分と勾配

内積は勾配を選んだ進行方向へ射影する。勾配の向きと完全に一致して進むときにのみその大きさ全体を享受でき、等高線に沿って垂直に進めば変化率はゼロになる。

一変数関数 $g(t) = f(a + t\mathbf{u})$ を定義する。方向微分の定義により $D_{\mathbf{u}}f(a) = g'(0)$ である。$f$ は点 $a$ で全微分可能であるから、$t \to 0$ のとき $f(a + t\mathbf{u}) - f(a) = \nabla f(a) \cdot (t\mathbf{u}) + o(|t|)$ が成り立つ。両辺を $t$ で割って $t \to 0$ の極限をとると $D_{\mathbf{u}}f(a) = \nabla f(a) \cdot \mathbf{u}$ が得られる。

ユークリッド内積の幾何学的公式と単位長条件 $\|\mathbf{u}\| = 1$ より、$\nabla f(a) \cdot \mathbf{u} = \|\nabla f(a)\|\,\|\mathbf{u}\|\cos\theta = \|\nabla f(a)\|\cos\theta$ となる。$-1 \le \cos\theta \le 1$ であるから、最大値 $\|\nabla f(a)\|$ は $\theta = 0$ すなわち $\mathbf{u} = \frac{\nabla f(a)}{\|\nabla f(a)\|}$ のとき一意に達成され、最小値 $-\|\nabla f(a)\|$ は $\theta = \pi$ のとき達成される。

混合偏微分の対称性によってヘッセ行列が対称行列となり、その二次形式を平方完成することで、水平な接平面の周りで曲面が上向きのお椀型か、下向きのドーム型か、あるいは鞍のようにねじれているかが判別できる。

0でない小さな $h, k$ に対し、二階差分 $\Delta(h,k) = f(x_0+h,y_0+k) - f(x_0+h,y_0) - f(x_0,y_0+k) + f(x_0,y_0)$ を考える。一変数の平均値の定理をまず $[x_0, x_0+h]$ 上の $g(x) = f(x,y_0+k) - f(x,y_0)$ に適用し、次に $y$ に沿って $f_x$ に適用すると $\Delta(h,k) = hk\,f_{yx}(c_1, d_1)$ が得られ、逆順で適用すると $(x_0,y_0)$ に収束する中間点に対して $\Delta(h,k) = hk\,f_{xy}(c_2, d_2)$ が得られる。両者を等置して連続性のもとで $(h,k) \to (0,0)$ とすれば $\frac{\partial^2 f}{\partial x\partial y}(x_0,y_0) = \frac{\partial^2 f}{\partial y\partial x}(x_0,y_0)$ が示される。

$\nabla f(x_0,y_0) = \mathbf{0}$ となる臨界点では、テイラーの公式より $f(x_0+h,y_0+k) - f(x_0,y_0) = \frac{1}{2}Q(h,k) + o(h^2+k^2)$ となる。ただし $Q(h,k) = f_{xx}h^2 + 2f_{xy}hk + f_{yy}k^2$ である。$f_{xx} \ne 0$ のとき平方完成により $D = f_{xx}f_{yy} - f_{xy}^2$ を用いて $Q(h,k) = \frac{1}{f_{xx}}\left[(f_{xx}h + f_{xy}k)^2 + Dk^2\right]$ と書ける。$D > 0$ ならば角括弧内の和はすべての $(h,k) \ne (0,0)$ に対して正となるため、$Q(h,k)$ の符号は $f_{xx}$ の符号と一致する($f_{xx} > 0$ で極小、$f_{xx} < 0$ で極大)。$D < 0$ ならば $Q(h,k)$ は原点を通る異なる直線上で正負両方の値をとり、鞍点となる。