Math Labs

Giải tích

Đạo hàm riêng, gradient

Tốc độ thay đổi của hàm nhiều biến theo từng hướng tọa độ, kết hợp lại thành vectơ gradient.

Trực giácHai độ dốc cùng lúc trên một bề mặt cong

Hãy tưởng tượng bạn đang đứng trên một sườn đồi có độ cao cho bởi hàm hai biến z=f(x,y)z = f(x,y), trong đó xx chỉ hướng đông và yy chỉ hướng bắc. Khác với đường cong một biến, không có một độ dốc duy nhất dưới chân bạn: bước thẳng về hướng đông làm độ cao thay đổi theo một tốc độ, bước thẳng về hướng bắc lại thay đổi theo tốc độ khác, còn bước xiên góc sẽ pha trộn cả hai. Cố định yy và chỉ cho xx thay đổi tương đương với việc cắt sườn đồi bằng một mặt phẳng thẳng đứng đông-tây, đưa bài toán về đạo hàm một biến quen thuộc.

Ngọn đồi hình chuông trơn trong không gian ba chiều với đỉnh ở giữa, bị cắt bởi các mặt phẳng đứng theo hai hướng vuông góc.
Đồi có độ cao z=e−(x2+y2)z=e^{-(x^2+y^2)}. Giữ nguyên yy và chỉ cho xx biến đổi sẽ cắt mặt bởi một mặt phẳng đứng đông-tây; hệ số góc của đường cắt đó ngay tại chỗ bạn đứng là ∂f∂x\frac{\partial f}{\partial x}. Giữ nguyên xx thay vào đó cho ∂f∂y\frac{\partial f}{\partial y}.

Đại họcĐịnh nghĩa chặt chẽ: đạo hàm riêng, mặt phẳng tiếp xúc và gradient

Định nghĩa: Đạo hàm riêng và vectơ gradient

Cho f:U⊆Rn→Rf : U \subseteq \mathbb{R}^n \to \mathbb{R} xác định trên tập mở UU. Đạo hàm riêng của ff theo biến xix_i tại a∈Ua \in U, ký hiệu ∂f∂xi(a)\frac{\partial f}{\partial x_i}(a) hoặc fxi(a)f_{x_i}(a), là giới hạn khi giữ cố định mọi tọa độ khác xjx_j (j≠ij \ne i). Ghép tất cả nn đạo hàm riêng thành một vectơ duy nhất ta được vectơ gradient ∇f(a)=(∂f∂x1(a),…,∂f∂xn(a))\nabla f(a) = \left(\frac{\partial f}{\partial x_1}(a), \dots, \frac{\partial f}{\partial x_n}(a)\right).

∂f∂xi(a)=lim⁡h→0f(a1,…,ai+h,…,an)−f(a1,…,an)h\frac{\partial f}{\partial x_i}(a) = \lim_{h \to 0} \frac{f(a_1, \dots, a_i + h, \dots, a_n) - f(a_1, \dots, a_n)}{h}

Sự tồn tại đơn thuần của các đạo hàm riêng tại (x0,y0)(x_0,y_0) yếu hơn tính khả vi toàn phần. Hàm f(x,y)f(x,y) được gọi là khả vi toàn phần tại (x0,y0)(x_0,y_0) nếu số gia Δf=f(x0+h,y0+k)−f(x0,y0)\Delta f = f(x_0+h, y_0+k) - f(x_0,y_0) biểu diễn được dưới dạng fx(x0,y0)h+fy(x0,y0)k+o(h2+k2)f_x(x_0,y_0)h + f_y(x_0,y_0)k + o\left(\sqrt{h^2+k^2}\right) khi (h,k)→(0,0)(h,k) \to (0,0). Khi ff khả vi toàn phần, đồ thị z=f(x,y)z = f(x,y) có mặt phẳng tiếp xúc xác định tại (x0,y0)(x_0,y_0), và đạo hàm theo hướng của mọi vectơ đơn vị u=(u1,u2)\mathbf{u} = (u_1, u_2) với ∥u∥=1\|\mathbf{u}\| = 1 được cho bởi tích vô hướng Duf=∇f⋅uD_{\mathbf{u}}f = \nabla f \cdot \mathbf{u}.

z=f(x0,y0)+∂f∂x(x0,y0)(x−x0)+∂f∂y(x0,y0)(y−y0),Duf(x0,y0)=∇f(x0,y0)⋅uz = f(x_0,y_0) + \frac{\partial f}{\partial x}(x_0,y_0)(x - x_0) + \frac{\partial f}{\partial y}(x_0,y_0)(y - y_0), \qquad D_{\mathbf{u}}f(x_0,y_0) = \nabla f(x_0,y_0) \cdot \mathbf{u}
Lưới mũi tên của trường gradient của sin x cos y với các đường dòng hội tụ về các đỉnh của hàm thế.
Trường gradient ∇φ=(cos⁡xcos⁡y, −sin⁡xsin⁡y)\nabla\varphi=(\cos x\cos y,\ -\sin x\sin y) của thế φ(x,y)=sin⁡xcos⁡y\varphi(x,y)=\sin x\cos y: tại mỗi điểm mũi tên chỉ hướng tăng nhanh nhất (nơi Duf=∇f⋅uD_{\mathbf{u}}f=\nabla f\cdot\mathbf{u} lớn nhất), và các đường dòng bám theo nó tới các cực đại của φ\varphi.
Tổng hợp các toán tử vi phân nhiều biến và đại lượng cấp hai
Đối tượngCông thứcÝ nghĩa hình học / vật lý
Đạo hàm riêng∂f∂xi\frac{\partial f}{\partial x_i}Hệ số góc của lát cắt dọc theo trục tọa độ xix_i.
Vectơ gradient∇f=(fx1,…,fxn)\nabla f = (f_{x_1}, \dots, f_{x_n})Vuông góc với mặt mức, chỉ hướng tăng nhanh nhất; chuẩn ∥∇f∥\|\nabla f\| là tốc độ tăng cực đại.
Đạo hàm theo hướngDuf=∇f⋅uD_{\mathbf{u}}f = \nabla f \cdot \mathbf{u}Tốc độ thay đổi tức thời khi di chuyển theo vectơ vận tốc đơn vị u\mathbf{u}.
Ma trận Hessian và biệt thứcD=fxxfyy−fxy2D = f_{xx}f_{yy} - f_{xy}^2Đo độ cong địa phương để phân loại điểm dừng thành cực trị hoặc điểm yên ngựa.

Đại họcCác định lý cốt lõi: Hướng tăng nhanh nhất, đối xứng Schwarz và tiêu chuẩn Hessian

Nếu ff khả vi tại aa và ∇f(a)≠0\nabla f(a) \ne \mathbf{0}, thì với mọi vectơ đơn vị u\mathbf{u} (thỏa ∥u∥=1\|\mathbf{u}\| = 1), đạo hàm theo hướng thỏa mãn Duf(a)=∇f(a)⋅u=∥∇f(a)∥cos⁡θD_{\mathbf{u}}f(a) = \nabla f(a) \cdot \mathbf{u} = \|\nabla f(a)\| \cos\theta, trong đó θ\theta là góc giữa ∇f(a)\nabla f(a) và u\mathbf{u}. Hệ quả là Duf(a)D_{\mathbf{u}}f(a) đạt giá trị lớn nhất ∥∇f(a)∥\|\nabla f(a)\| khi u=∇f(a)∥∇f(a)∥\mathbf{u} = \frac{\nabla f(a)}{\|\nabla f(a)\|}, và đạt giá trị nhỏ nhất −∥∇f(a)∥-\|\nabla f(a)\| theo hướng ngược lại.

Vì sao đúng?

Tích vô hướng chiếu vectơ gradient lên hướng di chuyển đã chọn: bạn nhận toàn bộ độ lớn của gradient chỉ khi đi trùng khít với hướng của nó, và độ cao không đổi khi bạn đi vuông góc với nó dọc theo đường đồng mức.

Chứng minh

Xét hàm một biến g(t)=f(a+tu)g(t) = f(a + t\mathbf{u}). Theo định nghĩa đạo hàm theo hướng, Duf(a)=g′(0)D_{\mathbf{u}}f(a) = g'(0). Vì ff khả vi toàn phần tại aa, ta có f(a+tu)−f(a)=∇f(a)⋅(tu)+o(∣t∣)f(a + t\mathbf{u}) - f(a) = \nabla f(a) \cdot (t\mathbf{u}) + o(|t|) khi t→0t \to 0. Chia hai vế cho tt và lấy giới hạn khi t→0t \to 0 ta thu được Duf(a)=∇f(a)⋅uD_{\mathbf{u}}f(a) = \nabla f(a) \cdot \mathbf{u}.

Theo công thức hình học của tích vô hướng Euclid và điều kiện vectơ đơn vị ∥u∥=1\|\mathbf{u}\| = 1, ta có ∇f(a)⋅u=∥∇f(a)∥ ∥u∥cos⁡θ=∥∇f(a)∥cos⁡θ\nabla f(a) \cdot \mathbf{u} = \|\nabla f(a)\|\,\|\mathbf{u}\|\cos\theta = \|\nabla f(a)\|\cos\theta. Do −1≤cos⁡θ≤1-1 \le \cos\theta \le 1, giá trị lớn nhất ∥∇f(a)∥\|\nabla f(a)\| đạt được duy nhất tại θ=0\theta = 0, tức khi u=∇f(a)∥∇f(a)∥\mathbf{u} = \frac{\nabla f(a)}{\|\nabla f(a)\|}, và giá trị nhỏ nhất −∥∇f(a)∥-\|\nabla f(a)\| đạt được tại θ=π\theta = \pi.

Nếu f(x,y)f(x,y) có các đạo hàm riêng cấp hai liên tục trong một lân cận của (x0,y0)(x_0,y_0), thì ∂2f∂x∂y(x0,y0)=∂2f∂y∂x(x0,y0)\frac{\partial^2 f}{\partial x\partial y}(x_0,y_0) = \frac{\partial^2 f}{\partial y\partial x}(x_0,y_0). Hơn nữa, nếu ∇f(x0,y0)=0\nabla f(x_0,y_0) = \mathbf{0} và D=fxx(x0,y0)fyy(x0,y0)−fxy(x0,y0)2D = f_{xx}(x_0,y_0)f_{yy}(x_0,y_0) - f_{xy}(x_0,y_0)^2, thì (x0,y0)(x_0,y_0) là điểm cực tiểu địa phương chặt nếu D>0D > 0 và fxx>0f_{xx} > 0, là điểm cực đại địa phương chặt nếu D>0D > 0 và fxx<0f_{xx} < 0, và là điểm yên ngựa nếu D<0D < 0.

Vì sao đúng?

Tính đối xứng của đạo hàm riêng hỗn hợp đảm bảo ma trận Hessian đối xứng, và việc đưa dạng toàn phương của nó về tổng bình phương cho biết mặt cong lõm lên như lòng chảo, úp xuống như mái vòm hay xoắn lại như yên ngựa quanh mặt phẳng tiếp xúc nằm ngang.

Chứng minh

Với h,kh, k nhỏ khác không, xét sai phân cấp hai Δ(h,k)=f(x0+h,y0+k)−f(x0+h,y0)−f(x0,y0+k)+f(x0,y0)\Delta(h,k) = f(x_0+h,y_0+k) - f(x_0+h,y_0) - f(x_0,y_0+k) + f(x_0,y_0). Áp dụng Định lý giá trị trung bình một biến trước hết cho g(x)=f(x,y0+k)−f(x,y0)g(x) = f(x,y_0+k) - f(x,y_0) trên [x0,x0+h][x_0, x_0+h] rồi cho fxf_x theo biến yy ta được Δ(h,k)=hk fyx(c1,d1)\Delta(h,k) = hk\,f_{yx}(c_1, d_1), trong khi áp dụng theo thứ tự ngược lại cho Δ(h,k)=hk fxy(c2,d2)\Delta(h,k) = hk\,f_{xy}(c_2, d_2) tại các điểm trung gian hội tụ về (x0,y0)(x_0,y_0). Cho hai biểu thức bằng nhau và lấy giới hạn (h,k)→(0,0)(h,k) \to (0,0) theo tính liên tục ta chứng minh được ∂2f∂x∂y(x0,y0)=∂2f∂y∂x(x0,y0)\frac{\partial^2 f}{\partial x\partial y}(x_0,y_0) = \frac{\partial^2 f}{\partial y\partial x}(x_0,y_0).

Tại điểm dừng nơi ∇f(x0,y0)=0\nabla f(x_0,y_0) = \mathbf{0}, công thức Taylor cho f(x0+h,y0+k)−f(x0,y0)=12Q(h,k)+o(h2+k2)f(x_0+h,y_0+k) - f(x_0,y_0) = \frac{1}{2}Q(h,k) + o(h^2+k^2), với Q(h,k)=fxxh2+2fxyhk+fyyk2Q(h,k) = f_{xx}h^2 + 2f_{xy}hk + f_{yy}k^2. Khi fxx≠0f_{xx} \ne 0, tách bình phương đủ viết lại Q(h,k)=1fxx[(fxxh+fxyk)2+Dk2]Q(h,k) = \frac{1}{f_{xx}}\left[(f_{xx}h + f_{xy}k)^2 + Dk^2\right] với D=fxxfyy−fxy2D = f_{xx}f_{yy} - f_{xy}^2. Nếu D>0D > 0, biểu thức trong ngoặc vuông dương chặt với mọi (h,k)≠(0,0)(h,k) \ne (0,0), nên dấu của Q(h,k)Q(h,k) trùng với dấu của fxxf_{xx} (cho cực tiểu chặt khi fxx>0f_{xx} > 0 và cực đại chặt khi fxx<0f_{xx} < 0). Nếu D<0D < 0, Q(h,k)Q(h,k) nhận cả giá trị dương lẫn âm dọc theo các đường thẳng khác nhau qua gốc, tạo thành điểm yên ngựa.

Đại họcỨng dụng thực tiễn và Ví dụ minh họa

Đạo hàm riêng và gradient là động lực của khoa học và kỹ thuật hiện đại: trong vật lý, định luật dẫn nhiệt Fourier phát biểu rằng thông lượng nhiệt tỉ lệ với đối của gradient nhiệt độ −∇T-\nabla T; trong học máy, việc huấn luyện mạng nơ-ron cực tiểu hóa hàm mất mát L(θ)L(\theta) bằng cách lặp lại các bước dịch chuyển ngược hướng gradient −∇L(θ)-\nabla L(\theta) (hạ gradient); còn trong kinh tế học và cơ học, tiêu chuẩn Hessian giúp phân biệt các trạng thái cân bằng bền (cực tiểu địa phương của thế năng) với các điểm yên ngựa không bền.

Ví dụ: Đạo hàm theo hướng và hướng tăng nhanh nhất của trường nhiệt độ

Một tấm kim loại có nhiệt độ T(x,y)=x2+3xy+y3T(x,y) = x^2 + 3xy + y^3 (tính bằng độ C) tại tọa độ (x,y)(x,y) tính bằng mét. Hãy tìm vectơ gradient ∇T(1,2)\nabla T(1,2), đạo hàm theo hướng tại (1,2)(1,2) theo hướng của vectơ v=(3,4)\mathbf{v} = (3,4), và tốc độ tăng nhiệt độ lớn nhất tại (1,2)(1,2).

Lời giải

Trước hết, tính các đạo hàm riêng bằng cách lấy đạo hàm theo một biến và giữ nguyên biến kia: Tx(x,y)=2x+3yT_x(x,y) = 2x + 3y và Ty(x,y)=3x+3y2T_y(x,y) = 3x + 3y^2. Thay tọa độ (1,2)(1,2) vào ta được Tx(1,2)=2(1)+3(2)=8T_x(1,2) = 2(1) + 3(2) = 8 và Ty(1,2)=3(1)+3(2)2=15T_y(1,2) = 3(1) + 3(2)^2 = 15, vậy vectơ gradient là ∇T(1,2)=(8,15)\nabla T(1,2) = (8, 15).

Tiếp theo, chuẩn hóa v=(3,4)\mathbf{v} = (3,4) để được vectơ đơn vị u=v∥v∥=(35,45)\mathbf{u} = \frac{\mathbf{v}}{\|\mathbf{v}\|} = \left(\frac{3}{5}, \frac{4}{5}\right) vì ∥v∥=32+42=5\|\mathbf{v}\| = \sqrt{3^2+4^2} = 5. Đạo hàm theo hướng là DuT(1,2)=∇T(1,2)⋅u=8⋅35+15⋅45=845=16.8D_{\mathbf{u}}T(1,2) = \nabla T(1,2) \cdot \mathbf{u} = 8 \cdot \frac{3}{5} + 15 \cdot \frac{4}{5} = \frac{84}{5} = 16.8. Tốc độ tăng nhiệt độ lớn nhất tại (1,2)(1,2) đạt được theo hướng của ∇T(1,2)\nabla T(1,2) và bằng ∥∇T(1,2)∥=82+152=289=17\|\nabla T(1,2)\| = \sqrt{8^2 + 15^2} = \sqrt{289} = 17 độ C trên mét.

Ví dụ: Phân loại điểm dừng bằng định thức Hessian

Tìm và phân loại tất cả các điểm dừng của hàm số f(x,y)=x3+y3−3xyf(x,y) = x^3 + y^3 - 3xy bằng tiêu chuẩn đạo hàm cấp hai Hessian.

Lời giải

Cho cả hai đạo hàm riêng cấp một bằng không: fx(x,y)=3x2−3y=0f_x(x,y) = 3x^2 - 3y = 0 và fy(x,y)=3y2−3x=0f_y(x,y) = 3y^2 - 3x = 0. Từ phương trình thứ nhất ta có y=x2y = x^2; thế vào phương trình thứ hai được 3(x2)2−3x=3x(x3−1)=03(x^2)^2 - 3x = 3x(x^3 - 1) = 0, có nghiệm thực x=0x = 0 và x=1x = 1. Do đó hai điểm dừng là (0,0)(0,0) và (1,1)(1,1).

Tiếp theo tính các đạo hàm riêng cấp hai: fxx=6xf_{xx} = 6x, fyy=6yf_{yy} = 6y và fxy=−3f_{xy} = -3, suy ra biệt thức Hessian D(x,y)=fxxfyy−fxy2=36xy−9D(x,y) = f_{xx}f_{yy} - f_{xy}^2 = 36xy - 9. Tại (0,0)(0,0), ta có D(0,0)=−9<0D(0,0) = -9 < 0, nên (0,0)(0,0) là điểm yên ngựa. Tại (1,1)(1,1), ta có D(1,1)=36−9=27>0D(1,1) = 36 - 9 = 27 > 0 và fxx(1,1)=6>0f_{xx}(1,1) = 6 > 0, nên (1,1)(1,1) là điểm cực tiểu địa phương chặt với giá trị cực tiểu f(1,1)=−1f(1,1) = -1.

Mặt hình yên ngựa đi lên theo một trục và đi xuống theo trục còn lại, có điểm dừng tại gốc tọa độ.
Mặt yên ngựa mẫu z=x2−y2z=x^2-y^2: gốc tọa độ là điểm dừng (fx=fy=0f_x=f_y=0) nhưng không phải cực đại hay cực tiểu — mặt đi lên dọc trục xx và đi xuống dọc trục yy. Tiêu chuẩn Hessian nhận ra hình dạng này qua D=fxxfyy−fxy2=−4<0D=f_{xx}f_{yy}-f_{xy}^2=-4<0.

Cho hàm số f(x,y)=x3y2−4x+5yf(x,y) = x^3 y^2 - 4x + 5y. Vectơ gradient ∇f(1,2)\nabla f(1, 2) bằng bao nhiêu?

Nếu ∇f(x0,y0)=(6,−8)\nabla f(x_0, y_0) = (6, -8), giá trị lớn nhất của đạo hàm theo hướng Duf(x0,y0)D_{\mathbf{u}}f(x_0, y_0) trên mọi vectơ đơn vị u\mathbf{u} là bao nhiêu?

Trong học máy, thuật toán hạ gradient cập nhật tham số θ\theta để cực tiểu hóa hàm mất mát khả vi L(θ)L(\theta). Công thức cập nhật nào dịch chuyển θ\theta theo hướng làm LL giảm nhanh nhất tại lân cận địa phương?

Giả sử (x0,y0)(x_0, y_0) là điểm dừng của hàm trơn f(x,y)f(x,y) có fxx(x0,y0)=−4f_{xx}(x_0,y_0) = -4, fyy(x0,y0)=−3f_{yy}(x_0,y_0) = -3 và fxy(x0,y0)=2f_{xy}(x_0,y_0) = 2. Điểm (x0,y0)(x_0, y_0) thuộc loại nào?

Tài liệu tham khảo

  1. Jerrold E. Marsden, Anthony J. Tromba (2012). Vector Calculus
  2. James Stewart (2015). Calculus: Early Transcendentals
  3. Augustin-Louis Cauchy (1847). Méthode générale pour la résolution des systèmes d'équations simultanées