MathLabs
Định lýĐã chứng minh

Điều kiện Karush–Kuhn–Tucker

Phát biểu

Xét bài toán min⁡f(x)\min f(x) với ràng buộc gi(x)≤0 (i=1,…,m)g_i(x) \le 0\ (i=1,\dots,m) và hj(x)=0 (j=1,…,p)h_j(x)=0\ (j=1,\dots,p), trong đó f,gi,hjf, g_i, h_j khả vi. Nếu x∗x^* là cực tiểu địa phương thỏa mãn một điều kiện chính quy ràng buộc, thì tồn tại các nhân tử μi≥0\mu_i \ge 0, λj\lambda_j sao cho: (tính dừng) ∇f(x∗)+∑iμi∇gi(x∗)+∑jλj∇hj(x∗)=0\nabla f(x^*) + \sum_i \mu_i \nabla g_i(x^*) + \sum_j \lambda_j \nabla h_j(x^*) = 0; (khả thi gốc) gi(x∗)≤0, hj(x∗)=0g_i(x^*)\le 0,\ h_j(x^*)=0; (khả thi đối ngẫu) μi≥0\mu_i \ge 0; (độ lệch bù) μigi(x∗)=0\mu_i g_i(x^*) = 0 với mọi ii. Với bài toán lồi, các điều kiện này còn là điều kiện đủ cho cực tiểu toàn cục.

Vì sao đúng?

Tại điểm tối ưu có ràng buộc, ta không thể cải thiện hàm mục tiêu bằng bất kỳ dịch chuyển khả thi nhỏ nào. Tính dừng nói rằng gradient của ff bị triệt tiêu chính xác bởi tổ hợp không âm của gradient các ràng buộc đang chặt — điểm đó bị 'ghim' vào biên miền khả thi bởi các lực (nhân tử) chỉ đẩy vào trong. Độ lệch bù nói rằng một ràng buộc chỉ sinh lực (μi>0\mu_i>0) khi nó thực sự chặt (gi(x∗)=0g_i(x^*)=0); ràng buộc còn dư không đóng góp gì.

Phác thảo chứng minh

Với một điều kiện chính quy ràng buộc (ví dụ độc lập tuyến tính của gradient các ràng buộc chặt, hoặc điều kiện Slater cho bài toán lồi), tập hướng khả thi tại x∗x^* trùng với nón tuyến tính hóa của các ràng buộc đang chặt. Vì x∗x^* là cực tiểu địa phương, ∇f(x∗)\nabla f(x^*) không thể có tích vô hướng âm với bất kỳ hướng khả thi nào, nên −∇f(x∗)-\nabla f(x^*) nằm trong nón sinh bởi gradient các ràng buộc chặt — đây chính là bổ đề Farkas áp dụng cho hệ tuyến tính hóa, cho ra các nhân tử μi,λj\mu_i, \lambda_j.

Chủ đề chứa định lý này

Định lý liên quan

Chứng minh từng bước

Chưa có chứng minh từng bước cho định lý này.

Tài liệu tham khảo

  1. Stephen Boyd, Lieven Vandenberghe (2004). Convex Optimization
  2. Mokhtar S. Bazaraa, Hanif D. Sherali, C. M. Shetty (2006). Nonlinear Programming: Theory and Algorithms