Bạn sẽ học được gì
- Nhận ra và đưa một bài toán học máy (hồi quy, logistic, SVM, Lasso) về dạng tối ưu lồi chuẩn
- Viết bài toán đối ngẫu Lagrange và kiểm tra điều kiện KKT cho bài toán có ràng buộc
- Cài đặt gradient descent, gradient ngẫu nhiên, momentum và Adam; giải thích ảnh hưởng của bước học và kích thước mini-batch
- Giải thích tốc độ hội tụ của gradient descent và vai trò của số điều kiện, chuẩn hóa dữ liệu
- Dùng phương pháp Newton và L-BFGS khi cần hội tụ nhanh với số biến vừa phải
- Chẩn đoán sự cố khi huấn luyện mạng sâu: mất ổn định, gradient biến mất, kẹt ở vùng phẳng
Nên học trước
Giới thiệu
Tối ưu hóa là động cơ bên trong gần như mọi mô hình học máy: huấn luyện một mô hình là giải bài toán tìm tham số làm hàm mất mát nhỏ nhất. Học máy dùng gradient descent như một công cụ; chủ đề này giải thích khi nào nó hội tụ, nhanh đến đâu, vì sao momentum hay Adam thường chạy tốt hơn, vì sao chuẩn hóa dữ liệu giúp huấn luyện nhanh hẳn, và khi nào bài toán dễ (lồi) hay khó (không lồi). Chủ đề tương ứng với Stanford EE364A Convex Optimization và các học phần Optimization for Machine Learning ở nhiều trường.
Không bắt buộc trước Học sâu hay Học tăng cường
Đây là chủ đề khuyến khích. Các thư viện như PyTorch đã có sẵn bộ tối ưu, nên bạn học được Học sâu và Học tăng cường mà chưa cần qua đây. Hãy học nó khi muốn hiểu và điều khiển quá trình huấn luyện thay vì chỉ dùng tham số mặc định: chọn bước học thế nào, vì sao mất mát dao động hay đứng yên, khi nào nên đổi thuật toán, hay khi đọc bài báo nói về tốc độ hội tụ.
Hai thế giới: lồi và không lồi
- Tối ưu lồi: hàm mục tiêu lồi trên miền lồi, nên mọi cực tiểu địa phương đều là cực tiểu toàn cục. Có lý thuyết đầy đủ (đối ngẫu, điều kiện KKT) và thuật toán đáng tin cho bài toán hàng triệu biến. Hồi quy tuyến tính, hồi quy logistic, SVM và Lasso đều là bài toán lồi, nên kỹ năng quan trọng nhất là nhận ra và đưa bài toán về dạng lồi.
- Tối ưu không lồi: hàm mất mát của mạng nơ-ron sâu có vô số cực tiểu và điểm yên ngựa. Lý thuyết yếu hơn, nhưng gradient ngẫu nhiên vẫn tìm được nghiệm tốt đến bất ngờ — một câu hỏi nghiên cứu còn mở, và là lý do các mẹo khởi tạo, chuẩn hóa, lịch bước học quan trọng đến vậy.
Lộ trình
Tập lồi, hàm lồi và cách nhận ra bài toán lồi → đối ngẫu Lagrange và điều kiện KKT (giải thích “vectơ hỗ trợ” của SVM) → gradient descent, tìm bước và vai trò của số điều kiện → gradient ngẫu nhiên, momentum, Adam cho dữ liệu lớn → phương pháp bậc hai: Newton và L-BFGS → ràng buộc và phương pháp điểm trong → những vấn đề riêng khi huấn luyện mạng sâu.
Công cụ
Python với NumPy để tự cài các thuật toán, CVXPY để mô hình hóa nhanh bài toán lồi, scipy.optimize cho L-BFGS, và PyTorch để thử các bộ tối ưu trên mạng nhỏ. Tự cài gradient descent và Newton một lần trước khi tin vào bộ giải — bạn sẽ đọc được nhật ký huấn luyện tốt hơn nhiều.
Xem thêm
Lộ trình Toán học có chủ đề Tối ưu hóa (cùng môn học): nghiêng về quy hoạch tuyến tính, phương pháp đơn hình và lý thuyết đối ngẫu cho vận trù học. Chủ đề ở đây nghiêng về tối ưu lồi và thuật toán huấn luyện mô hình. Nếu thấy hổng phần gradient hay ma trận Hesse, xem lại chủ đề Mathematics for Machine Learning ở cùng nhóm.
Giáo trình & sách tham khảo
Xem tất cả trong tab SáchGiáo trình chính
Convex Optimization
Stephen Boyd, Lieven Vandenberghe · 2004
Vì sao chọn: Giáo trình tối ưu lồi chuẩn mực, đọc miễn phí trên trang tác giả (bản quyền thuộc Cambridge University Press), đi kèm bài giảng Stanford EE364A. Chọn làm sách chính vì cho khung lý thuyết – mô hình hóa – thuật toán thống nhất cho năm trong bảy bước.
Nên đọc: Chương 2–5 (tập lồi, hàm lồi, bài toán tối ưu lồi, đối ngẫu); Chương 9–11 (cực tiểu hóa không ràng buộc, có ràng buộc đẳng thức, phương pháp điểm trong)
Numerical Optimization
Jorge Nocedal, Stephen J. Wright · 2006 · Bản thứ 2
Tài liệu chuẩn về thuật toán tối ưu liên tục, đi sâu vào cài đặt thực tế: tìm bước, quasi-Newton, L-BFGS. Đọc khi cần hiểu bộ giải hoạt động ra sao; sách trả phí.
Nên đọc: Chương 2 Fundamentals of Unconstrained Optimization; Chương 3 Line Search Methods; Chương 6 Quasi-Newton Methods; Chương 7 Large-Scale Unconstrained Optimization
Deep Learning
Ian Goodfellow, Yoshua Bengio, Aaron Courville · 2016
Sách Deep Learning của Goodfellow, Bengio và Courville, đọc miễn phí trên deeplearningbook.org. Chương 8 là tài liệu tốt nhất về SGD, momentum, Adam và những khó khăn riêng khi huấn luyện mạng sâu.
Nên đọc: Chương 4 Numerical Computation; Chương 8 Optimization for Training Deep Models
Các bước học
Đăng nhập để đánh dấu các bước đã hoàn thành.
Bước 1: Tập lồi, hàm lồi và bài toán tối ưu lồi
khoảng 9 giờHọc tập lồi, các phép toán bảo toàn tính lồi, hàm lồi và điều kiện bậc nhất, bậc hai; bài toán tối ưu lồi và các dạng chuẩn LP, QP, SOCP. Viết hồi quy tuyến tính, hồi quy logistic và Lasso dưới dạng bài toán lồi chuẩn rồi giải bằng CVXPY.
- Đọc: Chương 2 Convex sets; Chương 3 Convex functions; Chương 4 Convex optimization problems — Convex Optimization
Bước 2: Đối ngẫu và điều kiện KKT
khoảng 7 giờHọc hàm Lagrange và hàm đối ngẫu, đối ngẫu yếu và mạnh, điều kiện Slater, độ lệch bù và điều kiện tối ưu KKT. Tự viết bài toán đối ngẫu của SVM lề mềm, giải cả hai bài toán bằng CVXPY và kiểm tra khoảng cách đối ngẫu bằng 0; chỉ ra các vectơ hỗ trợ từ nhân tử Lagrange.
- Đọc: Chương 5 Duality — Convex Optimization
Bước 3: Gradient descent và tốc độ hội tụ
khoảng 8 giờHọc phương pháp hướng giảm, tìm bước backtracking, gradient descent và steepest descent, tốc độ hội tụ với hàm lồi mạnh và vai trò của số điều kiện. Cài gradient descent có backtracking cho hồi quy logistic, đo số vòng lặp khi số điều kiện của dữ liệu tăng, rồi chuẩn hóa dữ liệu và đo lại.
- Đọc: Chương 9 Unconstrained minimization (9.1–9.4) — Convex Optimization
- Đọc: Chương 2 Fundamentals of Unconstrained Optimization; Chương 3 Line Search Methods — Numerical Optimization
Bước 4: Gradient ngẫu nhiên, momentum và Adam
khoảng 8 giờHọc gradient ngẫu nhiên và mini-batch, lịch bước học, momentum, Nesterov, AdaGrad, RMSProp và Adam. Huấn luyện một mạng nhỏ trên MNIST bằng SGD, SGD có momentum và Adam với cùng số epoch, vẽ đường mất mát và so sánh tốc độ cũng như độ chính xác cuối cùng.
- Đọc: Chương 8 Optimization for Training Deep Models — Deep Learning
Bước 5: Phương pháp bậc hai: Newton và L-BFGS
khoảng 7 giờHọc phương pháp Newton và hội tụ bậc hai, phương pháp quasi-Newton BFGS, L-BFGS cho bài toán nhiều biến. Giải hồi quy logistic bằng phương pháp Newton tự cài và bằng L-BFGS của scipy.optimize, so sánh số vòng lặp và thời gian với gradient descent đã cài ở bước trước.
- Đọc: Chương 9 Unconstrained minimization (9.5 Newton's method) — Convex Optimization
- Đọc: Chương 6 Quasi-Newton Methods; Chương 7 Large-Scale Unconstrained Optimization — Numerical Optimization
Bước 6: Ràng buộc và phương pháp điểm trong
khoảng 5 giờHọc cực tiểu hóa có ràng buộc đẳng thức bằng Newton, hàm chắn logarit, quỹ đạo trung tâm và phương pháp điểm trong. Giải bài toán tối ưu danh mục đầu tư Markowitz bằng CVXPY, đọc nhật ký các vòng lặp của bộ giải và đối chiếu với lý thuyết.
- Đọc: Chương 10 Equality constrained minimization; Chương 11 Interior-point methods — Convex Optimization
Bước 7: Tối ưu khi huấn luyện mạng sâu
khoảng 4 giờHọc những khó khăn riêng của bài toán không lồi: điểm yên ngựa, vùng phẳng, gradient biến mất hoặc bùng nổ; khởi tạo tham số, chuẩn hóa theo lô, lịch bước học và cắt gradient. Thử ba lịch bước học (cố định, giảm theo bậc, cosine) cho cùng một mạng, ghi lại đường mất mát và độ chính xác cuối cùng.
- Đọc: Chương 4 Numerical Computation; Chương 8 Optimization for Training Deep Models — Deep Learning
Khái niệm chính
- Tập lồi và hàm lồi
- Tập lồi chứa cả đoạn thẳng nối hai điểm bất kỳ của nó; hàm lồi có đồ thị nằm dưới dây cung. Với hàm lồi, mọi cực tiểu địa phương đều là cực tiểu toàn cục.
- Bài toán tối ưu lồi
- Cực tiểu một hàm lồi trên tập lồi (ràng buộc bất đẳng thức lồi, đẳng thức tuyến tính); giải được tin cậy và hiệu quả, nên nhận ra dạng lồi là kỹ năng quan trọng nhất của môn.
- Đối ngẫu Lagrange
- Mỗi bài toán gốc có một bài toán đối ngẫu cho cận dưới của giá trị tối ưu; với bài toán lồi thỏa điều kiện Slater, hai giá trị bằng nhau (đối ngẫu mạnh).
- Điều kiện KKT
- Điều kiện cần, và đủ với bài toán lồi, cho nghiệm tối ưu có ràng buộc: khả thi, nhân tử không âm, độ lệch bù và gradient của hàm Lagrange bằng 0.
- Số điều kiện
- Tỉ số giữa độ cong lớn nhất và nhỏ nhất của hàm; số điều kiện lớn làm gradient descent đi zích zắc và chậm — lý do của chuẩn hóa dữ liệu và tiền điều kiện.
- Gradient ngẫu nhiên (SGD)
- Thay gradient trên toàn bộ dữ liệu bằng gradient trên một mini-batch nhỏ; mỗi bước rẻ hơn rất nhiều và nhiễu của nó còn giúp thoát vùng phẳng — thuật toán huấn luyện chuẩn của học sâu.
- Momentum và Adam
- Momentum cộng dồn các bước trước để đi nhanh theo hướng ổn định và giảm dao động; Adam còn chỉnh bước học riêng cho từng tham số theo độ lớn gradient gần đây.
- Phương pháp Newton
- Dùng ma trận Hesse để đi thẳng tới cực tiểu của xấp xỉ bậc hai; hội tụ bậc hai gần nghiệm nhưng mỗi bước đắt khi số biến lớn.
- Quasi-Newton và L-BFGS
- Xấp xỉ ma trận Hesse từ hiệu các gradient gần nhất thay vì tính trực tiếp; L-BFGS chỉ lưu vài cặp vectơ nên dùng được cho hàng triệu biến.
- Phương pháp điểm trong
- Thay ràng buộc bất đẳng thức bằng hàm chắn logarit rồi đi theo quỹ đạo trung tâm tới nghiệm; là thuật toán đứng sau các bộ giải lồi hiện đại.
Học xong để làm gì
- Huấn luyện mô hình học máy và mạng nơ-ron bằng SGD, Adam
- Hồi quy thưa (Lasso) và chọn đặc trưng
- Huấn luyện SVM qua bài toán đối ngẫu
- Tối ưu danh mục đầu tư và phân bổ nguồn lực
- Điều khiển dự báo theo mô hình (MPC) trong robot và hệ thống tự động
Câu hỏi thường gặp
Có phải học chủ đề này trước Học sâu hay Học tăng cường không?
Không. Các thư viện như PyTorch đã có sẵn bộ tối ưu, nên bạn học được Học sâu và Học tăng cường mà chưa cần chủ đề này. Học nó khi muốn hiểu và điều chỉnh quá trình huấn luyện thay vì chỉ dùng tham số mặc định.
Khác gì chủ đề Tối ưu hóa ở lộ trình Toán học?
Cùng môn học nền. Lộ trình Toán học nghiêng về quy hoạch tuyến tính, phương pháp đơn hình và lý thuyết; ở đây trọng tâm là tối ưu lồi và các thuật toán huấn luyện mô hình (SGD, Adam, L-BFGS) với ví dụ học máy.
Sách Convex Optimization của Boyd có quá khó không?
Sách dày và viết cho bậc cao học, nhưng các chương lý thuyết và thuật toán đọc được nếu vững đại số tuyến tính và giải tích nhiều biến. Bài giảng EE364A của Stanford đi kèm sách giúp dễ theo hơn nhiều; sách đọc miễn phí trên trang của tác giả.
Có cần lập trình không?
Nên có: mô hình hóa bằng CVXPY, tự cài gradient descent và Newton, rồi thử các bộ tối ưu trên một mạng nhỏ bằng PyTorch giúp hiểu sâu hơn nhiều so với chỉ giải tay ví dụ nhỏ.
Mất bao lâu?
Khoảng 48 giờ, tương đương 8 tuần nếu học 6 giờ mỗi tuần.




