Lý thuyết phương pháp tối ưu
Chương 1: Cơ sở toán học. 1.1. Khai triển Taylor1.2. Đường mức, mặt mức. 1.3. Bài toán tìm cực trị
Tìm kiếm theo tia
2.1. Phương pháp Nhát cắt vàng, Phương pháp Fibonacci. 2.2. Các phương pháp nội suy
Chương 3. Các phương pháp sử dụng Gradient3.1. Phương pháp giảm nhanh nhất.3.2. Các phương pháp Gradient cải tiến3.3. Phương pháp Newton
Hàm nhiều biến
Trong giáo trình này ta luôn kí hiệu f là hàm n biến, tức là f : R n → R,x = (x1, x2, . . . , xn) ∈ R
n7→ f(x) = f(x1, x2, . . . , xn) ∈ R.Khi f là hàm 2 hoặc 3 biến ta viết đớn giản là f(x, y) hay f(x, y, z).
Chẳng hạnf(x, y) = 2x3+y2 − 7xey. f(x, y, z) = x2+(y + z) + 5y3+xz.
Đạo hàm riêng – Gradient
Hàm n biến f(x) = f(x1, x2, . . . , xn) có n đạo hàm riêng theo mỗi biến. Để tính đạo hàm riêng của f theo một biến nào đó ta chỉ cần xem các biến còn lại là hằng số. Ví dụ, hàm hai biến f(x, y) =2x+3y2 − 7xey có hai đạo hàm riêng theo x và theo y:Gradient của f tại một điểm chính là vec-tơ gồm các đạo hàm riêng: ∇f(x, y) = (6x Tương tự, với hàm ba biến g(x, y, z) = x
Đạo hàm riêng cấp 2 – Hessian
Hàm n biến f(x) = f(x1, x2, . . . , xn) lại có n 2 đạo hàm riêng cấp 2, lập thành một ma trận vuông cấp n, gọi là Hessian của f. Chẳng hạn, hàm 2 biến f(x, y) có Hessian là ma trận vuông cấp 2
Khai triển Taylor
khai triển Taylor cấp 1 và cấp 2 của f tại (1, 0) lần lượt là:f(x, y) ‘ f(1, 0) + h∇f(1, 0),(x, y) − (1, 0)i‘ −7 + h(−7, −7),(x − 1, y)i = −7x − 7y.f(x, y) ‘ −7x − 7y +Ví dụ 1.3 (g(x, y, z) = x2+ (y + z) + 5y