Các thuật toán và phương pháp tối ưu hóa không điều kiện. Phương pháp tối ưu hóa không điều kiện và có điều kiện

14.03.2022

Tối ưu hóa là quá trình tìm kiếm cực trị (cực đại hoặc cực tiểu toàn cục) của một hàm nhất định hoặc chọn phương án tốt nhất (tối ưu) từ nhiều phương án có thể có. Cách đáng tin cậy nhất để tìm ra phương án tốt nhất là đánh giá so sánh tất cả các phương án có thể có (phương án thay thế). Nếu số lượng phương án thay thế lớn, các phương pháp lập trình toán học thường được sử dụng để tìm phương án tốt nhất. Các phương pháp này có thể được áp dụng nếu có một tuyên bố chặt chẽ của vấn đề: một tập hợp các biến được thiết lập, vùng có thể thay đổi của chúng (các giới hạn được thiết lập) và loại hàm mục tiêu (hàm có cực trị cần tìm thấy) của các biến này được xác định. Sau đó là thước đo định lượng (tiêu chí) để đánh giá mức độ đạt được mục tiêu.

Vấn đề của tối ưu hóa không bị giới hạn là tìm giá trị tối thiểu hoặc tối đa của một hàm trong trường hợp không có bất kỳ hạn chế nào. Mặc dù thực tế là hầu hết các bài toán tối ưu hóa thực tế đều có những hạn chế, việc nghiên cứu các phương pháp tối ưu hóa không bị hạn chế là rất quan trọng theo một số quan điểm. Nhiều thuật toán để giải quyết một vấn đề bị ràng buộc liên quan đến việc giảm nó thành một chuỗi các vấn đề tối ưu hóa không bị giới hạn. Một lớp phương pháp khác dựa trên việc tìm một hướng phù hợp và tối thiểu hóa tiếp theo theo hướng này. Việc biện minh các phương pháp tối ưu hóa không bị giới hạn một cách tự nhiên có thể được mở rộng sang việc biện minh cho các thủ tục giải quyết các vấn đề có ràng buộc.

Vấn đề của tối ưu hóa có điều kiện là tìm giá trị nhỏ nhất hoặc lớn nhất của hàm vô hướng f (x) của các đối số vectơ n-chiều. Lời giải của bài toán dựa trên phép gần đúng tuyến tính hoặc bậc hai của hàm mục tiêu để xác định các gia số x1, ..., xn ở mỗi lần lặp. Ngoài ra còn có các phương pháp gần đúng để giải các bài toán phi tuyến. Đây là các phương pháp dựa trên phương pháp xấp xỉ tuyến tính từng mảnh. Độ chính xác của việc tìm lời giải phụ thuộc vào số khoảng thời gian mà chúng ta tìm ra lời giải cho một bài toán tuyến tính càng gần càng tốt với một bài toán phi tuyến tính. Phương pháp này giúp bạn có thể thực hiện các phép tính bằng phương pháp simplex. Thông thường, trong mô hình tuyến tính, các hệ số của hàm mục tiêu là không đổi và không phụ thuộc vào giá trị của các biến. Tuy nhiên, có một số vấn đề trong đó chi phí phụ thuộc vào khối lượng một cách không tuyến tính.

Giải thuật giải thuật:

1. Công việc bắt đầu bằng việc xây dựng một đơn giản thông thường trong không gian của các biến độc lập và ước tính các giá trị của hàm mục tiêu tại mỗi đỉnh của đơn giản.
2. Đỉnh được xác định - giá trị lớn nhất của hàm số.
3. Hình chiếu của đỉnh qua trọng tâm của các đỉnh còn lại đến một điểm mới, được dùng làm đỉnh của hình đơn giản mới.
4. Nếu chức năng giảm đủ trơn tru, các lần lặp tiếp tục cho đến khi điểm cực tiểu được che đi hoặc chuyển động tuần hoàn trên 2 hoặc nhiều lần bắt đầu.
5. Tìm kiếm kết thúc khi kích thước của đơn giản hoặc sự khác biệt giữa các giá trị của hàm tại các đỉnh vẫn còn đủ nhỏ.

Nhiệm vụ: tối ưu hóa dung lượng. Đạt được chi phí tối thiểu để sản xuất thùng chứa 2750 lít để chứa cát.

Z = C1X1 + C2X2 + C3X3 + C4X4 + C5X5 phút;

trong đó: X1 - lượng kim loại cần thiết, kg;

C1 - chi phí kim loại, chà / kg;

X2 - khối lượng của các điện cực cần thiết, kg;

C2 - giá thành của điện cực, chà / kg;

X3 - lượng điện năng tiêu thụ, kWh;

C3 - chi phí điện năng, chà / kWh;

X4 - thời gian làm việc của thợ hàn, h;

C4 - thuế suất của thợ hàn, chà / h;

X5 - thời gian hoạt động của thang máy, h;

C5 - thanh toán cho thang máy, chà / h.

1. Tìm diện tích bề mặt tối ưu của thùng chứa:

F = 2ab + 2bh + 2ah min (1)

trong đó V = 2750 lít.

x1 = 16,331; x2 = 10,99

Mức tối thiểu của hàm thu được trong quá trình tối ưu hóa bằng phương pháp Hộp - 1196.065 dm2

Theo GOST 19903 - 74, chúng tôi sẽ chấp nhận:

h = 16,50 dm, b = 10,00 dm.

Hãy biểu diễn a từ (1) và nhận được:

Tính độ dày tối ưu của tấm kim loại

Hãy chọn thép cacbon thông thường St2sp

Đối với thép này 320 MPa ,;

Khối lượng của cát.

Chất lên thành bể có diện tích lớn nhất:

Chúng tôi tính toán tải trọng trên 1 cm tuyến tính của tờ giấy rộng 100 cm:

Chúng tôi xác định độ dày của tường dựa trên điều kiện:

trong đó: l là chiều dài của tấm (tốt nhất là lớn nhất để tạo ra một khoảng an toàn bổ sung);

q - tải trọng trên 1 cm tuyến tính, kg / cm;

Độ dày của tấm kim loại, m

Ứng suất lớn nhất cho phép của kim loại, N / mm2.

Chúng tôi thể hiện từ (2) độ dày của thành:

Coi rằng 320 MPa = 3263 kg / cm2,

Khối lượng kim loại

trong đó: F - diện tích mặt bể, m2;

Chiều dày thành kim loại, m;

Tỷ trọng kim loại, kg / m3.

Giá thép St2sp là khoảng 38 rúp / kg.

2. Chiều dài mối hàn:

Hãy sử dụng điện cực cho thép không gỉ "UONI-13/45"

Giá 88,66 rúp / kg;

trong đó: Sweld - diện tích mặt cắt ngang của mối hàn, m2;

l là chiều dài của mối hàn, m;

Khối lượng riêng của kim loại lắng, kg / m3.

3. Thời gian hàn:

trong đó l là chiều dài của mối hàn, m;

v - tốc độ hàn, m / h.

Tổng điện năng tiêu thụ:

Рsum = 5 17 = 85 kWh;

Chi phí điện là 5,7 rúp / kWh.

4. Đối với hàn hồ quang tay, chi phí phụ trợ, chuẩn bị và thời gian cuối cùng để phục vụ nơi làm việc trung bình từ 40 - 60%. Hãy sử dụng giá trị trung bình là 50%.

Tổng thời gian:

Thanh toán cho một thợ hàn loại VI - 270 rúp / giờ.

Cộng với hệ số thuế quan 17% cho công việc trong không gian kín gió kém thông thoáng:

Lương của thợ phụ sẽ bằng 60% lương của thợ hàn:

8055 0,6 = 4833 rúp.

Tổng: 8055 + 4833 = 12888 rúp.

5. Cần có một cần trục để giữ các tấm kim loại trong quá trình hàn, bốc và dỡ các tấm kim loại và chính thùng chứa thành phẩm.

Để "ngoạm" toàn bộ kết cấu, người thợ hàn cần đắp khoảng 30% các đường nối.

Thanh toán cho cần cẩu - 1000 rúp / giờ.

Tổng chi phí của container.

5. Tối ưu hóa đa chiều

Lập trình tuyến tính

Tối ưu hóa là một hoạt động có mục đích, bao gồm việc thu được kết quả tốt nhất trong các điều kiện thích hợp.

Định lượng chất lượng đang được tối ưu hóa được gọi là tiêu chí tối ưu hoặc hàm mục tiêu . Nó có thể được viết là:

(5.1)

trong đó x 1, x 2,…, x nlà một số tham số của đối tượng tối ưu hóa.

Có hai loại bài toán tối ưu hóa - không điều kiện và có điều kiện.

Nhiệm vụ vô điều kiện tối ưu hóa bao gồm việc tìm kiếm giá trị lớn nhất hoặc tối thiểu của hàm thực (5.1) củancác biến thực tế và xác định các giá trị đối số thích hợp.

Các vấn đề tối ưu hóa có điều kiện , hoặc các vấn đề với các hạn chế, là các vấn đề trong việc xây dựng các hạn chế được áp đặt lên các giá trị của các đối số ở dạng bằng nhau hoặc bất bình đẳng.

Giải pháp của các bài toán tối ưu hóa trong đó tiêu chí tối ưu là một hàm tuyến tính của các biến độc lập (nghĩa là nó chứa các biến này ở mức độ đầu tiên) với các ràng buộc tuyến tính đối với chúng là chủ đề. lập trình tuyến tính.

Từ “lập trình” ở đây phản ánh mục tiêu cuối cùng của nghiên cứu - xác định phương án tối ưu hoặc chương trình tối ưu, theo đó phương án tốt nhất, tối ưu nhất được chọn trong số nhiều phương án có thể cho quá trình đang nghiên cứu.

Một ví dụ một nhiệm vụ như vậy là vấn đề phân phối nguyên liệu tối ưu giữa các ngành khác nhau với chi phí sản xuất tối đa.

Cho hai loại sản phẩm được làm từ hai loại nguyên liệu.

Kí hiệu: x 1, x 2 - số lượng đơn vị sản phẩm của loại thứ nhất và loại thứ hai tương ứng; c 1, c 2 lần lượt là đơn giá của sản phẩm loại thứ nhất và loại thứ hai. Khi đó tổng chi phí của tất cả các sản phẩm sẽ là:

(5.2)

Theo kết quả của sản xuất, người ta mong muốn tổng chi phí sản xuất là tối đa.R (x 1, x 2 ) là hàm mục tiêu trong bài toán này.

b 1, b 2 - lượng nguyên liệu thô của loại thứ nhất và loại thứ hai có sẵn;aij- số đơn vị tôi loại nguyên liệu thô cần thiết để sản xuất một đơn vịjloại sản phẩm.

Xét rằng việc tiêu thụ tài nguyên này không thể vượt quá tổng số lượng của nó, chúng tôi viết ra các điều kiện hạn chế đối với tài nguyên:

(5.3)

Các biến liên quan x 1, x 2 chúng ta cũng có thể nói rằng chúng không âm và vô hạn.:

(5.4)

Trong số các tập nghiệm của hệ bất phương trình (5.3) và (5.4), phải tìm được tập nghiệm đó ( x 1, x 2 ), mà hàmRđạt giá trị cao nhất của nó.

Cái gọi là nhiệm vụ vận tải (nhiệm vụ tổ chức tối ưu việc vận chuyển hàng hóa, nguyên liệu thô hoặc sản phẩm từ các kho hàng khác nhau đến một số địa điểm với chi phí vận chuyển tối thiểu) và một số nhiệm vụ khác được xây dựng theo hình thức tương tự.

Phương pháp đồ thị để giải một bài toán lập trình tuyến tính.

Hãy để nó được yêu cầu để tìm x 1 và x 2 , làm hài lòng hệ bất phương trình:

(5.5)

và điều kiện không tiêu cực:

(5.6)

vì chức năng nào

(5. 7 )

đạt mức tối đa.

Giải pháp.

Hãy xây dựng trong hệ tọa độ hình chữ nhật x 1 Ox 2 khu vực của các giải pháp khả thi cho vấn đề (Hình 11). Để làm điều này, thay thế mỗi bất đẳng thức (5.5) bằng một đẳng thức, chúng tôi xây dựng liên quan, thích hợp anh ta một đường ranh giới:

(tôi = 1, 2, … , r)

Cơm. mười một

Đường thẳng này chia toàn bộ mặt phẳng thành hai nửa mặt phẳng. Đối với tọa độ x 1, x 2 Bất cứ điểm nào NHƯNG một nửa mặt phẳng, bất đẳng thức sau là:

và cho tọa độ của bất kỳ điểm nào TRONG nửa mặt phẳng còn lại, bất đẳng thức ngược lại:

Tọa độ của một điểm bất kỳ trên đường giới hạn thỏa mãn phương trình:

Để xác định nửa mặt phẳng tương ứng với bất đẳng thức đã cho nằm ở phía nào của đường giới hạn, chỉ cần "kiểm tra" một điểm là đủ (điểm đơn giản nhất XUNG QUANH(0; 0)). Nếu thay toạ độ của nó vào vế trái của bất đẳng thức mà nó thoả mãn thì nửa mặt phẳng đó quay về phía điểm nghiệm, nếu không thoả mãn bất đẳng thức thì nửa mặt phẳng tương ứng quay theo hướng ngược lại. Hướng của nửa mặt phẳng được thể hiện trong hình vẽ bằng nét gạch nối. Bất bình đẳng:

tương ứng với nửa mặt phẳng nằm bên phải trục tọa độ và phía trên trục abscissa.

Trong hình, chúng ta xây dựng các đường biên và nửa mặt phẳng tương ứng với tất cả các bất đẳng thức.

Phần chung (giao tuyến) của tất cả các nửa mặt phẳng này sẽ là khu vực của các giải pháp khả thi cho vấn đề này.

Khi xây dựng miền các giải pháp khả thi, tùy thuộc vào loại hệ thống ràng buộc (bất đẳng thức) cụ thể trên các biến, một trong bốn trường hợp sau có thể xảy ra:

Cơm. 12. Vùng nghiệm trống tương ứng với hệ bất phương trình; không có giải pháp

Cơm. 13. Diện tích của \ u200b \ u200 nghiệm cho phép được biểu thị bằng một điểm A, tương ứng với nghiệm duy nhất của hệ thống

Cơm. 14. Diện tích các giải pháp khả thi bị hạn chế, được mô tả như một đa giác lồi. Có vô số giải pháp khả thi

Cơm. 15. Diện tích các nghiệm thu được là không giới hạn, dưới dạng một diện tích đa giác lồi. Có vô số giải pháp khả thi

Biểu diễn bằng đồ thị của hàm mục tiêu

ở một giá trị cố địnhRxác định một đường thẳng và khi thay đổiR- họ các đường thẳng song song với tham sốR. Đối với tất cả các điểm nằm trên một trong các đường thẳng, hàm R nhận một giá trị xác định, vì vậy những dòng này được gọi là đường mức đối với hàm R.

Vectơ gradient:

vuông gócđến các đường mức, hiển thị hướng tăngR.

Bài toán tìm một giải pháp tối ưu cho hệ bất phương trình (5.5) mà hàm mục tiêuR(5.7) đạt mức tối đa, giảm về mặt hình học để xác định trong vùng của các giải pháp khả thi, điểm mà đường mức sẽ đi qua, tương ứng với giá trị lớn nhất của tham sốR

Cơm. 16

Nếu miền các nghiệm khả thi là một đa giác lồi thì cực trị của hàm sốR đạt đến ít nhất một trong các đỉnh của đa giác này.

Nếu giá trị cực trịRđạt được tại hai đỉnh thì điểm cực trị đó đạt được tại bất kỳ điểm nào trên đoạn nối hai đỉnh này. Trong trường hợp này, nhiệm vụ được cho là có thay thế tối ưu .

Trong trường hợp vùng không bị giới hạn, điểm cực trị của hàmRhoặc không tồn tại, hoặc đạt tới một trong các đỉnh của vùng, hoặc có một điểm tối ưu thay thế.

Ví dụ.

Hãy để nó được yêu cầu để tìm các giá trị x 1 và x 2 , thỏa mãn hệ bất phương trình:

và điều kiện không tiêu cực:

vì chức năng nào:

đạt mức tối đa.

Giải pháp.

Hãy để chúng tôi thay thế mỗi bất đẳng thức bằng một đẳng thức và xây dựng các đường ranh giới:

Cơm. 17

Chúng ta hãy xác định các nửa mặt phẳng tương ứng với các bất đẳng thức này bằng cách "kiểm tra" điểm (0; 0). Tính không tiêu cực x 1 và x 2 chúng ta thu được diện tích các giải pháp khả thi của vấn đề này dưới dạng một đa giác lồi OAVDE.

Trong lĩnh vực của các giải pháp khả thi, chúng tôi tìm ra giải pháp tối ưu bằng cách xây dựng vector gradient

trưng bàyhướng đi lênR.

Giải pháp tối ưu tương ứng với điểm TRONG, tọa độ của chúng có thể được xác định bằng đồ thị hoặc bằng cách giải hệ hai phương trình tương ứng với các đường giới hạn AB và VD:

Trả lời: x 1 = 2; x 2 \ u003d 6; Rmax = 22.

Nhiệm vụ. Tìm vị trí của điểm cực trị và giá trị cực trị của hàm mục tiêu

dưới những hạn chế nhất định.

Bảng 9
số tùy chọn	Extremum	Những hạn chế
	M cây rìu	; ; ; ;
	Max	; ; ; ;
		; ;
		; ; ; ;
		; ; ; ;
		; ;

Nhiệm vụ 1.Để tìm

Bài toán 1 rút gọn thành giải hệ phương trình:

và kiểm tra giá trị của vi phân thứ hai:

tại các điểm nghiệm của phương trình (8.3).

Nếu dạng bậc hai (8.4) là âm xác định tại một điểm, thì nó đạt giá trị lớn nhất tại đó, và nếu nó là xác định dương thì giá trị nhỏ nhất của nó.

Ví dụ:

Hệ phương trình có nghiệm là:

Điểm (-1 / 3.0) là điểm tối đa và điểm (1 / 3.2) là điểm cực tiểu.

Nhiệm vụ 2.Để tìm

trong những điều kiện:

Bài toán 2 được giải bằng phương pháp nhân tử Lagrange. Để làm được điều này, chúng tôi tìm ra giải pháp cho hệ thống (t + p) phương trình:

Ví dụ. Tìm các cạnh của hình chữ nhật có diện tích lớn nhất nội tiếp trong một hình tròn:. Diện tích A của một hình chữ nhật có thể được viết là: A = 4xy sau đó

Nhiệm vụ 3.Để tìm:

trong những điều kiện:

Nhiệm vụ này bao gồm một loạt các nhiệm vụ được xác định bởi các chức năng f Và  .

Nếu chúng là tuyến tính, thì vấn đề là một bài toán lập trình tuyến tính.

Một nhiệm vụ3 Nhưng.

trong những điều kiện

Nó được giải bằng phương pháp simplex, sử dụng bộ máy của đại số tuyến tính, thực hiện một phép liệt kê có mục đích các đỉnh của đa diện được xác định bởi (8.13).

Phương pháp Simplex (bao gồm hai giai đoạn):

Giai đoạn 1. Tìm nghiệm quy chiếu x (0).

Nghiệm hỗ trợ là một trong những điểm của khối đa diện (8.13).

Giai đoạn 2. Tìm giải pháp tối ưu.

Giải pháp tối ưu được tìm thấy bằng cách liệt kê liên tiếp các đỉnh của đa diện (8.13), trong đó giá trị của hàm mục tiêu z không giảm ở mỗi bước, đó là:

Một trường hợp đặc biệt của bài toán lập trình tuyến tính là cái gọi là bài toán vận chuyển.

nhiệm vụ vận chuyển. Cho các điểm chứa các kho trong đó hàng hóa được lưu trữ với số lượng tương ứng. Trong các điểm là người tiêu dùng cần giao những hàng hóa này với số lượng tương ứng. Chứng tỏ C ij chi phí vận chuyển một đơn vị hàng hóa giữa các điểm

Chúng tôi điều tra hoạt động vận chuyển hàng hóa của người tiêu dùng với số lượng đủ để thỏa mãn nhu cầu của người tiêu dùng. Biểu thị bằng số lượng hàng hóa vận chuyển từ điểm Nhưng tôiđến đoạn văn b j .

Để thỏa mãn nhu cầu của người tiêu dùng, điều cần thiết là các giá trị X ij đáp ứng các điều kiện:

Đồng thời từ kho a; bạn không thể lấy sản phẩm ra với số lượng lớn hơn số lượng có sẵn. Điều này có nghĩa là các giá trị cần tìm phải thỏa mãn hệ bất đẳng thức:

Thỏa mãn các điều kiện (8.14), (8.15), nghĩa là lập một kế hoạch vận chuyển đáp ứng nhu cầu của người tiêu dùng, theo một số cách vô hạn. Để nhà nghiên cứu hoạt động chọn một giải pháp nhất định, nghĩa là chỉ định một số X ij, một số quy tắc lựa chọn phải được xây dựng, xác định bởi một tiêu chí phản ánh ý tưởng chủ quan của chúng ta về mục tiêu.

Vấn đề của tiêu chí được giải quyết một cách độc lập với việc nghiên cứu hoạt động - tiêu chí phải do phía vận hành đặt ra. Trong vấn đề này, một trong những tiêu chí khả dĩ sẽ là chi phí vận chuyển. Nó được định nghĩa như sau:

Sau đó, bài toán vận chuyển được xây dựng như một bài toán lập trình tuyến tính: xác định các đại lượng thỏa mãn các ràng buộc (8.14), (8.15) và cho giá trị nhỏ nhất của hàm (8.16). Ràng buộc (8.15) là một điều kiện cân bằng; Điều kiện (8.14) có thể được gọi là mục tiêu của hoạt động, bởi vì ý nghĩa của hoạt động là nhằm thoả mãn nhu cầu của người tiêu dùng.

Về bản chất, hai điều kiện này cấu thành nên mô hình hoạt động. Việc thực hiện hoạt động sẽ phụ thuộc vào các tiêu chí đảm bảo việc đạt được mục đích của hoạt động. Tiêu chí có thể xuất hiện ở nhiều vai trò khác nhau. Nó có thể hoạt động như một cách chính thức hóa mục tiêu và như một nguyên tắc để lựa chọn các hành động trong số những hành động được phép, tức là những hành động thỏa mãn các hạn chế.

Một trong những phương pháp nổi tiếng để giải bài toán vận tải là phương pháp thế năng.

Ở giai đoạn đầu tiên của việc giải quyết vấn đề, một kế hoạch vận chuyển ban đầu được đưa ra để đáp ứng

hạn chế (8.14), (8.15). Nếu (nghĩa là, tổng yêu cầu không trùng với tổng lượng sản phẩm dự trữ trong kho), thì điểm tiêu thụ giả định hoặc kho hàng giả tưởng có chi phí vận chuyển bằng 0 sẽ được xem xét. Đối với nhiệm vụ mới, tổng số lượng hàng hóa trong kho trùng với tổng nhu cầu của chúng. Sau đó, bằng một số phương pháp (ví dụ, phần tử nhỏ nhất hoặc góc tây bắc), phương án ban đầu được tìm thấy. Ở bước tiếp theo của quy trình của kế hoạch thu được, một hệ thống các đặc điểm đặc biệt - tiềm năng được xây dựng. Điều kiện cần và đủ để có một phương án tối ưu là tính tiềm năng của nó. Thủ tục tinh chỉnh kế hoạch được thực hiện cho đến khi nó trở nên tiềm năng (tối ưu).

Nhiệm vụ 3b. Trong trường hợp tổng quát, bài toán (8.10 - 8.11) được gọi là bài toán lập trình phi tuyến tính. Hãy xem xét nó ở một hình thức được chấp nhận hơn:

trong những điều kiện

Để giải quyết vấn đề này, cái gọi là phương pháp thư giãn được sử dụng. Quá trình xây dựng một chuỗi các điểm được gọi là quá trình giãn nếu:

Các phương pháp đi xuống (lược đồ chung). Tất cả các phương pháp đi xuống để giải bài toán tối ưu hóa không giới hạn (8.17) đều khác nhau ở sự lựa chọn hướng đi xuống hoặc cách di chuyển dọc theo hướng đi xuống. Các phương pháp giảm dần bao gồm quy trình xây dựng trình tự sau { x k }.

Một điểm tùy ý được chọn làm giá trị gần đúng ban đầu x 0 . Các phép gần đúng kế tiếp được xây dựng theo sơ đồ sau:

Điểm x k hướng đi xuống được chọn - S k ;

Tìm (k + 1) -th xấp xỉ bằng công thức:

Trong đó như một giá trị, hãy chọn bất kỳ số nào thỏa mãn bất đẳng thức

số ở đâu là bất kỳ số nào như vậy

Trong hầu hết các phương pháp giảm dần, giá trị của  để được chọn bằng một. Do đó, để xác định  k, người ta phải giải bài toán về cực tiểu một chiều.

Phương pháp giảm dần độ dốc. Vì antigradient chỉ ra hướng giảm nhanh nhất trong chức năng f(x), thì điều tự nhiên là di chuyển từ điểm X k theo hướng này. Một phương pháp giảm độ cao, trong đó nó được gọi là phương pháp giảm độ dốc. Nếu, thì quá trình thư giãn được gọi là phương pháp xuống dốc nhất.

Phương pháp liên hợp hướng. Trong đại số tuyến tính, phương pháp này được gọi là phương pháp gradient liên hợp để giải hệ phương trình đại số tuyến tính AH =b, và do đó, như một phương pháp tối thiểu hóa hàm bậc hai

Lược đồ phương pháp:

Nếu = 0, thì lược đồ này chuyển thành lược đồ của phương pháp dốc nhất. Lựa chọn số lượng phù hợp t k đảm bảo sự hội tụ của phương pháp hướng liên hợp với tốc độ có cùng thứ tự như trong các phương pháp giảm độ dốc và đảm bảo rằng số lần lặp lại trong phương pháp hướng xuống bậc hai là hữu hạn (ví dụ,).

Tọa độ gốc. Tại mỗi lần lặp lại như hướng đi xuống - S k hướng dọc theo một trong các trục tọa độ được chọn. Phương pháp có tốc độ hội tụ của quá trình cực tiểu bậc 0 (1 / m). Hơn nữa, về cơ bản nó phụ thuộc vào chiều của không gian.

Lược đồ phương pháp:

vectơ tọa độ ở đâu

Nếu tại điểm x k có thông tin về hoạt động của gradient chức năng f(x), Ví dụ:

sau đó là hướng đi xuống S k bạn có thể lấy véc tơ tọa độ e j . Trong trường hợp này, tốc độ hội tụ của phương pháp nhỏ hơn n lần so với phương pháp giảm dần độ dốc.

Ở giai đoạn đầu của quá trình giảm thiểu, có thể sử dụng phương pháp đi xuống theo tọa độ tuần hoàn, khi bước xuống lần đầu tiên được thực hiện theo hướng e 1 , sau đó trên e 2, v.v. lên đến e P , sau đó toàn bộ chu kỳ được lặp lại một lần nữa. Hấp dẫn hơn phần trước là phần gốc tọa độ, trong đó các hướng đi xuống được chọn ngẫu nhiên. Với cách tiếp cận lựa chọn hướng này, có những ước tính tiên nghiệm đảm bảo cho chức năng f(x) từ với xác suất có xu hướng thống nhất như, sự hội tụ của quá trình với tốc độ theo bậc là 0 (1 / m).

Lược đồ phương pháp:

Ở mỗi bước của quy trình, một số được chọn ngẫu nhiên từ n số (1, 2, ..., n) j(k) và như S k, vectơ tọa độ đơn vị được chọn e j ( k ) , sau đó quá trình xuống dốc được thực hiện:

Phương pháp gốc ngẫu nhiên.S k, tuân theo sự phân bố đồng đều trên hình cầu này, và sau đó theo phần tử được tính ở bước thứ k của quy trình X đến xác định:

Tỷ lệ hội tụ của phương pháp giảm gốc ngẫu nhiên thấp hơn n lần so với phương pháp giảm độ dốc, nhưng cao hơn n lần so với tỷ lệ hội tụ của phương pháp giảm gốc tọa độ ngẫu nhiên. Các phương pháp suy giảm được xem xét cũng có thể áp dụng cho các hàm không nhất thiết lồi và đảm bảo sự hội tụ của chúng dưới những hạn chế rất nhỏ đối với chúng (chẳng hạn như không có cực tiểu cục bộ).

Các phương pháp thư giãn của lập trình toán học. Hãy quay lại Vấn đề 36 ((8.17) - (8.18)):

trong những điều kiện

Trong các bài toán tối ưu hóa với các ràng buộc, việc lựa chọn hướng đi xuống có liên quan đến nhu cầu liên tục kiểm tra xem giá trị mới X k +1 nên giống như trước đây x k đáp ứng một hệ thống hạn chế X.

Phương pháp gradient có điều kiện. Trong phương pháp này, ý tưởng chọn hướng đi xuống như sau: tại điểm X đến tuyến tính hóa chức năng f(x), xây dựng một hàm tuyến tính và sau đó tối thiểu hóa f(x) trên bộ X, tìm một điểm y k . Sau đó, nó được giả định và xa hơn nữa dọc theo hướng này, một quá trình giảm dần được thực hiện, do đó

Do đó, để tìm hướng - s k, người ta phải giải bài toán tối thiểu hóa một hàm tuyến tính trên tập X. Nếu X lần lượt được đưa ra bởi các ràng buộc tuyến tính, sau đó nó trở thành một bài toán lập trình tuyến tính.

Phương pháp các hướng có thể.Ý tưởng phương pháp: trong số tất cả các hướng có thể có tại một điểm X đến chọn một cái cùng với chức năng f(x) giảm nhanh nhất, và sau đó giảm dần theo hướng này.

Phương hướng - S tại điểm X X được gọi là có thể nếu tồn tại một số như vậy cho tất cả. Để tìm ra hướng khả thi, cần phải giải bài toán lập trình tuyến tính, hay bài toán lập trình bậc hai đơn giản nhất:

Trong những điều kiện:

Hãy để là giải pháp cho vấn đề này. Điều kiện (8.25) đảm bảo rằng hướng đi là khả thi. Điều kiện (8.26) đảm bảo giá trị lớn nhất (nghĩa là trong số tất cả các hướng có thể có - S, hướng - cung cấp hàm giảm nhanh nhất f(x). Điều kiện (8.27) loại bỏ tính vô hạn của giải pháp của vấn đề. Phương pháp chỉ đường khả thi có khả năng chống lại các lỗi tính toán có thể xảy ra. Tuy nhiên, rất khó để ước tính tốc độ hội tụ của nó trong trường hợp chung, và vấn đề này vẫn chưa được giải quyết.

phương pháp tìm kiếm ngẫu nhiên. Việc thực hiện các phương pháp tối thiểu hóa trên nói chung là rất tốn công sức, trừ những trường hợp đơn giản nhất, khi tập các ràng buộc có cấu trúc hình học đơn giản (ví dụ, nó là một song song nhiều chiều). Trong trường hợp chung, phương pháp tìm kiếm ngẫu nhiên có thể rất hứa hẹn, khi hướng đi xuống được chọn một cách ngẫu nhiên. Trong trường hợp này, chúng ta sẽ tổn thất đáng kể về tốc độ hội tụ, tuy nhiên, sự đơn giản của việc lựa chọn hướng đi có thể bù đắp cho những tổn thất này về tổng chi phí lao động để giải quyết vấn đề giảm thiểu.

Lược đồ phương pháp:

Trên hình cầu đơn vị n chiều có tâm tại điểm gốc, một điểm ngẫu nhiên được chọn r k, tuân theo sự phân bố đồng đều trên hình cầu này, và khi đó hướng đi xuống là S k từ các điều kiện

được chọn làm giá trị gần đúng ban đầu. Theo điểm được tính ở mỗi lần lặp x k đang được xây dựng ( k+ 1) điểm thứ x k +1 :

Bất kỳ số nào từ = thỏa mãn bất đẳng thức được chọn là:

Sự hội tụ của phương pháp này được chứng minh dưới những hạn chế rất lỏng lẻo về chức năng f (phình to) và nhiều hạn chế X (lồi và đóng).

Trong số các phương pháp tối ưu hóa bậc 0 trong CAD, các phương pháp Rosenbrock, cấu hình, khối đa diện có thể biến dạng và các phương pháp tìm kiếm ngẫu nhiên được sử dụng. Các phương pháp sử dụng các dẫn xuất bao gồm các phương pháp giảm độ dốc lớn nhất, gradient liên hợp, các số liệu thay đổi.

Phương pháp của Rosenbrock là một phiên bản cải tiến của tọa độ gốc.

Phương pháp gốc tọa độđược đặc trưng bởi sự lựa chọn các hướng tìm kiếm lần lượt dọc theo tất cả các trục tọa độ, bước được tính toán trên cơ sở tối ưu hóa một chiều, tiêu chí kết thúc tìm kiếm, trong đó độ chính xác cụ thể của việc xác định điểm cực đại cục bộ, là kích thước của không gian các thông số được kiểm soát. Quỹ đạo đi xuống theo tọa độ cho một ví dụ về không gian hai chiều của các tham số được kiểm soát được thể hiện trong hình. 1, đâu là các điểm trên quỹ đạo tìm kiếm, là các tham số được kiểm soát. Hàm mục tiêu được biểu diễn bằng các dòng có mức độ bằng nhau, gần mỗi dòng có ghi giá trị tương ứng với nó. Rõ ràng, có một điểm tối thiểu.

Cơm. 1. Tọa độ quỹ đạo đi xuống

Khi sử dụng phương pháp gốc tọa độ, khả năng cao là cuộc tìm kiếm sẽ "mắc kẹt" ở đáy khe núi xa điểm cực viễn. Trên hình. 2 cho thấy rằng sau khi chạm vào điểm nằm ở dưới cùng của khe núi, các bước tiếp theo chỉ có thể được thực hiện theo các hướng hoặc, nhưng chúng dẫn đến suy giảm chức năng mục tiêu. Do đó, cuộc tìm kiếm kết thúc tại điểm.

Lưu ý 1

Khe núi là một phần của không gian có các tham số được kiểm soát trong đó có những thay đổi yếu trong các đạo hàm của hàm mục tiêu theo một hướng và những thay đổi đáng kể với sự thay đổi dấu theo một số hướng khác. Dấu của đạo hàm thay đổi tại các điểm thuộc đáy khe núi.

Cơm. 3. Quỹ đạo của gốc tọa độ với hướng thuận lợi của các trục tọa độ

Phương pháp Rosenbrock bao gồm chuyển động quay của các trục tọa độ sao cho một trong số chúng quay ra bán song song với đáy của khe núi. Việc quay vòng như vậy được thực hiện trên cơ sở dữ liệu thu được sau một loạt các bước giảm tọa độ. Vị trí của các trục mới có thể nhận được bằng một phép biến đổi tuyến tính của các trục cũ: trục trùng với hướng của vectơ; các trục còn lại được chọn theo điều kiện trực giao với nhau.

Một sửa đổi thành công khác của gốc tọa độ là phương pháp cấu hình(Hook-Jeeves). Theo phương pháp này, đầu tiên thực hiện một loạt các bước giảm tọa độ thông thường, sau đó một bước bổ sung được thực hiện theo hướng của vectơ, như thể hiện trong Hình. 4, trong đó một bước bổ sung được thực hiện theo hướng của vectơ, dẫn đến điểm.

Cơm. 4. Hình minh họa phương pháp cấu hình

Tìm một điểm cực trị phương pháp đa diện biến dạng(Nelder-Mead) dựa trên việc xây dựng một hình đa diện với các đỉnh ở mỗi bước tìm kiếm, trong đó kích thước của không gian của các tham số được kiểm soát. Khi bắt đầu tìm kiếm, các đỉnh này được chọn tùy ý; ở các bước tiếp theo, việc lựa chọn tuân theo các quy tắc của phương pháp.

Các quy tắc này được minh họa trong Hình. 5 về ví dụ của bài toán tối ưu hóa hai chiều. Các đỉnh của tam giác ban đầu được chọn:,,. Đỉnh mới nằm trên tia vẽ từ đỉnh xấu nhất (tính từ đỉnh có giá trị cao nhất của hàm mục tiêu) qua trọng tâm của khối đa diện và nên chọn cách đỉnh bằng. Đỉnh mới thay thế đỉnh kém nhất. Nếu nó có giá trị tốt nhất của hàm mục tiêu trong số các đỉnh của hình đa diện, thì khoảng cách được tăng lên. Trong hình, đây chính xác là tình huống và mức tăng mang lại một điểm. Trong một hình đa diện mới có các đỉnh, đỉnh xấu nhất là; tương tự như vậy, người ta nhận được đỉnh, sau đó là đỉnh, v.v. Nếu đỉnh mới xấu hơn, thì đỉnh tốt nhất nên được giữ lại trong khối đa diện và độ dài của tất cả các cạnh phải giảm đi một nửa, chẳng hạn (thu gọn khối đa diện thành đỉnh tốt nhất). Việc tìm kiếm dừng lại khi thỏa mãn điều kiện giảm kích thước của khối đa diện đến một giới hạn nhất định.

bước được chọn là tối ưu bằng cách sử dụng tối ưu hóa một chiều.

Khi sử dụng phương pháp xuống dốc nhất, giống như hầu hết các phương pháp khác, hiệu quả tìm kiếm bị giảm đáng kể trong các tình huống có khe núi. Quỹ đạo tìm kiếm có dạng ngoằn ngoèo, tiến độ chậm dọc theo đáy khe núi về phía cực điểm. Để tăng hiệu quả của phương pháp gradient, một số thủ thuật được sử dụng.

Một trong những phương pháp được sử dụng trong phương pháp gradient liên hợp(còn được gọi là phương pháp Fletcher-Reeves) dựa trên khái niệm liên hợp của vectơ. Vectơ và được gọi là-liên hợp nếu ma trận vuông xác định dương có cùng bậc với kích thước của vectơ và (trường hợp đặc biệt của liên hợp là tính trực giao của vectơ khi là ma trận đồng dạng có bậc), là một vectơ hàng , là một vectơ cột.

Tính đặc biệt của các hướng liên hợp, ở đâu là ma trận Hessian, trong các bài toán với hàm mục tiêu bậc hai là như sau: cực tiểu một chiều liên tiếp dọc theo các hướng liên hợp làm cho nó có thể tìm thấy điểm cực trị không quá bước.

Lưu ý 2

Ma trận Hessian là ma trận của các đạo hàm riêng thứ hai của hàm mục tiêu đối với các tham số được kiểm soát.

Lý do sử dụng tìm kiếm theo hướng -adjoint là đối với các hàm () ở dạng tổng quát, một phép gần đúng bậc hai có thể được áp dụng, trong thực tế, kết quả tìm kiếm được thực hiện trong nhiều bước.

Việc tìm kiếm điểm cực trị được thực hiện theo công thức

đâu là một hệ số. Ngoài ra, điều kiện liên hợp được tính đến

Vì bước được tính toán dựa trên điều kiện tối ưu hóa một chiều, nên trước tiên, mối quan hệ

Thuật toán tìm kiếm được rút gọn thành áp dụng công thức (3) cho đến khi đáp ứng điều kiện kết thúc phép tính

Để xác định hệ số, giải hệ phương trình (2) - (7) bằng cách thay vào (4) các giá trị từ (3) và từ (2):

hoặc

ở đâu

và tính đến (6) và (7)

Biểu thức (10) là một hệ phương trình đại số tuyến tính. Gốc của nó là một giải pháp gần đúng khác

Nếu quá trình hội tụ, thì giải pháp đạt được trong một số ít lần lặp lại, phần cuối của quá trình đó là sự thỏa mãn điều kiện
ở đâu

Đó là lý do tại sao

Nó có thể được chỉ ra rằng có xu hướng, - như, ở đâu là thứ nguyên của không gian của các tham số được kiểm soát. Sau các bước, bạn cần bắt đầu lại với.

Nhiệm vụ 1. Để tìm

trong đó x = (x 1.. x n) e E p

Bài toán này được rút gọn thành giải hệ phương trình

và nghiên cứu giá trị của vi phân thứ hai

tại điểm (a- |, (* 2, a n) nghiệm của phương trình (7.3).

Nếu dạng bậc hai (7.4) là âm xác định tại một điểm, thì nó đạt giá trị lớn nhất tại đó, và nếu nó là xác định dương thì giá trị nhỏ nhất của nó.

Ví dụ:

Hệ phương trình có nghiệm là:

Điểm (-1; 3.0) là điểm cao và điểm (1; 3.2) là điểm thấp.

Một nhiệm vụ 2. Tìm

trong những điều kiện:

Bài toán 2 này được giải bằng phương pháp nhân Lagrange, phương pháp này tìm được nghiệm của hệ (t + p) phương trình:

Ví dụ 2 Tìm các cạnh của hình chữ nhật có diện tích lớn nhất nội tiếp trong một hình tròn Diện tích L của hình chữ nhật

có thể được viết như: NHƯNG= 4xy, sau đó

ở đâu

Một nhiệm vụ 3. Tìm theo điều kiện:

Vấn đề này bao gồm một loạt các công thức được xác định bởi các chức năng f và cf. Nếu chúng là tuyến tính, thì vấn đề là một bài toán lập trình tuyến tính.

Nhiệm vụ cho.

trong những điều kiện

Nó được giải bằng phương pháp simplex, sử dụng bộ máy của đại số tuyến tính, thực hiện một phép liệt kê có mục đích các đỉnh của đa diện được xác định bởi (7.13).

Phương pháp Simplex bao gồm hai giai đoạn.

Giai đoạn 1. Tìm nghiệm quy chiếu x ^ 0). Nghiệm hỗ trợ là một trong những điểm của khối đa diện (7.13).

Giai đoạn 2. Tìm giải pháp tối ưu. Nó được tìm thấy bằng cách liệt kê tuần tự các đỉnh của đa diện (7.13), trong đó giá trị của hàm mục tiêu z không giảm ở mỗi bước, đó là:

Một trường hợp đặc biệt của bài toán lập trình tuyến tính là cái gọi là bài toán vận chuyển.

nhiệm vụ vận chuyển. Cho tại các điểm a-1, a 2, .... a l có các kho chứa hàng hóa với số lượng lần lượt là x 1, x 2, ..., x l. Tại các điểm b- |, b 2, ..., b m có người tiêu dùng cần cung cấp những hàng hóa này với số lượng y- y 2, y t tương ứng. Chứng tỏ Cjj chi phí vận chuyển một đơn vị hàng hóa giữa các điểm a- | và bởi.

Chúng tôi điều tra hoạt động vận chuyển hàng hóa của người tiêu dùng với số lượng đủ để đáp ứng nhu cầu của khách hàng. Biểu thị bởi Hu lượng hàng hóa được vận chuyển từ điểm a đến điểm b.

Để thoả mãn nhu cầu của người tiêu dùng, các giá trị x, y thoả mãn điều kiện:

Đồng thời, không thể lấy sản phẩm từ kho a với số lượng lớn hơn số lượng có sẵn tại kho. Điều này có nghĩa là các giá trị cần tìm phải thỏa mãn hệ bất đẳng thức:

Thỏa mãn các điều kiện (7.14), (7.15), tức là có vô số cách để tạo ra một kế hoạch vận chuyển đáp ứng nhu cầu của người tiêu dùng. Để người nghiên cứu hoạt động chọn một giải pháp tối ưu nhất định, tức là bổ nhiệm nhất định Xjj, một số quy tắc lựa chọn phải được xây dựng, xác định bởi một tiêu chí phản ánh ý tưởng chủ quan của chúng ta về mục tiêu.

Vấn đề của tiêu chí được giải quyết một cách độc lập với việc nghiên cứu hoạt động - tiêu chí phải do phía vận hành đặt ra. Trong vấn đề đang xem xét, một trong những tiêu chí khả dĩ sẽ là chi phí vận chuyển. Cô ấy là

Sau đó, bài toán vận chuyển được xây dựng như một bài toán lập trình tuyến tính: xác định các giá trị x, y> 0 thỏa mãn các ràng buộc (7.14), (7.15) và cung cấp giá trị nhỏ nhất cho hàm (7.16). Ràng buộc (7.15) là một điều kiện cân bằng; điều kiện (7.14) có thể được gọi là mục tiêu của hoạt động, bởi vì ý nghĩa của hoạt động là đảm bảo nhu cầu của người tiêu dùng.

Về bản chất, dấu hiệu của hai điều kiện cấu thành nên mô hình hoạt động. Việc thực hiện hoạt động sẽ phụ thuộc vào các tiêu chí đảm bảo việc đạt được mục đích của hoạt động. Tiêu chí có thể xuất hiện ở nhiều vai trò khác nhau. Nó có thể hoạt động như một cách để chính thức hóa mục tiêu và như một nguyên tắc để lựa chọn các hành động trong số các hành động được phép, tức là thỏa mãn các hạn chế.

Một trong những phương pháp nổi tiếng để giải bài toán vận tải là phương pháp tiềm năng, sơ đồ như sau.

Ở giai đoạn đầu tiên của việc giải quyết vấn đề, một kế hoạch vận chuyển ban đầu được soạn thảo thỏa mãn các ràng buộc (7.14), (7.15). Nếu

(nghĩa là tổng yêu cầu không trùng với tổng lượng sản phẩm dự trữ trong kho), thì điểm tiêu thụ hư cấu sẽ được xem xét hoặc kho hư cấu

với chi phí vận chuyển bằng không. Đối với nhiệm vụ mới, tổng số lượng hàng hóa trong kho trùng với tổng nhu cầu của chúng. Sau đó, bằng một số phương pháp (ví dụ, phần tử nhỏ nhất hoặc góc tây bắc), phương án ban đầu được tìm thấy. Ở bước tiếp theo của quy trình của kế hoạch thu được, một hệ thống các đặc điểm đặc biệt - tiềm năng được xây dựng. Điều kiện cần và đủ để có một phương án tối ưu là tính tiềm năng của nó. Quy trình tinh chỉnh kế hoạch được lặp lại cho đến khi kế hoạch trở nên tiềm năng (tối ưu).

Một nhiệm vụ 36. Trong trường hợp tổng quát, bài toán (7.10-7.11) được gọi là bài toán lập trình phi tuyến tính. Hãy xem xét nó dưới dạng

trong những điều kiện

Để giải quyết vấn đề này, cái gọi là phương pháp thư giãn được sử dụng. Quá trình xây dựng một chuỗi các điểm được gọi là quá trình giãn nếu:

Các phương pháp đi xuống (lược đồ chung). Tất cả các phương pháp đi xuống để giải bài toán tối ưu hóa không giới hạn (7.17) đều khác nhau ở sự lựa chọn hướng đi xuống hoặc cách di chuyển dọc theo hướng đi xuống. Các phương pháp giảm dần bao gồm quy trình xây dựng trình tự sau (x đến).

Một điểm tùy ý Xq được chọn làm giá trị gần đúng ban đầu. Các phép gần đúng kế tiếp được xây dựng theo sơ đồ sau:

điểm x k hướng đi xuống được chọn - S k;
tìm thấy (đến+ 1) xấp xỉ thứ của công thức

ở đâu như một số lượng $ đến chọn bất kỳ số nào thỏa mãn bất đẳng thức

số ở đâu X đến - bất kỳ số nào sao cho 0 X k min f (x k - $ Sk).

Trong hầu hết các phương pháp rút gọn, số lượng X kđược chọn bằng một. Do đó, để xác định (3 ^, người ta phải giải bài toán về cực tiểu một chiều.

Phương pháp giảm dần độ dốc. Bởi vì chống gradient là G (x k) cho biết hướng giảm nhanh nhất của hàm f (x), thì điều tự nhiên là di chuyển từ điểm x đến bởi hướng này. Phương pháp gốc trong đó S k \ u003d f "(x k)được gọi là phương pháp gradient descent. Nếu X k= 1, thì quá trình thư giãn được gọi là phương pháp xuống dốc nhất.

Phương pháp liên hợp hướng. TRONG trong đại số tuyến tính, phương pháp này được gọi là phương pháp gradient liên hợp để giải hệ phương trình đại số tuyến tính Ồ= b, và do đó, như một phương pháp tối thiểu hóa hàm bậc hai f (x) =((Dx - b)) 2.

Lược đồ phương pháp:

Nếu f k = 0, thì lược đồ này chuyển thành lược đồ của phương pháp dốc nhất. Lựa chọn số lượng phù hợp t kđảm bảo sự hội tụ của phương pháp hướng liên hợp với tốc độ có cùng thứ tự như trong phương pháp giảm độ dốc và đảm bảo rằng số lần lặp lại trong phương pháp hướng xuống bậc hai là hữu hạn (ví dụ:

Tọa độ gốc. Tại mỗi lần lặp lại như hướng đi xuống S k hướng dọc theo một trong các trục tọa độ được chọn. Phương pháp này có tỷ lệ hội tụ của quá trình tối thiểu hóa bậc 0 (1 // 77), và về cơ bản nó phụ thuộc vào kích thước của không gian.

Lược đồ phương pháp:

ở đâu tọa độ Vectơ,

Nếu tại điểm x k có thông tin về hoạt động của gradient chức năng f (x), Ví dụ,

sau đó là hướng đi xuống S k chúng ta có thể lấy véc tơ tọa độ ey. Trong trường hợp này, tỷ lệ hội tụ của phương pháp trong Pít hơn lần so với giảm độ dốc.

Ở giai đoạn đầu của quá trình tối thiểu hóa, phương pháp đi xuống theo tọa độ tuần hoàn có thể được sử dụng, khi bước xuống đầu tiên được thực hiện dọc theo hướng e- |, sau đó dọc theo β2, v.v. lên đến e p, sau đó toàn bộ chu kỳ được lặp lại. Có nhiều hứa hẹn hơn so với mô tả là hướng đi xuống tọa độ, trong đó hướng đi xuống được chọn ngẫu nhiên. Với cách tiếp cận lựa chọn hướng này, có những ước tính tiên nghiệm đảm bảo cho chức năng f (x) với xác suất có xu hướng thống nhất khi quá trình hội tụ với tốc độ theo bậc 0 (1 1t).

Lược đồ phương pháp:

Ở mỗi bước của quy trình từ P số (1, 2, ..., P) một số được chọn ngẫu nhiên j (k) và như s k một vectơ tọa độ đơn vị được chọn wsh, sau đó quá trình xuống dốc được thực hiện:

Phương pháp gốc ngẫu nhiên. Trên hình cầu đơn vị n chiều có tâm tại điểm gốc, một điểm ngẫu nhiên được chọn S k, chịu sự phân bố đồng đều trên hình cầu này, và sau đó theo phần tử được tính ở bước thứ i của quy trình x k xác định x k +]:

Tỷ lệ hội tụ của phương pháp gốc ngẫu nhiên trong Pít hơn lần so với phương pháp giảm độ dốc, nhưng trong P lớn hơn lần so với phương pháp giảm tọa độ ngẫu nhiên. Các phương pháp suy giảm được xem xét cũng có thể áp dụng cho các hàm không nhất thiết lồi và đảm bảo sự hội tụ của chúng dưới những hạn chế rất nhỏ đối với chúng (chẳng hạn như không có cực tiểu cục bộ).

Các phương pháp thư giãn của lập trình toán học. Hãy quay lại vấn đề 36 ((7.17) - (7.18)):

trong những điều kiện

Trong các bài toán tối ưu hóa với các ràng buộc, việc lựa chọn hướng đi xuống có liên quan đến nhu cầu liên tục kiểm tra xem giá trị mới x đến + " nên giống như trước đây x k, thỏa mãn hệ thức ràng buộc X.

Phương pháp gradient có điều kiện. TRONG Trong phương pháp này, ý tưởng chọn hướng đi xuống như sau: tại điểm x k tuyến tính hóa chức năng

f (x), xây dựng một hàm tuyến tính f (x) = f (x k) + (y "(x k), x-x k), và sau đó giảm thiểu f (x) trên bộ X, tìm một điểm tại k. Sau đó, nó được giả định là S k \ u003d y k - x k và xa hơn nữa dọc theo hướng này, thực hiện việc đi xuống Xk + 1\ u003d x k - $ k (x k -y k), sao cho g X.

Do đó, để tìm ra hướng đi S k người ta nên giải bài toán tối thiểu hóa một hàm tuyến tính trên tập X. Nếu lần lượt, X được cho bởi các ràng buộc tuyến tính, thì nó trở thành một bài toán lập trình tuyến tính.

Phương pháp các hướng có thể.Ý tưởng của phương pháp: trong số tất cả các hướng có thể có tại điểm xk, hãy chọn một hướng mà hàm f (x) giảm nhanh nhất, và sau đó giảm dần theo hướng này.

Phương hướng S tại điểm X e Xđược gọi là có thể nếu tồn tại một số (3> 0) sao cho X- (3 giây đ X cho tất cả (3 g. Để tìm một hướng khả thi, cần phải giải một bài toán lập trình tuyến tính hoặc bài toán lập trình bậc hai đơn giản nhất: a? => tối thiểu trong những điều kiện

Để cho được d đến Và s k- giải pháp cho vấn đề này. Điều kiện (7.25) đảm bảo rằng hướng s k có thể được. Điều kiện (7.26) đảm bảo giá trị lớn nhất của (/ "( x k), s), những, cái đó. trong số tất cả các hướng có thể S, phương hướng s kđảm bảo chức năng phân rã nhanh nhất f (x).Điều kiện (7.27) loại bỏ tính vô hạn của giải pháp của vấn đề. Phương pháp chỉ đường khả thi có khả năng chống lại các lỗi tính toán có thể xảy ra. Tuy nhiên, rất khó để ước tính tốc độ hội tụ của nó trong trường hợp chung, và vấn đề này vẫn chưa được giải quyết.

phương pháp tìm kiếm ngẫu nhiên. Việc thực hiện các phương pháp tối thiểu hóa nêu trên thường rất tốn công sức, trừ những trường hợp đơn giản nhất, khi tập các ràng buộc có cấu trúc hình học đơn giản (ví dụ, nó là một song song nhiều chiều). Trong trường hợp chung, phương pháp tìm kiếm ngẫu nhiên có thể rất hứa hẹn, khi hướng đi xuống được chọn một cách ngẫu nhiên. Trong trường hợp này, sẽ có một tổn thất đáng kể về tốc độ hội tụ, tuy nhiên, sự đơn giản của việc lựa chọn hướng đi có thể bù đắp cho những tổn thất này về tổng chi phí lao động để giải quyết vấn đề giảm thiểu.

Lược đồ phương pháp:

trên hình cầu đơn vị n chiều có tâm tại điểm gốc, một điểm ngẫu nhiên được chọn gu tuân theo sự phân bố đồng đều trên hình cầu này, và sau đó là hướng đi xuống - s ^ từ các điều kiện

Theo ước tính ban đầu, chúng tôi chọn xs e X. Theo điểm được tính ở mỗi lần lặp X? đang xây dựng (k + 1) điểm thứ x ^ + y: