25. Класичний метод оптимізації. Метод множників Лагранжа

Розглянемо метод множників Лагранжа для розв’язування задачі нелінійного програмування, що має вигляд:

(7.4)

, (7.5)

де функції і мають бути диференційовними.

Ідея методу множників Лагранжа полягає в заміні початкової задачі пошуку умовного екстремуму простішою задачею відшукання безумовного екстремального значення нової спеціальним чином побудованої функції, що дозволяє застосовувати методи класичного знаходження екстремуму функції кількох змінних.

Замінимо цільову функцію (7.4) так званою функцією Лагранжа, яка має такий вигляд:

(7.6)

де – деякі невідомі величини, що називаються множниками Лагранжа.

Знайдемо частинні похідні і прирівняємо їх до нуля:

(7.7)

Друга група рівнянь системи (7.7) забезпечує виконання умов (7.5) початкової задачі нелінійного програмування.

Для діагностування стаціонарних точок і визначення типу екст­ремуму необхідно перевірити виконання достатніх умов екстремуму, тобто дослідити в околі стаціонарних точок диференціали другого порядку (якщо для функцій існують другі частинні похідні і вони неперервні). У загальному випадку функції n змінних застосування достатньої умови існування екстремуму приводить до такого правила: за функ­цією Лагранжа виду (7.6) будується матриця Гессе, що має блочну структуру розмірністю :

де О – матриця розмірністю , що складається з нульових елементів, Р – матриця розмірністю , елементи якої визначаються так:

,

– транспонована матриця до Р розмірністю , Q – матриця розмірністю виду:

Розглянемо ознаки виду екстремуму розв’язку системи (7.7). Нехай стаціонарна точка має координати і .

1. Точка є точкою максимуму, якщо, починаючи з голов­ного мінору порядку (m + 1), наступні (n – m) головних мінорів матриці Н утворюють знакозмінний числовий ряд, знак першого члена якого визначається множником .

2. Точка є точкою мінімуму, якщо, починаючи з головного мінору порядку (m + 1), знак наступних (n – m) головних мінорів матриці Н визначається множником .

Метод множників Лагранжа може застосовуватися також у разі наявності обмежень на знаки змінних і обмежень-нерів­ностей.

Розглянемо таку задачу в загальному вигляді:

,

причому всі функції, що входять у задачу, мають бути диференційовними хоча б один раз.

Очевидно, що введення в ліві частини нерівностей системи обмежень задачі додаткових невід’єм­них змінних перетворює початкову задачу в таку, що містить лише обмеження-рівності, тобто яка за формою та методом розв’язування збігатиметься з задачею (7.4), (7.5).

26. Необхідні умови існування сідлової точки

Для розроблення методів розв’язування окремих типів задач нелінійного програмування важливе значення має поняття сідлової точки, а також визначення необхідних і достатніх умов існування сідлових точок функції Лагранжа у (n+m)-вимірному просторі змінних за довільних умов, які можуть накладатися на їх знаки.

Розглянемо нелінійну задачу:

,

.

Причому на компоненти векторів накладено обмеження на знаки. Позначимо множину точок, що задовольняють такі обмеження, через .

Функція Лагранжа для цієї задачі має вигляд:

= . (7.8)

Точка називається сідловою точкою функції Лагранжа (7.12), якщо для всіх виконується співвідношення:

. (7.9)

Виявляється, що для диференційовних функцій та необхідними умовами існування сідлової точки є:

для тих індексів j, де . (7.10)

для тих індексів j, де . (7.11)

, – довільного знака. (7.12)

для тих індексів і, де , (7.13)

для тих індексів і, де , (7.14)

для тих індексів і, де має довільний знак. (7.15)

Узагальнення всіх випадків приводить до рівнянь:

. (7.16)

. (7.17)