42. Условная оптимизация. Метод множителей Лагранжа.

Условная оптимизация. Метод множителей Лагранжа

Пусть задана функция нескольких переменных .

Требуется найти экстремумы при заданных ограничениях:

Необходимые условия существования локального экстремума

Функция Лагранжа:

Если точка является локальным экстремумом и в окрестности этой точки функции и непрерывно дифференцируемы, то в этой точке выполняются условия:

I. Достаточные условия существования локального экстремума (из лекций)

Если и дважды дифференцируемы в точке и в этой точке выполняются условия

где

При всех ненулевых , удовлетворяющих условиям

То строгий локальный минимум (максимум) при заданных ограничениях.

II. Достаточные условия существования локального экстремума (из интернета⁴)

Окаймленный Гессиан:

– главный минор матрицы , образованный строками и столбцами .

, при

Теорема 1 (достаточное условие минимума). Пусть в точке ранг матрицы максимален и эта точка удовлетворяет необходимым условиям наличия экстремума. Тогда достаточным условием локального минимума в задаче () является выполнение неравенств:

(означает, что все миноры имеют знак .

Теорема 2 (достаточное условие максимума). Пусть в точке ранг матрицы максимален и эта точка удовлетворяет необходимым условиям наличия экстремума. Тогда достаточным условием локального максимума в задаче () является выполнение неравенств:

(означает, что в последовательности миноров есть знакочередование, начиная со знака .

Пример

Мат. модель: , , , ,.

Задача

Минимизировать функцию .

Решение

Перепишем условия в виде :

Составим функцию Лагранжа:

Составим систему:

Найдём .

Составим окаймленный Гессиан:

. Рассматриваем только . Минимум по достаточному условию.

Wolfram Alpha:

Выпуклое программирование – раздел нелинейного программирования, совокупность методов решения нелинейных экстремальных задач с выпуклыми целевыми функциями и выпуклыми системами ограничений.

Пусть функция является выпуклой на некотором промежутке и числа таковы, что

Тогда каковы бы ни были числа из промежутка , выполняется неравенство:

Т. е.

Если функция вогнута (выпукла вверх), то знак в неравенстве меняется на противоположный.

Многие задачи оптимизации можно привести к этой стандартной форме. Например, задача максимизации вогнутой функции может быть переформулирована эквивалентно как задача минимизации выпуклой функции , так что о задаче максимизации вогнутой функции на выпуклом множестве часто говорят как о задаче выпуклого программирования.

Свойства выпуклой функции:

• Дважды дифференцируемая функция выпукла тогда и только тогда, когда её график лежит не ниже касательной, проведенной в любой точке интервала выпуклости;

• Дважды дифференцируемая функция выпукла, если её вторая производная не отрицательна;

• Если и выпуклы, то их линейная комбинация тоже выпуклая функция;

• Локальный минимум выпуклой функции является глобальным минимумом;

• Любая стационарная точка выпуклой функции является глобальным экстремумом.

Условия Каруша-Куна-Таккера (ККТ)⁵

Метод является обобщением метода множителей Лагранжа. В отличие от него, ограничения, накладываемые на переменные, представляют собой не уравнения, а неравенства.

Пусть задана непрерывно дифференцируемая выпуклая функция переменных .

Требуется найти экстремумы при заданных ограничениях в виде выпуклых функций :

Функция Лагранжа:

Необходимые и достаточные условия существования минимума

Точка при наложенных ограничениях – решение задачи.

Пример

Задача

Найти минимизировать .

Ограничения:

[ограничения задачи]

[ограничения задачи]

[стандартные ограничения]

Решение

Перепишем условия так, чтобы справа был нуль:

Составим функцию Лагранжа:

Выписываем условия Каруша-Куна-Таккера:

Рассмотрим 4 случая ( случаев для рассмотрения):

. Решая систему, получаем .

. Корней нет.

. Корней нет.

. Корней нет.

В результате получена единственная точка :

Точка удовлетворяет необходимым и достаточным условиям, значит — минимум для заданных условий.

Wolfram Alpha: