- •Основные понятия.
- •1. Безусловная оптимизация (многомерные функции)
- •1.1 Методы первого порядка (градиентные методы)
- •1.1.1. Градиентный метод с постоянным шагом
- •1.1.2. Выпуклые функции и множества
- •Теорема
- •Определение.
- •Без доказательства
- •2.Теорема:
- •1.2. Градиентные методы (продолжение)
- •1.2.1. Градиентный метод с дроблением шага.
- •1.2.2. Метод наискорейшего спуска.
- •Без доказательства
- •1.2.3. Масштабирование
- •1.3. Метод Ньютона.
- •1.4. Многошаговые ( двухшаговые ) методы.
- •1.3.1. Метод тяжелого шарика
- •1.3.2. Метод сопряженных градиентов
- •1.3.3. Модификация Полака-Ривьера
- •1.5. Квазиньютоновские методы
- •1.6. Методы нулевого порядка (методы прямого поиска)
- •1.6.1. Методы аппроксимации
- •Метод покоординатного спуска
- •1.6.3. Метод симплексов (Нелдера-Мида)
- •1.6.4. Метод Пауэлла (сопряженных направлений)
- •1.7. Методы прямого поиска в задачах одномерной минимизации.
- •1.7.1. Метод квадратичной интерполяции.
- •1.7.2. Метод дихотомии ( половинного деления.).
- •1.7.3. Метод «золотого» сечения.
- •1.7.4. Метод Фибоначчи.
- •2. Условная минимизация.
- •2.1 Задача нелинейного программирования.
- •2.1.1. Ограничения типа равенства.
- •2.1.2. Ограничения типа неравенств.
- •2.2. Задача выпуклого программирования
- •2.3. Методы условной минимизации.
- •2.3.1. Метод проекции градиента.
- •2.3.2. Метод условного градиента.
- •2.3.3. Метод модифицированной функции Лагранжа.
- •2.3.4. Метод штрафных функций.
- •2.4. Двойственность звп
- •2.4.1. Двойственность злп
- •3. Линейное программирование
- •3.1. Основные понятия
- •3.2. Геометрическая интерпретация злп.
- •3.3. Условие оптимальности для злп.
- •3.4. Базис и базисное решение.
- •3.5. Симплекс - метод решения злп.
- •3.6 Транспортная задача
- •3.5.1. Построение первоначального опорного плана.
- •3.5.2. Построение оптимального плана. Метод потенциалов.
- •4. Решение переборных задач.
- •4.1. Метод ветвей и границ.
- •4.1.1. Задача о коммивояжере.
- •4.2. Динамическое программирование.
- •4.2.1. Абстрактная схема.
- •4.2.2. Вывод уравнения Беллмана.
- •4.2.3. Методика применения функции Беллмана для решения исходной задачи.
- •4.2.4. Примеры задач динамического программирования
- •5. Вариационное исчисление (ви)
- •5.1. Уравнение Эйлера-Лагранжа.
- •5.1.1. Частные случаи уравнения Эйлера-Лагранжа.
- •5.1.2. Задача о брахистохроне.
- •5.2. Вариационные задачи на условный экстремум.
- •5.2.1. Модельные задачи на условный экстремум.
- •6. Принцип максимума Понтрягина ( на примере задачи оптимального управления ).
- •6.1. Принцип максимума в задаче о быстродействии.
- •Список литературы
3.3. Условие оптимальности для злп.
Лемма:
Пусть точка - оптимальная точка ЗЛП. Пусть существуют точки,..., X , такие что =, где>0 и=1, тогда
(c, ) = (c,) = ... = (c,).
Доказательство : ( идея )
Предположим, что (c, ) (c, ) ... (c, ). (*)
Тогда (c, ) = (c,) = (по св-ву скал. произв.) = (c, ) (c, ) = (c,) ; учитывая (*), получаем (c,) = (c,) .
Далее по индукции.
Теорема ( об угловой точке ) :
Если для ЗЛП существует оптимальная точка , то найдется угловая точкаX такая , что (c,) = (c,).
Доказательство :
1.Пусть допустимое множество X ограничено. По теореме о представлении:
=; 0 , =1,- угловые (крайние ) точки множества X.
В случае необходимости перенумеруем так, чтобы0,...,0,= 0,...,= 0 ; тогда=,>0 ,=1. На основании предыдущей леммы можно утверждать, что (c,) = (c,) = ... = (c,).
Теперь в качестве можно взять любую угловую точку,..., X .
2.Пусть X не ограничено, а - оптимальная точка.
Выберем некоторое число > 0 и построим два множества:
L = {x : },= {x :=}.
Иллюстрация для :
Число выбираем так , чтобы L , но .
Тогда XL , которое является ограниченным (см. рисунок). Поэтому :
=,>0 ,=1,- угловые (крайние ) точки множества XL (по теореме о представлении).
Если хотя бы одна точка l, то теорема доказана , т.к.- угловая точка множества X (см. рисунок).
Если все , i =,то из представления=,>0 ,=1,
i =следует что , что противоречит выбору числа.
Т.к. выпукло:
=+-=+-=,
если , (проверка определения выпуклого множества).
3.4. Базис и базисное решение.
Пусть X = { x :, i =, 0 }
(c, x) = - ?
Введем векторы :
, которые называются векторами условий .
Тогда ЗЛП имеет вид :
, 0 , j =
(c, x) - ?
Определение: Допустимое решение называется базисным, если система векторов условий , отвечающих его положительным компонентам (>0) линейно независима. При этом упомянутая система векторов называется базисом.
* речь идет о векторах
Теорема (о допустимом решении ЗЛП) :
Допустимое решение является крайней точкой (планом) тогда и только тогда, когда оно базисное.
Доказательство :
Достаточность () Пусть x - базисное решение. Без ограничения общности можно предположить , что первые k компонент x (решения) отличны от нуля, остальные - нули . Т.е. x = . По определению базисного решения :и система векторов, ...,линейно независима. Покажем, что x является крайней точкой. Допустим противное, то есть что точкаx может быть представлена в виде:
x = + (1 -), 0 <<1,, X - различные точки
В силу того, что >0, 1->0идолжны иметь вид :
=
=
Т.к. и- допустимые точки, то
, следовательно 0
Из линейной независимости векторов , ...,следует , что=, а это противоречит тому, что, поэтому x – крайняя точка.
Необходимость(). Пусть x = является крайней точкой X.
Покажем, что x является базисным решением. Для этого достаточно показать, что система векторов , ...,линейно независима . Предположим противное.
Тогда (не все нулевые) такие, что 0
Т.к. x - допустимое решение, то
Рассмотрим при произвольном >0 следующее выражения :
,
Ясно, что можно подобрать так , чтобы точки
=
=
имели положительные компоненты, т.е. были бы допустимыми решениями. Тогда получаем: x = , т.е. x не является крайней точкой. Тогда предположение неверно, система, ...,линейно независима . Теорема доказана.
Следствие 1: Т.к. векторы, ...,имеют размерность m , то крайняя точка, принадлежащая X, имеет не более чем m положительных компонент.
Следствие 2: Каждой угловой точке соответствует не более m ( k m ) линейно независимых векторов системы , ...,.
Следствие 3: Число крайних точек множества X конечно.
Как было показано, если оптимальная точка существует, то она совпадает с крайней . Поэтому для решения ЗЛП необходимо исследовать только крайние точки допустимого множества X.
Замечание :
Можно показать, что каждой крайней точке соответствует не более n активных ограничений.
Количество ограничений в ЗЛП n+m.
Количество крайних точек не больше , то есть – конечно.