Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Методы оптимизации. Учебно-методический комплекс.pdf
X
- •СИЛЛАБУС
- •1. Информация о дисциплине
- •2. Краткое описание дисциплины.
- •3. Пререквизиты дисциплины
- •4. Постреквизиты дисциплины
- •5. Календарно-тематический план.
- •7.Критерии оценки
- •8.Требования преподавателя.
- •ТЕЗИСЫ ЛЕКЦИЙ
- •Теорема 1:
- •Теорема 2:
- •Теорема 3:
- •Тема. Симплекс метод
- •Алгоритм симплекс метода
- •Вырожденность в задачах линейного программирования
- •Тема. Двойственность задачи линейного программирования
- •Пример:
- •Преобразования при решении прямой и двойственной задач.
- •Теоремы двойственности
- •Доказательство:
- •Правило выбора разрешающего элемента при поискеоптимального решения.
- •Замечание:
- •Тема. Транспортная задача линейного программирования
- •Метод северо-западного угла
- •Метод минимального элемента
- •Метод потенциалов
- •Алгоритм метода потенциалов
- •Построение опорного плана.
- •Пример.
- •Тема . Безусловная минимизация
- •Тема 10. Условная оптимизация. Метод Лагранжа.
- •Решение.
- •Алгоритм наискорейшего спуска
- •Метод сопряженных градиентов
- •Многопараметрический поиск
- •Методы второго порядка
- •Метод Пауэлла и сопряженные направления
- •Теорема:
- •Тема. Методы переменной метрики
- •Метод Бройдена.
- •Метод Дэвидона-Флетчера-Пауэлла.
- •Алгоритмы Пирсона
- •Третий алгоритм Пирсона
- •Проективный алгоритм Ньютона-Рафсона.
- •Методы Гринштадта и Гольдфарба.
- •Алгоритм Флетчера.
- •Алгоритмы с аппроксимацией матрицы Гессе
- •Методы штрафных функций
- •Тема . Простейшая задача вариационного исчисления.
- •Теорема.
- •1-е задание
- •2-е задание
- •3-задание
- •4-задание
- •5. Задачи:
- •Литература
- •Литература
- •Тема Метод искусственного базиса. Провести анализ решения
- •Литература
- •Литература
- •Тема Метод Гамори
- •Литература
- •Литература
- •Тема Функция Лагранжа
- •Литература
- •Тема Метод Сильвестера
- •Литература
- •Тема Экстремум функций многих переменных
- •Литература
- •Литература
- •Тема Задача Больца
- •Литература
- •Литература
- •Литература
- •Литература
- •Тема Задачи управления
- •Литература
- •Пример 2:
- •Тема . Симплекс – метод
- •Тема . Двойственность задач ЛП
- •Алгоритм составления двойственной задачи:
- •Пример 6.1.
- •Решение:
- •Пример 6.2.
- •Система непотенциальна.
- •Тема. Задачи на безусловный экстремум
- •Тема. Задачи на условный экстремум.
- •Теорема Куна-Таккера
- •Тема Задачи вариационного исчисления
- •Тема. Простейшая изопериметрическая задача.
- •ТЕСТОВЫЕ ЗАДАНИЯ
- •Литература
- •Перечень Интернет-ресурсов
- •Глоссарий

x
−
x
θ
x
=
x
x
=
x
=
=
j
=
x
−
j
θ
для положительной полу цепи
'' m in { }
θα
=−
Определяем
'min
=
() ()
++
ij
()
ij
,
.
ij
m in { ', '', }
=
θθ α
ij
00
.
Увеличим перевозки положительной полу цепи на θ, а перевозки
отрицательной полу цепи уменьшаем наθ. Переходим к п.1.
Построение опорного плана.
Состоит из 2-х этапов. Предварительного этапа, напоминающего
метод минимального элемента, и ряд этапов метода потенциалов,
применяемого к расширенной
задаче.
Предварительный этап разбивается на несколько однотипных шагов.
c
Первый шаг. Среди элементов
минимальный. Если этим элементом является
min( , , )
ij i j ij
11 1 1 11
ab d
матрицы С находим
ij
c
, то находим
ij
11
.
Возможны 3 случая:
a=
ij i
11 1
;
ij j
В первом случае все отрицательные перевозки строки
b
11 1
;
ij ij
11 11
d
.
ij
1
0
x
j∀≠
, во втором – столбца
1
только
. Далее вычеркиваем из матрицы С либо строку, либо
ij
11
столбец, либо элемент
ai i
⎧
⎪
1
a
=
⎨
i
axii
⎪
⎩
x
c
. Преобразуем величины
ij
11
,,
≠
i
iij
111
1
−=
,;
0
ij
1
1
. В третьем случае заполняется
,,
bj j
⎧
⎪
1
b
=
⎨
j
bxjj
⎪
⎩
≠
j
jij
111
1
,.
=
1
Второй шаг состоит в проведении тех же операций применительно
к не вычеркнутым элементам матрицы С, не заполненным позициям
матрицы X и величинам
a
,
i
.
1
1
b
Шаги предварительного этапа следуют до полного заполнения
матрицы X. Согласно процессу формирования матрицы Xее элементы
удовлетворяют условиям
Ф КазНПУ 703-12-11. Учебно-методический комплекс дисциплины для обучающегося. Издание третье.
41

x
⎪⎪⎪
⎪
⎪
⎪
x
x
⎪⎪⎪
⎪
⎪
⎪
⎪
⎪
j
m
≤=
xbj n
∑
ij j
1
=
i
n
xai m
∑
ij i
1
=
j
,1,,
≤=
,1,,
⎫
⎬
≤≤ = =
0,1,,1,.
di mj n
ij ij
⎭
Положим
m
bxjn
=− =
1,
+
mj j ij
axim
=− =
,1
+
in i ij
mn
ε
==
xx
∑∑
11
==
ij
∑
1
=
i
n
∑
,1 1,
++
in m j
,1,,
1
=
j
,1,,
.
⎫
⎬
⎭
Если ε = 0, то матрица X очевидно является планом задачи
(опорным) T
.
d
Однако в общем случае ε> 0, и для получения искомого опорного
плана задачи T
необходимо провести еще несколько итераций
d
методом потенциалов.
Введем расширенную задачу T
(M), которую образуем из Td
d
следующим образом. Присоединим к пунктам производства задачи T
фиктивный пункт A
потребления B
c
равна М (максимально большое число), а c
m+1 , j
n+1cbn+1
с объемом производства a
m+1
= ε. Пусть стоимость перевозки c
= ε, а к пунктам
m+1
, i = 1,m и
i, n+1
m+1 , n+1
= 0.
Для этой задачи легко образовать опорный план, введя перевозки из
d
i в n+1, и из m+1 в j, равные x
К задаче T
(M) применяем метод потенциалов. При решении
d
i , n+1
и x
m+1 , j
, и взяв x
m+1 , n+1
= 0.
возможно 2 случая.
X
1. После ряда итераций строится опорный план
согласно которому перевозка между A
m+1
и B
равна ε.
n+1
В этом случае множество перевозок между пунктами
задачи Td(M) ,
1
a
b
и
i
, i = 1,mj
= 1,n составят опорный план исходной задачи.
2. В оптимальном плане задачи T
(M) , который определяется за
d
несколько итераций метода потенциалов, перевозка между пунктами
A
m+1
и B
меньше ε.
n+1
Ф КазНПУ 703-12-11. Учебно-методический комплекс дисциплины для обучающегося. Издание третье.
42

=
=
=
=
=
=
−
В этом случае задача Td не имеет ни одного плана, т.е. неразрешима.
Пример.
v
b
a
i
50
20
30
v2 v3 v4 v
1
j
15 30 35 20 1
15)
14
12
8)
11
10)
9
3
М
35)
10
4)
5
7)
8
23
7
М
1
0
0
Должно быть 5+4 – 1 = 8 уравнений.
14)+
2
14
20)
4
20
32)
12
М
0
10)
5
12)
11
20)
1
20
М
0
5
–
М
1
М
0
М
0
+
0
0
,
11
vu M−= ,
51
14vu−=
21
vu M−=.
34
10vu−=
,
13
9vu−= ,
Задача вырожденная. Необходимо ввести в базис 3 перевозки.
0. x
1. x
2. x
3. x
, нет циклов x
13
, нет циклов x
23
= 0, нельзя, цикл
33
, нет циклов x
34
4. нельзя x
, (т.к. x23), x
21
13
23
34
= d
= d
= d
=14
13
=20
23
=20
34
, x
22
, x25 , x35 , x41 , x42 …
24
Добавляем уравнения:
для x
31
32
43
2vu−=
4vu−=
1vu−=
= 0 (необязательно).
ij
,
41
42
65vu−=≤
811vu−=≤
53
44
,
5vu M M−= −≤ ,
4vu M M−= +≤
,
0u =
1
2u =−
2
5u =
3
52
14
54
12
1
2vu M M−= +≤,
12vu M M−= +≤
220vu M−= −≤
2uM
−
4
14v
10v
2
16 11vu−=≤
,
,
33
24
2v
3
6v
4
vM
=+≤
5
22
312vu−=− ≤ ,
8vu M M
12 5vu−=≤
,
,
Ф КазНПУ 703-12-11. Учебно-методический комплекс дисциплины для обучающегося. Издание третье.
43

=
=
=
−
−
−
−
−
–α
= 2М – 2 (max) получаем (+), строим цикл.
45
θ = min{0, 1, ∞} = 0.
= α
Для x
ij
,
ij
Перевозку x
23
из базиса, x45 в базис. Но x45 = 0.
13
58vu−=≤β
= 3
32
Система уравнений:
11
vu M−= ,
51
43
2vM=
3
6v =
4
для x
–α
x
= 0 (необязательно).
ij
41
42
53
= 2М – 17
33
в базис.
33
Для x
θ = min{1, 3, 32} = 1.
,
14vu−=
1vu−=
uM=
4
65vu−=≤
10 2 11vu M−=− ≤
ij
,
5vu M M−= −≤ ,
= α
,
ij
21
vu M−=,
34
54
3
,
14
23
15+
14
12б
,
10vu−=
0vu−=
24uM=−
2
5u =
18 2 11vu M
=− ≤
12
52
58vu−=≥,
4vu MM−=−≤ ,
14vu MM−=− ≤
31
13
32
1
,
22vu M
=≥
9vu−= ,
4vu−= ,
0u
,
33
24
10
35
14
5
10
2
23 б
14
14v
1
10v
2
14 2 5vu M
=− ≤
22
2512vu M
=−≤,
10vu MM
=−≤
–
М
М
б
2uM=−
4
vM=
5
,
.
44
8
11
4
5
20
4
20
12
11
М
0
б
20
10–
7
32
1
9
8
12
М
20
3 б
7
+
0
б
М
0
–
М
М
1
0
б
М
0
+
0
0
б
Ф КазНПУ 703-12-11. Учебно-методический комплекс дисциплины для обучающегося. Издание третье.

=
=
=
=
15–
14
13б
8
11
35+
10
23 б
4
5
14
2
14
20
4
10
5
12
11
20
б
20
10+
7
32
1
9
8
12
20
2 б
7 –
1
б
m = 3 n = 4 m + n – 1 = 6
Есть опорный план, ищем оптимальное решение.
11
32
,
14vu−=
4vu−=,
14v =
1
21
43
,
10vu−=
1vu−=
10v
2
13
0u
1
,
9vu−=
3
17v
34
13u
2
,
12vu−=
5u =
3
6v =
4
41
42
31
= 3 (max), x
β
32
65vu−=≤
17 2vu−= ≥,
,
.
711vu−=−≤
32
12
23
58vu−=≥
помечаем (–) и строим цикл, θ = 7. Система
111vu−=≤
,
потенциалов та же, потенциалы те же. x
15–
14
13б
35
10
23 б
14
2
14
20
8
4
4
11
5
20
б
10+
9
9 б
7
8
32
12
1
22
в базис с (+).
14
35vu−=− ≤
10
5
+
12
11
20
1
20 –
б
,
Ф КазНПУ 703-12-11. Учебно-методический комплекс дисциплины для обучающегося. Издание третье.
45

=
=
=
θ = min{10 – 9, 6, 5, 20} = 1, т.е. x
35
1514
5 б
10
30
б
8
11
10
9
10
4
5
7
8
для любого xij= 0
12
211vu−=≤
23
68vu−=≤.
Для любого x
,
= α
ij
,
ij
22
31
16 2vu−= ≥
25vu−=−≤
,
,
13
Система уравнений:
из базиса.
13
14
2
14
20
4
20
б
32
12
1
42
10 9vu−=≥
5
1
б
12
11
20
1
19
б
,
711vu−=− ≤
11
32
10v =
2
,
14vu−=
4vu−=,
12u =
2
21
33
16v =
3
,
10vu−=
12vu−=
4u
3
41
43
5vu−=
1vu−=
,
0u =
1
14v
1
5v
4
План оптимален.
Вопросы
1.Постановка задачи
2.Опорный и оптимальный план задачи
3. Методы построения опорного плана
4. Метод потенциалов
5. ТЗ с ограничениями
Тема . Безусловная минимизация
Задача безусловной минимизации:
minf(x), x
∈
Rn .
(3.А)
Точка х называется стационарной, если в ней выполнено условие
∇f(х) = 0. (3.2.1)
46
Ф КазНПУ 703-12-11. Учебно-методический комплекс дисциплины для обучающегося. Издание третье.

Теорема 1. (Необходимое условие 1 порядка). Пусть х*- точка
n
минимума f(x), x∈R
и f(x) дифференцируема в х*, тогда выполняется
условие стационарности (3.2.1).
Теорема 2. (Достаточное условие 1-го порядка). Пусть f(x) -
выпуклая функция, дифференцируема в точке х
*
условие (3.2.1). Тогда х
- точка глобального минимума f(x) на Rn.
*
и выполняется
Теорема 3. (Необходимое условие 2-го порядка). Пусть х
n
точка минимума f(x), x∈R
2
*
f(x
Тогда ∇
) ≥ 0.
и f(x) дважды дифференцируема в х*.
Теорема 4. (Достаточное условие 2-го порядка). Пусть в точке
*
функция f(x) дважды дифференцируема, выполнено условие (3.2.1)
х
2
и ∇
*
f(x
) > 0. Тогда точка х*- точка локального минимума.
Теорема 5. (Существование решения). Пусть f(x) непрерывна на
n
R
и множество S
ограничено. Тогда существует точка глобального минимума на R
={x: f(x) ≤A} для некоторого A не пусто и
A
n
*
-
.
Теорема 6. Точка минимума строго выпуклой функции, если
она существует, единственна.
Теорема 7. Точка минимума сильно выпуклой функции
существует и единственна.
Вопросы
1.Постановка задачи
2.Условия существования экстремума
3.Теоремы
Тема 10. Условная оптимизация. Метод Лагранжа.
Общая задача нелинейного программирования имеет вид:
min f(x),
g
(x) ≤ 0, i=1,…,r, (4.6.1)
i
(x) = 0, i=r+1,…,m,
g
i
где все функции предполагаются дифференцируемыми.
1. Необходимые условия минимума. Для произвольной
допустимой точки x* введем множества индексов
I*={i: g
(x*) = 0, i=1,…,r }, (активные ограничения
i
неравенства)
I = {i: g
(x*) = 0, i=1,…,m }, (все активные ограничения).
i
(4.6.2)
Теорема 1 (Каруша-Джона). Пусть x* – точка локального
минимума в (1), а функции f(x), g
Ф КазНПУ 703-12-11. Учебно-методический комплекс дисциплины для обучающегося. Издание третье.
(x*) = 0, i=1,…,m, непрерывно
i
47

дифференцируемы в окрестности x*. Тогда найдутся числа y0*, yi *,
i∈I, не все равные 0, такие , что y
****
0)()(
=∇+∇
0
∑
∈Ii
xgyxfy
ii
. (4.6.3)
*≥ 0, yi *≥ 0, i∈I*, и
0
Введем функцию Лагранжа
L(x,y) = y
f(x) +(y,g(x)), где y=(y1,…,ym), g(x)=( g1(x),…, gm(x)).
0
Выражение (4.6.3) называется условием стационарности. Его можно
записать в виде
L(x*,y*)=0, y
∇
x
*≥ 0, yi* ≥ 0, i∈I*, (y*,g(x*))=0. (4.6.3)
0
Согласно теореме 1 в точке локального минимума должны
выполняться условия:
1) условия стационарности ∇
2) условия допустимости g
3) условия неотрицательности y
4) условие нетривиальности (y
5) условие дополняющейнежесткостиy
L(x*,y*)=0,
x
(x) ≤ 0, i=1,…,r, g
i
*≥ 0, yi≥ 0, i=1,…,r,
0
*, y*)≠0,
0
* gi(x*)=0, i=1,…,r.
i
(x) = 0, i=r+1,…,m,
i
Перечисленные условия дают сумму соотношений, которые
необходимо выполнить при поиске возможных точек минимума.
Сформулируем условия, при которых можно гарантировать y
*≠
0
0.
Условие регулярности. Векторы ∇g
(x*), i∈I, линейно
i
независимы.
Теорема 2. Пусть x* – точка локального минимума в (1),
функции f(x), g
(x*), i=1,…,m, непрерывно дифференцируемы в
i
окрестности x*, и выполнены условия регулярности. Тогда найдутся
числа y
L(x*,y*)=0, y
∇
x
, i=1,…,m, такие , что
i
≥ 0, i∈I*, (y*,g(x*))=0, (4.6.4)
i
где L(x,y) = f(x) +(y, g(x))
2. Достаточные условия минимума для некоторой точки
позволяют утверждать, что она является точкой минимума.
Теорема 3. Пусть x* – допустимая точка, функции f(x), g
(x*),
i
i=1,…,m, дважды дифференцируемы в x*. Пусть для некоторого
m
y*∈R
(∇g
(∇g
(∇g
выполняется (4) и для некоторого s≠ 0, для которого
(x*),s)=0, i∈I*, y
i
(x*),s)=0, i=r+1,…,m, (4.6.5)
i
(x*),s) ≥0, i∈I*, y
i
> 0,
i
= 0,
i
выполняется неравенство
48
Ф КазНПУ 703-12-11. Учебно-методический комплекс дисциплины для обучающегося. Издание третье.

2
(∇
L(x*,y*)s,s)>0.
xx
Тогда x* – точка локального минимума в задаче (1).
Пример 1. Пусть требуется решить задачу минимизации
f(x) = x
2
1
2
+ x
→min, (4.6.6)
2
при ограничениях
g(x) = x
+ x2 = 1. (4.6.7)
1
Решение. В силу присутствия одного ограничения будет
выполнено условие регулярности в виде линейной независимости
градиентов ограничений в произвольной точке. Поэтому для поиска
подозрительных на минимум точек используем необходимые условия
∇
L(x*,y*)=0, y
x
≥ 0, i∈I*, (y*,g(x*))=0,
i
(4.6.8)
для функции Лагранжа, записанной в виде
L(x,y) = f(x) +(y, g(x)) = x
2
1
+ x
2
+ y(x1 + x2 – 1).
2
В результате получим
⎛
⎜
yxL
=∇
x
),(
⎜
2
⎝
⎞
1
⎟
0
=
⎟
yx
+
⎠
2
yx
+
2
Решая систему уравнений, и исключая y, получим взаимосвязь
переменных x
1=x2
.
На основе условия допустимости, т.е. выполнимости
ограничения (4.6.7), с учетом взаимосвязи x
1
1
, т.е. x* =
2
1
⎛
⎜
⎝
⎞
;
.
⎟
2
2
⎠
= x2, получим x1 =
1
1
, x1 =
2
Матрица вторых производных функции Лагранжа имеет вид
02
2
xx
⎛
⎜
=∇
),(
yxL
⎜
⎝
В силу неравенства (∇
⎞
⎟
.
⎟
20
⎠
2
L(x*,y*)s,s)>0 для произвольного s и
xx
произвольной точки пространства переменных, согласно теореме о
1
1
достаточных условиях оптимальности, точка x*=
⎛
⎜
⎝
⎞
;
является
⎟
2
2
⎠
точкой минимума.
Вопросы
1.Постановка задачи
2.Функция Лагранжа
3.Теоремы
Ф КазНПУ 703-12-11. Учебно-методический комплекс дисциплины для обучающегося. Издание третье.
49

(
)
(
)
λ
Тема. Численная оптимизация
Методы первого порядка
К методам первого порядка относятся алгоритмы, в которых в
процессе поиска кроме информации о самой функции используется
информация о производных первого порядка. К группе таких методов
относятся различные градиентные методы.
Алгоритм наискорейшего спуска
Градиент функции в любой точке показывает направление
)(xf
наибольшего локального увеличения
. Поэтому при поиске
минимума
направлению градиента
)(xf
, следует двигаться в направлении противоположном
)(xf∇
в данной точке, то есть в направлении
наискорейшего спуска.
Итерационная формула процесса наискорейшего спуска имеет
вид
+1
kk
k
k
xfxx ∇⋅λ−=
,
или
k
xf
+1
kk
xx ⋅λ−=
Очевидно, что в зависимости от выбора параметра
∇
k
⋅λ−=
k
()
xf
∇
k
k
k
.
Sx
траектории
λ
спуска будут существенно различаться. При большом значении
траектория спуска будет представлять собой колебательный процесс,
а при слишком больших
малых
траектория спуска будет плавной, но и процесс будет
λ
процесс может расходиться. При выборе
λ
сходиться очень медленно.
Ф КазНПУ 703-12-11. Учебно-методический комплекс дисциплины для обучающегося. Издание третье.
50
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]
