Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Исследование операций и теория игр. Учебное пособие
.pdf
r
(
)
r
()(
)
r
(
)
r
(
)
≤
ϕ
r
(
)
r
(
)
В этой задаче часть ограничений является равенствами, а частьнеравенствами. Все входящие в формулировку функции могут быть
нелинейными. В дальнейшем часто совокупность значений
переменных
мерном евклидовом пространстве
которые удовлетворяют системе ограничений задачи, обозначим через
М. Сокращенно задачу можно записать так:
Отметим, что конкретный вид системы ограничений можно
изменять, не изменяя множества М, т.е. формулировать задачу в
различных формах. Каждое равенство можно заменить системой
неравенств
Поэтому можно считать, что система ограничений состоит только
из неравенств. С другой стороны, каждое неравенство
заменить эквивалентным равенством
переменную x
условие неотрицательности переменной не играет особой роли и
включается (если оно есть) в систему ограничений "на общих
основаниях". Количество ограничений тоже можно изменить, не
меняя, по сути, задачу. Например, всегда можно систему ограничений
записать в виде одного равенства. Для этого вначале преобразуем
систему ограничений в систему равенств
Эта же система эквивалентна одному уравнению
Здесь, однако, следует заметить, что такое уменьшение количества
ограничений часто не упрощает, а усложняет решение задачи.
x1, x2, ... ,x
. Отметим, что в нелинейном программировании
n+1
( ) ( )
мы будем рассматривать как точку
n
21
141
xf
→
r
i
( )
( )
m
211
∑
.x
в n-
.
nnRxR ∈
Множество точек Rn,
;minmax
n
.
Rx
⊂Μ∈
≤ϕ
,0
x
i
K
212
21
1
=mi
r
( )
x
K
K
≤ϕ−
.0
0
x
можно
2
xx
+ni
=ϕ
,0,,,
xxx
n
=ϕ
,0,,,
xxx
n
xxx
n
2
LLLLLLLLL
=ϕ
.0,,,
21
i
вводя новую
,0
=+ϕ
1
.0,,,,,,
=ϕ=Φ
xxxxxx KK
nin

r
r
()(
)
r
r
r
r
r
{
}
r
{
}
r
=
()()(
)
r
r
r
r
r
r
r
()()()()(
)
rrr
r
Μ
∈
r
142
Определение 6.1. Локальным минимумом задачи называется
)0(
,
такая точка
)0(
(
Μ∈
x
), для которой выполнено неравенство
— произвольная точка множества
окрестность точки
Под ε-окрестностью точки
множество точек
x
удовлетворяющая системе ограничений
)0(
ff
≤
xx
K
(
x
ε
00
,,,,
xxxx K
понимается
n
.
ε<−++−+−
x
)0(
.
21 n
2
0
11
)0(
=
,,,,
xxxx K
для которых
2
0
22
)0(
),
KrIεΜ
(
x
0
2
1
2
0
xxxxxx L
nn
. Здесь
)0(
— ε-
)
x
Другими словами, в точке локального минимума значение целевой
функции не больше, чем во всех точках множества Μ, достаточно
близких к точке
)0(
.
x
Аналогично определяется понятие локального максимума, т.е.
точки ,
)0(
x
для которой выполняется неравенство
0
≥
xfxf
при
)()(
)0(
.
)
x
K
I
Μ∈
(
x
ε
Определение 6.2. Глобальным минимумом (максимумом) задачи
называется точка
любой точки
x
)0(
,
Μ∈
x
.
для которой
)0()0(
для
ffff
≥≤
xxxx
Решением задачи нелинейного программирования является точка
глобального минимума или максимума (экстремума). В настоящее
время регулярных общих методов нахождения глобальных
экстремумов не существует. Правда, существуют методы случайного и
эволюционного поиска (генетические алгоритмы), которые дают,
вообще говоря, приемлемое, а не оптимальное решение. Здесь мы
рассматриваем методы нахождения точек локального экстремума. Эти
методы особенно важны для так называемых одноэкстремальных
задач.
Определение 6.3. Задача на минимум нелинейного
программирования называется одноэкстремальной, если каждый ее
локальный минимум одновременно является и глобальным. Аналогично
понимается одноэкстремальность задачи на максимум.
Всякая задача линейного программирования является
одноэкстремальной.

()(
)
Μ
∈
r
()()(
)
rKr
r
ϕ=ϕ∇ϕ=ϕ∇=
∇
{
}
r
r
r
λλλ
r
{
}
r
143
6.2. Метод множителей Лагранжа
1. Задача на условный экстремум. Необходимые условия
экстремума. Рассмотрим задачу нелинейного программирования с
ограничениями равенствами:
xxxfz
K
21
n
( )
( )
K
211
212
K
=ϕ
xxx
n
=ϕ
xxx
n
( )
m
xxx
K
21
n
Будем рассматривать в каждой точке
градиентов функций
21
→=
,0,,,
,0,,,
LLLLLLLLL
=ϕ
.0,,,
K
11 mm
;maxmin,,,
x
ϕϕϕ
m
m+1 вектор
.,,,),(
xxxxf
Обозначим
gradgradfgradf
.,,,
Справедливо следующее необходимое условие того, что точка
)0(
=
1
Теорема 6.1. Если точка
0020
является точкой локального экстремума задачи.
,,, K
xxxx
n
)0(
Μ∈
x
является точкой локального
экстремума, то в этой точке система из m+1 векторов градиентов
f ϕ∇ϕ∇∇ ,,,
найдутся такие m+1 чисел,
которых в точке
K
1
является линейно зависимой системой, то есть
m
λλλ ,,,10K
, не все равные нулю, для
m
)0(
x
выполнено равенство
rr
)0()0(
0)()(
=ϕ∇λ+∇λ
0
∑
1
=mi
xxf
ii
.
Для большинства задач в каждой точке множества М система
векторов
линейно независима. Последнее условие
ϕ∇ϕ∇ϕ∇ ,,,21K
m
назовем "условие А".
Функцией Лагранжа задачи называется функция
r
r
m
∑
=
i
rr
ϕλ+=λ
xxfxL
)()(),(
,
ii
1
которая является функцией m + n переменных
.,,,,,,
xxx KK
2,121 nm
Теорема 6.2. Пусть выполнено условие А. Для того чтобы точка
)0(
x
была точкой локального экстремума, необходимо, чтобы
существовали такие числа
,,, λ=
K
1
λλλ
)0(0020
m
при которых все

(
)
(
)
r
r
∂
∂
(
)
144
частные производные функции Лагранжа по всем ее n + m
переменным равнялись бы нулю:
r
L
x
∂
( )
==λ
K
nix
r
L
λ∂
ji
L
0000
( )
mjx
K
==λ
Эта теорема дает необходимые условия локального экстремума.
Если систему равенств теоремы 2 рассматривать, как систему
уравнений относительно неизвестных
xxx λλλ KK
2121 mn
то мы можем выделить точки, подозреваемые на экстремум.
Пример 6.1. Исходная задача:
2
1
xxx
321
xxx
→++=
max;32
xxxz
3
2
=++−
,05
=−−+
321
.014
2
2
Составим функцию Лагранжа:
32,,,,
121321
( ) ( )
+++=λλ
xxxxxxL
3
2
. 145
−−+λ+++−λ+
xxxxxx
32123211
2
2
2
Необходимые условия имеют вид
∂
L
∂
∂
∂
∂
∂
∂
∂λ
∂
∂λ
x
x
1
L
x
x
x
2
L
x
3
L
1
L
2
=λ+λ+=
,04
211
=λ+λ−=
,046
212
=λ−λ+=
213
xxx
321
xxx
321
,02
=++−=
,05
=−−+=
.014
Исключая λ1 и λ 2 из первых трех уравнений, получим
=−−
,0296
xxx
321
=++−
xxx
321
xxx
,05
=−−+
.
321
014
Решим систему методом Гаусса:
.,,2,10,;,,2,10,
,,,,,,,,

23
23
23
2
145
8
−
10
3
⇔
−
5
111
6
250
406
−
23
010
001
100
587
.
−
23
66
23
⇔
10
−
10
01
00
−−
0
296
−
111
−
1
141
8
3
11
3
46
−
3
⇔
5
10
−
15
−
44
−
−
⇔
−−
30
890
−
5
111
−
6
250
8
10
3
10
−
11
01
15
−
3
66
100
23
−⇔
⇔
−
Координаты точки, подозреваемой на экстремум:
587
;
406
66
;
.
=−=−= xxx
321
2. Достаточные условия условного экстремума. Пусть в
некоторой задаче необходимые условия дают точку
(
1
xxx
производных функции Лагранжа по переменным
002010020
). Построим матрицу вторых частных
,,,,,,,
KK
λλλ
mn
xxx ,,
K ,
n
2,1
2
∂
L
2
∂
x
1
2
∂
L
=
H
∂∂
xx
2
∂
L
∂∂
xx
2
∂
L
L
∂∂
xx
21
2
∂
L
L
2
∂
x
12
1
2
2
∂
L
L
∂∂
xx
2
nn
2
∂
L
∂∂
xx
1
n
2
∂
L
,
∂∂
xx
2
n
LLLL
2
∂
L
2
∂
x
n
которая называется матрицей Гесса функции Лагранжа. В точке
(
1
xxx
002010020
) матрица Гесса — это обычная числовая
,,,,,,,
KK
λλλ
mn
матрица размера n × n. Перейдем из стационарной точки
M(
1
0
1
xxx
0
2
21
002010020
) в точку M1 с координатами
,,,,,,,
KK
λλλ
mn
0
xxxxxx λλλ∆+∆+∆+ KK
1
0020
,,,,,,,
. По формуле Тейлора
mnn
приращение функции Лагранжа
∆L=L(M1)–L(M)
2
1
=
2
L
∂
∑
xx
∂∂
,
ji
ji
M
r
1
2
2
=
)(
xxx
∆ο+∆∆
ji
r
2
)(
xLd
∆ο+
имеет главную часть, которая является квадратичной формой с
матрицей, совпадающей с матрицей Гесса функции Лагранжа H. Если
∆x
(i=1,2,…,n) выбираются так, что точка M1 тоже удовлетворяет
i

{
}
1
r
146
системе условий задачи, то ∆L=∆f и знак величины ∆f (при
достаточно малых ∆x
i
формы. Таким образом, справедлива следующая
Теорема 6.3. Если в исследуемой точке все собственные числа
матрицы Гесса функции Лагранжа положительны, то в точке
0
2
1 n
собственные числа отрицательны, то
00
находится локальный минимум. Если же эти
},,,{
xxx K
)0(
=
0020
,,, K
xxxx
n
является
точкой локального максимума.
Продолжим рассмотрение примера 1. Матрица Гесса здесь легко
вычисляется, во всех точках:
004
=H
.
060
200
Поскольку собственные числа диагональной матрицы равны
диагональным элементам, эти собственные числа положительны, т.е. в
точке
587
−−
;
23
23
локальный минимум. Можно показать, что она
;
23
66
406
является и точкой глобального минимума.
Приведенные достаточные условия являются довольно грубыми.
Их можно уточнить следующим образом. При смещении из точки
области допустимых значений в другую ее точку приращения ∆xi не
являются независимыми. Взаимосвязь между приращениями ∆xi
задается системой уравнений
ϕ∂
1
∂
x
1
ϕ∂
2
∂
x
1
K
ϕ∂
∂
x
1
ϕ∂
1
+∆
x
1
∂
+∆
x
1
∂
+∆
x
K
2
x
2
ϕ∂
2
+∆
x
K
2
x
2
K
ϕ∂
mm
+∆
x
1
∂
+∆
x
K
2
x
2
ϕ∂
1
+
∂
x
n
ϕ∂
2
+
∂
x
n
=∆
x
n
x
n
,0
=∆
,0
(*)
KKLL
ϕ∂
m
+
∂
x
n
=∆
x
n
.0
Поскольку условие А считается выполненным, ранг матрицы этой
системы равен m (обычно m<n). Поэтому из переменных ∆xi
(i=1,2,…,n) можно выбрать m базисных, которые выражаются через n–
m свободных переменных. Если в выражении для квадратичной формы
в формуле для ∆L базисные переменные выразить через свободные

H
′
H
′
{
}
201
n
{
}
H
′
{
}
H
′
147
переменные, мы получим новую квадратичную форму с матрицей
порядка n–m.
Теорема 6.4. Если в исследуемой точке все собственные числа
матрицы
положительны, то в точке
00
,,,
xxx K
находится
локальный минимум. Если же эти собственные числа отрицательны,
0
то
1
матрицы
то точка
2
00
,,,
xxx K
является точкой локального максимума. Если у
n
имеется хотя бы два собственных числа разных знаков,
0
2
1
00
не является ни точкой минимума, ни
,,,
xxx K
n
точкой максимума.
Последняя теорема не охватывает случая, когда у матрицы
нет
собственных чисел разных знаков, но есть равные нулю собственные
числа. В этом случае нужны дополнительные исследования с помощью
дифференциалов высших порядков.
Пример 6.2. Рассмотрим простейшую задачу
f=x
2
2
–x
→min,
1
2
3x1+4x2–7=0.
Построим функцию Лагранжа
2
L(x1, x2, λ)=x
2
–x
+λ(3x1+4x2–7).
1
2
Применим необходимые условия условного экстремума.
∂
L
∂
∂
∂
∂
∂λ
x
x
1
L
x
2
L
=λ+=
1
x
2
,032
=λ+−=
,042
=−+=
xx
21
.0743
Получим стационарную точку M(–3, 4, 2). Матрица Гесса функции
Лагранжа в этой точке
02
H
не позволяет применить теорему 3. Переменные
−=20
∆x1, ∆x
удовлетворяют системе (∗), состоящей из одного уравнения
3∆x1+4∆x
2
∆x
∆x
=
2
0,
или
=
2
2
–(–3⁄4 ∆x1)
1
∆x
–3⁄4 ∆x
=
2
2
7/16∆x
=
. Квадратичная форма
1
2
. Матрица H′ имеет порядок, равный
1
(1/2)d2L=∆x
2
–
1
2

H
′
148
единице. H ′=(7/16), поэтому по теореме 4 заключаем, что точка (–3, 4)
является точкой минимума нашей задачи.
3. Критерий Сильвестра. Вычисление собственных чисел
матрицы является довольно громоздкой задачей. Однако для
применения теорем 3 и 4 сами эти числа не нужны. Матрица
квадратичной формы является симметрической и все ее собственные
числа вещественны. Для определения знаков собственных чисел
симметрической матрицы можно использовать теорему,
принадлежащую американскому математику Сильвестру. Рассмотрим
симметрическую матрицу
aaa
A
=
K
K
K
21
11211
n
aaa
22221
n
.
KKKK
aaa
nnnn
Назовем угловыми минорами этой матрицы следующие
определители
aa
a
2111
1211
aa
2221
n
A
det,,,
=∆=∆=∆ K
.
Теорема 6.5. 10. Для положительности всех собственных чисел
симметрической матрицы необходимо и достаточно, чтобы все
угловые миноры этой матрицы были положительны.
20. Для отрицательности собственных чисел необходимо и
достаточно, чтобы все угловые миноры матрицы были отличны от
нуля, их знаки чередовались, и выполнялось условие
01<∆
.
Из этой теоремы и теоремы 6.4 следует, что из положительности
угловых миноров матрицы
вытекает, что в исследуемой
стационарной точке локальный минимум, а из чередования знаков
этих миноров при
01<∆
вытекает, что в стационарной точке функции
Лагранжа локальный максимум. Если учесть, что произведение всех
собственных чисел симметрической матрицы равняется ее
определителю, получаем, что при
0≠∆
−mn
отсутствие
положительности угловых миноров матрицы H′′ или указанного выше
их знакочередования означает, что в исследуемой точке нет
локального экстремума. Случай
0=∆
следует рассматривать
−mn
особо. В этом случае возможно существование пары собственных
чисел разных знаков, что гарантирует отсутствие локального

r
r
∂
∂
∂
∂
∆−∆−=
∆
149
экстремума. Возможно также, что нет собственных чисел разных
знаков. Поскольку при этом есть нулевые собственные числа, то для
установления характера стационарной точки в этом случае следует
привлекать дифференциалы функции Лагранжа более высокого
порядка.
Пример 6.3. Найти точки условного экстремума функции
332
xxxz =
при условии
21
{
3
0,,:
>∈ xxxRx
}, и исследовать характер этих точек.
321
x1+x2+x
12
, лежащие в области
=
3
Построим функцию Лагранжа
332
21
)12(),(
−++λ+=λ xxxxxxxL
321
и найдем ее частные производные
L
∂
x
1
332
xx
2
L
λ+=
∂
x
2
L
3
xxx
321
xxx
λ∂
L
λ+=
∂
x
3
.12
−++=
321
232
;3;2;
λ+=
xxx
21
Приравнивая эти частные производные нулю, получаем
стационарную точку M0(2, 4, 6); λ=−3456. Найдем матрицу Гесса в
этой точке.
3
=
H
M
0
32
232
2
3
32
3
31
2
321
232
320
xxxx
2
2
622
663
xxxxxxx
321
xxxxxxxx
3221
M
=
576
0
330
313
.
233
Теорема 6.3 здесь ничего не дает. Второй дифференциал является
квадратичной формой
576(
2
2
2
3
6662 xxxxxxxx ∆∆+∆∆+∆∆+∆+∆
).
323121
Приращения ∆xi в силу соотношений (*) удовлетворяют равенству
xxx
. Поэтому квадратичная форма преобразуется к
321
виду
576(
2
2
2
645 xxxx ∆∆−∆−∆−
3
).
32
Матрица этой квадратичной формы имеет вид
−−
35
′
=
576H
.
−−
43

R⊂Μ
r
r
()(
)
≤α≤α+α−
r
r
()(
)
r
r
r
r
x
r
Ω
∈
r
r
rrr
r
α+α−≤α+α−
r
r
r
r
(
)
r
()(
)
rKr
r
ϕ
ϕ
Очевидно, что здесь ∆1<0, ∆2>0. Таким образом, в рассматриваемой
области находится только одна точка экстремума, которая является
точкой максимума.
6.3. Задачи выпуклого программирования
Определение 6.4. Множество
вместе с любыми двумя его точками
принадлежит всякий вектор, имеющий вид
При n = 2 или 3 векторы вида
отрезке, соединяющем точки
Определение 6.5. Функцию f(
она определена на выпуклом множестве
,,
xx
Нетрудно видеть, что для выпуклой функции, определенной на
всем Rn множество точек, удовлетворяющих неравенству f (
любой константой C, либо выпукло, либо пусто. То же самое можно
сказать и относительно системы таких неравенств.
Всякую функцию вида
функция, обычно называют вогнутой функцией. Каждая линейная
функция, очевидно, выпукла (и одновременно вогнута).
α∈
21
(0,1) выполнено неравенство
150
n
называется выпуклым, если
x
x
x
и
.
2
1
) будем называть выпуклой, если
),()( xfxg
−=
и
1
где
x
множеству М
2
xx
21
n
Ω⊆R
и для любых
).()()1())1((
xfxfxxf
2121
)(xf
— выпуклая
21
≤α≤α+α− xx
10,1
лежат на
x
.10,1
)≤C с
Задача выпуклого программирования формулируется следующим
образом:
→=
min;,,,
xxxfz
K
21
n
( )
211
( )
212
( )
21
m
где функции
выпуклое множество, которое может в конкретном случае совпадать с
n
R
.
1
,,),(
≤ϕ
K
K
xxx
,0,,,
n
≤ϕ
,0,,,
xxx
n
LLLLLLLLL
≤ϕ
K
m
xxx
21
xxxf
,0,,,
n
.},,,{
Ω∈=
xxxx K
являются выпуклыми, а Ω —
n
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]
