Все в одном
.pdfСледующие 2 задачи ЛП называются парой симметричных двойственных задач:
f (x) (c, x) max
Ax b
(I)
x 0
g( y) (b, y) min |
|
||
|
T |
y c |
(II) |
A |
|
||
y 0 |
|
||
|
|
|
|
У (I) n переменных и m ограничений у (II) m переменных и n ограничений.
Компоненты целевой функции одной з-чи являются правыми ограничениями другой з-чи.
|
|
f (x) (c, x) max |
g( y) (b, y) min |
|
|
|
|
|
|
Теорема: Двойственная з-ча к з-че Ax b |
(III) имеет вид: |
(IV) |
||
|
|
|
AT y c |
|
|
|
x 0 |
|
|
▲ограничивающие равенства заменим неравенствами: |
|
|
||
Ax b |
| y 0 |
|
|
|
Ax b | y 0 |
для g( y , y ) (b, y ) (b, y ) min |
|
||
x 0 |
| y A y A c |
|
|
|
Введем y y y g( y) (b, y) min; yA AT y c
Общая форма определения двойственной задачи:
|
n |
|
m |
f (x) c j x j max |
|
g( y) bi yi min |
|
|
j 1 |
|
i 1 |
n |
|
|
|
aij x j |
bi , i 1..m1 |
|
yi 0, i 1..m1 |
j 1 |
|
|
|
n |
|
|
|
aij x j |
bi , i m1 1..m |
|
yi , i m1 1..m |
j 1 |
|
|
|
|
|
|
m |
x j 0, j 1..n1 , |
|
aij yi c j , j 1..n1 |
|
|
|
|
i 1 |
|
|
|
m |
xi , i n1 1..n |
|
aij yi c j , j n1 1..n |
i 1
Свойства двойственных задач:
1)Преобразование двойственности рефлексивно.
2)Значение целевой функции I при допустимом решении не больше значения целевой функции II при
ее допустимом решении.
3)У двойственных задач есть доп. решения, в которых значения целевых функций совпадают эти доп. решения являются opt решениями этих задач.
4)У пары двойственных задач есть доп. решения у них есть opt решения.
Теорема: (1я теорема) Двойственные задачи одновременно разрешимы или неразрешимы. Разрешимы
opt значения целевой функции этих задач совпадают.
▲] I – разрешима она может быть разрешима симплекс-методом, в результате чего получим opt С-Т и соответствующее opt опорное решение. Перед применением С-М приведем I к канон. виду:
Ax+Eu=b, x 0,u 0 |
|
~ |
|
|
|
|
~ |
|
|
|
|
|
|
|
|
~ |
(x,u) |
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||
, A |
( A, E),c |
(c, 0,...,0), x |
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
m |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Opt С-Т для I: |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
~ 0 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
~ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
* |
|
|
|
|
0 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
X N |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Δ≥0, т.к. С-Т opt. f |
|
(c , Z |
|
|
) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
таблице отвечает матрица B, состоящая из столбцов А по базисным переменным. |
|||||||||||||||||||||||||||||||
~ B |
|
|
|
Z |
|
|
|
|
Z |
0 |
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||
X |
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
~ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Z j B 1 A j , Z |
0 B 1b |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||
f |
|
|
|
|
|
|
|
|
|
|
~ B |
|
|
|
|
0 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||
|
|
|
|
|
|
|
|
|
(C |
|
|
, Z ) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
* |
|
* |
|
~ B |
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Покажем, что у II есть opt решение y |
: y |
|
B |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||
|
|
c |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||
|
1) |
|
Докажем |
|
y |
* |
|
- доп. решение II и рассмотрим ( y |
* |
~ j |
~ B |
B |
1 |
~ j |
~ B |
, Z |
j |
) |
~ j |
|
||||||||||||||||||||||||||||||||
|
|
|
|
|
|
, A |
) (c |
|
|
|
A |
) (c |
|
c |
||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
j |
|
|
|
|
|
~ j |
( y |
* |
|
~ j |
) |
|
|
|
~ j |
, т.к. j 0, j 1..n m ( y |
* |
|
|
~ j |
) |
|
|
~ j |
(3) |
|
|
|
|
|
|
||||||||||||||||||||||||||
c |
|
, A |
|
c |
|
, A |
j c |
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
~ |
|
|
A j |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
j=1..n |
|
A j |
|
|
( y* , A j ) c j , j 1..n, т.е. y* A c |
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||||
~ j |
c |
j |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
|
|
|
|
|
|
c |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
~ |
|
|
e j n |
(0,..., 1 ,...,0) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||
j=n+1..n+m |
|
A j |
|
|
|
* |
0 (по (3)),т.е. y |
* |
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
j n |
|
|
|
|
- дополнительное. |
|
|
|||||||||||||||||||||||||||||||
~ j |
|
|
0 |
|
|
|
|
|
|
|
|
|
|
y j |
|
|
|
|||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
c |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
2) |
|
Докажем, что g(y) при y y* совпадает с opt значением f. |
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||||||||
(4) g( y |
* |
) |
|
|
|
f |
* |
, f |
* |
|
|
|
~ B |
, Z |
0 |
) на основании (4) по свойству 3) y |
* |
opt g( y |
* |
) |
|
|
||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
(c |
|
|
|
|
|
||||||||||||||||||||||||||||||||||||||||
|
~ B |
B |
1 |
|
|
|
|
|
|
~ B |
, B |
1 |
b) |
~ B |
, Z |
0 |
) |
f |
* |
(4) выполняется. |
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||
(c |
|
|
|
, b) (c |
|
|
|
(c |
|
|
|
|
|
|
|
|
|
|
|
|
|
Аналогично из разрешимости II разрешимость I они одновременно разрешимы.
] I – неразрешима, II – разрешима I – разрешима – противоречие.
Условия дополняющей нежесткости
f (c, x) max |
Ax u b |
g( y) |
|
|
|
Ax b |
~ x 0 |
(I) Ay |
x 0 |
u 0 |
y 0 |
|
|
|
Опр: Говорят, что точки (x0 , u 0 ) è ( y 0 , v0 )
(b, y) min |
yA v c |
|
c |
|
(II) |
~ y 0 |
||
|
v 0 |
|
|
|
|
удовлетворяют условиям дополняющей нежесткости, если
(x0 , v0 ) ( y 0 , u 0 ) 0.
x0 , v0 E n ; y 0 ,u 0 E m . Ò.ê. x0 , v0 , y 0 , u 0 0 (x0 , v0 )
|
|
|
|
x0 |
|
0 |
0 |
0 |
0 |
|
j |
Покоординатно: x j |
v j |
0, j 1..n; yi |
ui |
0,i 1..m |
|
|
|
|
|
v0j |
|
|
|
|
|
|
|
0, ( y 0 , u 0 ) 0
0 v0 |
0, |
|
0 |
j |
|
yi |
|
0 x0 |
0 |
è |
|
u 0 |
|||
j |
|
|
i |
0 ui0 0,
0 yi0 0
Теорема: (2я теорема) Допустимые решения пары двойственных задач будут opt решениями своих задач они удовлетворяют условиям дополняющей нежесткости.
▲
x0 , y 0 - доп. решения 1, 2 соответственно u 0 , v0 :
|
|
|
0 |
u |
0 |
b |
|
0 |
A |
v |
0 |
c |
|
||
Ax |
|
|
y |
|
|
|
|||||||||
|
|
|
|
|
|
|
(*) |
|
|
|
|
|
|
(**). (*) скалярно умножим на y 0 , а (**) на x0 |
|
|
0 |
, u |
0 |
0 |
|
0 |
, v |
0 |
0 |
|
|||||
x |
|
|
y |
|
|
|
|||||||||
( y 0 , Ax 0 ) ( y 0 , u 0 ) (b, y 0 ) |
|
( y 0 A, x0 ) (v0 , x0 ) (c, x0 ) (u 0 , y 0 ) (v0 , x0 ) 0 ~ ~ (b, y 0 ) (c, x0 ) (** |
|||||||||||||
*) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Пусть x0 , y 0 - opt решение пары двойственных задач по 1 теорем двойственности (b, y 0 ) (c, x0 ) из |
|
||||||||||||||
(***) условие дополняющей нежесткости. |
|
||||||||||||||
д: |
|
|
|
|
выполняются условия дополняющей нежесткости из (***) в x0 , y 0 значения целевых функций = |
|
по 3-му свойству x0 , y 0 - opt решение задач.
3. Седловая точка функции Лагранжа.
Рассм. задачу оптимизации I с ограничениями-равенствами.
|
|
|
f (x) extr |
||
gi |
(x) 0, i 1..m (I) |
|
|
|
n |
x E |
|
f (x)
g(x)
x 0
min
0 (II) g(x) (g1 (x),..., gm (x))
Функция Лагранжа: L(x,y)=f(x)+(y,g(x)), если функции дважды непрерывны.
Теорема: (необх. усл. extr) x*- точка loc условного extr y*- вектор множителей Лагранжа, что (x*,y*) –
стационарная точка ф-ии Лагранжа, т.е. |
x |
L(x* , y* ) |
y |
L(x* , y* ) 0 |
|
||
|
|
|
|
|
|
||
Теорема: (дост. усл. extr) (x*,y*) – стационарная точка ф-ии Лагранжа, ( , H x (x* , y* ) ) 0 ( 0) |
для всех , |
||||||
удов. усл. ( gi (x* ), ) 0, i 1..m, x*- точка loc min (loc max). |
|
||||||
Здесь -вектор, E n - определяет приращение в точке x*, т.е. - малая величина. |
|
||||||
Hx – матрица Гессе ф-ии Лагранжа, т.е. Hx=(hij), hij |
|
2 L |
|
|
|
||
xi x j |
|
|
|||||
|
|
|
|
|
|
Опр: Точка (x* , y* ) - седловая точка функции L(x,y), если x* 0, y* 0 и
L(x* , y) L(x* , y* ) L(x, y* ) x, y 0 .
Т.е. в (x* , y* ) функция Лагранжа достигает min по x и max по y в области x 0, y 0
Теорема: (о седловой точке) (x* , y* ) - седловая точка функции Лагранжа ( y* , g(x* )) 0 è
x* X , X {x | x E n , gi (x) 0, i 1..n, x 0} . X – множество доп-х решений задачи II.
▲] (x* , y* ) - седловая точка L(x,y), т.е. L(x* , y) L(x* , y* ) x, y 0
f (x* ) ( y, g(x* )) f (x* ) ( y* , g(x* )) ( y y* , g(x* )) 0 (*) .
|
|
* |
, i k |
|
|
|
Док-м x* X : (*) верно y 0 выб. yi |
y |
|
, i 1..m gk |
|
|
|
|
i |
|
(x* ) 0 |
k x X |
||
|
|
* |
1, i k |
|
|
|
|
yi |
|
|
|
|
|
* |
,i k |
|
yk* gk (x* ) 0 |
Рассмотрим ( y* , g(x* )) 0 |
yi |
yi |
,i 1..m (*) : |
||
|
|
0,i k |
|
|
С другой стороны yk* 0, x* X g k (x* ) 0 yk g k (x* ) 0 yk* g k (x* ) 0 k
( y* , g(x* )) 0
Эквивалентные преобразования задач:
Опр: Две задачи эквивалентны, если по opt решению одной можно найти opt реш. другой.
|
g |
|
(x) 0 |
|
g |
(x) u |
|
0 |
gi (x) 0 gi (x) 0 |
1) gi |
(x) 0 |
i |
|
2) gi |
(x) 0 i |
0 |
i |
3) |
|
|
gi (x) 0 |
|
ui |
|
|
|
4) |
f (x) max (x) f (x) min |
|
|
|
x X |
x X |
|
5) xj - свободна ее можно заменить x j |
x j x j , x j |
0, x j 0 |
Теорема: (1 теорема К-Т): (x* , y* ) - седловая точка L(x,y) x* - opt решение II
▲ (x* , y* ) - седловая точка L(x* , y* ) L(x, y* ) .
f (x* ) ( y* , g(x* )) f (x) ( y* , g(x)) x 0 è äëÿ x X по теореме о седловой точке
( y* , g(x* )) 0 è x* X f (x* ) f (x) ( y* , g(x)) f (x) x X x* - opt II
0 0
задачи, имеющие opt решения, но не имеющие седловых точек.
f (x) x min . x 2 0, x 0, x E1 , x* 0
5. Теорема об одноэкстремальности.
Задачей выпуклого программирования наз. задача минимизации выпуклой ф-ии на выпуклом мн-ве, а также любая др. задача, сводимая к такой эквив. преобразованиями.
Опр: Выпук. комбинацией 2х точек x1 , x 2 X наз-ся точка |
x() x1 (1 )x 2 , где [0,1] . |
|
k |
k |
|
Опр: Выпук. комбинацией к точек x(1 ,..., k ) i xi , i |
0, i |
1 |
i 1 |
i 1 |
|
Опр: Множество X – выпуклое, если x1 , x 2 X |
x( ) x1 (1 )x2 X , [0,1] |
|
|
k |
k |
x1 ,..., x k X |
x(1 ,..., k ) i xi X , i 0, |
i 1 |
|
i 1 |
i 1 |
Функция f(x), определенная на выпуклом X, - выпуклая, если
x1 , x 2 X f (x1 (1 )x 2 ) f (x1 ) (1 ) f (x 2 ) [0,1]
Опр: (об одноэкстремальности) loc min выпуклой ф-ии на выпук. мн-ве явл. глобальным.
|
|
|
|
~ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
▲] f – выпуклая, x |
- loc min f на X – выпуклом по определению 0 -окр-ть |
|
|
|
||||||||||||||||||
~ |
|
|
|
|
|
~ |
|
|
~ |
f (x) x |
S |
~ |
|
|
|
|
|
|
||||
S (x ) |
{x | x X ,|| x x || } f (x ) |
(x ) . Предп., что это не так |
|
|
|
|||||||||||||||||
x |
* |
X : f (x |
* |
~ |
|
|
|
~ |
и x |
* |
|
~ |
* |
|
~ |
0 |
||||||
|
|
) f (x ) . Построим вып. комб. x |
|
: x( ) (1 )x x |
|
x |
||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
0 |
|
|
|
и для нашего . |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
~ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
при |
0 . |
Рассм. |
f (x( )) . |
|
В |
силу |
выпуклости |
||||||||||
: x( ) S (x ) |
|
|||||||||||||||||||||
~ |
f (x( )) |
~ |
|
* |
|
~ |
|
~ |
~ |
|
|
|
|
выбрать |
||||||||
f (x ) |
(1 ) f (x ) f (x |
|
) (1 ) f (x ) f (x ) |
f (x ), [0,1] если |
|
|
||||||||||||||||
|
|
|
|
|
|
|
|
~ |
|
|
|
~ |
|
|
|
~ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
: 0 x( ) S (x ) è |
f (x( )) f (x ) - противоречие x – loc min |
|
|
|
|
|