jadan (1)

где x = ξ−1(y ).Первое равенство(74)показывает,что вектор Lx(x , u ) принадлежит нуль-пространству матрицы JT (x ).Приведенные соотношения(74)позволяют переформулировать понятие точки Куна-Таккера для задачи(70).

Пусть Γ(x|Π) и Γ (x|Π) соответственно конус допустимых направлений в точке x относительно множества Π и двойственный к нему.Пусть,кроме того, lin Γ (x|Π) линейная оболочка конуса Γ (x|Π) (в данном случае она совпадает с аффинной оболочкойa Γ (x|Π)). Наложим на преобразование ξ(y) следующее условие.

Условие A1.Преобразование ξ(y) таково,что матрица J(x) определена и непрерывна в некоторой области,содержащей множество Π, и в каждой точке x Π нуль-пространство

же,что,согласно условию A1,ортогональное кlin Γ (x|Π) подпространство (lin Γ (x|Π)) совпадает с пространством столбцов матрицы J(x).

Определение6. Пара [x , u ] Π×Rm для задачи(70),в которой Lu(x , u ) = g(x ) = 0m, называется :

¥ слабой точкой Куна-Таккера,если Lx(x , u ) lin Γ (x|Π); ¥ точкой Куна-Таккера,если Lx(x , u ) Γ (x |Π);

¥ сильной точкой Куна-Таккера,если Lx(x , u ) ri Γ (x |Π).

Непосредственно из определения6следует,что каждая точка Куна-Таккера является слабой точкой Куна-Таккера,но не наоборот.Точно так же,сильная точка Куна-Таккера одновременно будет просто точкой Куна-Таккера.

Если преобразование ξ(y) удовлетворяет условию A1,то включение Lx(x , u ) lin Γ (x|Π) имеет место в том и только том случае,когда выполняется равенство JT (x )Lx(x , u ) = 0n. Следовательно,условия( ??)и(74)оказываются эквивалентными для определения слабой точки Куна-Таккера.

Отметим также,что если множество Π совпадает со всем пространством Rn,то в качестве ξ(y) можно взять тождественное преобразование x = y. Матрица J(x) в этом случае не зависит от точки x,она постоянна и равна единичной матрице In.Конус допустимых направлений Γ(x|Rn) в любой точке x Rn есть все пространство Rn и,следовательно, двойственный конус Γ (x|Rn) состоит лишь из нулевого вектора.Поэтомуlin Γ (x|Π) является нулевым подпространством.Определения точки Куна-Таккера и слабой точки КунаТаккера в этом случае совпадают и переходят в определение( ??)точки Куна-Таккера для задачи( ??).

Предположим теперь,что все функции f(x), gi(x), 1 ≤ i ≤ m,дважды непрерывно дифференцируемы.Обозначим также через T (x) подпространство

K(x) = {z Rn : gx(x)J(x)z = 0m}.

31

Достаточные условия второго порядка,задаваемые теоремой24,для задачи(70)могут быть переформулированы следующим образом.

Теорема25. Пусть отображение ξ(y) удовлетворяет условию A1.Пусть,кроме того, пара [x , u ] является сильной точкой Куна-Таккера для задачи (70) и

для любых z K(x ) таких,что J(x )z = 0n. Тогда x является точкой изолированного локального минимума в задаче (70).

Доказательство. Если x не является точкой изолированного локального минимума в задаче(70),то найдется такая последовательность допустимых точек {xk}, сходящаяся

к x , что xk Π, g(xk) = 0m и f(xk) ≤ f(x ).Представим xk в виде xk = x + λksk, гдеsk = 1, λk > 0, λk → 0.Не умаляя общности,можно считать,что sk → s , s = 1. Так

и перехода к пределу: Lx(x , u ), s ≤ 0.Но,согласно( ??), Lx(x , u ), s ≥ 0,причем

Lx(x , u ), s = Lx(x , u ), a = 0.

Таким образом,ненулевые векторы Lx(x , u ) и a расположены в одном и том же подпространстве и ортогональны друг другу.Но линейная оболочкаri Γ (x |Π) совпадает с линейной оболочкой самого конуса Γ (x |Π), равной S(x |Π).Более того,если p ri Γ (x |Π), то любой вектор из подпространства S(x |Π),лежащий в некоторой окрестности вектора p,также будет принадлежатьri Γ (x |Π).Поэтому,в силу( ??),можно указать вектор q ri Γ (x |Π),для которого s , q < 0,что противоречит включению s cl Γ (x |Π). Таким образом, s S (x |Π).Из условия A1 следует,что S (x |Π) совпадает с пространством столбцов матрицы J(x ).Поэтому s = J(x )z для некоторого ненулевого вектора

32

В частном случае,когда множество Π совпадает со всем пространством Rn,беря в качестве ξ(y) тождественное преобразование x = y,получаем,что утверждение теоремы сводится к утверждению теоремы24о достаточных условиях изолированного локального минимума для задачи( ??).

1.3.ДВОЙСТВЕННОСТЬ ДЛЯ ЗАДАЧ МАТЕМАТИЧЕСКОГО ПРОГРАММИРОВАНИЯ

1.3.1.Седловые точки функции Лагранжа

В предыдущем параграфе были рассмотрены необходимые условия первого и второго порядка локального минимума в задаче математического программирования,в которых использовались производные функций,входящих в постановку задачи.Возможны также условия оптимальности,в которых присутствуют только значения этих функций.Такие условия по существу являются условиями оптимальности нулевого порядка и,как правило,они носят глобальный характер,т.е.выполняются для глобальных решений задач условной оптимизации.Рассмотрим некоторые из этих условий,причем для общей задачи математического программирования(21).Составим для этой задачи функцию Лагранжа(регулярную)

L(x, u, v) = f(x) + u, g(x) + v, h(x) ,

где u Rl, v Rk+. Введем определение.

Определение7. Тройка [x , u , v ], где x Π, u Rl и v Rk, называется седловой точкой функции Лагранжа L(x, u, v) на Π × Rl × Rk+, если

для всех x Π и [u, v] Rl × Rk+.

С помощью понятия седловой точки функции Лагранжа могут быть сформулированы сравнительно простые достаточные условия глобального решения в общей задаче математического программирования.

Теорема26. Пусть [x , u , v ] седловая точка функции Лагранжа L(x, u, v) на Π × Rl × Rk+. Тогда x есть глобальное решение общей задачи математического программирования(21).Более того,в точке [x , v ] выполнены условия дополняющей нежесткости для ограничений типа неравенства

33

Доказательство. Обратимся сначала к левому неравенству из определения седловой точки(78).Его можно переписать как

(78).Так как g(x ) = 0l,то(79)принимает вид

v − v , h(x ) ≤ 0 v Rk+.

Поэтому,если взять в нем v = 0k,то приходим к неравенству v , h(x ) ≥ 0.С другой стороны,из h(x ) ≤ 0k и v ≥ 0k следует,что v , h(x ) ≤ 0.На основании этих двух противоположных неравенств заключаем,что на самом деле имеет место равенство v , h(x ) = 0 и так как h(x ) ≤ 0l, v ≥ 0k,то для каждого индекса j [1 : k] должно выполняться(78).

Проверим наконец,что точка x есть точка минимума целевой функции f(x) на допустимом множестве X.Обратимся теперь к правому неравенству в определении(77)седловой точки.С учетом только что установленных равенств u , g(x ) = 0 и v , h(x ) = 0 оно принимает вид

В частности,для x X, так как тогда g(x) = 0l и h(x) ≤ 0k,из(80)получаем f(x ) ≤ f(x) + u , g(x) + v , h(x ) ≤ f(x),

что подтверждает оптимальность точки x .

В приведенной теореме26не делается никаких предположений о функциях f(x), g(x) и h(x),даже о множестве Π,все они,как функции,так и множество,могут быть произвольными.Понятно,что для общей задачи трудно ожидать,что составленная для нее функция Лагранжа обладает седловой точкой.Однако важный факт состоит в том,что если мы имеем дело с выпуклой регулярной задачей,то это действительно так.Существование у функции Лагранжа седловой точки является не только достаточным условием,но и необходимым.Приведем этот результат для выпуклой задачи математического программирования,причем для простоты предположим,что она содержит только ограничения типа неравенства.Пусть требуется найти

34

где f(x) и все h1(x), . . . , hk(x) выпуклые функции на Rn, Π Rn выпуклое замкнутое множество.Предположим,что задача(81)имеет решение и обозначим

В силу сделанных предположений допустимое множество X в задаче(82)выпукло и замкнуто.

Составим для задачи(81)функцию Лагранжа(регулярную)

для всех x Π и v Rk+.

Теорема27. (Куна-Таккера о седловой точке).Пусть в задаче выпуклого программирования(81)выполнено условие регулярности ограничений Слейтера.Тогда,если точка

Доказательство. Рассмотрим образ задачи(81)в пространстве R1+k,объединяющем целевую функцию f(x) и неравенства h(x) ≤ 0k:

W = [φ,ψ ] R1+k : φ = f(x), ψ = h(x), x Π .

Через Wη обозначим сдвиг этого множества по первой переменной φ на величину η,т.е.мно-

жество Wη = W−ηe0,где вектор e0 = [1, 0, . . . , 0] R1+k.Рассмотрим также в пространстве

R1+k множество

H− = [φ,ψ ] R1+k : φ < 0, ψ ≤ 0k .

Множество H− не является замкнутым,но выпукло.

Пересечение этих двух множеств Wη и H− пусто тогда и только тогда,когда η не превосходит оптимальное значение f целевой функции в задаче(81),другими словами,когда η является оценкой снизу этого оптимального значения f .Само значение f является в этом случае максимально возможной величиной для η. Положим η = f и далее будем рассматривать только множество Wf .Для задачи выпуклого программирования(81)мно-

35

относительные внутренности.Поэтому по теореме об отделимости(собственной)найдется ненулевой вектор [q, v ] R1+k такой,что

для всех [φ1, ψ1] Wf+ .

Покажем,что при выполнении условия регулярности ограничений Слейтера случай, когда q = 0,невозможен.Действительно,если q = 0, то v = 0k и неравенство(85)переходит в следующее:

v , ψ1 ≥ 0

для всех ψ1 таких,что ψ1 вместе с некоторым φ1 принадлежат множеству Wf+ .Но,с другой стороны,если взять точку xø,входящую в условие регулярности ограничений Слейтера,то ψ = h(øx) < 0k.Поэтому в силу того,что v ненулевой вектор с неотрицательными компонентами,для данного ψ1 должно выполняться строгое противоположное неравенствоv , ψ1 < 0.Мы пришли к противоречию.Таким образом, q > 0 и можно считать,что q = 1.

Теперь неравенство(85)принимает вид:

Далее рассматриваем такие точки [φ1, ψ1],у которых ψ1 = f(x) − f и ψ1 = h(x), где x Π. Так как все эти точки принадлежат Wf+ ,то из(86)следует,что

приходим к неравенству v , h(x ) ≥ 0.С другой стороны,так как h(x ) ≤ 0k и v ≥ 0k, должно выполняться и обратное неравенство: v , h(x ) ≤ 0.Поэтому v , h(x ) = 0 и на

основании(87)

f = f(x ) + v , h(x ) = L(x , v ) ≤ f(x) + v , h(x) = L(x, v ) x Π.

Наконец,из-за того,что h(x ) ≤ 0k,следует неравенство v, h(x ) ≤ 0,справедливое для любых v Rk+.Отсюда приходим к

L(x , v) = f(x ) + v, h(x ) ≤ f(x ) = L(x , v ) v Rk+.

Таким образом,пара [x , v ] является седловой точкой функции Лагранжа на Π × Rk+.

36

Наличие седловой точки у функции Лагранжа L(x, v) для задачи(21)оказывается очень полезным свойством оно позволяет строить численные методы для решения этой задачи и обосновывать их сходимость.Но доказательство теоремы21существенным образом опиралось на выпуклость множества Wf+ и на возможность отделить в пространстве об-

разов задачи R1+k два выпуклых непересекающихся множества Wf+ и H−.Делалось это с помощью линейной функции

этом случае не всегда представляется возможным это скорее исключение,чем правило. Поэтому идут по пути расширения класса функций Q(z),рассматривая вместо линейных функций Q(z),соответствующих классической функции Лагранжа( ??),также нелинейные. Понятно,что это должны быть такие функции Q(z),у которых лебеговские множества Λ− = {z R1+m : Q(z) < 0} содержат множество H−.

в которой v = [v0, v1, . . . , vk], vi Rk+, 0 ≤ i ≤ k.Как и для классической функции Лагранжа(21)для функции Лагранжа(21)имеет место результат,аналогичный утверждению

теоремы21.

Теорема28. Пусть у функции Лагранжа (88) существует седловая точка [x , v ] на множестве Rn × R(1++ k)k. Тогда точка x является решением задачи (??).

Доказательство данной теоремы незначительно отличается от доказательства теоремы ??.

Можно также показать,причем при весьма слабых предположениях относительно задачи( ??),что функция Лагранжа(88)обязательно обладает седловой точкой на множестве Rn ×R(1++ k)k.Пусть K выпуклый открытый конус в R(1+k)k.Будем говорить,что конус K разделяет H− и Wf ,если H− K и пересечение Wf ∩ K пусто.В случае,когда функция

Лагранжа(88)имеет седловую точку [x , v ] на Rn × R(1++ k)k,существует открытый конус K,который разделяет H− и Wf .Действительно,в качестве такого конуса K можно взять открытый конус

K = k Ki, Ki = {z R1+k : wi, z < 0},

i=0

37

где wi = [1, (v )i] R1++ k, 0 ≤ i ≤ k.Покажем,что справедливо и обратное утверждение.

Теорема29. Пусть существует открытый конус K,который разделяет множества H− и Wf . Тогда функция Лагранжа (88) имеет седловую точку [x , v ] на множестве

Rn × R(1++ k)k.

Доказательство. Пусть ε > 0.Рассмотрим единичные векторы e¯i R1+k, 0 ≤ i ≤ k, с

Kε = {(φ,ψ ) : q¯iφ + v¯i, ψ ≤ 0}.

Нетрудно проверить,что H− Kε0.Из этого включения следует,что q¯i > 0 и v¯i ≥ 0k для всех i = 0, 1, . . . , k.Действительно,мы имеем q¯iφ + v¯i, ψ ≤ 0 для произвольных φ < 0 и

ψ ≤ 0k.Устремляя φ к нулю,получаем v¯i, ψ ≤ 0 для всех ψ ≤ 0k.Таким образом, v¯i ≥ 0k. Имеем также [¯qi, v¯i], e¯0 = −q¯i ≤ 0,поэтому q¯i ≥ 0.

Если q¯i = 0 для некоторого индекса i, то [¯qi, v¯i], e¯0 = 0. Так как

Допустим,не умаляя общности,что q¯i = 1 для всех i. Положим u = [¯v0, v¯1, . . . , v¯k]. Тогда

38

Введем в рассмотрение множество

являющееся объединением полупространств

Li+(¯ui) = [φ,ψ ] R1+k : [1, v¯i], [φ,ψ ] ≥ 0 .

Это множество есть дополнение открытого конуса Kε0 до всего пространства и,следовательно,само является конусом.

Так как Kε0 разделяет множества H− и Wf (Rn), то Wf L+(v ).Из этого включения следует,что для любого x Rn найдется такой индекс i [0 : k] (зависящий,вообще говоря, от x),что

f(x) − f + v¯i, h(x) ≥ 0.

Таким образом, L(x , v ) = f и,стало быть,неравенство(90)может быть переписано в виде

С другой стороны,из h(x ) ≤ 0k следует,что vi, h(x ) ≤ 0 для любых vi Rk+.Поэтому

39

Согласно утверждению теоремы29,седловые точки у функции Лагранжа(88)существуют не только для выпуклых задач,но и для задач с функциями f(x) и h(x) произвольного вида.Платой за такую общность здесь является расширение числа двойственных переменных.Можно рассмотреть и другие модификации функции Лагранжа,обладающие подобным свойством.

Отметим также,что как следует из доказательства теоремы29,в невыпуклом случае множество Wf теперь принадлежит множеству L+(u ) вида(89) (см.рис.3),которое существенно больше соответствующего множества,

показанного на рис. 2.

Можно показать,что если множество Π в задаче(21)компактно,а функции f(x) и h(x) непрерывны,то в этой задаче обязательно существует открытый конус K,который разделяет множества H− и Wf ,т.е.предположение теоремы21выполнено.

1.3.2.Двойственные задачи

Используя функцию Лагранжа,можно построить пару задач,одна из которых фактически совпадает с исходной.

Рассмотрим общую задачу математического программирования,имеющую вид

где Π выпуклое замкнутое множество.

Прямая задача.Пусть W = Rl × Rk+.Воспользуемся функцией Лагранжа(регулярной),составленной для задачи(94),

Задачу(96)принято называть прямой задачей,порождаемой функцией Лагранжа.Как следует из(97)она фактически совпадает с исходной общей задачей математического программирования(94).

40