Opt_book_1

где x¤ = »¡1(y¤). Первое равенство (3.2.81) показывает, что вектор Lx(x¤; u¤) принадлежит нульпространству матрицы JT (x¤). Приведенные соотношения (3.2.81) позволяют переформулировать понятие точки Куна-Таккера для задачи (3.2.77).

Пусть ¡(xj¦) и ¡¤(xj¦) соответственно конус допустимых направлений в точке x относительно множества ¦ и двойственный к нему. Пусть, кроме того, lin ¡¤(xj¦) линейная оболочка конуса ¡¤(xj¦) (в данном случае она совпадает с аффинной оболочкой a ¡¤(xj¦) этого конуса). Наложим на преобразование »(y) следующее условие.

Условие A1. Преобразование »(y) таково, что матрица J(x) определена и непрерывна в некоторой области, содержащей множество ¦, и в каждой точке x 2 ¦ нуль-пространство матрицы JT (x) совпадает с lin ¡¤(xj¦).

Из этого условия, в частности, следует, что во всех внутренних точках x 2 int ¦ матрица J(x) не вырождена, она становится особой только на границе множества ¦. Отметим также, что, согласно условию A1, ортогональное к lin ¡¤(xj¦) подпространство (lin ¡¤(xj¦))? совпадает с пространством столбцов матрицы J(x).

Определение 3.2.3. Пара [x¤; u¤] 2 ¦£Rm для задачи (3.2.77), в которой Lu(x¤; u¤) = g(x¤) = 0m, называется:

²слабой точкой Куна-Таккера , если Lx(x¤; u¤) 2 lin ¡¤(xj¦);

²точкой Куна-Таккера, если Lx(x¤; u¤) 2 ¡¤(x¤j¦);

²сильной точкой Куна-Таккера, если Lx(x¤; u¤) 2 ri ¡¤(x¤j¦).

Непосредственно из определения 3.2.3 следует, что каждая точка Куна-Таккера является слабой точкой Куна-Таккера, но не наоборот. Точно так же, сильная точка Куна-Таккера одновременно будет просто точкой Куна-Таккера.

Если преобразование »(y) удовлетворяет условию A1, то включение Lx(x¤; u¤) 2 lin ¡¤(xj¦) имеет место в том и только в том случае, когда выполняется равенство JT (x¤)Lx(x¤; u¤) = 0n. Следовательно, условия Lx(x¤; u¤) 2 lin ¡¤(xj¦) и JT (x¤)Lx(x¤; u¤) = 0n оказываются эквивалентными для определения слабой точки Куна-Таккера.

Отметим также, что если множество ¦ совпадает со всем пространством Rn, то в качестве »(y) можно взять тождественное преобразование x = y. Матрица J(x) в этом случае не зависит от точки x, она постоянна и равна единичной матрице In. Конус допустимых направлений ¡(xjRn) в любой точке x 2 Rn есть все пространство Rn и, следовательно, двойственный конус ¡¤(xjRn) состоит лишь из нулевого вектора. Поэтому lin ¡¤(xj¦) является нулевым подпространством. Определения точки Куна-Таккера и слабой точки Куна-Таккера в этом случае совпадают и переходят в обычное определение точки Куна-Таккера (3.2.30) для задачи, содержащей только ограничения-равенства.

Предположим теперь, что все функции f(x), gi(x), 1 · i · m, дважды непрерывно дифференцируемы. Обозначим также через K(x) подпространство

K(x) = fz 2 Rn : gx(x)J(x)z = 0mg:

Достаточные условия второго порядка, задаваемые теоремой 3.2.7, для задачи (3.2.77) могут быть переформулированы следующим образом.

Теорема 3.2.9. Пусть отображение »(y) удовлетворяет условию A1. Пусть, кроме того, пара [x¤; u¤] является сильной точкой Куна-Таккера для задачи (3:2:77) и

134 ГЛАВА 3. ОПТИМИЗАЦИОННЫЕ ЗАДАЧИ

где z¤ 2 K(x¤), J(x¤)z¤ 6= 0n. Неравенство (3.2.87) противоречит (3.2.82). ¥

В частном случае, когда множество ¦ совпадает со всем пространством Rn, беря в качестве »(y) тождественное преобразование x = y, получаем, что утверждение теоремы сводится к утверждению теоремы 3.2.7 о достаточных условиях изолированного локального минимума для задачи (3.2.2).

3.3. ДВОЙСТВЕННОСТЬ ДЛЯ ЗАДАЧ МАТЕМАТИЧЕСКОГО ПРОГРАММИРОВАНИЯ

3.3.1.Седловые точки функции Лагранжа

Впредыдущем параграфе были рассмотрены необходимые условия первого и второго порядка локального минимума в задаче математического программирования, в которых использовались производные функций, входящих в постановку задачи. Возможны также условия оптимальности,

вкоторых присутствуют только значения этих функций. Такие условия по существу являются условиями оптимальности нулевого порядка и, как правило, они носят глобальный характер, т.е. выполняются для глобальных решений задач условной оптимизации. Рассмотрим некоторые из этих условий, причем для общей задачи математического программирования (3.2.1). Составим для этой задачи функцию Лагранжа (регулярную)

для всех x 2 ¦ и [u; v] 2 Rl £ Rk+.

С помощью понятия седловой точки функции Лагранжа могут быть сформулированы сравнительно простые достаточные условия глобального решения в общей задаче математического программирования.

Теорема 3.3.1. Пусть [x¤; u¤; v¤] седловая точка функции Лагранжа (3.3.1) на ¦ £ Rl £

Rk+. Тогда x¤ есть глобальное решение общей задачи математического программирования (3.2.1). Более того, в точке [x¤; v¤] выполнены условия дополняющей нежесткости для ограничений типа неравенства

Доказательство. Обратимся сначала к левому неравенству из определения седловой точки (3.3.2). Его можно переписать как

и оно выполняется для любых [u; v] 2 Rl £ Rk+.

Покажем от противного, что из (3.3.4) следует допустимость точки x¤ , т.е. x¤ 2 X. Начнем с ограничений типа равенства. Если gi1 (x¤) 6= 0 для некоторого индекса i1 2 [1 : l], например, gi1 (x¤) > 0, то, полагая все множители Лагранжа ui и vj равными соответственно множителям ui¤ и v¤j, кроме множителя ui1 , и устремляя последний к +1, получаем противоречие с (3.3.4). В случае, когда gi1 (x¤) < 0, множитель ui1 следует стремить, напротив, к ¡1. В силу произвольности индекса i1 из [1 : l], отсюда делаем вывод, что должно выполняться равенство: g(x¤) = 0l. Аналогичным способом проверяется выполнение неравенства h(x¤) · 0k.

Покажем теперь, что в точке [x¤; v¤] имеет место условие дополняющей нежесткости (3.3.3). Так как g(x¤) = 0l, то (3.3.4) принимает вид

hv ¡ v¤; h(x¤)i · 0 8v 2 Rk+:

Поэтому, если взять в нем v = 0k, то приходим к неравенству hv¤; h(x¤)i ¸ 0. С другой стороны, из h(x¤) · 0k и v¤ ¸ 0k следует, что hv¤; h(x¤)i · 0. На основании этих двух противоположных неравенств заключаем, что на самом деле имеет место равенство hv¤; h(x¤)i = 0 и так как h(x¤) · 0l, v¤ ¸ 0k, то для каждого индекса j 2 [1 : k] должно выполняться (3.3.3).

Проверим наконец, что точка x¤ есть точка минимума целевой функции f(x) на допустимом множестве X. Обратимся теперь к правому неравенству в определении (3.3.2) седловой точки. С учетом только что установленных равенств hu¤; g(x¤)i = 0 и hv¤; h(x¤)i = 0 оно принимает вид

В частности, для x 2 X, так как тогда g(x) = 0l и h(x) · 0k, из (3.3.5) получаем

f(x¤) · f(x) + hu¤; g(x)i + hv¤; h(x)i · f(x);

что подтверждает оптимальность точки x¤. ¥

Двойственные переменные u¤ и v¤, входящие в седловую точку [x¤; u¤; v¤], по-прежнему называются множителями Лагранжа.

В приведенной теореме 3.3.1 не делается никаких предположений о функциях f(x), g(x) и h(x), даже о множестве ¦, все они, как функции, так и множество, могут быть произвольными. Понятно, что для общей задачи трудно ожидать, что составленная для нее функция Лагранжа обладает седловой точкой. Однако важный факт состоит в том, что если мы имеем дело с выпуклой регулярной задачей, то это действительно так. Существование у функции Лагранжа седловой точки является не только достаточным условием, но и необходимым. Приведем этот результат для выпуклой задачи математического программирования, причем для простоты предположим, что она содержит только ограничения типа неравенства. Пусть требуется найти

где f(x) и все h1(x), : : : ; hk(x) выпуклые функции на Rn, ¦ µ Rn выпуклое замкнутое множество. Предположим, что задача (3.3.6) имеет решение и обозначим

В силу сделанных предположений допустимое множество X в задаче (3.3.7) выпукло и замкнуто. Составим для задачи (3.3.6) функцию Лагранжа (регулярную)

Пара [x¤; v¤] 2 ¦ £ Rk+ будет седловой точкой функции Лагранжа (3.3.8) на ¦ £ Rm+ , если

L(x¤; v) · L(x¤; v¤) · L(x; v¤)

для всех x 2 ¦ и v 2 Rk+.

Теорема 3.3.2. (Куна-Таккера о седловой точке). Пусть в задаче выпуклого программирования (3.3.6) выполнено условие регулярности ограничений Слейтера. Тогда, если точка x¤ является

решением задачи, то найдется такое v¤ 2 Rk+, что x¤ вместе с v¤ образуют седловую точку [x¤; v¤] функции Лагранжа (3.3.8) на ¦ £ Rk+.

Доказательство. Рассмотрим образ задачи (3.3.6) в пространстве R1+k, объединяющем значение целевой функции f(x) со значениями всех компонент вектор-функции:

множество n o

H¡ = [Á; Ã] 2 R1+k : Á < 0; Ã · 0k :

Множество H¡ не является замкнутым, но выпукло.

Пересечение этих двух множеств W´ и H¡ пусто тогда и только тогда, когда ´ не превосходит оптимальное значение f¤ целевой функции в задаче (3.3.6), другими словами, когда ´ является оценкой снизу этого оптимального значения f¤. Само значение f¤ есть в этом случае максимально возможной величиной для ´. Положим ´ = f¤ и далее будем рассматривать только множество Wf¤.

оказаться не выпуклым,

для любых [Á1; Ã1] 2 Wf+¤ , [Á2; Ã2] 2 H¡.

Учтем, что второе множество H¡ содержит внутренность неположительного ортанта R1+¡ k. Тогда, чтобы (3.3.9) имело место, обязательно должны выполнятся неравенства: q ¸ 0 и v¤ ¸ 0k.

для всех [Á1; Ã1] 2 Wf+¤.

Покажем, что при выполнении условия регулярности ограничений Слейтера случай, когда q = 0, невозможен. Действительно, если q = 0, то v¤ 6= 0k и неравенство (3.3.10) переходит в следующее: hv¤; Ã1i ¸ 0; которое должно выполняться для всех Ã1 таких, что Ã1 вместе с некоторым Á1 принадлежат множеству Wf+¤. Но, с другой стороны, если взять точку x¹, входящую в условие регулярности ограничений Слейтера, то Ã1 = h(¹x) < 0k. Поэтому в силу того, что v¤ ненулевой вектор с

неотрицательными компонентами, для данного Ã1 должно выполняться строгое противоположное неравенство hv¤; Ã1i < 0. Мы пришли к противоречию. Таким образом, q > 0 и можно считать, что q = 1.

Теперь неравенство (3.3.10) принимает вид:

Далее рассматриваем такие точки [Á1; Ã1], у которых Ã1 = f(x) ¡f¤ и Ã1 = h(x), где x 2 ¦. Так как все эти точки принадлежат Wf+¤, то из (3.3.11) следует, что

Возьмем в (3.3.12) в качестве x решение задачи (3.3.6) точку x¤. Поскольку f(x¤) = f¤, то приходим к неравенству hv¤; h(x¤)i ¸ 0. С другой стороны, так как h(x¤) · 0k и v¤ ¸ 0k, должно выполняться и обратное неравенство: hv¤; h(x¤)i · 0. Поэтому hv¤; h(x¤)i = 0 и на основании (3.3.12)

L(x¤; v¤) = f(x¤) + hv¤; h(x¤)i = f¤ · f(x) + hv¤; h(x)i = L(x; v¤) 8x 2 ¦:

Наконец, из-за того, что h(x¤) · 0k, для любых v 2 Rk+ справедливо неравенство hv; h(x¤)i · 0. Отсюда приходим к

L(x¤; v) = f(x¤) + hv; h(x¤)i · f(x¤) = L(x¤; v¤) 8 v 2 Rk+:

Таким образом, пара [x¤; v¤] является седловой точкой функции Лагранжа на ¦ £ Rk+. ¥

Замечание 7. В условиях теоремы (3.3.1) можно не требовать выполнения условия теоремы Слейтера, если все компоненты h(x) линейные функции, а множество ¦ полиэдр.

Наличие седловой точки у функции Лагранжа L(x; v) для задачи (3.3.6) оказывается очень полезным свойством оно позволяет строить численные методы для решения этой задачи и обосновывать их сходимость. Но доказательство теоремы 3.3.1 существенным образом опиралось на выпуклость множества Wf+¤ и на возможность отделить в пространстве образов задачи R1+k два выпуклых непересекающихся множества Wf+¤ и H¡. Делалось это с помощью линейной функции

где w¤ = [1; v¤] 2 R1+k, z = [Á; Ã] 2 R1+k. Фактически было установлено, что Q(z1) ¸ Q(z2) для любых z1 2 Wf+¤ и z2 2 H¡. Множества Wf+¤ и H¡ отделялись друг от друга гиперплоскостью

Q(z) = 0.

Если (3.3.6) не является задачей выпуклого программирования, то множество Wf+¤ может оказаться невыпуклым. Отделить два множества Wf¤ и H¡ с помощью гиперплоскости в этом случае не всегда представляется возможным это скорее исключение, чем правило. Поэтому идут по пути расширения класса функций Q(z), рассматривая вместо линейных функций Q(z), соответствующих классической функции Лагранжа (3.3.8), также нелинейные. Понятно, что это должны быть такие

функции Q(z), у которых лебеговские множества ¤¡ = fz 2 R1+m : Q(z) < 0g содержат множество

H¡.

Рассмотрим вместо (3.3.13) разделяющую функцию

Q(z) = max [hw0; zi; hw1; zi; : : : ; hwm; zi] ;

в которой v = [v0; v1; : : : ; vk], vi 2 Rk+, 0 · i · k. Как и для классической функции Лагранжа (3.3.8) для функции Лагранжа (3.3.14) имеет место результат, аналогичный утверждению теоремы 3.3.1.

Теорема 3.3.3. Пусть у функции Лагранжа (3:3:14) существует седловая точка [x¤; v¤] на множестве Rn £ R(1++ k)k. Тогда точка x¤ является решением задачи (??).

Доказательство данной теоремы незначительно отличается от доказательства теоремы 3.3.1.

¥

Можно также показать, причем при весьма слабых предположениях относительно задачи (3.3.6), что функция Лагранжа (3.3.14) обязательно обладает седловой точкой на множестве Rn £ R(1++ k)k.

Пусть K выпуклый открытый конус в R(1+k)k. Будем говорить, что конус K разделяет H¡ и Wf¤, если H¡ ½ K и пересечение Wf¤ \ K пусто. В случае, когда функция Лагранжа (3.3.14) имеет

седловую точку [x¤; v¤] на Rn £ R(1++ k)k, существует открытый конус K, который разделяет H¡ и Wf¤. Действительно, в качестве такого конуса K можно взять открытый конус

K = \k Ki; Ki = fz 2 R1+k : hwi; zi < 0g;

i=0

где wi = [1; (v¤)i] 2 R1++ k, 0 · i · k. Покажем, что справедливо и обратное утверждение.

Теорема 3.3.4. Пусть существует открытый конус K, который разделяет множества H¡ и Wf¤. Тогда функция Лагранжа (3:3:14) имеет седловую точку [x¤; v¤] на множестве Rn £R(1++ k)k.

Доказательство. Пусть " > 0. Рассмотрим единичные векторы e¹i 2 R1+k, 0 · i · k, с компо-

и обозначим через K" коническую оболочку векторов s0;"; s1;"; : : : ; sk;", а через K"0 ее внутренность. Предположим, что " достаточно мало. Тогда K"0 ½ K и векторы si;", (i = 0; : : : ; k) линейно независимы. Поэтому K" является симплициальным конусом.

Из симплициальности конуса K" следует существование таких k + 1 линейно независимых векторов [¹qi; v¹i] 2 R1+k, что

K" = f(Á; Ã) : q¹iÁ + hv¹i; Ãi · 0g:

Нетрудно проверить, что H¡ ½ K"0. Из этого включения следует, что q¹i > 0 и v¹i ¸ 0k для всех i = 0; 1; : : : ; k. Действительно, мы имеем q¹iÁ + hv¹i; Ãi · 0 для произвольных Á < 0 и Ã · 0k. Устремляя Á к нулю, получаем hv¹i; Ãi · 0 для всех Ã · 0k. Таким образом, v¹i ¸ 0k. Имеем также

h[¹qi; v¹i]; e¹0i = ¡q¹i · 0, поэтому q¹i ¸ 0.

Если q¹i = 0 для некоторого индекса i, то h[¹qi; v¹i]; e¹0i = 0. Так как

K"0 = f[Á; Ã] : h[¹qi; v¹i]; [Á; Ã]i < 0; 0 · i · kg ;

то отсюда следует, что e¹0 является граничной точкой конуса K". Это противоречит включению

e¹0 2 H¡ ½ K"0. Поэтому q¹i > 0.

Допустим, не умаляя общности, что q¹i = 1 для всех i. Положим u¤ = [¹v0; v¹1; : : : ; v¹k]. Тогда

K"0 = f(Á; Ã) : Á + hv¹i; Ãi < 0; 0 · i · kg:

Так как K"0 ½ K и пересечение K \ Wf¤ пусто, то пересечение K"0 \ Wf¤ также пусто. Учитывая теперь, что H¡ ½ K"0, делаем вывод, что конус K"0 разделяет множества Wf¤ и H¡.

Введем в рассмотрение множество

являющееся объединением полупространств

n o

Li+(¹ui) = [Á; Ã] 2 R1+k : h[1; v¹i]; [Á; Ã]i ¸ 0 :

Это множество есть дополнение открытого конуса K"0 до всего пространства и, следовательно, само

f(x) ¡ f¤ + hv¹i; h(x)i ¸ 0:

Поэтому и подавно

Точно так же для точки x¤ 2 X¤ найдется индекс i¤ 2 [0 : k], для которого f(x¤) + hv¹i¤; h(x¤)i ¸ f¤. Отсюда, поскольку f(x¤) = f¤, получаем

Так как h(x¤) · 0k и, следовательно, hv¹i; h(x¤)i · 0 для всех 0 · i · k, то из (3.3.17) вытекает, что

max hv¹i; h(x¤)i = 0:

0·i·m

Таким образом, L(x¤; v¤) = f¤ и, стало быть, неравенство (3.3.16) может быть переписано в виде

С другой стороны, из h(x¤) · 0k следует, что hvi; h(x¤)i · 0 для любых vi 2 Rk+. Поэтому

max hvi; h(x¤)i · 0:

0·i·k