![](/user_photo/_userpic.png)
книги из ГПНТБ / Иоффе, А. Д. Теория экстремальных задач [учеб. пособие]
.pdf5 3.5. КОНЕЧНОМЕРНЫЙ в ы п у к л ы й а н а л и з |
201 |
2j Pz= |
0, |
|
= |
0 |
и |
при достаточно |
малом |
Я > 0 |
|||||||||
|
|
|
|
|
|
|
|
|
|
п + |
2 |
|
|
|
|
|
|
о i + Я£5,- > 0 , |
i = |
1, |
. . . , |
п -f- 2; |
S |
(«/ + Я|3,) = |
1; |
||||||||||
|
|
|
|
|
|
|
|
|
|
i=i |
|
|
|
|
|
|
|
|
|
|
|
п + |
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
(«Z + |
^Р;) х{ = |
х; |
|
|
|
|
|
|
|
|||
|
|
|
|
i = i |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
(а; + |
яр,) / (*,) < |
2 |
a j |
(*,), |
|
|
|
|
|||||
|
|
|
i = |
1 |
|
|
|
|
i = I |
|
|
|
|
|
|
|
|
вопреки |
выбору |
(аь |
|
|
а„+г)- |
Первая |
часть |
|
предло |
||||||||
жения доказана. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
Пусть теперь f — замкнутая функция и domf — огра |
|||||||||||||||||
ниченное |
множество. |
Если дг е |
dom /**, |
то |
из |
след |
|||||||||||
ствия 2 теоремы |
Фенхеля — Моро вытекает существова |
||||||||||||||||
ние |
последовательности |
наборов |
{(ai 771* * ••* С&П+1, т , |
||||||||||||||
X \ m i ■ • * > |
^ n + 1, |
m ) } |
Т аК И Х , |
ЧТО |
^ |
|
i |
ОСi m = |
|
1 , |
Х { т |
||||||
€= dom / и |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
n + 1 |
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
i=l a im f ( x im ) - > Г |
M ; |
|
|
|
|
|
|
|
|||||
|
|
|
|
|
n + l |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
j |
Zj |
& im x lm ~~y x |
|
|
|
|
|
|
|
|
||
|
|
|
|
|
<=l |
|
|
|
|
|
|
|
|
|
|
|
|
при m —> oo. Поскольку последовательности |
{a,m} |
и |
{лг,т } |
||||||||||||||
ограничены, |
мы |
можем |
считать, |
что а |
ш |
>a;,— |
xim-+ x i |
||||||||||
при т |
- * |
о дляо всех i . Тогда сс, ^ |
0, ^ |
«/ = |
1, 2 |
|
а л = х - |
Наконец, если /(*,,„)-»■ со для некоторого номера г, то,
поскольку / ограничена снизу, |
a,m-> 0 и a i m f |
( х ш-»•)0. |
||
Если |
же Urn/(xim) < |
оо, то, из-за замкнутости |
функ |
|
ции /, |
/(*,) < оо. Поэтому |
|
|
|
|
|
п+1 |
п+1 |
|
Г* (х) < |
(conv f) (х) < |
2 a,f (*,) < |
lim 2 aimf (хш) = |
Г (*)• |
Предложение 2 доказано.
Г л а в а 4
ЛОКАЛЬНЫЙ ВЫПУКЛЫЙ АНАЛИЗ
Эта глава посвящена систематическому изучению субдиффереициалов. Субдифференциалы характеризуют локальное поведение выпуклых функций и функций, локально устроенных как выпуклые, подобно тому, как производные определяют локальное поведение гладких функций. И на самом деле, между «субдифференциальным исчислением», с одной стороны, и дифференциальным исчислением гладких функции, с другой, существует глубокая связь, хотя некото рые результаты о субдифференциалах и не имеют аналогов в диффе ренциальном исчислении. Практически все результаты этой главы существенно используются в дальнейшем; отметим важнейшие из них — теорему Моро — Рокафеллара и теорему об очистке (§ 4.2). Всюду в этой главе, как и в предыдущей, предполагается, что X, У, ... — отделимые локально выпуклые линейные топологические пространства.
§ 4.1. Однородные функции и производные по направлениям
4.1.1. |
Однородные функции. Функция /, определен |
ная на |
пространстве X, называется положительно одно |
родной |
степени а > О, если f (0) = 0 и |
f(kx) = kaf(x)
для всех х е ! Д > 0 . У нас в книге будут встречаться, главным образом, положительно однородные функции степени единица, для краткости будем называть их про сто однородными. Очевидно, надграфик однородной функции — конус. Поэтому однородная функция вполне определяется своими значениями в сколь угодно малой окрестности нуля. Вспоминая условие выпуклости ко нуса (§ 0.3), немедленно получаем, что однородная соб ственная функция / выпукла тогда и только тогда, когда
f{x) + f {У) > f ( x + у)
для всех х, у е Хк
§ 4.1. ОДНОРОДНЫЕ ФУНКЦИИ |
203 |
Наиболее важные примеры однородных |
функций — |
опорная функция и функция Минковского. Их однород ность проверяется непосредственно. Более существенно то обстоятельство, что всякая собственная замкнутая выпуклая однородная функция есть опорная функция некоторого непустого множества.
П р е д л о ж е н и е 1. |
Пусть / — |
собственная замкну |
|
тая выпуклая однородная функция |
на X. Тогда / есть |
||
опорная |
функция некоторого непустого множества. |
||
Д о к |
а з а т е л ь с т в о . |
Рассмотрим множество |
А = [х9е= X* |/ (х) > (х\ х>, Vx е= X]
ипокажем, что
/(х) = sup (х*, х') = s (х |А).
Если * ' ё |
А, |
т о |
( х *, |
х ) — /(х )< !0 |
для |
всех |
х и /*(х*) = |
||||||
= |
— f (0) = |
0. |
Если |
же х* |
А, |
то (х\ |
x ) — f ( x ) > 0 для |
||||||
некоторого |
х е |
X и |
|
|
|
|
|
|
|
||||
|
|
|
f* (х*) ^ Пт ((х\ |
/х) — / (/х)) = оо. |
|
||||||||
|
|
|
|
|
|
|
оо |
|
|
|
|
|
|
Наконец, согласно предложению 3 из § |
3.3 |
/* — соб |
|||||||||||
ственная |
|
функция. |
Поэтому |
А Ф 0 |
и |
/* = |
б(-|Л ). |
||||||
В |
силу |
теоремы |
Фенхеля — Моро |
отсюда |
следует, что |
||||||||
/ = |
/** = |
б*( . |А) |
= |
s ( - |Л), |
т. |
е. |
f — опорная |
функция |
|||||
множества Л. |
|
обстоятельство |
порождает |
двойствен |
|||||||||
|
Отмеченное |
ность между собственными замкнутыми выпуклыми од нородными функциями на X и непустыми замкнутыми выпуклыми подмножествами пространства X*. Именно, это соответствие относит каждому непустому замкну тому выпуклому множеству Л cr X* его опорную функ цию, а каждой собственной замкнутой выпуклой одно родной функции — эффективное множество функции, сопряженной с ней.
Отметим еще одно полезное свойство однородных функций.
П р е д л о ж е н и е 2. Пусть f — однородная функ ция на X. Если f непрерывна во всех точках множества U czX, то она непрерывна и во всех точках конуса Ки,
2Т4 ГЛ, 4. ЛОКАЛЬНЫЙ ВЫПУКЛЫЙ АНАЛИЗ
порожденного множеством U, за исключением, возмож но, нуля. В частности, если f непрерывна в некоторой окрестности нуля, то f непрерывна на X.
Д о к а з а т е л ь с т в о . Пусть х0 ^ |
Ки, Х о ¥ = 0 . Тог |
да Ххo ^ U при некотором X > 0. Пусть |
V — окрестность |
точки Хх0, во всех точках которой выполнено неравен ство | /(х )^ f(Xx0) |< Хг. Тогда ( 1 Д) Е— окрестность точки х0 и при лге(1Д ) V
I f { x ) — f {х0) |= Я-1 1/ (Хх) — f (XxQ) I < е.
Отсюда следует, что / непрерывна в точке х$. Если же / непрерывна в окрестности начала, то по доказанному f непрерывна всюду, за исключением, возможно, нуля. Но в нуле / непрерывна по условию. Предложение доказано.
4.1.2.Производные по направлениям. Пусть f —
функция на X и | f(x)| < oo . Если существует конечный или бесконечный предел
ЗьФП Л
то он называется производной функции f по направле нию у в точке х. Если в точке х функция f имеет произ водные по каждому направлению, то простая выкладка
f'(x; Ху) = |
Пт f(x + e X y ) - f |
(х), = M i m |
/ |
(X + Ву) — f(x) |
|
|
г |
||||
|
вЮ |
6 |
е|0 |
|
|
показывает, |
что |
f'(x\ •) — однородная |
|
функция. Эта |
функция называется производной функции f по направ лениям.
Отличительной особенностью выпуклых функций яв ляется существование производных по направлениям во всех точках их эффективных множеств. Мы покажем сначала это для выпуклых функций на прямой, а затем
в общем случае. |
|
выпуклая |
функция |
на R, |
||
Пусть |
ср(0 — собственная |
|||||
< h < |
t3, причем |
точки t\ |
и |
t2 содержатся в |
dom <;>. |
|
Тогда по неравенству Иенсена |
|
|
|
|
||
|
Ф (^ < £ т г г Ф ( г ,) + |
^2 ^1 |
Ф (У- |
|
||
|
*3 |
ч |
|
— Л |
|
|
§ 4.1. ОДНОРОДНЫЕ ФУНКЦИИ |
205 |
Отсюда следуют два соотношения:
ф (У — Ф {h) < т}^77 [*Р (*з) — Ф (*,)].
Ф (/з) - Ф (t2) > |
т^ Е тг [Ф (h) - |
ф (/,)] |
|
или |
|
ф(<з) —Ф{t2) |
|
ф{tj) —«РVl) ^ Ф(<з) —ф(<l) |
|||
|
|
|
(О |
Пусть / е б о т ф . Из |
(1) следует, |
что разностное |
|
отношение |
|
|
|
Ф (/ |
+ Я,) — ф (/) |
|
|
А
при убывании Я к нулю не возрастает (если t—крайняя
правая |
точка ботф , то |
это |
отношение тождественно |
||||||||
по Я > |
0 равно + оо). |
Поэтому |
во всех точках множе |
||||||||
ства domcp функция q> |
имеет правую производную |
||||||||||
|
ф'+(0 = ф, (^; 1) — Пт *(*.+ *) ~ ф <'>, |
|
|
||||||||
Далее, |
если t{ и t2 принадлежат domф и 0 < 6 |
< t 2 — t[t |
|||||||||
то снова в силу |
(1) |
|
|
|
|
|
|
|
|
|
|
|
ф ( б + б ) |
— ф (6 ) |
^ |
ф (<2) — ф (Л) |
ф д г |
+ |
Я)— ф (/2) |
||||
|
б |
|
|
|
|
|
^ |
|
А |
• |
|
Отсюда |
следует, |
что ф'+ (/,) ^ ф + |
(/2), т. е. правая произ |
||||||||
водная не убывает по t и |ф^(/) j < |
оо, если t ее int (dom ф). |
||||||||||
Обратимся к общему случаю. |
|
|
|
|
|||||||
П р е д л о ж е н и е |
3. |
Пусть f —собственная выпуклая |
|||||||||
функция на X. Тогда функция |
f |
имеет производную |
|||||||||
по направлениям в любой точке |
множества |
dom /. |
|||||||||
При этом |
|
|
|
|
|
|
|
|
|
|
|
|
/'(* ; у ) = |
inf f(x + |
X y ) - f (x) ' |
|
|
|
|||||
|
|
|
|
\>о |
|
к |
|
|
|
|
|
Д о к а з а т е л ь с т в о . |
Пусть |
x e d o r a f , |
i / e |
l По |
|||||||
ложим |
ф(t) — f ( |
х |
ty) • Тогда |
ср есть выпуклая |
собст |
||||||
венная |
функция |
на |
R |
и |
нуль |
принадлежит |
ее |
эффек |
тивному множеству. Поэтому правая производная ф^ (0) существует. Однако по определению ф^ (0) = /'(х ; у). Предложение доказано.
206 |
ГЛ, 4. ЛОКАЛЬНЫЙ ВЫПУКЛЫЙ АНАЛИЗ |
Мы уже отмечали, что производная по направле ниям — однородная функция. Если f выпукла, то про стая выкладка
f'{x; у + |
г) = Пт П 1 ± ( Ы Ш |
^ 1 Ж < |
||
|
Но |
|
|
|
< U |
r n |
+ |
+ |
= Y {х. у) + Y {х. г) |
ПО |
|
л |
|
|
показывает, что ее производная по направлениям тоже
выпукла. |
|
4. |
Пусть f — собственная выпук |
||
П р е д л о ж е н и е |
|||||
лая функция |
на X, |
непрерывная |
в точках |
множества |
|
U cz X. Тогда, |
если |
для |
некоторого |
такого, что |
|
х-\- l e t / , производная |
f'(x\x) |
конечна, |
то функция |
f'(x\ •) непрерывна во всех точках конуса Ки-х, порож денного множеством U — х, за исключением, возможно, начала координат. Если же f непрерывна в точке х, то производная по направлениям f'(x; •) конечна и непре рывна на X.
Д о к а з а т е л ь с т в о . В силу предложения 2 нам нужно проверить, что функция f ' ( x ; •) непрерывна во
всех |
точках |
множества |
U — х. |
Покажем сначала, |
что |
||||||
f ' ( x ; |
•) — собственная |
функция. Так |
как |
\f'(x\ic) |< |
оо, |
||||||
то |
x e d o m / . |
Поэтому |
f ' ( x ; у) ^ |
f ( x + |
у) — f (-*0 |
для |
|||||
всех |
у |
(предложение |
3). |
Предположим, что f'(x-,X{)_— |
|||||||
■= — оо |
в некоторой |
точке |
Х\ е |
X. |
Поскольку х |
х < = |
|||||
e i nt ( domf ) |
(теорема |
1 |
из |
§ |
3.2), |
для |
достаточно |
ма |
|||
лого е > |
О точка х + ( х + |
е ( х |
— x t) ) = х |
+ х 2 принадле |
жит множеству dom f. По неравенству Иенсена для вся кого X > О
/ {х + Хх) ^ |
д е" / (х + Хх2) + j д.' —/ (х + ^*i)> |
откуда следует, |
что |
П*; |
+ 7Т7 ^ (лг; Xl)== — °° |
в противоречии с условием. (Заметим, что f'(x-,x2) < оо, поскольку x + x2e d o m f . ) Таким образом, наше пред положение было ошибочным и f'(x\ •) — собственная функция,
§ 4.2. СУБДИФФЕРЕНЦИАЛ. ОСНОВНЫЕ ТЕОРЕМЫ |
207 |
Если Xi ^ lU — х, то f ограничена сверху некоторым числом с в достаточно малой окрестности V точки х-\-х\. Поэтому для всякого у е У — х выполнено неравенство
/ ' ( * ; l / X f ( x + y ) — f ( x ) ^ c — f(x),
т. е. f'(x\ •) конечна и ограничена на V — х и, следова тельно, по теореме 1 из § 3.2 непрерывна в точке хц Этим завершается доказательство первой части пред ложения.
Для доказательства второй части достаточно заме тить, что, если f непрерывна в нуле, то (из-за выпукло сти) она непрерывна в некоторой окрестности нуля, и применить снова предложение 2.
§4.2. Субдифференциал. Основные теоремы
4.2.1.Определения и элементарные свойства. В § 0.3
субдифференциал выпуклой функции f в точке х опре делялся следующим образом:
df (х) = (х* <= X* |/ (г) — / (х) ^ (х*, z — х), V z e l ) .
Этот параграф мы начнем с другого определения, при годного не только для выпуклых функций, но совпадаю щего с первоначальным в случае, когда функция вы пукла.
Пусть / — однородная функция на X. Субдифферен~ циалом функции f в нуле называется эффективное мно жество сопряженной функции /*. Оно обозначается df(0). В силу предложения 1 из § 4.1
df (0) = (х* е Г | / (х) > |
<х*, х), Vx g I } . |
З а м е ч а н и е . Функционал |
х* е X* такой, что |
/ (х) ^ (х*, х), |
Vx е X, |
называют иногда опорным функционалом однородной функции f(x). Таким образом, д[(0) — множество всех функционалов х*, опорных к однородной функции f{x).
Точно так же, если g — однородная функция на X*, то множество
208 |
ГЛ, 4. л о к а л ь н ы й в ы п у к л ы й а н а л и з |
называется субдифференциалом функции g в нуле.
Пусть теперь f — функция на X, имеющая производную по направлениям в точке х. Множество
df(x) = df'(x; 0)
называется субдифференциалом функции f в точке х. Элементы этого множества называются субградиентами функции f в точке х. Говорят, что функция / субдиф ференцируема в точке х, если д Ц х ) Ф 0 .
Как следует из доказываемого ниже утверждения, для выпуклых функций это определение субдифферен циала совпадает с тем, которое было приведено в § 0.3.
Пр е д л о ж е н и е 1. Пусть f — выпуклая функция на X. Тогда следующие условия эквивалентны-.
а) |
х* е df (х); |
|
z — x) для всех |
г е 1 ; |
|
|||||
б) |
f (г) — / (х) > ( х \ |
|
||||||||
в) / (х) + Г СО = (х\ х). |
|
|
|
|
||||||
Д о к а з а т е л ь с т в о . |
Если |
х’ е д /( х ), |
то |
в силу |
||||||
предложения 3 из § 4.1 |
|
|
|
|
|
|||||
(х\ z — х ) < |
/' (х; z — х ) < |
f (х Н- z —x) —f (х) = |
f (z)—f (х). |
|||||||
Если (х\ |
z — x ) ^ . f ( z ) |
— f (х) для всех г е 1 , |
то (х‘ , г) —- |
|||||||
— / (z) ^ |
(х*, |
х) — f (х) |
для всех г е 1 , откуда, принимая |
|||||||
во внимание |
неравенство |
Юнга — Фенхеля, получаем |
||||||||
|
|
|
|
r ( x ) + |
f(x) = |
(x\ X). |
|
|
|
|
Если, |
наконец, |
(х*, |
х ) — f (х) + /*(х*), |
то |
поскольку |
|||||
/ (х + гг ) |
^ (х*, х |
+ ez) — /* (х*), |
для всякого |
е > |
0 |
|||||
|
|
f(x + |
гг) — f (х) |
{х*, гг) |
|
|
|
|||
|
|
|
|
е |
|
|
( х \ Z) |
|
|
|
|
|
|
|
|
|
е |
|
|
|
и, следовательно,
/'(х ; z ) > ( x ‘ , z).
Предложение доказано.
П р и м е р ы ф у н к ц и й и их с у б д и ф ф е р е н ци ало в .
1. Аффинная функция f(x) — (х*, х) -f- а субдиффе ренцируема в любой точке х и д /(х )= {х * }. Вообще, субдифференциал функции, дифференцируемой по Гато в данной точке, содержит единственный элемент — про изводную Гато в этой точке.
§ 4.2. СУБДИФФЕРЕНЦИАЛ. ОСНОВНЫЕ ТЕОРЕМЫ |
209 |
Верно и обратное: если f — выпуклая функция, не прерывная в точке * и субдифференциал df(x) содер жит единственный элемент х*, то / дифференцируема по Гато в точке х и /^ (*) = **. В самом деле, в силу пред ложения 4 из § 4.1 функция /'(* ; •) непрерывна и, сле довательно, замкнута. Поэтому
Г (*; г) = (/' {х; •))** (г) = sup {(г*, г) \z' е= df (*)} = (**, г),
что по определению означает, что /^ (*) = **.
2.Субдифференциал индикаторной функции б(-|Л)
вточке х мы вычислили в § 0.3, он оказался равным конусу опорных функционалов множества А в этой точке:
db(x\A) = N ( х \ А ) = | / е Г |
|(х *, г |
— * > < 0, |
Vz <= А}. |
|||||
Если |
К — конус, |
то |
N (0| К) = К° — полярный |
конус; |
||||
если |
М — линейное |
многообразие, |
параллельное |
под |
||||
пространству |
L, |
то |
N(x\M) = LL — аннулятор |
L для |
||||
всякой точки r e J W |
(ср. с п. 3.3.1, пример 2). |
|
||||||
3. |
Пусть f — однородная выпуклая функция и х ф 0. |
|||||||
Тогда |
df(x) = |
{х* е |
d /(0 )|/(*) = |
(х*, *)}. |
Это |
сразу |
||
следует из предложения 1 § |
4.1 и утверждения в) |
пред |
||||||
ложения 1. |
|
|
|
|
|
|
|
4. Субдифференциал нормы в банаховом простран
стве мы вычислили в § 0.3: |
|
|
(* * е = Г |||**||=1, <**, *> =||*||}, |
если |
х ф 0, |
0||*|| = fi*(0, 1) — {** s X* |||*‘ ||^ 1}, |
если |
х — 0. |
В§ 4.5 мы вычислим субдифференциалы и других_ функций.
Вэтом параграфе мы основное внимание уделяем субдифференциалам выпуклых функций. Аналогичные
результаты для невыпуклых, но субдифференцируемых функций будут получены в § 4.4.
Из определения прямо следует, что функция f мо жет быть субдифференцируема только в точках множе ства dom /. При этом, если f выпукла и субдифференци руема в некоторой точке *, то f — собственная функция, /* — тоже собственная функция и <?/(*) с dom /*. Далее, поскольку индикаторная функция субдифференциала сопряжена с производной по направлениям, субдиффе
210 |
ГЛ, 4. ЛОКАЛЬНЫЙ ВЫПУКЛЫЙ АНАЛИЗ |
ренциал — выпуклое и слабо* замкнутое множество в силу предложения 2 из § 3.3. Заметим еще, что в силу теоремы Фенхеля — Моро выпуклая однородная функ ция субдифференцируема в нуле тогда и только тогда, когда она полунепрерывна снизу в нуле. Действительно, в этом случае замыкание функции / в нуле равно нулю. Поэтому f (из-за однородности) не может принимать значения — оо ни в одной точке, а это, в свою очередь, означает, что f*{x*) — собственная функция и dom f* Ф
^0 . Отсюда следует
П р е д л о ж е н и е 2. Выпуклая собственная функция f субдифференцируема в точке х е dom f тогда и только
тогда, когда ее производная по |
направлениям в |
этой |
точке полунепрерывна снизу в нуле. |
соб |
|
П р е д л о ж е н и е 3.- Пусть |
f (х)— выпуклая |
|
ственная функция, непрерывная |
в точке Хо. Тогда ее |
субдифференциал df(x0) не пуст и ограничен в слабой*
топологии. |
Согласно |
предложению 4 из |
Д о к а з а т е л ь с т в о . |
||
§4.1. функция f'(x0; •) |
непрерывна |
на X. Из предыду |
щего предложения следует, что <Э/(хо)¥=0. Далее для всякого х е X
sup {(.v‘ , х) \х* е df (х0)} = /' (jf0, х) < оо,
что по определению означает ограниченность множест ва df(xo) в слабой* топологии пространства X*.
З а м е ч а н и е . На самом деле, в условиях предло жения 3 множество df(x0) слабо* компактно, но мы не будем этим пользоваться.
Отметим в заключение три очевидных формулы, ко торые полезно иметь в виду:
если Ф (х) = / (х + х0), то
дФ (x) = df (х + х0);
если ф (х) = Я/ (х), где Я > 0, то
<Эф{х) = Я<Эf(x);
если Ф (* )= = /(Я*), где Я > 0, то
<Эф{х) = Я df (Ях).