Cвойства выпуклых функций

1.Теорема:

Любая точка локального min выпуклой функции является в то же время точкой глобального минимума.

• Под интегралом:

(f(x_k-tf(x_k))-f(x_k),-tf(x_k))

Из условия теоремы известно:

||f(x)-f(y)|| L||x-y||

В данном случае:

x-y = -tf(x_k), то есть ||f(x_k-tf(x_k))-f(x_k)|| L||- tf(x_k)||

и тогда соответствующее скалярное произведение:

 L(- tf(x_k), - tf(x_k)) = Lt²||f(x_k)||²

Доказательство

Пусть x*- точка локального минимума функции, она не является точкой глобального минимума, то есть yX такая что:

f(y)<f(x*) (*)

Рассмотрим точки вида x = y+(1-)x* ,(0,1)

Так как X выпукло, то xX (по определению). Из выпуклости функции f(x)

и из (*) следует:

f(x)=f(y+(1-)x*)(по вып.)f(y)+(1-)f(x*)<(*)f(x*)+(1-)f(x*)=f(x*)

Получено: f(x)<f(x*) 

Но это противоречит условию, говоря о том, что х*- локальный минимум, так как при малых  точка х находится в достаточно малой окрестности точки х*.

Тогда теорема доказана от противного.

Теорема(о сильно выпуклой функции)

Сильно выпуклая функция обязательно имеет точку локального минимума, которая совпадает с точкой глобального минимума.

Без доказательства

2.Теорема:

Пусть функция f (х) имеет вторую непрерывную производную. Для того,

чтобы функция была выпуклой необходимо и достаточно, чтобы ее вторая

производная была неотрицательна.

Без доказательства

Для сильно выпуклых функций: ²f (x)  l_*I., где I- единичная матрица, l>0

Эту теорему можно рассматривать как критерий выпуклости

дифференцируемых функций.

Замечание:

Не все выпуклые функции дифференцируемы.

Примеры:

1.f(x) = x-выпуклая, не дифференцируемая

2.y = x² выпуклые, проверка выпуклости

y = -ln(x) по второй производной

3.Теорема (неравенство Йенсена):

Чтобы фукция f (x) была выпукла необходимо и достаточно, чтобы

 m 2, x₁,x_2,…,x_mХ и _i  0 _i =1 выполнялось:

_{m m}

f (  _i* x_i )   _{i *} f (x_i ). (*)

^{i=1 i=1}

Доказательство:

1. Достаточность, т.е. справедлива (*), нужно доказать выпуклость: пусть

m = 2, тогда f (x) – выпукла по определению.

2. Необходимость, т.е. дана выпуклость, нужно доказать (*): при m = 2 (*)

выполняется по определению.

3.Пусть при m = k теорема доказана (индукционное предположение).

Докажем при m = k + 1:

_k+11, тогда _i x_i = _k+1*x_k+1 + (1 - _k+1)_{* i *} x_i /(1 - _k+1),

тогда _{i *} x_i Х., так как выпуклое множество содержит все выпуклые

комбинации своих множеств.

Воспользуемся свойством выпуклости функций:

f (_i* x_i )  _k+1*f (x_k+1) + (1 - _k+1)_* f ( _i* x_i/(1 - _k+1)) 

Предположим, что теорема доказана для m=k

_i/(1-_k+1)= (1-_k+1)/ (1-_k+1)=1 удовлетворяет условиям теоремы (сумма всех коэффициентов равна 1)

 _k+1*f (x_k+1) + (1 - _k+1)_{* i *} f (x_i)/(1 - _k+1) = _{i *} f (x_i )

Неравенство доказано.

4.Теорема:

Выпуклая функция f (x) , определенная на выпуклом множестве X непрерывна в

каждой внутренней точке этого множества и имеет в каждой внутренней точке

производную в любом направлении.

Без доказательства

Пусть есть направление s ( ||s||=1-норма вектора):

f (x)/ s = lim = f_s(x)= (f (x), s)-производная по направлению

  0,   0