4.2. Методы спуска

Пусть существует точка ®* G Rn, в которой целевая функция f(x) достигает минимума. Процедуру поиска этой точки в методах спуска обычно описывают (после выбора начальной точки х°) рекуррентным соотношением

где ик ЕШп — единичный вектор, определяющий направление спуска на к-й итерации, a fa ^ 0 — длина шага спуска,

выбора значения fa базируется на требовании, чтобы выполня­ лось неравенство*

f(x k~l + pkuk) < (1 - \k)f(x k~l) + A*; min /(® fc_1 +puk), (4.21)

где Xk E [0,1]. Отметим, что выбор значения fa в соответствии

сусловием (4.21) обеспечивает выполнение неравенства (4.2), так что последовательность {ж*}, построенная в соответствии

с(4.20), будет релаксационной.

При = 1 неравенство в (4.21) переходит в равенство, а значение fa соответствует минимальному значению функции f(x) при изменении х вдоль луча, исходящего из точки х к~ 1 в направлении вектора ик, т.е. на множестве

{х е Ш п : х = х к~1 + (Зик, (3 Е М *} .

В этом случае для нахождения fa необходимо решить задачу одномерной минимизации (см. 2 ). При этом значение fa может быть не единственным (в таком случае выбирают наименьшее значение).

При Хк = 0 (4.21) переходит в неравенство

(4.22)

Необходимость в решении задачи одномерной минимизации от­ падает, а для выбора значения (Зк можно использовать различ­ ные эвристические приемы.

Рассмотрим промежуточный случай А* € (0,1). Для /? € R* из (4.20) и (4.21) получаем

/(® *_1) - f ( x k) ^ Хк(Д®*-1) - min f { x k~l +/3ик)) ^

> \ k {f{x k- x) - f { x k~l +f3uk)). (4.23)

Тогда при выполнении условий теоремы 4.3 оценка (4.15) при­ мет вид

где 7 — параметр сильной выпуклости функции /(® ). Эта оценка позволяет установить роль параметра* А&. Пока отно­ шение

/ ( * fc_1) - / ( * fc)

Фк = |grad Я® *-1\|2 > fceN,

остается достаточно большим, значение Ад, следует выбирать таким, чтобы произведение Xkipk оставалось на каждой к-й ите­ рации примерно постоянным. Тогда при сравнительно малом значении Хк нет необходимости в высокой точности вычисле­ ний значений /Зк и решения задачи одномерной оптимизации функции f ( x k~1 + Puk) по аргументу /3 и можно выбрать (Зк просто из условия (4.22). Однако по мере приближения к точке ®* минимума целевой функции необходимо увеличивать зна­ чение Хк вплоть до единицы и выбирать значение (Зк из более

точного решения задачи одномерной минимизации функции /(ж ^” 1 + (Зик) по аргументу /3, обеспечивая тем самым выпол­ нение условия (4.17).

Высказанные соображения качественного характера спра­ ведливы не только для сильно выпуклых функций, но и для выпуклых функций, удовлетворяющих условиям теоремы 4.1. При некоторых дополнительных ограничениях эти соображе­ ния можно распространить на невыпуклые дифференцируемые функции*

Перед рассмотрением вопроса о выборе направления спуска докажем вспомогательные утверждения.

Лемма 4.3. Если функция /(ж ) непрерывно дифферен­ цируема во всех точках х = у + тр, т Е [0, 1], то справедливо равенство

◄ Функция h{r) = f(y + тр) действительного переменного т, как сложная функция, непрерывно дифференцируема на отрез­ ке [0, 1], и ее производную для произвольного т 6 [0, 1], согласно правилу дифференцирования сложной функции, можно запи­ сать в виде

h'(т) = (grad / (у + тр),р).

Для этой функции верна формула Ньютона — Лейбница

1

J h'(r) dr = h(l) —h(0).

о

Поскольку h(0) = f{y), h(l) = f{y + p), то записанная формула равносильна равенству (4.24). ►

Лемма 4.4. Пусть функция f(x ) непрерывно дифферен­ цируема на выпуклом множестве X С Кп и существует такая константа L > 0, что для любых х ,у Е X выполнено неравен­ ство

Тогда для любых х, у е X справедливо неравенство

◄ Полагая р = х —у , согласно лемме 4.3 и свойствам скалярного умножения, получаем

I

/ ( ® ) - / ( у ) = У (grad/(j/ + rp ),p )d r =

О

1

= (grad/(x), р) + J (grad/( у + тр) - grad/(ж ), р) dr.

Используя неравенство Коши — Буняковского и (4.25), за­ ключаем, что для интеграла I в правой части записанного равенства верны соотношения

1

I > - J |grad/(y+ тр) —grad/(®)| |p|dr ^

о

1

> - L j \у + т { х - у ) - х \ \ х - у \ ( 1 т =

о

1

= -L \ x-у\2 J (1 - т ) с 2т = - ^ | ж - у I2

о

В итоге приходим к (4.26). ►

Вектор, противоположный градиенту функции, называют антиградиентом. Антиградиент функции f(x ) в точке х будем обозначать w(x) = — grad/(ж). Если градиент опреде­ ляет направление наибольшего возрастания функции [V], то антиградиент, наоборот, задает направление наибольшего убы­ вания этой функции. Для к-й итерации используем обозначения wk _ — grad f { x k~l) для антиградиента в точке х к~ 1 и

для косинуса угла между направлениями спуска и антигради­ ента.

Теорема 4.4. Если выпуклая и непрерывно дифференци­ руемая в Rn функция / ( ж ) удовлетворяет на множестве X Q = = { ж G Мп: f(x ) ^ / ( ж 0) } условиям леммы 4.4, множество Хо ограничено, а последовательность {х к}, построенная в соответ­ ствии с (4.20) и (4.21), является релаксационной, то справедлива оценка

где L — константа в условии (4.25), а 77= diamXo — диаметр множества X Q.

части полученного неравенства выберем /3 = ak\wk\/L и после

где L — константа в условии (4.25), а 7 — параметр сильной выпуклости функции f{x ).

оценку (4.31). Оценка (4.32) следует из (4.31), если принять во внимание доказанное в теореме 3.18 неравенство |аз*- 1 — х*\2 ^

< ^ (/(® fc_1) -/(* * ))• ►

Если на каждой итерации направление спуска выбирать так, чтобы для всех к Е N в (4.27) 0 < a ^ a f c ^ l H 0 < A ^ A f c ^ l , то вместо (4.30) получим

а из (4.31) и (4.32) следуют оценки

Из (4.33), (4.34) видно, что при выборе |а*| = а = А = 1 можно ожидать наиболее быстрой слабой сходимости используемого метода спуска, а в случае сильно выпуклой минимизируемой функции — и наиболее быстрой сильной сходимости.

Отметим, что при а* = 1 единичный вектор ик, задающий направление спуска на /с-й итерации, сонаправлен антиградиен­

ту w (xk~l) в точке sc*” 1, т.е. ик= г-т^ГиТ- Такой выбор векто-

ра икна каждой итерации характерен для метода градиент­ ного спуска (хотя его точнее надо было бы назвать методом

=— x\wk\2+ x j (gT&df(xk~i + Txwk) —gra.df(xk~1),wk)dT.

о

Оценим интеграл в правой части этого равенства, приняв во внимание неравенство Коши — Буняковского и (4.41):

1

J (grad/(a:fc-1 + rxw k) —grad/(ж *-1), wk) dr <

о

В итоге получим / ( x k) —f ( x k~l) ^ —x(l —xL/2)\wk\2, что c учетом равенства |u>fc|2 = |grad/(xfc-1)|2 равносильно (4.42). Представив (4.42) в виде

Отсюда в силу ограниченности снизу функции f(x) следует, что при га -> оо сумма в левой части будет конечна, т.е. |gradf ( x k)\-¥ 0 при га -> оо. ►

Замечание 4.1. Из теоремы 4.6 не следует сходимость метода градиентного спуска, в котором используется (4.40), к какой-либо точке. Например, функция f(x) = 1/(1 + |ж|2) удо­ влетворяет условиям теоремы, но при любом выборе начальной точки х° Е W1имеем \хк \—>оо при к —> оо.

Приведенный пример показывает, что функция вообще мо­ жет не достигать наименьшего значения. Однако если к усло­ виям теоремы 4.6 добавить требование ограниченности мно­ жества X Q = {х Е Mn: f(x) ^ /(ж 0)}, то, согласно теореме 7.1 в случае = R71, функция f(x) будет достигать наименьшего значения. Можно показать, что при этом последовательность {хк} будет сходиться к какой-либо стационарной точке функ­ ции. #

Некоторые особенности рассматриваемого варианта метода градиентного спуска можно выявить, если допустить наруше­ ние отдельных условий теоремы 4.6. Так, если функция f(x) не является ограниченной снизу, то нельзя утверждать, что |grad/(x/c) | 0 при га -> оо. Действительно, для линейной функции f(x) = (с, х) при с Ф 0 имеем |grad/(®)| = \с\> 0. Ес­ ли выбрать 2/L, то в процессе итераций минимизируемая функция может не убывать. В самом деле, для ограниченной снизу функции f(x) = Lx2/2, х Е R, выполнено условие (4.41), а (4.40) принимает вид хк = хк~1 —x f\ x k~l) = (1 —xL)xk~l} но при выборе к ^ 2/L получим

Я * ‘ ) = § ((1 - x i) * * - 1)2 > | (х ‘ - ‘ )2 = /(х * - ‘ ),

т.е. последовательность {®fc} не является релаксационной. Наконец, рассмотрим последствия нарушения условия (4.41).

Функция f(x) = |ж|1+<5, где S€ (0,1), имеет точку минимума

х* —0, дифференцируема в Rn, но ее градиент не удовлетворя­ ет условию (4.41), поскольку

Поэтому при достаточно малых значениях \хк 1|, соответству­ ющих приближению к точке х* минимума, из (4.40) имеем

иf(xk) > f(xk *), т.е. последовательность {|xfc|} не сходится

кнулю. Можно показать, что предел этой последовательности

ренцируемая на Кп функция f(x) —|ж|2+£, е > 0, имеющая ту же точку х* = 0 минимума, так как

|grad /(ж ) — grad /(0 ) [

Отсюда видно, что последовательность {ж*1} сходится лишь при условии |l — х(2 + e)|xfe-1|£|< 1, т.е. если начальная точка ж0 удовлетворяет неравенству ус(2 + е)|х°|£ < 2.

Один из недостатков метода градиентного спуска с фикси­ рованным значением у с в (4.40) состоит в том, что в окрест­ ности стационарной точки ж дифференцируемой функции / (ж)

Следовательно, условие (4.44) в сочетании с (4.43) можно ис­ пользовать для выбора значения щ. Существуют разные спосо­ бы такого выбора* Ограничимся рассмотрением двух из них.

Если функция /(ж ) непрерывно дифференцируема в К71, то скалярное произведение

(grad/(ж), wk) = — (grad/(ж ), g ra d /^ * -1))

ее градиента на антиградиент wk = —grad f ( x k~1) является не­ прерывной функцией. В точке х к~х оно равно —\wk\2 ^ О, причем равенство нулю возможно лишь в случае, когда х к~1— стационарная точка. Ясно, что функция /(ж ) убывает в напра­ влении антиградиента до тех пор, пока это произведение оста­ ется отрицательным. Поэтому один из способов выбора значе­ ния Hk на к-й итерации состоит в том, чтобы в (4.43) х к была ближайшей к х к~х точкой, в которой производная функции /(ж ) по направлению антиградиента обращается в нуль, т.е.

Указанный способ называют исчерпывающим спуском (дви­ жение в направлении антиградиента wk происходит до тех пор, пока не будут исчерпаны „подряд идущие" отрицатель­ ные значения производной функции / (ж) по направлению этого вектора).

Замечание 4.2. Отметим, что точка х к, найденная при помощи исчерпывающего спуска, может не совпадать с со­ ответствующей точкой, найденной по методу наискорейшего спуска. Показано (см. 4.4), что в случае квадратичной функ­ ции эти точки совпадают на каждой итерации. Если функция /(ж ) строго выпукла в Г , то в силу теоремы 3.7 функция 'фк(х) = / ( x k~x+ xw k) также строго выпукла. Поэтому, если стационарная точка функции фк(х) существует, то, согласно

теоремам 3.14 и 3.15, эта точка единственна и в ней функция достигает наименьшего значения. #

Из (4.45) следует, что на (к+1)-й итерации новое направ­ ление исчерпывающего спуска, определяемое антиградиентом wk+1 = — grad/(xfc), ортогонально предыдущему направлению. Так как grad f { x k) коллинеарен вектору нормали в точке х к к поверхности (линии) уровня f(x) = f { x k), то луч, исходящий из точки х к~1 по направлению вектора wk = —grad/(®/c_1), вдоль которого на к-й итерации происходит исчерпывающий спуск,

проходящей через точку х к. Отметим, что если при переходе через эту точку производная по направлению wk не изменяет

Замечание 4.3. Покажем, что для функции, удовлетворя­ ющей условиям теоремы 4.6, существует такое число ыо, что при исчерпывающем спуске на каждой итерации будут вы­ полняться неравенства (4.44). Для этого используем формулу Тейлора с остаточным членом в форме Лагранжа

f ( x k) - f { x k~l) = (grad/(a;fc-1 + ‘d(xk —x fc-1)), x k -a?fe-1),

где CJ Е (0 ,1). Если оно не выполнено, то уменьшаем значение х* (например, вдвое) и возвращаемся к п. 2, а в противном случае на к-й итерации фиксируем использованное в п. 2 значение щ и найденную точку х к.

Такой способ подбора значения х^ получил название ме­ тода дробления шага. На рис. 4.4 показаны итерации с использованием этого метода в случае плоскости.

Рис. 4.4

Несмотря на возможность расширения класса дифферен­ цируемых функций, для которых метод градиентного спуска позволяет искать стационарные точки, оценку скорости схо­ димости этого метода к точке минимума удается установить лишь для более узкого класса функций. Пусть множество X Q= = {х Е К71: f(x) ^ /(ж 0)} ограничено. Тогда существует стаци­