МЕТОДЫ ПЕРВОГО ПОРЯДКА

Градиент характеризует направление наибольшего возрастания функции, а

Модуль градиента -- скорость этого возрастания

g

МЕТОД СПУСКА ПО ГРАДИЕНТУ.

МЕТОД НАИСКОРЕЙШЕГО СПУСКА

Направление одномерного спуска совпадает с вектором градиента

xk xk 1 hk 1 f(xk 1)

Величина рабочего шага в направлении градиента

зависит от величины градиента и от коэффициента пропорциональности шага h.

1. Задается x0 h

2.Вычисляется градиент f (x0 )

3.Определение длины шага zm

.

Алгоритмы коррекции шага:

а) без коррекции zm=h=cons

б) шаг увеличивается

вдали от минимума и уменьшается

при подходе к минимуму.

б) с помощью метода одномерной оптимизации определяется значение zm

такое, что min (z) min f (x0 z f (x0 ))

z

Метод наискорейшего спуска

4. Переход в новую точку

x0 x0 zm f (x0 )

5.Вычисляется градиент

вновой точке f (x0 )