2.2 Поиск методом золотого сечения
Не всегда можно определить заранее, сколько раз придётся вычислять значение функции.
Метод «Золотого сечения» столь же эффективен, как и метод Фибоначчи, только не требуется знать число вычислений функции ‘n’.
Аналогично методу Фибоначчи
.
Если принять отношение предыдущего отрезка неопределённости к последующему величиной постоянной
,
то получим
.
.
.
Тогда
и т.д.
Следовательно,
,
т.е.
.
Из результата анализа двух рассмотренных точек будет определён интервал неопределённости. Он будет содержать одну из предыдущих точек и следующую точку, помещённую ей симметрично.
Первая точка
находится на расстоянии
от одного конца интервала, вторая – на
таком же расстоянии от другого конца.
2.3 Квадратичная интерполяция
Если на отрезке
функция унимодальна, т.е. внутри отрезка
имеется один экстремум (максимум или
минимум), и известно значение функции
в трёх точках
,
то функция
может быть аппроксимирована квадратичной
функцией:
.
Формируется система уравнений
.
Из решения системы
уравнений определяют коэффициенты
.
Если коэффициент
,
то функция имеет минимум в точке
.
Вычислительная процедура имеет следующие шаги:
а) определяют отрезок внутри которого функция имеет экстремум (например, минимум). С этой целью:
1) вычисляют значение
функции в точках
и
,
где величина шага поиска;
2) если
,
то вычисляют
,
иначе вычисляют
.
И так до тех пор, пока не определят
отрезок, внутри которого находится
минимум.
б) с помощью уравнения аппроксимации определяют координаты точки минимума. Вычисляют функцию в точке минимума;
в) если разница между наименьшим значением функции и следующим наименьшим значением функции меньше заданной точности, то процедуру заканчивают;
г) если процедура
на шаге
не закончилась, то из рассмотрения
исключают такую точку границы отрезка
неопределённости, чтобы среди оставшихся
трёх в средней точке функция была
наименьшей.
Рассмотренная квадратичная интерполяция часто называется методом Пауэлла.
3 Методы прямого поиска экстремума функций нескольких переменных
Методы прямого поиска являются методами, в которых используются только значения функции.
3.1 Метод покоординатного спуска
Простейшим методом поиска является метод покоординатного спуска. Последовательно, по каждой переменной, исследуют возможность улучшения функции.
Поиск начинают с
произвольной точки пространства. В этой
точке вычисляют значение функции
.
Например, исследование начали с
переменной
.
Переменную
изменяют на величину шага
и вновь вычисляют значение функции
.
Сравнивая значения функции
и
определяют, как изменяется функция в
направлении увеличения
.
Если функция не улучшилась, то направление
поиска изменяют на противоположное и
вычисляют функцию, уменьшая переменную
на величину шага,
.
Если значение функции улучшается, то
поиск лучшего решения продолжают,
изменяя переменную
на величину шага в направлении улучшения
функции. Поиск продолжают до тех пор,
пока функция улучшается. После чего,
сохраняя значение переменной
,
соответствующим лучшему решению, поиск
продолжают, изменяя следующую переменную,
например,
.
И так до тех пор, пока не будет исследовано
поведение (улучшение значения) функции
при изменении всех переменных. Если при
таком исследовании функция хоть один
раз улучшалась, то поиск повторяют с
тем же шагом. Если улучшения значения
функции не происходило ни разу, то
проверяют сходимость и, если она не
достигнута, шаг поиска уменьшают в
десять раз. Если сходимость процесса
поиска достигнута, то поиск завершают.
Метод эффективен, если функция имеет один экстремум (является унимодальной). Метод характеризуется медленной сходимостью.