4. Одномерная оптимизация
4.1 Общие сведения об одномерной оптимизации
Пусть функция f (x) определена на P <=E1. Задачей одномерной оптимизации называют задачу, в которой требуется найти
max(min)
f
(x),
Решением
или точкой максимума (минимума) задачи
называют точку
такую,
что
f
(x*)
(
)
f (x) для всех
Методы одномерной оптимизации условно подразделяют на три группы. К первой группе относят методы, основанные на вычислении значений самой функции f(x) (методы нулевого порядка). Вторую группу составляют методы, использующие значения и функции, и ее первой производной (методы первого порядка). К третьей группе принадлежат методы, использующие значения функции, ее первой и второй производной (методы второго порядка).
В
дальнейшем предполагается, что
максимизируемая функция, определенная
на множестве Р, является унимодальной.
Это значит, что существует единственная
точка х* ее максимума на Р и для любых
:
,
если
,
если
Другими словами, унимодальная функция монотонно возрастает слева от точки максимума и монотонно убывает справа от нее.
Предположение об унимодальности функции в окрестности точки х* естественно, поэтому получение информации о таком промежутке является важным этапом процедуры оптимизации. При использовании методов одномерной оптимизации обычно выделяют два этапа: поиск отрезка, содержащего точку максимума, и уменьшение длины этого отрезка до заранее установленной величины (уточнение координаты точки максимума на данном отрезке).
4.2 Поиск отрезка, содержащего точку минимума
Алгоритм Свенна:
Исходные
данные:
-начальная
точка, h
– шаг поиска (h>0).
Шаг
1. Вычислить
Шаг
2. Если
то
перейти
к шагу 4.
Шаг
3. Если
то
перейти
к шагу 4, в противном случае :
конец.
Шаг
4.
вычислить
Шаг
5. Если
то
перейти
к шагу 4.
Шаг
6. Если
то
конец, в противном случае
конец.
Случай f(x0-h) ≥ f(x0) ≤ f(x0+h) (шаг 3) не рассматривается, т.к. он противоречит предположению об унимодальности функции f(x).
Уменьшение длины отрезка, содержащего точку минимума, достигается путем последовательного исключения частей этого отрезка. Величина интервала, исключаемого на каждом шаге, зависит от расположения двух пробных точек внутри отрезка. Поскольку координата точки максимума заранее неизвестна, целесообразно размещать пробные точки таким образом, чтобы обеспечивать уменьшение длины отрезка в одном и том же отношении.
4.3 Уточнение экстремума методом Ньютона-Рафсона
Метод решения:
Пусть
корень
уравнения f (x) = 0 (2.3.3.1)
отделен
на отрезке [a, b] , причем
и
непрерывны и сохраняют определенные
знаки при
.
Найдя какое-нибудь n -е приближенное
значение корня
,
мы можем уточнить его по методу
Ньютона-Рафсона следующим образом.
Положим
(2.3.3.2)
где hn считаем малой величиной. Отсюда, применяя формулу Тейлора, получим:
Следовательно,
Внеся эту поправку в формулу (2), найдем следующее (по порядку) приближение корня:
(2.3.3.3)
Идея этого метода впервые была высказана Исааком Ньютоном (1643-1727), но формула (3) принадлежит английскому математику, последователю Ньютона Джозефу Рафсону (1648 - 1715). В русскоязычной литературе этот метод нередко называется просто методом Ньютона.
4.4 Нахождение экстремума методами Свенна и Ньютона-Рафсона
Экстремум был подпитан с помощью программы, написанной на языке Си. Текст программы приведён в приложении А.
Результаты вычислений:
Рисунок 4.1 — Вычисление экстремума функции методом Свенна
Рисунок 4.1 — Вычисление экстремума функции методом Ньютона-Рафсона
x* — экстремум функции.