Глава 2. Одномерная оптимизация

Задача оптимизации, в которой целевая функция задана функцией одной переменной, относится к наиболее простому типу оптимизационных задач. Тем не менее анализ задач такого типа занимает важное место в оптимизационных исследованиях, как теоретической так и практической направленности. Это связано с тем, что одномерные методы оптимизации часто используются при решении задач с несколькими переменными при подходящем выборе направления и последующей минимизации вдоль этого направления. Для решения задач одномерной оптимизации в этой главе рассматриваются методы дихотомии, золотого сечения, Фибоначчи, квадратичной интерполяции.

2.1. Интервал неопределенности

Пусть требуется решить следующую задачу: min f(x), .

С помощью численных методов можно определить минимум функции на некотором интервале , называемым интервалом неопределенности. Будем предполагать, что на интервале неопределенности функция f(x) унимодальна. Для решения этой задачи могут быть использованы два подхода:

-сокращение интервала неопределенности;

-аппроксимация функции.

Рис. 1 Рис. 2

Следующая теорема позволяет сократить интервал неопределенности.

Теорема. Пусть функция f унимодальна на замкнутом интервале, а ее минимум достигается в точке. Рассмотрим точкии, расположенные в интервале таким образом, что. Сравнивая значения функции в точкахи, можно сделать следующие выводы:

1. Если , то точка минимумане лежит в интервале, т.е.(рис. 1).

2. Если , то точка минимума не лежит в интервале, т.е.(рис. 2).

Примечание.Если, то можно исключить оба крайних интервалаи; при этом точка минимума должна располагаться в интервале.

Результаты этой теоремы используются при сокращении интервала неопределенности методами дихотомии, золотого сечения, Фибоначчи.

2.2. Метод дихотомии

Метод дихотомии позволяет сократить интервал неопределенности почти в два раза на каждой итерации, при этом целевая функция вычисляется только в двух точках. Если функцию можно вычислить в точках, то длина интервала неопределенности может быть сокращена в раза.

Идея этого метода заключается в следующем: точки ивыбираются симметрично на расстоянииот середины. В зависимости от значений функций в точкахина следующем этапе в качестве интервала неопределенности выбирается либо, либо(см. теорему сокращения интервала неопределенности).

Алгоритм.

Пусть функция унимодальна на интервале.

1. Начальный шаг. Выбирается положительное малое и. Положим.

2. Основной шаг:

а) если , тои вычисления прекращаются; если, то определяются величины

; ,

и переходим к пункту b);

b) если , то,. В противном случае,. После этогои осуществляется переход к пунктуa).

Пример. Щелкнув по значку, откроется Mathcad - документ метода дихотомии, в котором можно выполнить вычисления.

Минимизация функции методом дихотомии

Если - длина конечного интервала неопределенности, то минимальное числоn вычислений значений функции, необходимых для достижения заданной точности, можно найти по условию

.