1.1. Методы перебора

1.1.1. Метод равномерного поиска

Метод равномерного поиска является простейшим из прямых методов одномерной оптимизации и состоит в следующем.

Отрезок [a ;b] разбивается на n равных частей точками деления

x_i = a + i×(b-a)/n, i=0,...,n. (1.4)

Сравнением значений функции f(x) во всех точках xi, , находится точка хk: 0 £ k £ n, для которой

f(x_k)=min  f(x₀), f(x₁),… f(x_n). (1.5)

Полагая х^*»xk , f*»f(xk), получается решение задачи (1.1) с погрешностью, не превосходящей величины

e_n= . (1.6)

Для того, чтобы обеспечить требуемую точность e определения точки x*, число n отрезков разбиения необходимо выбирать из условия en £ e, т.е. назначить

n ³ . (1.7)

1.1.2. Метод поразрядного поиска

Усовершенствуем рассмотренный метод равномерного поиска с целью уменьшения количества значений функции f(x), которые необходимо находить в процессе минимизации.

Очевидно, если окажется, что f(x_i+1) ³ f(x_i), то отпадает необходимость вычислять f(x) в точках x_i+2, x_i+3,…, x_n, т.к. в силу унимодальности функции f(x) x*£x_i+1. Кроме того, целесообразно сначала грубо определить отрезок, содержащий x^*, т.е. найти точку x^* с небольшой точностью, а затем искать её на этом отрезке с меньшим шагом, повышая точность. Реализация этих возможностей улучшения метода перебора и приводит к методу поразрядного поиска.

В методе поразрядного поиска перебор точек отрезка предлагается выполнять сначала с достаточно большим шагом h=x_i+1  x_i>e ( например, h=(b  a)/4 ) до тех пор, пока не выполнится условие f(x_i+1) ³ f(x_i) или пока очередная точка не совпадет с концом отрезка. После этого шаг уменьшается и перебор точек с новым шагом производится в противоположном направлении до тех пор, пока значения функции снова не перестанут уменьшаться или пока очередная точка не совпадет с другим концом отрезка. Описанный процесс завершается, когда перебор в данном направлении закончен, а использованный при этом шаг h не превосходит e.

Таким образом получается следующий алгоритм метода поразрядного поиска.

Шаг 0. Задать параметр точности e > 0, выбрать начальный шаг h=(b  a)/4, положить x₀=a, вычислить f(x₀).

Шаг 1. Найти очередную точку x₁= x₀+h, вычислить f(x₁).

Шаг 2. Сравнить значения функции f(x₀) и f(x₁). Если f(x₀)>f(x₁), то перейти к шагу 3, иначе – к шагу 4.

Шаг 3. Положить x₀= x₁ и f(x₀)=f(x₁). Проверить условие x₀Î(a ;b ). Если

a<x₀<b, то перейти к шагу 1, иначе – к шагу 4.

Шаг 4. Проверить условие окончания поиска | h | £ e. Если оно выполняется, то вычисления завершить, положив х^*»x₀ , f^*»f(x₀), иначе–перейти к шагу 5.

Шаг 5. Изменить направление и шаг поиска, положив h=-h /4, x₀=x₁, f(x₀)=f(x₁). Перейти к шагу 1.

1.2. Методы исключения отрезков

Рассмотрим ту же задачу одномерной минимизации (1.1), что и в предыдущей работе. Эффективность поиска точки минимума можно повысить, если использовать информацию, содержащуюся в уже найденных значениях f(x).

Пусть на интервале (a;b) выбраны две пробные точки x₁ и x₂, такие что a<x₁<x₂<b и вычислены значения f(x₁) и f(x₂). В силу унимодальности минимизируемой функции f(x) можно сократить отрезок поиска точки x^*, перейдя к отрезку [a; x₂], если f(x₁) £ f(x₂), или к отрезку [x₁;b] , если f(x₁)>f(x₂). Повторяя эту процедуру до тех пор, пока длина последнего из полученных отрезков не станет достаточно малой, в качестве точки минимума можно взять одну из точек последнего отрезка, например, его середину. Методы, использующие такой способ последовательного уменьшения отрезка, содержащего точку минимума, называют методами исключенных отрезков. Друг от друга они отличаются лишь способом выбора пробных точек. Наибольшее распространение на практике получили метод дихотомии и метод золотого сечения.