Методы поиска

Будем искать минимум функции f(x), которая определена на отрезке [a,b] и унимодальна (т.е. на данном отрезке имеет только один минимум).

Процесс решения задачи методом поиска состоит в последовательном сужении интервала изменения фактора оптимизации, называемого интервалом неопределенности. В начале процесса оптимизации его длина равна b-a, а к концу она должна стать меньше заданного допустимого значения e, т.е. оптимальное значение параметра оптимизации должно находиться в интервале неопределенности - отрезке [x_n, x_n+1], причем x_n+1 - x_n < e .

Наиболее простым способом сужения интервала неопределенности является деление его на некоторое число равных частей с последующим вычислением значений целевой функции в точках разбиения. Пусть n - число элементарных отрезков, h = (b-a)/n - шаг разбиения. Вычисляют значения целевой функции y_k = f_k(x) в узлах x_k = a + k h (k=0,1, … , n). Сравнивая полученные значения f(x_k), среди них находят минимальное. В данном методе, который можно назвать методом перебора, основная трудность состоит в выборе n и оценке погрешности.

Более экономичным способом уточнения оптимального параметра является использование свойства унимодальности целевой функции, которое позволяет построить процесс сужения интервала неопределенности. Если оптимальное значение функции находится в точке x_i, то из рисунка видно, что оптимальное значение функции может находиться в интервале [x_i-1, x_i+1], т.е. интервал неопределенности сужается до длины двух шагов. Если этот интервал слишком велик, то его можно снова уменьшить путем нового разбиения. Получится интервал, равный двум длинам нового шага разбиения, и т.д.

В описанном методе можно с помощью разумного выбора шага разбиения добиться эффективного поиска.

Пример - пусть начальная длина интервала неопределенности равна b-a=1. Нужно добиться его уменьшения в 100 раз.

1 способ - интервал разбивают на 200 частей. Вычислив значения целевой функции f(x_k) (k = 0, 1, … ,200) находят ее минимальное значение. Тогда искомый интервал неопределенности равен [x_i-1, x_i+1] .

2 способ - сначала разбивают отрезок [a,b] на 20 частей и находят интервал неопределенности длиной 0.1, при этом вычисляют значения целевой функции в точках x_k = a + 0.05 k (k=0,1, …, 20). Теперь отрезок [x_i-1, x_i+1] снова разбивают на 20 частей; при этом получают искомый интервал длиной 0.01, причем значения целевой функции вычисляют в точках x_k = x_i-1 + 0.005 k (k=1,2, …, 19). Таким образом, во втором случае в процессе оптимизации проведено 40 вычислений целевой функции против 201 в первом случае.

Существует ряд специальных методов поиска оптимальных решений с разными способами выбора узлов и сужения интервала неопределенности: метод деления отрезка пополам, метод золотого сечения и т.д.

Метод золотого сечения

На каждом шаге, за исключением первого, вычисление значения функции f(x) производится лишь один раз. Эта точка называется золотым сечением и выбирается специальным образом.

Геометрическая идея метода:

На первом шаге процесса оптимизации внутри отрезка [a₀, b₀] выбирают две внутренние точки x₁ и x₂ и вычисляют значения целевой функции f(x₁) и f(x₂). Так как в данном случае f(x₁) < f(x₂), то очевидно, что минимум расположен на одном из прилегающих к x₁ отрезков [a₀, x₁] или [x₁, x₂]. Поэтому отрезок [x₂,b₀] можно отбросить, сузив тем самым первоначальный интервал неопределенности.

Второй шаг проводится на отрезке [a₁, b₁], где a₁ = a₀ и b₁ = x₂. Нужно снова выбрать две внутренние точки, но одна из них (x₁) осталась из предыдущего шага, поэтому достаточно вычислить лишь одну точку x₃, вычислить значение f(x₃) и провести сравнение. Так как здесь f(x₃) > f(x₁), то ясно, что минимум находится на отрезке [x₃, b₁]. Этот отрезок можно обозначить [a₂, b₂], снова выбрать одну внутреннюю точку и повторить процедуру сужения интервала неопределенности. Процесс оптимизации повторяется до тех пор, пока длина очередного отрезка [a_n, b_n] не станет меньше заданной величины e.

Вывод соотношения золотого сечения:

Пусть длина интервала неопределенности равна l, а точка деления делит его на части l₁, l₂ : l₁ > l₂, l = l₁ + l₂ .Золотое сечение интервала неопределенности выбирается так, чтобы длины большего отрезка к длине всего интервала равнялось отношению длины меньшего отрезка к длине большего отрезка:

Из этого соотношения можно найти точку деления, определив отношение l₂/l₁ .Для этого

l₁² = l₂ * l Þ l₁² = l₂ * (l₁ + l₂)

l₂² + l₁ * l₂ - l₁² = 0

Þ

Так как интерес представляет только положительное решение, то

Отсюда l₁ » 0.618*l, l₂ » 0.382*l .

На первом шаге исходный интервал неопределенности равен d₀ = b₀ - a₀ .При этом x₁ - a₀ = b₀ - x₂ = 0.382*d₀ и b₀ - x₁ = x₂ - a₀ = 0.618*d₀ .

После первого шага оптимизации получается новый интервал неопределенности d₁ = b₁ - a₁ = x₂ - a₀ = 0.618*d₀ .

После второго шага оптимизации имеем d₂ = b₂ - a₂ = b_1­ - x₃ = 0.618*d₁ = 0.618² * d₀ .

Используя полученные соотношения, можно записать координаты точек деления y и z отрезка [a_k,b_k] на k+1 шаге оптимизации (y < z):

y = 0.618*a_k + 0.382*b_k : z = 0.382*a_k + 0.618*b_k .

При этом длина интервала неопределенности равна

d_k = b_k - a_k = 0.618^k * d₀ .

Процесс оптимизации заканчивается при выполнении условия d_k < e .При этом искомая величина лежит в интервале a_k < x_opt < b_k. В качестве оптимального значения можно принять x_opt = a_k (или x_opt = b_k или x_opt = (a_k + b_k)/2 ).