§ 3.2.2 Методы решения задач оптимизации

В принципе задача оптимизации может быть решена тремя разными способами:

- аналитически;

- численно;

- методом итеративного поиска.

Первый способ решения возможен, если существуют аналитические выражения для первой и второй производной F(X) и можно аналитически решить уравнение F'(X) = 0.

Если аналитического решения уравнений F'(X)= 0 нет, то его можно получить численно методами решения системы нелинейных уравнений.

1. Поисковые методы заключаются в последовательном улучшении решения. Их схема такова: выбирают некоторое начальное допустимое решение. Чем оно ближе окажется к оптимальному, тем лучше.

2. Окружают это решение множеством сравнения и на этом множестве тем или иным способом определяют наилучший вектор X или, во всяком случае, вектор лучший, чем начальное решение; затем этот цикл вычислений повторяют, образуя окрестность улучшенного решения и т.д.

Все алгоритмы этих способов основаны на необходимых условиях оптимизации.

Существуют еще два класса вычислительных алгоритмов при поиске экстремума:

- алгоритм отсечения неоптимальных решений;

- алгоритмы, базирующиеся на достаточных условиях оптимальности.

Задача поиска одномерного, локального безусловного оптимума.

Задача формулируется следующим образом. Найти наименьшее (или наибольшее) значение целевой функции f(X), заданной на множестве М и определить значение проектного параметра х^*  М, при котором целевая функция принимает экстремальное значение. Если целевая функция может быть вычислена при некоторых дискретных значениях аргумента, то среди них можно выбрать экстремальное значение. Существует несколько методов решения такой задачи:

перебора, дихотомии, половинного деления, золотого сечения, квадратичной функции, Фибоначчи. Все они используют такой алгоритм.

1. Выбор начального интервала поиска [a, b] и допустимой ошибки .

2. Выбор направления поиска внутри интервала и шага поиска x (стратегия поиска).

3. Вычисление значений ЦФ f(x_i).

4. Проверка условия окончания поиска. x_i+1- x_i  . Если условия выполняются, переход к п.6 иначе к п.4.

5. Конец.

Рассмотрим наиболее простой метод - “половинного деления”.

Пусть требуется найти безусловный минимум функции f(X) одной переменной. Метод относится к последовательным стратегиям и позволяет исключать из дальнейшего рассмотрения на каждой итерации в точности половину текущего интервала неопределенности. Алгоритм уменьшения интервала основан на анализе величин функции в трех точках, равномерно распределенных на текущем интервале (делящих его на четыре равные части).

Алгоритм метода

Шаг 1. Задать начальный интервал неопределенности L₀ = [a ,b] , погрешность - 

Шаг 2. Положить i = k = 0

Шаг 3. Вычислить координату средней точки интервала L₀ x^c_k = (a_k + b_k)/2, длину интервалаL_2k= b_k – a_k и значение функции f(x^c_k).

Шаг 4. Вычислить координаты точек: y_k = a_k + L_2k/4 , z_k = b_k - L_2k/4, f(y_k), f(z_k).

Эти три точки делят равномерно исходный интервал на 4 части.

Шаг 5. Сравнить значения f(y_k) и f(x^c_k) – слева от средней точки.

а) если f(y_k) < f(x^c_k), исключить интервал (x^c_k, b_k]. Положить b_k+1 = x^c_k , a_k+1 = a_k. Средней точкой нового интервала неопределенности L₂ становится точка y_k: x^c_k+1 = y_k. Перейти к шагу 7.

б) если f(y_k)  f(x^c_k), перейти к шагу 6.

Шаг 6. Сравнить значения f(z_k) и f(x^c_k) – справа от средней точки.

а) если f(z_k) < f(x^c_k), исключить интервал (a_k x^c_k], положив a_k+1 = x^c_k , b_k+1 = b_k . Средней точкой нового интервала L₂ становится точка z_k: x^c_k+1 = z_k . Перейти к шагу 7.

б) если f(z_k)  f(x^c_k), исключить интервал [a_k , y_k), (z_k , b_k ], положив a_k+1= y_k , b_k+1 = z_k Средней точкой нового интервала останется точка x^c_k+1 = x^c _k.

Шаг 7. Вычислить длину нового интервала неопределенностиL_2(k+1)= b_k+1 – a_k+1 и проверить условие окончания поиска.

а) если L_2(k+1) , процесс поиска завершается и x^* [b_k+1 , a_k+1]. В качестве приближенного решения можно взять середину интервала x^c_k+1 ;

б) если L_2(k+1) , то положить k= k +1 и перейти к шагу 4.

Продолжать вычисления до выполнения условия L_2(k+1) .

ПРИМЕР Найти минимум функции f(x)= 2x² – 12x на интервале [0,10],  = 1.

 1. L₀ = [0,10].

2. k=0.

3⁰. Вычислим x^c₀ = (0+10)/2 = 5 L₀=  10 - 0, f(x^c_k) = f(5) = -10.

4⁰. Вычислим y₀ = 0 + 10/4 = 2.5, z₀ = 10 - 10/4 = 7.5, f(y₀)= -17.5 ,f(z₀)= 22.5.

5⁰. Так как f(y₀)= -17.5 < f(x^c₀) = -10 , то положим b_k+1 = b₁ = x^c₀ =5 , x^c₁ = y₀ = 2.5, a₁ = a₀= 0 и переходим к следующему шагу 7⁰.

7⁰. Получим новый интервал L₂= [ 0 ,5 ] L₂= 5-0= 5> 1 k=1, переходим к шагу 4¹.

4¹. Вычислим y₁ = 0 + 5/4 = 1.25, z₁ = 5 - 10/4 = 3.75, f(y₁)= -11.875 , f(z₁)= - 16.875.

5¹. Сравним f(y₁) и f(x^c₁) = f(y₀) = -17.5 Так как, f(y₁)= -11.875 > f(x^c₁) = -17.5, то перейдем к шагу 6.

6¹. Сравним f(z₁) и f(x^c₁) f(z₁) = - 16.875 > f(x^c₁) = -17.5, то положим: a₂ = y₁= 1.25 b₂ = z₁=3.75 ,

x^c₂ = x^c₁ = 2.5 и переходим к следующему шагу 7¹.

7¹. Получим новый интервал L₄= [ 1.25 ,3.75 ] L₄=3.75- 1.25= 2.5> 1 k = 2, поэтому снова переходим к шагу 4².

4². Вычислим y₂ = 1.25 + 2.5/4 = 1.875, z₂ = 3.75 - 2.5/4 = 3.125, f(y₂)= -15.47 , f(z₂)= - 17.87.

5². Сравним f(y₂) и f(x^c₂) = f(x^c₁) = -17.5 Так как f(y₂)= -15.47 > f(x^c₂) = -17.5 то перейдем к шагу 6.

6². Сравним f(y₂) и f(x^c₂) = f(x^c₁) = -17.5 Так как f(y₂)= -15.47 > f(x^c₂) = -17.5 то положим: a₃ = x^c₂ = 2.5 b₃ = b₂ = 3.75 , x^c₃ = z₂ = 3.125

7². Получим новый интервал L₆= [2.5 ,3.75] L₆= 3.75-2.5= 1.25> 1 k=3, переходим к шагу 4.

4³. Вычислим y₃ =2.5 + 1.25/4 = 2.81, z₃ = 3.75 - 1.25/4 = 3.43, f(y₃)= -17.93 , f(z₃)= - -17.62.

5³. Сравним f(y₃) и f(x^c₃) Так как f(y₃)= -17.93 > f(x^c₃) = -17.97 то перейдем к шагу 6.

6³. Сравним f(z₃) и f(x^c₃) Так как f(z₃)= -17.62 > f(x^c₂) = -17.97 то положим: a₄ = y₃= 2.81 b₄ = z₃ = 3.43 , x^c₄ = x^* [b_k+1 , a_k+1]. = 3.125

7³. Получим новый интервал L₈= [2.81 ,3.43] L₈= 3.43-2.81= 0.62 < 1 x^* [b_k+1 , a_k+1].  L₈.

x^* = x^c₄ = 3.125.

Для этого уравнения оптимум можно вычислить аналитически. f ^'(x)= 4x – 12 = 0, x = 3. Значит, последний интервал надо уменьшать.

Методы дихотомии, золотого сечения и чисел Фибоначчи описаны в рекомендованной литературе.