3. Оптимизационные задачи и методы их решения

Оптимизационные задачи состоят в отыскании таких значений управляемых параметров, при которых достигается экстремум (минимум или максимум) целевой функции, а также выполняются заданные ограничения в случае условной оптимизации.

3.1. Безусловная оптимизация для одномерной унимодальной целевой функции

Унимодальной называется функция, имеющая один экстремум.

Задача поиска экстремума сводится к нахождению значения х_о, соответствующего максимуму или минимуму f(x).

Алгоритм численного метода или метода случайного поиска экстремума может быть рассчитан на нахождение максимума или минимума. Для нахождения противоположного вида экстремума, например, максимума по алгоритму на минимум, необходимо значения оптимизируемой функции f(x) умножить на (-1).

Для аналитического метода, в случае дифференцируемости функции f(x) находим

f'(x) = 0. Решение полученного уравнения дает оптимальное значение х_о. Затем вычисляем f''(х_о). Если f''(х_о) > 0, то имеем минимум; и если f''(х_о) < 0, то максимум (рисунок 3.1).

f(x)

1

2

х_о x

f '(x)

2

x

1

f ''(x)

2

x

1

Рисунок 3.1 – Графическая интепретация поиска эстремума дифференцируемой функции

Из приведенной графической интерпретации метода следует, что функция (1) имеет максимум и функция (2) – минимум.

Среди численных находят применение следующие методы: дихотомии, золотого сечения, Фибоначчи, шаговые и аппроксимации кривыми.

Метод дихотомии (половинного деления) является одним из методов одномерной безусловной оптимизации унимодальной целевой функции. Алгоритм метода основывается на выборе исходного отрезка поиска решения [a, b] и его последующем делении пополам:

1) x_c=(b+a)/2;

2) x₁ = x_c - /2; x₂ = x_c + /2;

3) Если при минимизации f(x₁) < f(x₂), то b = x_с, иначе a = x_с.

4) При b - a <= , x_опт = ( b + a)/2, где  – точность поиска экстремума. Иначе на п. 1.

Ниже приведена графическая интерпретация (рисунок 3.2) и один из алгоритмов метода дихотомии (рисунок 3.3).

f(x)

f(x₂)

f(x₁)



a x₁ x_с x₂ b х

Рисунок 3.2 – Графическая интепретация метода дихотомии

1

Пуск

2

Ввод a, b,  a и b – текущие значения нижней и верхней

границ интервала поиска экстремума

 – точность поиска

3 4

x_с= (a+b)/2 b-a≤ Да 11 Z_п – значение

Z_п= f(x_с) целевой

функции

5 Нет 12 для решения

i = 1, 2 Вывод x_c, Z_п,

6 13

x₁ = x_с +(2i-3) /2 Останов

7

Z₁= f(x₁)

на минимум

8 Да

Z₁< Z₂

Нет

9 10

a = x_c b = x_c Рисунок 3.3. Схема алгоритма программы по

методу дихотомии

Метод золотого сечения основан на делении отрезка [a, b] по правилу золотого сечения, когда отношение большего отрезка к меньшему const. Такое отношение определяется выражением ( -1)/2=0.62. При этом методе в отличие от метода дихотомии на каждой итерации требуется расчет только одного значения целевой функции. В результате находится решение x_п и соответствующее ему значение целевой функции Z_п (рисунки 3.4, 3.5).

На минимум:

f(x)

f(x₂)

(1-k)(b-a)

f(x₁) k( b-a)

a x₁ x₂ b x

Рисунок 3.4 – Графическая интепретация метода золотого сечения

1

Пуск

2

Ввод a, b,  a и b – текущие значения нижней и верхней

границ интервала поиска экстремума

 – точность поиска

3

k= ( -1)/2

4

i = 1

5 13

11 Да 15

x₁ = a +(1-k)(b-a) abs(x₂-x₁)< x_п = (x₂+x₁)/2

6 Нет 16

Z₁ = f(x₁) на минимум 10

Нет 12 Z_п = f(x_п)

Z₁ < Z₂

7

Нет Да 17

i=1 13 Вывод x_п , Z_п

8 Да b= x₂ : x₂ = x₁

Z₂ = Z₁

i = 1 14 18

a= x₁ : x_{1 -}= x₂ 5 Останов

9 Z_1-= Z₂

x₂ = a + k (b-a)

10

Z₂ = f(x₂) 12

Рисунок 3.5. Схема алгоритма программы по методу

золотого сечения

Метод Фибоначчи основан на делении отрезка [a, b] с использованием чисел Фибоначчи, представляющих ряд, у которого последующее число равно сумме двух предыдущих (1,1,2,3,5,8 и т.д.).

Шаговые методы основаны на том, что текущему приближению к решению x_п на каждом новом шаге дается приращение h как x_п=x_п+h и вычисляется f(x_п). Если новое значение целевой функции "лучше" предыдущего, то переменной x дается новое приращение. Если функция "ухудшилась", то поиск в данном направлении завершен.

Имеется ряд разновидностей шагового метода поиска экстремума целевых функций (прямой поиск, поразрядного приближения, Зейделя и др.).

Графическая интепретация и алгоритм поиска экстремума функции на основе поразрядного приближения приведены на рисунках 3.6, 3.7.

f(x)

f(x_п+h)

f(x_п) На минимум

x_п x_п+h x

Рисунок 3.6 – Графическая интепретация метода поразрядного приближения

1

Пуск

2

x_п, h, a, x_п и h – текущие значения соответственно приближения

к решению и шага поиска; a – коэффициент

изменения шага поиска;  – точность поиска решения

3

Z = f(x_п)

4

Z_п = Z

5

x_п = x_п + h

6

Z= f(x_п)

на минимум

7

Z < Z_п Да

Нет

8 Нет 9

abs(h)< h = - a h

Да

10 11 Рисунок 3.7 – Алгоритм поиска

Вывод x_п-h, Z_п Останов экстремума по методу поразрядного

приближения

М етод квадратичной интерполяции-экстраполяции является одним из методов аппроксимации кривыми и базируется на приближении целевой функции квадратичной параболой по трем точкам – текущее приближение x₁= x_п и точки, лежащие от нее слева x₀ и справа x₂ на удалении h и нахождении экстремума аналитически. Процесс проводится до тех пор, пока предыдущее и последующее приближения различаются более, чем на заданную точность поиска. Алгоритм метода следующий (рисунок 3.8 , 3.9):

1. находим x₀ = x_п - h ; y₀ = f(x₀); x₁ = x_п ; y₁ = f(x₁); x₂ = x_п + h; y₂ = f(x₂);

2. находим параметры параболы, проходящей через три выбранных точки

a = (y_o- 2y₁ + y₂) / (2h²) ;

b = (-y_o (2x₁ + h) + 4y₁ x₁ - y₂ (2x₁ - h)) / (2h²);

Тогда очередное приближение x на основе аналитической оптимизации аппроксимирующей функции равно x_п = - b/( 2a);

3. проверяем условие : abs(x_п - x₁) < .

Если выполняется, то оптимум найден. Иначе переходим к 1-му пункту алгоритма.

На минимум:

f(x)

f(x)=ax²+bx+c

f(x_п+h)

f(x_п-h)

f(x_п)

x_п-h x_п x_п+h x

Рисунок 3.8 – Графическая интепретация метода на основе квадратичной аппроксимации

1

Пуск

2

Ввод x_п, h,  x_п – текущее значение приближения

к решению; h – параметр интервала

9 аппроксимации;  – точность поиска

4 7

a = ...

b = ...

8

5

x_i = x_п +(i-1) h x_п = -b/(2a)

6 9 Нет

abs(x₁- x_п)< 4

y_i= f(x_i)

Да

10

Z_п= f(x_п)

11 Рисунок 3.9 – Алгоритм на основе

Вывод x_п, Z_п квадратичной аппроксимации

12

Останов

Методы случайного поиска основаны на формировании на отрезке поиска случайным образом расчетных точек, вычислении в этих точках значений функции и выборе из них экстремального. Точность определяется числом точек поиска n.

Повторение испытаний описывается формулой Бернулли (биноминальным распределением)

, k = 0, 1, 2, ..., n,

где k – число благоприятных случаев;

n – общее число испытаний;

p – вероятность благоприятного исхода при одном испытании;

q – вероятность, противоположная p (q=1-p) .

Вероятность, что событие наступит n раз

;

что не наступит ни разу

;

наступит хотя бы один раз

.

Если абсолютную точность поиска решения на участке (b - a) обозначить через ε, то вероятность решения при одном испытании p = ε/(b - a). При этом вероятности Р₁ получения решения в зависимости от числа испытаний n при различных p приведены в таблице 3.1.

Таблица 3.1 – Оценка точности поиска

p	n	p1
0.1	10 20 50 100	0.651 0.878 0.995 0.99999
0.01	100 200 500 1000	0.634 0.866 0.993 0.99996
0.0001	10000 20000 50000 100000	0.632 0.865 0.993 0.99996

Например, если p = ε /(b - a)=0.01, то вероятность получения решения с точностью ε при числе испытаний n = 100 равна 0.634; при n =200 – 0.866; при n = 500 – 0.993; при n = 1000 – 0.99996, т.е. требуется 10 (b - a) /ε испытаний для надежного решения (Р₁> 0.9999) с заданной точностью ε. Аналогичная зависимость, как видно из таблицы, имеет место и при других точностях решения.

Имеется большое множество методов оптимизации на основе случайного поиска и их разновидностей. Ниже приведена иллюстрация простейшего метода поиска, состоящая в последовательном формировании на отрезке от a до b случайным образом расчетной точки x_т, расчете в ней целевой функции f(x_т), сравнении значения функции f(x_т) и ранее найденного "лучшего" значения функции f(x_п), присвоении x_п =x_т и f(x_п) =f(x_т), если текущая точка "лучше". Формирование случайной точки производится по выражению x_т = a + r (b-a), где r – случайное число, равномерно распределенное в интервале от 0 до 1.0.

f(x)

f(x_т)

f(x_п)

a x_п x_т b x

Рисунок 3.10 – Графическая интепретация метода случайного поиска (на минимум)

Более эффективным является метод случайного поиска с пересчетом, алгоритм которого приведен на рисунке 3.11. Принимаемые значения показателей a_ш, b_ш, h и L должны находится в определенном соотношении, например начальные значения могут быть приняты b_ш = 2 ; h= b_ш /5 ; a_ш = 0.25 ; L=10. Формирование случайной расчетной точки x_т (блок 9) производится относительно текущего приближения x_п на основе использования случайных чисел r, равномерно распределенных в интервале от 0 до 1.0. Произведение sh определяет отрезок, в пределах которого формируется случайная точка.