Варианты заданий:

1. f(x) = (x³+1.2x²-1.95x)e^x

1.2 f(x) = (2x³+5.1x²+3.6x)e^-x

2. f(x) = xsin(x)+2sin(x-0.8)

4. f(x) = 3sin(x)+2sin(x-0.5)

1.5 f(x) = 10cos(x)ln(x+1)

4. f(x) = ln(1+x)(x²-4)(x-5)

4. f(x) = 10sin(x)ln(x)

4. f(x) = e^1.5xsin(x)

4. f(x) = e^1.5xcos(x)

4. f(x) = (2x²-x)sin(x)

4. f(x) = 5(x²-1)sin(x)

4. f(x) = 10(x²-4)sin(x)

4. f(x) = (x²-16)sin(x)

4. f(x) = 10 x² cos(x)

4. f(x) = (4x²+8x) cos(x)

4. f(x) = (8x²+4x) cos(x)

4. f(x) = (x²-16) cos(x)

4. f(x) = (2x²-12.5) cos(x)

4. f(x) = (4x²-16x+10) sin(x)

4. f(x) = (4x²-4x-9) sin(x)

4. f(x) = 10 x(x-2) (x-5) sin(2x)

4. f(x) = 10 ln(x) sin(2x)

1.23 f(x) = (x-1.5) (x-2.5) (x-4.5) ln(x)

1.24 f(x) = (x-1.5) (x-3) (x-4) e^x

25. f(x) = (10sin(x)) / x

1. f(x) = ;

2. f(x) = ; i =1,n;

3. f(x) = ;

4. f(x) = ;

5. f(x) = ;

6. f(x) = ; для b=2.02;

7. f(x) = ;

8. f(x) = ;

9. f(x) = ;

10. f(x) = ;

11. f(x) = ;

12. f(x) = ;

13. f(x) = ;

14. f(x) = ;

15. f(x )= ;

16. f(x) = ;

17. f(x) = ; 2.18. f(x) = .

Лабораторная работа №2 «Методы многомерной оптимизации» (4 часа)

Теоретическое введение

Задачи многомерной оптимизации связаны с нахождением экспериментальных значений функции многих переменных f(х₁,…,х_n) и соответствующих им значений параметров х₁,…,х_n. Для двух переменных целевую функцию можно изобразить в виде некоторой поверхности аналогично изображению рельефа местности на топографических картах линиями ровного уровня.

Характерные примеры такого изображения представлены на рис.2.1.

Рис. 2.1. Примеры целевых функций

Численные методы нахождения экстремума в n – мерном пространстве заключаются в определении последовательности векторов {x^(k)} в направлении улучшения целевой функции, т.е. удовлетворяющих условиям

f(x⁽⁰⁾) > f(x⁽¹⁾) > ... > f(x⁽ⁿ⁾) - при поиске минимума

и

f(x⁽⁰⁾) < f(x⁽¹⁾) < ... < f(x⁽ⁿ⁾) - при отыскании максимума.

Метод сканирования

Метод сканирования заключается в последовательном просмотре значений функции в ряде точек области изменения независимых переменных и нахождении точки, в которой функция имеет экстремальное значение.

Алгоритм поиска заключается в том, что по каждой независимой переменной задаются приращения в соответствующем порядке, обеспечивающем перебор дискретных точек заданной области изменения переменных.

Метод покоординатного поиска

Метод заключается в поочередном поиске локального экстремума по каждой координате x_i; i = 1, n заданного пространства. Движение в координатном направлении при постоянстве других координат продолжается до нахождения локального экстремума, после чего следует перемещение по следующей координате. Поиск осуществляется одним из методов одномерной оптимизации до достижения заданной точности локализации экстремума.

Для функции двух переменных y = f(x₁, x₂) процесс покоординатного поиска показан на рис.2.8. Из начальной точки следует продвижение по координате х₁ при постоянстве х₂ до локального экстремума в точке , после чего направление движения меняется и следует по второй координате х₂ при до точки и т.д. до глобального экстремума.

Блок–схема алгоритма (Рис.2.2) включает ввод числа переменных n, координат исходной точки , начального шага h₀ и начального значения экстремума Y₀. Далее задается координата перемещения i=i+1; , проводится поиск локального экстремума Y_m каким либо методом одномерного поиска (в данном случае методом дробного шага) и проверяется условие точности

При его невыполнении поиск продолжается по следующей i = i +1 координате, исходя из Y₀ = Y_m. В противном случае найденная точка с заданной точностью является оптимальным решением.

Рис. 2.8. Поиск оптимума методом покоординатного спуска

Сходимость метода зависит от вида оптимизируемой функции и выбора начального приближения. Метод неприменим при наличии изломов в линиях уровня (при наличии оврагов).

Градиентный метод

Направление наиболее быстрого возрастания функции f(x₁…x_n) характеризуется ее градиентом – вектором, проекциями которого на оси координат являются частные производные функции по координатам

Величина или модуль градиента равняется корню квадратному из суммы проекций

Проекция градиента на плоскость х₁х₂ перпендикулярна касательной к линии уровня функции f(x₁x₂) (Рис.2.10а.). Направление вектора grad f определяется углами _i между вектором и соответствующей осью с направляющими косинусами (Рис. 2.3 б.)

;

Рис.2.2. Блок-схема алгоритма покоординатного спуска.

а) б)

Рис. 2.3. Поиск оптимума градиентным методом

и в общем случае

Перемещение вдоль градиента дает кратчайший путь к вершине (max) функции f(x₁…x_n), а перемещение в противоположном направлении указывает кратчайший путь к минимуму функции.

При этом координаты новой точки на k-ом шаге перемещения будут определятся при шаге h как:

…………………..

Для i-ой координаты (i-го параметра)

или

При простом перемещении размер шага выбирают достаточно малым так, чтобы при переходе от одной точки к другой направление менялось бы не более чем на 10-15 градусов. Перемещение продолжается до тех пор, пока производные или градиент не станет достаточно малой величиной или не будет достигнута граница области, т.е.

или

Если функция дифференцируема, то производные вычисляются по аналитическим формулам. В противном случае производные вычисляются с помощью конечных разностей

Для нахождения оптимального решения с любой заданной точностью используется градиентный поиск с дроблением шага (Рис.2.4 ). При этом произвольно выбирается начальная точка и начальное значение шага h. Далее вычисляются координаты новой точки и проверяется условие монотонности возрастания

Y^(k) > Y^(k-1);

или

Если это условие нарушается, то шаг дробится (делится пополам) до тех пор, пока монотонность не восстановится. Пошаговое движение продолжается до выполнения условия

,

где  как угодно малая величина.

Недостатком метода является необходимость вычисления n-производных функции f на каждом шаге, что неудобно при большом количестве переменных. От этого недостатка свободен метод крутого восхождения (наискорейшего спуска), согласно которому после определения градиента в исходной точке следует перемещение на несколько шагов пока функции f(x₁…x_n) не начнет убывать. В точке перегиба вновь следует вычисление градиента по частым производным с определением нового направления движения (Рис.2.5 ).

Рис. 2.11. Блок-схема алгоритма градиентного поиска с дробным шагом

Критерии окончания поиска аналогичны критериям градиентного метода. При этом восхождение происходит более крупными шагами и градиент целевой функции вычисляется в меньшем числе точек.

Метод крутого восхождения сводит многомерную задачу оптимизации к последовательности одномерных задач в направлении, определяемом градиентом целевой функции.

Метод сопряженных градиентов

Метод наискорейшего спуска и градиентные методы медленно сходятся в тех случаях, когда поверхности уровня функции f(x) сильно вытянуты. Этот факт называется “эффектом оврагов”. Суть эффекта в том, что небольшие изменения одних переменных приводят к резкому изменению значения функции - это “склон оврага”, а по остальным переменным, задающим направление “дна оврага”, функция меняется незначительно. В таких случаях применяют метод сопряженных градиентов. Например, если целевая функция n переменных квадратичная, то поиском вдоль сопряженных направлений можно получить точку минимума не более чем за n шагов.

Сущность метода заключается в выборе нового направления в зависимости от отношения вектора-градиента на данном шаге к вектору- градиенту на предыдущем шаге. При этом направляющие косинусы нового направления выражаются как:

где коэффициент ^(k) равен отношению градиентов на смежных шагах

Новые направления называются сопряженными и соответствуют текущей локальной квадратичной аппроксимации функции.

Алгоритм максимизации функции методом сопряженных градиентов

Флетчера и Ривса при задаваемых точности вычислений , количества переменных n и начального приближения x_i⁽⁰⁾ представлен на рис.2.6. По найденному направлению проводится одномерный поиск локального экстремума с проверкой достижения максимума grad f(x₁…x_n)  .. Если условие выполняется, то оптимальное решение найдено, в противном случае определяются новые сопряженные направления.

Достоинство метода заключается в том, что он использует преимущества градиентного поиска при исследовании целевой функции с разрывными

Рис. 2.5. Блок-схема метода наискорейшего спуска (крутого восхождения)

производными. При этом не «зависает на изломе», а идет вдоль линии, соединяющей точки изломов и, как правило, проходящей через точку оптимума.

Рис.2.6. Блок-схема алгоритма метода сопряженных градиентов

Если функция имеет несколько экстремальных точек (вершины или впадины), то для отыскания глобального экстремума используют метод полного перебора или случайного поиска. При этом выбирается случайно начальная точка движения и каждое новое значение extrF сравнивается с предыдущим. В памяти сохраняется каждое следующее значение, превышающее предыдущее.

Одним из возможных вариантов – это случайный поиск с промежуточными подъемами. При этом следует подъем по градиенту до ближайшей вершины и запоминание значения F_max1. Затем выбирается новая случайная точка и следует движение к новому максимуму F_max2 . Если F_max2 > F_max1 следует его запоминание и т. д.

Выбор метода зависит от вида функции цели:

• при унимодальной функции – метод покоординатного поиска, градиентные методы;

• в случае сепарабельной целевой функции - метод

покоординатного поиска;

• если все переменные однородны и тесно связаны друг с другом лучше использовать метод наискорейшего спуска;

• при большой размерности – методы случайного поиска.

Задание и порядок выполнения работы

Для заданной функции 2-х переменных вида:

F(x₁,x₂) = a₁₁x₁² + 2a₁₂x₁x₂ + a₂₂x₂² + 2a₁₃x_{1 +} 2а₂₃х₂

найти экстремальное значение для коэффициентов, заданных в таблице

(a₁₁ a₁₂ a₂₂ a₁₃ а₂₃) методами сканирования, покоординатного поиска (релаксации), градиентного поиска, наискорейшего спуска (крутого восхождения) и сопряженных градиентов.

№	a11	2a12	a22	2a13	2a23
1	2.5	1	2	-13	-4.5
2	2.5	1	2	-5	-10.5
3	3	1	1	-5.5	-6.5
4	3	1	1	-4.5	-3.5
5	4	0.5	0.5	-9.5	-3.5
6	4	0.5	0.5	-4.2	-2.2
7	1	0.5	2.5	-2	-10.5
8	1	0.5	2.5	-3.5	-6.5
9	2.5	-1	2	-12	0.5
10	2.5	-1	2	0	-9.5
11	3	-1	1	-6.5	-3.5
12	3	-1	1	-1.5	-2.5
13	4	-0.5	0.5	-6.5	-2.5
14	4	-0.5	0.5	-2.2	-1.8
15	0.5	-0.5	2.5	0	-9.5
16	0.5	-0.5	2.5	-2.5	-3.5
17	2.5	1	2	12	0.5
18	2.5	1	2	0	-10
19	3	1	1	6.5	-2.5
20	3	1	1	-1.5	-2.5
21	4	0.5	0.5	6.5	-2.5
22	4	0.5	0.5	2.2	-1.8
23	0.5	0.5	2.5	0	-9.5
24	0.5	0.5	2.5	2.5	-3.5
25	2.5	-1	2	7	4
26	2.5	-1	2	5.5	6.5

1. Для каждого метода составить процедурный модуль и включить его в головную программу с распечаткой таблицы экстремальных значений по всем методам.

2. Ввести границы области по х₁ и х₂ и учесть их в алгоритме поиска.

3. Найти оптимальное решение для целевой функции многих переменных с предварительным определением области существования функции.

Варианты целевых функций

1. f(x) = ;

2. f(x) = ;

3. f(x) = ;

4. f(x) = ;

5. f(x) = ;

6. f(x ) = ;

7. f(x₁,x₂,x₃) = ;

8. f(x₁,x₂,x₃ ) = ;

9. f(x ) = ;

10. f(x ) = ;

11. f(x) = ;

12. f(x ) = ;

13. f(x) = ;

14. f(x) = ;

15. f(x) = .