Мастяева И.Н. Исследование операций в экономике

y = (λ −1)a +(λ −1)2 b = 0,618 a +0,382 b z = (λ −1)2 a +(λ −1)b = 0,382 a +0,618 b

Нетрудно также проверить, что точка y производит золотое сечение отрезка [a, z], а точка z производит золотое сечение отрезка [y, b]. На этом свойстве, позволяющем на каждой итерации вычислять значение функции лишь в одной пробной точке, и основан алгоритм метода золотого сечения.

Исходные данные. [a, b] - отрезок, содержащий точку максимума, ε - параметр окончания счета.

Шаг 1.

λ = 52+1; k=1, ak=a; bk=b;

y = (λ −1)ak +(λ −1)2 bk ; A = f (y ); z = (λ −1)2 ak +(λ −1)bk ; B = f (z).

Шаг 2.

Если A>B, то перейдем к шагу 4.

Шаг 3.

y = (λ −1)ak +1 +(λ −1)2 bk +1;

A = f (y )

Шаг 5.

Если bk +1 − ak +1 < ε , то X * [ak +1,bk +1 ], конец.

Шаг 6.

k=k+1, перейти к шагу 2. Пример 5.2.

Найти точку максимума функции f (x ) = sin(x ) на отрезке [1,5; 1,6],

ε= 0,002.

λ=1,6180; a1 =1,5 ; b1 =1,6 .

103

b2 − a2 = 0,0618 > ε .

Итерация 2.

Так как A<B, то a3 = y =1,5618; b3 = b2 =1,6. y = z =1,5764; A = B = 0,99998;

z = 0,3820 1,5618 +0,6180 1,6 =1,5854 ; B = sin(z) = 0,99989;

b3 − a3 = 0,0382 > ε.

Итерация 3.

Домашнее задание 5.1.

Методом Свенна найти отрезок, содержащий точку экстремума унимодальной функции f(x), уточнить точку экстремума методом Золотого сечения, ε = 0,05.

1.f(x)=x2+1→min

2.f(x)=3x-x2-1→max

3.f(x)=2x-x2-1→max

4.f(x)=2x2+3→min

5.f(x)=x2+x+1→min

6.f(x)=10x2+7x+1→min

7.f(x)=15x-2x2+5→max

8.f(x)=3+7x-2x2→max

9.f(x)=4-3x2→max

10. f(x)=5-4x-x2→max

104

5.2. Методы безусловной оптимизации.

Задачей безусловной оптимизации функции нескольких переменных будем называть задачу, в которой требуется найти

управляемых переменных, f – скалярная целевая функция.

Определение. Решением, или точкой минимума, задачи безусловной оптимизации будем называть такой вектор x* En , что

f (x* ) ≤ f (x) для всех x En , и писать

Сущность рассматриваемых в данном разделе методов решения задачи (5.2) состоит в построении последовательности точек

принадлежащих En , монотонно уменьшающих значение функции

Такие методы называют методами спуска.

Алгоритм метода спуска.

Начальный этап. Задать x1 En - начальную точку, ε > 0- параметр окончания счета; положить k=1.

направления Sk , положить k=k+1 и перейти к шагу 1.

Различные методы спуска отличаются друг от друга способом выбора направления спуска Sk и шага вдоль этого направления λk .

Естественно, что трудоемкость вычисления величины λk следует согласовывать с трудоемкости определения направления спуска Sk .

Методы решения задач безусловной оптимизации можно разделить на группы в зависимости от уровня используемой в методе информации о целевой функции, например:

Методы нулевого порядка, или прямого поиска, основанные на вычислении только значении целевой функции.

Градиентные методы, в которых используются значения функции f (x) и ее градиента, т.е. вектора, компонентами которого являются частные производные первого порядка.

105

Методы второго порядка, в которых используются первые и

производные второго порядка функции f (x). Методы оптимизации квадратичных функций.

Первые три группы методов различаются требуемой степенью гладкости целевой функции (разрывная, непрерывная, непрерывнодифференцируемая, дважды непрерывно-дифференцируемая), тогда как вид самой функции не оговаривается, четвертая группа ориентирована на оптимизацию функций определенного вида.

Метод скорейшего спуска – метод Коши − метод первого

порядка.

Методы безусловной оптимизации, в которых в качестве направления поиска берется градиент функции f (x), называются

градиентными. Градиентные методы являются методами первого порядка. Таким образом, последовательность точек генерируется градиентным методом в соответствии с формулой:

где λk - параметр, характеризующий величину шага вдоль направления. Величина шага λk может выбираться разными способами. Если значение параметра λk вычисляется путем решения задачи

одномерной оптимизации, то градиентный метод называется методом скорейшего спуска, или методом Коши.

Алгоритм метода Коши.

Начальный этап. Выбрать x1 - начальную точку, ε > 0- параметр окончания счета; положить k=1.

Основной этап.

Шаг 1. Если f (xk ) < ε , то x* = xk , остановиться.

Шаг2.Положить Sk = − f (xk ) , вычислить λk = arg min f (xk + λSk ) ,

положить k=k+1 и перейти к шагу 1.

Пример 5.3. Найти минимум функции методом Коши.

f (x) =10x12 +10x1 x2 +3x22

Начальный этап. Пусть x1 = (−0,6;1),ε = 0,1;k =1.

f (x) = (20x1 +10x2 ;10x1 + 6x2 )

Основной этап.

Шаг 1. Вычислим f (x1 ) = (−2;0) , так как f (x1 ) = 2 > ε , переходим

λ1 = arg min f (x1 + λS1 ) = 0,05, x2 = (−0,5;1) ,положим k=2 и перейдем к шагу 1. Шаг 1. f (x2 ) = (0;1) , т.к. f (x2 ) =1 > ε , переходим к шагу 2.

106

шагу 1.

Результаты всех вычислений приведены в таблице, из которой следует, что значение функции f (x)становится меньше ε = 0,1 на 11-й итерации, а значение нормы градиента уменьшается в 5/6 раза каждые две итерации (см. таблицу).

Скорость сходимости метода Коши является довольно низкой, хотя на каждой итерации обеспечивается выполнение неравенства

f (xk +1 ) ≤ f (xk ).

Таблица.

………………………………………………………………………

………………………

Домашнее задание 5.2.

Решить задачу безусловной оптимизации методом Коши с точностью ε=0,1. Решение сопроводить геометрической интерпретацией

1.–x1 + 6x2 -2x12 – 3x22 + 3x1x2 → max

2.6x1 + 4x2 - x12 - 0,5x22 - x1x2 → max

107

3.3x1 - 2x2 - 0,5x12 – x22 + x1x2 → max

4.–4x1 + 8x2 – x12 –1.5x22 + 2x1x2 → max

5.x1 + 4x2 - x12 – 3x22 + 2x1x2 → max

6.–2x1 + x2 - 3x12 – 2x22 + x1x2 → max

7.x1 - 2x2 - x12 – 3x22 - x1x2 → max

8.3x1 + 6x2 – x12 – 2x22 + 2x1x2 → max

9.-3x1 + 2x2 - 2x12 – x22 + 2x1x2 → max

10.4x1 + x2 - 3x12 – x22 + x1x2 → max

5.3.Методы условной оптимизации

Вдальнейшем будем рассматривать следующую задачу:

где f (x ) и gi (x ) - нелинейные функции.

При решении задач нелинейного программирования ввиду нелинейности функции выпуклость допустимого множества

решений P и конечность числа его крайних точек (в отличие от ЗЛП) необязательны. Задача нелинейного программирования не всегда имеет решение. Если задача имеет решение, то максимум функции f (x ) может достигаться в крайней точке допустимой области значений P, в одной из граничных точек или в точке, расположенной внутри допустимой области P.

Определение. Решением или точкой максимума задачи условной

108

(x k + βS k ) P и f (x k + βS k ) > f (x k ) .

Методы решения задачи условной оптимизации можно представить как итерационный процесс, в котором исходя из начальной точки x 0 P , получают последовательность точек x k P , монотонно увеличивающих значения функции f (x ) . Это так называемые методы подъема. Элементы этой последовательности точек определяются следующим образом: x k +1 = x k + βk S k ,

где S k - возможное направление подъема функции в точке находится при решении задачи одномерной оптимизации:

точке x k , следует вычислить множество таких возможных направлений

S k , для которых существовала бы окрестность точки x k , принадлежащая

P.

Общая схема методов условной оптимизации.

Начальный этап. Задать ε > 0 и выбрать начальную точку x0 P . Основной этап.

Шаг 1. Выбрать S k (k-я итерация) - возможное направление подъема функции f (x ) в точке x k . Если такого направления нет, то

x* k =x k - решение задачи. В противном случае перейти к шагу 2. Шаг 2. Положить x k+1 =x k +βS k , где βk находим, решая задачу

f (x k + βk S k ) → max

β>0

(x k + βk S k ) P

Шаг 3. Заменить k на k+1 и перейти к шагу 1.

Конкретные методы условной оптимизации различаются способом выбора возможного направления подъема S k функции f (x ) в точке x k .

109

g1(x ) = 0

Рис. 5.2

P

g4 (x ) = 0

g3 (x ) = 0

Рис 5.3

110