Добавил:

CanyonE СПбГУТ * ИКСС * Программная инженерия Опубликованный материал нарушает ваши авторские права? Сообщите нам.

Вуз:

Санкт-Петербургский государственный университет телекоммуникаций им. проф. М.А. Бонч-Бруевича

Предмет:

Оптимизация и математические методы принятия решений

Файл:

Лекции / ОиММПР. Лекция 5

.pdf

Скачиваний:

Добавлен:

08.04.2020

Размер:

285.08 Кб

Скачать

☆

<<< < Предыдущая 1 23 / 33

Решение задачи градиентным методом заключается в следующем. Находится

вектор

(0 )

=− f (x

(0 )

) , тогда луч

( 1)

( 0)

+α

(0)

(где α≥0

) определяет направление,

вдоль которого скорость уменьшения

f ( x )

будет наибольшей. При этом шаг α(0)=α

предполагается постоянным. При этом его выбор производится таким образом, чтобы выполнялось условие

f (x( 0)+α( 0) L( 0) )<f (x( 0) ) . (6)

Если это условие не выполняется, то производится коррекция длины шага, например α(0)= α2 , и опять проверяется выполнение неравенства. Получив точку x( 1) , в которой значение функции будет меньше, чем в точке x( 0) , начинаем следующую итерацию с начальной точкой x( 1) и длиной шага α(1)= α2 . Процесс завершается в точке,

где f ( x )=0 либо приращение значений переменных на соседних шагах оптимизации не превышает ранее заданной величины погрешности вычислений.

21 из 28

Рассмотрим пример решения задачи оптимизации градиентным методом. Пусть

есть целевая функция

min I ( x1 , x2 )=x1 +x

, шаг

2 +1,5 x1 x2 . , начальные условия

3,3

x 1, x 2

итераций α=α(0 )=1 .

1. Найдем градиент функции в точке

3,3

f x

1,5x

10,5

;

x 0

f x

1,5x

10,5

x 0

10,5;10,5

(0 )

f x

так

как

f ( x )→min ,

следовательно,

10,5; 10,5 .

f x

22 из 28

2. Уравнение луча имеет вид:

(1)

(0)

(3;3) 1 10,5; 10,5

( 7,5; 7,5)

3. Проверим выполнение неравенства f (x( 0)+α( 0) L( 0) )<f (x( 0) ) , для чего произведем вычисление f ( x( 0) ) и f (x( 0)+α( 0) L( 0) ) .

		0					0		0
f			31,5 ,	f		(0)				196,9 .
f	x		31,5 ,	f	x			L		196,9 .

Учитывая, что неравенство не выполняется, произведем изменение длины шага

α=α(0 )=12 .

	В этом случае			0	0	f 2,25; 2,25 17,7		0	, следовательно,
	В этом случае		f x(0)		L	f 2,25; 2,25 17,7	< f x		, следовательно,

1		.
x	2,25, 2,25	.

23 из 28

	Повторяем рассуждения, взяв за начальную точку		1			и длину
	Повторяем рассуждения, взяв за начальную точку	x			2,25	и длину
		x		2,25;	2,25
шага	α(1)= 1 .
	2

			1					1									1
													7,9;7,9 ,				1		. В этом случае
			L	f x									7,9;7,9 ,				2		. В этом случае
																	2
		1							2
									2
f x		, следовательно x
f x		, следовательно x									1,7;1,7

															2
		Продолжим вычисления для точки x
		Продолжим вычисления для точки x														1,7;1,7
			2						2												1
											5,44; 5,44							,			1	.
			L		f x						5,44; 5,44							,			2	.
																					2
				2		2						2							3
	(2)																		3
f x						L	= 3,5		<	f x				, следовательно x
f x						L	= 3,5		<	f x				, следовательно x						1;		1 ,

Эти операции повторяются до тех пор, пока f ( x )=0 .

f(x(1 )+α(1) L(1) ) = 10,1 <

Вэтом случае

24 из 28

Для ускорения процесса поиска оптимального вектора x' может быть использован метод наискорейшего спуска. Основное отличие этого метода от

градиентного состоит	в	способе						выбора шага			α(k ) , а поиск оптимального вектора
осуществляется с помощью следующей итерационной процедуры:
	( k +1)			( k )				( k )	f ( x( k ) )
x			=x			−α		‖ f ( x( k ) )‖ ,			(7)
n	( k )	2
где ‖ f ( x( k ) )‖=√i∑=1 (∂ f∂(xxi		) )	– норма градиента целевой функции в точке x( k ) , а все
остальные элементы выражения (7) соответствуют введенным ранее.
То есть, в отличие от градиентного метода, в методе наискорейшего спуска шаг
спуска α(k ) определяется из решения уравнения
		∂f (x		( k )			(k )		(k )	)=0 .	(8)
		∂f (x			+α			L		)=0 .	(8)
				∂α(k )

Метод хорошо "работает" при минимизации гладких функций и если начальное приближение выбрано достаточно далеко от оптимума. Если же очередная точка x( k )

25 из 28

окажется в окрестности оптимума, то уменьшение целевой функции будет очень медленным. Это происходит из-за того, что для получения оптимума с высокой точностью необходимо выполнить большое число мелких шагов [2].

Как видно из существа метода, условием его применения является непрерывная дифференцируемость f ( x ) .

Пример 2. Найти координаты минимума целевой функции следующего вида: f ( x1 , x2 )=x21+x22+1,5 x1 x2 .

Для начальной точки ( x1=2 , x2=3) находим градиент (частные производные):

f ( x )=[∂∂fx(x1 ) ; ∂∂fx(x2 ) ]т=[2 x1+1,5 x2 ;2 x2+1,5 x1 ]т . Определим норму градиента:

‖ f ( x )‖=√(2 x1 +1,5 x2 )2+(2 x2+1,5 x1 )2=√6 , 25 x21 +12x1 x2+6, 25 x22 .

Далее определяется единичный вектор, имеющий направление антиградиента:

	f ( x )	2 x1+1,5 x2		2 x2+1,5 x1	].
L=−‖ f ( x )‖=[−		√6 , 25 x12+12 x1 x2+6 , 25 x22	;−	√6 ,25 x12+12 x1 x2+6 ,25 x22	].

26 из 28

Выражение, определяющее величину оптимального шага, находим из уравнения (8):

∂

{(

+αL

1))

+αL

2))

2+1,5

(

+αL

(

1 ))(

+αL

2 )) }=0 .

∂f (x +α L)

(

∂ α

Решая данное уравнение получаем:

α=− x1 L ( x1)+x2 L( x2)+0 , 75 x1 L ( x2)+0 , 75 x2 L (x1 ) ,

L2 ( x1)+1,5 L( x1) L( x2)+L2 ( x2)

где L( xi) - проекция вектора

xi .

L на ось

Первый шаг: x1(0)=2, x2(0 )=3 ;

f ( x(0 ))=[2 x1( 0) +1,5 x2( 0) ;2 x2(0 )+1,5 x1(0 ) ]т =[8,5 ; 9]т ;

‖ f ( x )(0)‖=√6 , 25( x1(0) )2+12 x1( 0) x2(0 )+6 ,25 (x2( 0) )2≈12 ,38 ;

(0 )

8,5

;

] =[−0 ,69 ;−0

, 73]

=[−12, 38

−12 ,38

α(0)≈3,5 ;

x(11)=x(10)+α( 0) L (x(10) )=2−3,5 0 , 69=−0 , 415 ; x(21)=x(20)+α( 0) L (x(20) )=3−3,5 0 , 73=0 , 445 .

27 из 28

Второй шаг: x(11)=−0 , 415 , x(21)=0 , 445 ;

f ( x

(1)

)=[−0 , 16 ; 0,24]

;

‖ f ( x )

(1)

;

(1)

=[0,5 ;−0 ,75 ]

; α

(1)

≈0 ,56

;

‖≈0 , 32

x(12)=x(11)+α( 1) L (x(11) )=0 , 415−0 ,56 0,5=−0 ,135 ; x(22)=x(21)+α( 1) L (x(21) )=0 , 445−0 ,56 0 , 75=0 , 025 .

Сравнение результатов применения первого и второго методов показывает большую скорость сходимости к оптимальным значениям переменных при применении метода наискорейшего спуска, чем метода Гаусса –Зайделя.

Заключение.

Регулярные и случайные методы поиска оптимальных значений переменных обладают тем основным достоинством по сравнению с аналитическими методами оптимизации, что остаются эффективными в более широком классе целевых функций (нелинейные, динамические, нестационарные).

28 из 28

<<< < Предыдущая 1 23 / 33

Соседние файлы в папке Лекции

#
08.04.2020221.55 Кб66ОиММПР. Лекция 11.pdf
#
08.04.2020305.31 Кб69ОиММПР. Лекция 12.pdf
#
08.04.2020208.21 Кб75ОиММПР. Лекция 2.pdf
#
08.04.2020291.07 Кб71ОиММПР. Лекция 3.pdf
#
08.04.2020197.13 Кб72ОиММПР. Лекция 4.pdf
#
08.04.2020285.08 Кб72ОиММПР. Лекция 5.pdf
#
08.04.2020399.75 Кб72ОиММПР. Лекция 6.pdf
#
08.04.2020236.95 Кб97ОиММПР. Лекция 7.pdf
#
08.04.2020203.53 Кб76ОиММПР. Лекция 8.pdf
#
08.04.2020288.03 Кб71ОиММПР. Лекция 9.pdf
#
08.04.202066.54 Кб49ОиММПР. Тестовые вопросы (7-8 лекции).pdf