Пример. Найти минимум целевой функции градиентным методом с постоянным шагом
F(X)=(x1-2)2+( x1-2x2)2
F 2(x1 2) 2(x1 2x2 ) 4x1 4x2 4
x1
|
F |
2(x 2x |
2 |
)( 2) 4x 8x |
2 |
|
|
||
|
|
|
|
||||||
|
1 |
|
|
1 |
|
|
|||
|
x2 |
|
|
|
|
|
|
|
|
Выбираем шаг k=0,05. Начальная точка X1=[0;3]T |
|
||||||||
k |
|
Xk |
F(Xk) |
|
F/ xk |
- F/ xk |
|
Xk+1 |
F(Xk+1) |
1 |
[0;3] |
40,0 |
|
[-16;24] |
[16;-24] |
|
[0,8;1,8] |
9,28 |
|
2 |
[0,8;1,8] |
9,28 |
|
[-8;11,2] |
[8;-11,2] |
|
[1,2;1,24] |
2,28 |
|
3 |
[1,2;1,24] |
2,28 |
|
[-4,16;5,12] |
[4,16;-5,12] |
[1,41;0,98] |
0,65 |
||
Метод наискорейшего спуска |
|
|||||||||
|
F(Xk+1)=F(Xk- kSk)=min |
|
|
|||||||
|
|
|
|
|
F( k) |
k>0 |
|
|
||
|
|
|
|
|
|
|
|
|||
Sk= F(X); |
F(X ) F(X ) , |
F(X ) |
,........ |
F(X ) |
||||||
|
|
|
|
|
x |
|
x |
|
|
x |
Пример. minF(x1,x2)=2x1 + 4x2 |
– 3 |
|
1n |
|||||||
|
|
|
|
|
21 |
3 |
|
2 |
|
|
F(X)=[ |
4x |
1 |
; |
12x |
2]. Пусть |
точка |
X =[2,0;1,0], |
|||
|
|
|
|
2 |
|
|
|
k |
|
|
тогда
- F(X)=[ -8; -12] F(Xk- kSk)=2(2-8 )2+4(1-12 )3-3.
Необходимо найти , доставляющее минимум данной функции.
Лекция 20. Решение задачи условной оптимизации в нелинейном программировании.
Использование градиентного метода при наличии ограничений.
Рассмотрим задачу поиска минимума для ограничений вида gi(X) 0.
Если хотя бы одно из ограничений нарушено, то дальнейший оиск ведется следующим образом:
) для всех gi(X), которые стали положительными, составляется
овый комплексный критерий
m
Hgi (X )
i 1
,где m – число нарушенных ограничений.
б) вычисляется grad H, так же, как и для F(X).
в) делается шаг в направлении -grad Н до тех пор, пока
все gi(X) не станут отрицательными (не войдем в ОДР).
x2
g1(X)
X3
X1
X2
X0
g2(X)
x1
Траектория движения при поиске экстремума
Методы штрафных функций.
Оптимизацию проводят по новому критерию
H (X , r) F(X ) R(X , r)
R(X , r) - штрафная функция, r – параметр штрафа Часто штрафная функция строится по следующему
правилу
m
R(X , r) r f (gi (X ))
i 1
m - число ограничений, f - некоторая функциональная зависимость.
В методах внешней точки
|
2 |
(X ), |
если gi (X ) 0 |
gi |
|||
f (gi (X )) |
|
|
|
0, если gi (X ) 0
Штрафной параметр в этом методе
rk+1= rk, >1,
k - номер решения задачи безусловной оптимизации.
В методах внутренней точки
f (gi (X )) |
1 |
|
|
||
gi (X ) |
||
|
rk+1= rk, <1
Критерии остановки методов штрафной функции: по величине штрафной функции,
по величине шага по хi.
Алгоритм методов штрафных функций. Пусть необходимо найти минимум F(X) при ограничениях gi(X) 0.
Выбрать 1 > 0 и 2 > 0 начальную точку X1
Выбрать параметр штрафа r1(можно принять равным
единице) и коэффициент (для метода барьерных поверхностей =0,1; для метода внешней точки =10).
Шаг 1. При начальной точке Xk решают задачу
|
|
|
m |
|
|
|
|
|
|
min |
H (X , r) F(X ) rk f (gi (X )) |
|
|
|
|||||
|
|
|
i 1 |
|
|
|
|
|
|
Положить Xk+1 равным оптимальному решению этой задачи |
|||||||||
и перейти к шагу 2. |
|
|
|
|
|
|
|||
|
|
m |
|
|
|
(xi )k |
(xi )k 1 |
|
2 |
Шаг 2. Если |
|
rk f (gi (X )) |
1 |
и |
|
|
|||
|
|
|
|||||||
|
|
i 1 |
|
|
|
|
|
|
|
то остановиться. В противном случае rk+1= rk, |
|
|
|
||||||
присвоить k=k+1 и перейти к шагу 1. |
|
|
|
|
|
|
|||
Для метода внешней точки при наличии дополнительно l ограничений в виде равенств gj(X)=0, j=1,l
штрафная функция должна быть записана в виде
|
m |
l |
2 |
|
|
f (gi (X )) g j |
|
|
|
R(X ,r) rk |
|
(X ) |
||
|
i 1 |
j 1 |
|
|