Планирование и обработка эксперимента / Rakitskiy - Chislenniye metodi resheniya 1979
.pdf200 |
|
|
|
Гл. 4. ОптuАшзация |
|
|
|
|
||||||
.~ось по.~учить приемлемое |
приб.1ижение к вектору |
х*, |
||||||||||||
о..:~.нако построенное |
|
на |
их |
осно~е уравнение связи |
|
|||||||||
|
|
х<1!= О,968-О,469х<2> ~ 1-0,5х<2> |
(103) |
|||||||||||
.:.~.остаточно |
точно локализует |
дно |
оврага. При получе |
|||||||||||
!ШИ (103) бьто пспользовано первое уравнение |
систе |
|||||||||||||
мы в1ца (95). |
|
|
|
|
|
|
|
|
|
|
|
|
||
|
Согласно общей |
|
методике |
исключаем |
переменную |
|||||||||
х<11 |
11 переходим к новому функционалу вида |
|
|
|
||||||||||
|
|
.f1 (C, х<2>)=С0 --'-С1 х<2>+С2 (х<2>)2• |
(104) |
|||||||||||
|
В результате |
задача |
свелась |
к |
задаче |
одномерной |
||||||||
1шни.\1изации по ·пере.'.1енной |
х<2>, |
а |
соответствующие |
|||||||||||
значения xOJ вычисляются |
по |
уравнению (103). |
|
|
||||||||||
|
На следующем |
этапе производим |
независимую |
от |
||||||||||
л |
|
|
|
|
|
|
|
|
Ci. |
|
|
|
|
|
~; оценку значений |
параметров |
Используется |
план |
|||||||||||
эксперимента |
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
х<2> =0 |
' |
х<2> = --1'-1 |
х< 2> |
= -1 |
• |
(105) |
||||||
|
|
1 |
|
|
2 |
|
' |
|
3 |
|
|
|
||
|
Д.1я вычисления значений функционала ( 104) в точ |
|||||||||||||
ках |
плана |
(105) |
вычисляются |
соответствующие |
значе |
|||||||||
ю1я хР> по уравнению ( 103). Получается план для |
ис |
|||||||||||||
|
|
|
Таблица s |
ходного функционала, пред |
||||||||||
|
|
хр!1 |
|
|
|
|
ставленный в табл. 8, точки |
|||||||
i |
1xi(l)1 |
J; |
1 ;; |
|
которого расположены ·вдоль |
|||||||||
|
оврага |
(обозначены |
крести |
|||||||||||
|
|
|
|
|
|
|
ка.\ш на рис. 17). |
|
|
|||||
1 |
0,968 |
о |
120 |
|
123 |
|
|
Вычисление |
значений |
|||||
2 |
0,499 |
1 |
130 |
|
128,25 |
функционала J в точках пла |
||||||||
1 3 |
1,437 |
-1 |
130 |
|
131' 51 |
на табл. 8 ка.к раз п |
реали |
|||||||
! |
|
|
|
1 |
|
|||||||||
|
|
|
|
|
|
|
зует |
изложенный в |
§ |
4.4 |
принцпп по·вторных измерений. На основе этой дополни тельной серии измерений поступает дополнительная ин фор:\1ация, позволяющая более точно локализовать точ
ку :\ШНимума.
1\\етод наименьших квадратов приводит к оценкам
л |
л |
л |
С0 = 120, |
С1 =О, |
С2 = 10 |
:.J к точке минимума х.<2>=0 функционала J(C, х<2>).
Согласно (103)
xi 1> = 0,968-0,469xi2> = 0,968.
§ 4.6. При.иеры |
201 |
Таким образом, получен вектор
Л |
_ |
А |
х* = (0,968; О), |
J ф, |
х*) == 123,64, |
близкий к истинному решению. |
|
|
Погрешность в определении |
оптимальных значений |
компонент х*, как и у экспери:.VIентальных значений, .1е
жит во втором знаке мантиссы. Задача решена.
Пр им ер 2. В качестве второго примера расс.мот
рим задачу поиска минимума квадратичного функцио-
нала
4
|
|
|
|
- |
|
|
|
|
|
(106) |
|
|
J(x)= 1/2)"'Л.1 (х, щ)2 -(Ь, х), |
|
|||||||||
|
|
|
|
j=I |
|
|
|
|
|
|
|
где |
|
|
|
|
|
|
|
|
|
|
|
Л1 =108, Л2 =Л.4= 10-4, |
'Л3= 106, |
b=(l; |
1; |
1; |
1), |
||||||
1 |
|
-1; |
1; |
О), |
1 |
|
2; |
1; |
О), |
(107) |
|
U1= vз (1; |
U2= V6 (1; |
||||||||||
1 |
О; |
-1; |
1), |
и4 |
1 |
О; |
-1; |
-2). |
|||
U3 = уЗ (1; |
= Vб (1; |
||||||||||
Начальная точка |
|
|
|
|
|
|
|
|
|||
|
Х0=0 (1; |
1; |
1; |
1), |
J(x0)=0,168310•, |
|
|
i~;, ui - соответственно собственные числа и собствен
ные векторы матрицы D=!"(x).
Точка минимума функционала ( 106) задается выра
жением
\ "'3333-(1;
/
Отсюда в11дно, что компоненты х* в основном опре
де.1яются малыми собственными числами Л2, Л4, и уже
202 |
Гл. 4. Оптимизация |
небольшая погрешность в их представлении приводит к
бо.'Iьшой ошибке в компонентах х*.
Алгоритм вычисления значений функционала !(х) строится в виде суммы ( 106). Использование д.'IЯ этой uели обычного выражения, содержащего в явном виде
~.·атрпцу D, недопустнмо, |
так |
J{ак |
из-за ограниченной |
|
1 очности представления элементов diJ: |
||||
|
4 |
|
|
|
d.1 |
= \'uU> u<i> Л.11. |
|||
l |
........ |
11. |
k |
|
|
li=I |
|
|
|
:-.1атрицы D информация о малых |
собственных числах |
|||
i.2, j,4 теряется на фоне больших Л.1, |
Лз. |
Указанное обстоятельство приводит к резкой потере
эффективности квадратичных методов второго порядка
ньютоновского типа, основанных на явном использова
нии аппроксимации матрицы вторых производных.
Овражно-ориентированные методы Розенброка, ме
тод конфигураций и др. оказываются неэффективными
пз-за наличия многомерного (двумерного) |
оврага. |
В табл. 9 приведены результаты минимизации функ |
|
ционала (106) некоторыми поисковыми |
алгоритмами |
!!ри выполнении вычислений с сохранением восьми зна ков мантиссы в представлении чисел в форме с пла вающей запятой.
Таблица убедительно демонстрирует преимущество
:-.1етода иерархической оптимизации при минимизации в
ус.'Iовиях высокой степени овражности. Рассмотрим
этот вопро·с подробнее.
Вместо исходного функционала !(х) рассматривает
ся функционал от приращений к Хо |
|
|
|||||
|
|
|
1 (z) = J (х0+z), |
z0 = О. |
|
|
|
|
|
Уравнение спуска для l(z) |
примет вид |
|
|
||
|
|
|
~= -!'(z)=-Dz-J'(x0 ). |
(108) |
|||
|
|
|
dt |
|
|
|
|
|
|
Элементы матрицы D=l"(xo)={di.i} |
|
|
|||
; |
|
0,33667108 |
-0,33333108 |
0,33000108 |
о.3333310•1 |
) |
|
|
-0,33333108 |
0,33333108 |
-0,33333108 |
--0 •6250010 |
-1 |
||
l |
0,33000108 |
-0,33333108 |
|
0,33667108 |
-0.33333106 |
|
|
|
' |
о,33333108 |
-0,6250010-l |
- |
0,3333310' |
0,33333106 |
|
204 |
|
|
|
|
|
Гл. |
4. |
Оптимизация |
|
|
|
||||
:10.тiучаемое согласно равенству |
|
|
|
|
|||||||||||
|
|
|
|
|
(z, |
и1) = |
1.\1 (Ь, tt1)-(x0 , U1). |
|
|
||||||
|
С помощью ( l 09) |
переход1в1 к новому функционалу |
|||||||||||||
r. (z( 2>, |
|
z< 3), |
|
z( 4)). |
Строя д.lЯ /1 матрицу /1'' |
11езавпс11мо от |
|||||||||
;~сходной квадратичной аппрокспмащш |
|
|
|
||||||||||||
/" ( |
z(2) |
' |
z(З) |
' |
z(4)) = |
|
|
|
|
|
|
|
0,33333106) |
||
1 |
о |
о |
о |
0,33333 |
|
|
|
|
|
||||||
|
|
|
|
|
|
10 |
с, |
- 0,66667106 |
|
||||||
|
|
|
|
|
= ( |
|
|
|
|
|
|
|
|||
|
|
|
|
|
-О,666С710в |
о. 13333107 |
-0,66567106 |
• |
|||||||
|
|
|
|
|
\ |
О, 3333310в -0,66667 106 |
|
о, 333ЗЗ106 |
|
||||||
находим вторую линейную связь |
|
|
|
|
|||||||||||
|
|
|
|
|
z(3 ) = |
0,5 (z< 2>+z<4>)-0,737810-6. |
(l lO) |
||||||||
|
В результате по.1учае:v1 функциона.~ |
f2(z( 2>, z< 4 )) |
с |
||||||||||||
матрицей Гессе |
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
г ( z(2) |
z(4)) = |
( |
О, 14999 |
з |
0,22311 |
8 |
') |
|
||||
|
|
|
о |
22311 |
10- |
о 14999 |
10- |
( l l l) |
|||||||
|
|
|
2 |
|
о ' |
о |
|
10-8 |
10-З |
• |
|
||||
|
|
|
|
|
|
|
|
|
' |
|
' |
|
|
||
|
Элементы последней матрицы |
существенно меньше, |
чем у двух предыдущих матриц, ибо после исключения двух доминирующих собственных чисел, они определя
ются уже только малыми спектральными составляющи
ми исходной матрицы.
Минимизация / 2 системным |
методом приводит к точ |
||||||||
ке (z*<2>, z.<4>) |
= |
(0,131810·, |
0,666310•). |
Согласно |
(109), |
||||
( 110) вычисляем |
значения |
z.<l), z.<3> и |
окончательно |
||||||
x.=xo+z*=(0,333310•: |
0,133310•; |
0,100010•; |
0,666710•) |
||||||
что совпадает с истинной экстремальной точкой. |
|
||||||||
Кроме рассмотренного случая, исследовался вариант |
|||||||||
невыпуклого |
функционала |
( 106) |
с |
отрицательным |
|||||
i. 4=-l0-4• Метод иерархической |
оптимизации |
снова |
|||||||
показал свою |
высокую |
эффективность |
и был прерван |
||||||
прп значениях |
! |
около |
(-10 14 ). Системный |
метод да |
ва:1 .\юнотонное у:1Jеньшенне значеш1~"! /, однако скорость
Убывания была невелпка. Остальные методы табл. 9
Прекратили миниi.\шзацию при значениях J;;::::-3,0.
Ранее отмеча:юсь, что вычислительная схема мето
дов § 4.5 никак не связана с проблемой разделения
б:шзких собственных чисел. Рассмотрим соответствую щий пример.
|
§ 4.6. Примеры |
|
|
205 |
|
Пvсть |
минимизируется |
квадратичный |
функционал |
||
(106) с Л.з=О,9999910•, так что |
/.1~Лз. Тогда |
коэффи· |
|||
ш:еF.:ы первого уравнения |
связи |
(v, z) =ri равны: |
|||
:·=(1; |
-0,5; 0,14999i0_i; 0,49999), |
11=-l. |
|||
В.::ктор |
v::::::О,5(и1 +из) |
не совпадает ни |
с |
одним из |
-соб~твенных векторов и; :чатрнuы D, однако с высокой
точностью аппроксимируется линейной комбинацией
веЕторов tti, и3, отвечающих :-.1акс1ша.1ьньш собствен
ны:-: числам.
''1атрица D для данного случая имеет вид
1 |
0,66666 108 |
- |
0,33333108 |
о. 3333110• |
0,33333108) |
||||||||
- |
0,33333108 |
|
0,33333108 |
- 0,33333108 |
о.о |
||||||||
( |
0,33331 |
10 |
3 |
- |
о. 33333108 |
0,66666108 |
-0,33333 8 |
||||||
|
|
|
|
|
|
|
|
|
|
-0,33333108 |
10 |
||
|
0,33333108 |
|
о.о |
|
|
|
0,33333108 |
||||||
Да.11ее последовательно получаем: |
|
|
|||||||||||
|
z<1>= 0,50001z(2)-0,1499910- 4 z<3>-0,49999 z< 4>, |
||||||||||||
l"(z2> |
z<З> |
, |
z(4>)= |
|
|
|
|
|
|
|
|||
1 • |
~....• |
о |
|
о |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
0,16667108 |
-0,33333108 |
0,16667108) |
||||||
|
|
= ( |
-0,33333108 |
|
|
0,66666108 |
-0,33333108 , |
||||||
|
|
|
|
|
О, 15667108 |
- |
|
0,33333108 |
о, 16667108 |
||||
|
|
|
z<З> = 0,5 (z<2> + |
z<4>) +О, 1406310-s, |
|||||||||
|
|
/" ( z<2> |
z<•>) = ( |
О, 15001 |
:; |
|
|
||||||
|
|
|
|
97758 |
io-· |
|
|
||||||
|
|
2 |
|
о |
' |
о |
|
о |
. |
10-8 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
( zi2>, zi4>)·= (0,1333i 0;;,
Таким образом, задача решена. При этом в процес
се зычислений не потребовалось разделения близких
собственных чисел и определения соответствующих
собственных векторов.
208 |
Литература |
37. Х и м мель б .1 а у Д. |
Прик.'lадиое не.'!инейное программирова |
ние. - М.: Мнр, 1975. |
|
38.Численные методы усJiовной оптимизации./Под ред. Гилла Ф.,
Мюррэя Ч. - .\'\.: Мир, 1977.
39. |
Ш тет те р |
Х. |
Ана.1из |
методов |
дискретизашш |
д.1я обыкновен |
|||||||||||||||
40. |
ных дифференциальных |
уравнений. |
- |
М.: |
,\\нр, |
1978. |
|
|
|
||||||||||||
Эль с r о .1 ь ц |
Л. |
Э. Дифференциа.1ьные |
|
уравнения |
и |
в1риа |
|||||||||||||||
|
ционное псчис.1ение. - |
М.: Наука, |
1969. |
|
|
|
|
|
|
|
|
||||||||||
41. |
А i k е n |
R. |
С., |
L а р i d 11 s L. |
An |
effective |
numerical |
integration |
|||||||||||||
|
method |
for |
typical |
stiff systems.-AIChE J., 1974, 20, |
No |
2. |
|
|
|||||||||||||
42. |
С а 1 а h а n |
D. А. |
А staЫe, accurate method oi numerical |
||||||||||||||||||
|
intcgration |
|
for |
nonlinear |
circuits. - |
Proc. |
IEEE, |
1968, |
56, |
.N'o |
5. |
||||||||||
43. |
С а s h |
J. |
R. А class |
of |
implicit |
Runge-Kutta |
methods |
for |
th~ |
||||||||||||
|
numerical |
integration |
of |
sШf |
ordinary |
differential |
equatior.s. - |
||||||||||||||
|
J. АСМ, 1975, 22, No 4. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
44. |
С и r t i s s |
|
С. |
F., |
Н i r s с h f е 1d е r |
J. |
О. |
lntegration |
of |
|
stiif |
||||||||||
|
equations. - |
Proc. |
Nat. Acad. Sci. USA, 1952, 38. |
|
|
|
|
|
|||||||||||||
45. |
D а h 1q и i s t |
G. |
А special stabllity proЫem for linear |
IELilti- |
|||||||||||||||||
|
stcp methods. - |
ВIТ, |
1963, 3. |
|
|
|
|
|
|
|
|
|
|
|
|
||||||
46. |
D а h 1 q и i s t G. А numerical |
method |
for |
some |
ordinary |
diffe- |
|||||||||||||||
|
rential |
equations |
with |
large |
Lipschitz |
|
constants. |
|
- |
Inform. |
|||||||||||
|
Processing |
|
68, |
1969. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
П. F 1е t с h е r |
R. |
Function |
minimization |
without |
evaluating |
deri- |
|||||||||||||||
|
\'atives (а review). - |
Computer. J., |
1965, |
8, № 1. |
|
|
|
|
|
|
|||||||||||
-15. |
G е а r |
С. |
W. The |
automatic |
integration |
of |
stiff |
ordinary |
diffe- |
||||||||||||
|
rential equations. - |
Inform. |
Processing |
68, |
1969. |
|
|
|
|
|
|
||||||||||
-i9. |
G е а r |
С. |
\V. The |
automatic |
integration |
of ordinary |
|
diii~rential |
|||||||||||||
|
equations. - |
Comm. АСИ, 1971, 14. |
|
|
|
|
|
|
|
|
|
||||||||||
50. |
G е а r |
С. W. |
Numerical |
Initial |
Value |
|
ProЫems |
in Ordinary |
|||||||||||||
|
Differential |
Equations. - |
N. J., |
1971. |
|
|
|
|
|
|
|
|
|
||||||||
51. |
Н i n d та r s h |
А. |
С. |
GEAR: |
Ordinary |
|
differential |
equations |
|||||||||||||
|
s\·stem |
solyer. - |
Lav.тence |
Livermore |
|
Laboratory. |
- |
|
Rept. |
||||||||||||
|
UCID-30001, Dccember 1974, 3. |
|
|
|
|
|
|
|
|
|
|
|
|
52.L ат Ь е r t J. D., S i g и r d s s о n S. Т. Multistep methods \\7 ith YariaЫe matrix coefficients. - SIAM J. Numer. Anal., 1972, 9.
53. |
L ат Ь е r t |
J. |
D. Computational |
methods in |
ordinary |
differen- |
|||||||||||||
|
tial |
equations. - |
N. У., |
1973. |
|
|
|
|
|
|
|
|
|
|
|
|
|||
54. |
L ар i d и s |
L., |
S е i n f е 1d J. |
|
Н. Nнmerical |
solution |
of |
ordiпary |
|||||||||||
|
differential |
equations. - |
N. У., |
1971. |
|
|
|
|
|
|
|
|
|||||||
55. |
М i r а n k е r W. L. |
Numerical |
methods of |
boundary |
laye~ |
type |
|||||||||||||
|
for |
stiif |
systems of |
differential |
equations. |
- |
Computing. |
1973, |
|||||||||||
|
11, No 3. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
56. |
N е v а n 1i п n а |
О., |
S i р i 1 а |
А а r n е |
Н. А |
nonexistence |
theorem |
||||||||||||
|
for |
explicit |
A-staЫe |
methods. |
- |
Math. |
Comput" |
1974. |
|
28, |
|||||||||
57. |
№ 128. |
М. J. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
р о v; е 11 |
D. An |
iterative |
methods for |
finding |
stationary |
||||||||||||||
|
yalues oi |
а |
ftinction |
of |
several |
variaЫes. - |
Comput. J" |
1962, |
|||||||||||
|
;\'о 5. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
58. |
R о s е n Ь r о с k |
Н. |
Н. |
Some |
|
general |
implicit |
processes |
for |
the |
|||||||||
|
numerical |
|
solution |
oi |
differential |
equations. |
- |
Cor::r'.lt. |
J., |
||||||||||
|
1963, J\io 5. |
|
|
|
|
|
|
|
|
|
|
|
|
|
- |
|
|
||
f9. |
Stiff |
differential systems. - |
Proc. |
Int. Symp. - |
N. |
У. |
Lon- |
||||||||||||
|
don, |
1974. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|