Современные проблемы прикладной математики. Часть 2. Практикум. Учебное пособие
.pdfгде η - вектор ошибки, вычисляемый с помощью нормального датчика случайных чисел для двух случаев:
а) ошибки не коррелированны. Значения СКО задать равными σηi = δi fi , i =1,..., N ; δi = 0.01,0.05,0.01.
Матрица ковариации в этом случае будет диагональной
Vη = diag (σ2η1 ...,σ2ηN ) .
б) ошибки коррелированны. В этом случае вектор ошибок вычисляется по формуле η =Vη1/2ξ, где Vη - заданная
матрица ковариации; ξ - вектор, проекции которого
состоят из нормальных случайных величин с единичной дисперсией и нулевым средним.
4. |
Представить матрицу |
ковариации ошибок Vη в форме |
||||||
V = σ2 |
C |
, где C |
|
= |
1 |
|
V . |
|
|
ση2 |
|
||||||
η |
η |
η |
|
η |
|
|
η |
|
4. Вычислить решение по формуле (2.10) и вектор ошибки (2.24).
Примечание. При наличии научной задачи магистранта, которую можно свести к системе линейных уравнений, провести исследования этой задачи.
§2.3. Построение регуляризованного решения при неполной информации
В ситуациях, когда отсутствует априорная информация о числовых характеристиках решения и шума, сглаживающий функционал имеет вид
F |
[ϕ] = |
|
fɶ − Kϕ |
|
2 |
|
+α |
|
2 |
(2.25) |
|
|
|
ϕ − ω |
|||||||
α |
|
|
|
|
W |
|
|
ϕ |
W |
|
|
|
|
|
|
|
f |
|
|
ϕ |
|
В этом случае вектор ϕα , доставляющий минимум функционалу (2.25), является решением системы
21
(KTWf K +αWϕ )ϕα = KTWf fɶ +αWϕωϕ , (2.26)
состоящей из M уравнений относительно M неизвестных.
Здесь α > 0 параметр регуляризации, ωϕ - пробное решение. Параметр регуляризации является неизвестной величиной.
Метод рандомизации. Допустим, что априори известно о принадлежности искомого решения ϕ гиперпрямоугольнику,
определяемому неравенствами
ϕmin |
j |
≤ ϕ |
j ≤ ϕmax |
j |
, j =1,...,M , |
(2.27) |
|
|
|
|
|
являющимися детерминированными ограничениями. Метод рандомизации позволяет интерпретировать детерминированные ограничения в терминах числовых характеристик некоторых вероятностных распределений (чаще всего нормального
распределения). Первые два момента mϕ , Vϕ нормального
распределения N (mϕ ,Vϕ ) определяется таким образом, чтобы
случайный вектор, подчиняющийся этому распределению с вероятностью β попадал в гиперпрямоугольник (2.27).
Математическое ожидание mϕ такого вектора определяется как
|
|
ϕmin |
+ϕmax |
1 |
ϕmin |
+ϕmax |
2 |
|
ϕmin |
M |
+ϕmax |
M |
|
|
T |
|
|
|
|
||||||||||||||
|
|
|
|
|
||||||||||||
mϕ = |
|
|
1 |
, |
|
2 |
,..., |
|
|
|
|
,(2.28) |
||||
|
|
2 |
|
|
2 |
|
|
|
2 |
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
а корреляционная матрица Vϕ является диагональной и вычисляется по формуле
|
|
(ϕmax1 −ϕmin1 |
)2 |
|
(ϕmax M −ϕmin M |
)2 |
|
Vϕ = diag |
|
|
,..., |
|
|
. (2.29) |
|
4µβ |
|
4µβ |
|
||||
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
Значение β |
= 3. |
|
|
|
|
|
|
22
Если матрица Vη |
задана, |
то, |
подставляя вычислительные |
|||
|
|
|
|
|
|
|
описанным |
образом |
mϕ , Vϕ |
в |
систему уравнений (2.29), |
||
получаем |
матричную |
запись |
алгоритма |
нахождения |
||
«рандомизированного» регуляризированного решения ϕp : |
||||||
|
|
|
||
(KTVη−1K +Vϕ−1 )ϕp |
= KTVη−1 fɶ +Vϕ−1mϕ . |
(2.30) |
||
Если информация о шуме измерения задана в виде системы |
||||
неравенств |
|
|
||
|
fɶi − fi |
|
≤ δi , 1≤ i ≤ N , |
(2.31) |
|
|
|||
то вновь обращаемся к методу рандомизации и вычисляем
корреляционную матрицу Vη |
по формуле |
|
|
|
||||
|
|
δ 2 |
, |
δ 2 |
,..., |
δ 2 |
|
(2.32) |
Vη = diag |
1 |
2 |
N |
|
||||
|
|
12 |
|
12 |
|
12 |
|
|
и используем ее в алгоритме (2.30).
Очевидно, что (2.30) является частным случаем системы (2.26) при следующих заменах:
−1 |
; |
−1 |
; |
|
|
|
|
|
|
|
|
|
α =1. |
(2.33) |
Wf =Vη |
Wϕ =Vϕ |
ωϕ = mϕ ; |
||||||||||||
Стабилизирующий функционал |
|
|
|
|
|
|
|
|
|
|
|
|||
Введем квадратичную форму |
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
ϕTWϕϕ = |
|
|
|
ϕ |
|
|
|
2 |
, |
|
(2.34) |
|
|
|
|
|
|
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
Wϕ |
|
|
|
которую назовем стабилизирующим функционалом. Неотрицательно определенная матрица Wϕ находится из
условия: чем «глаже» вектор ϕ , тем меньшее значение принимает функционал (34). Исходя из этого условия, часто матрицу Vϕ формируют как
23
W = DT D |
, |
(2.35) |
|
ϕ |
p p |
|
|
где Dp – матрица, являющаяся дискретным аналогом оператора
дифференцирования |
p -го |
порядка (и тогда говорят о |
||||||
регуляризации p -го |
порядка). Так, при p = 0 матрица Wϕ |
|||||||
является единичной размером M × M . |
|
|||||||
Для p =1 матрица Wϕ |
имеет вид: |
|
||||||
|
|
1 |
−1 |
|
0 |
|
|
|
|
|
|
|
|||||
Wϕ = |
|
−1 2 |
−1 |
−1 |
|
|
(2.36) |
|
|
|
|
−1 |
2 |
|
|
|
|
|
|
0 |
−1 |
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
Если решение ищется на множестве векторов с ограниченной нормой, для которых отсутствует взаимосвязь между «соседними» проекциями, то целесообразно использовать единичную матрицу либо диагональную матрицу вида (2.29), в
этом случае Wϕ =Vϕ−1 и это будет соответствовать регуляризации нулевого порядка.
Вернемся к вектору ωϕ , входящему в функционал (2.25) и названному «пробным» решением. При наличии априорной
информации вида (2.27) его можно задать как ωϕ = mϕ , где mϕ определяется выражением (2.28). При отсутствии такой информации традиционным заданием является ωϕ = 0M .
Матрицу Wf рекомендуется задавать с точностью до константы равной обратной матрицы Vη−1 , т.е.
W |
f |
= C |
V −1 |
, |
(2.37) |
|
|
f η |
|
|
24
где константа Cf > 0 . При наличии информации вида (31) матрицу Vη можно определить соотношением (2.32). При
отсутствии информации о числовых характеристик погрешностей ηi матрицу Wf можно задать диагональной.
Ненулевые элементы такой матрицы интерпретируются как
весовые множители, определяющие значимость (или информативность) соответствующих проекций вектора правой
части fɶ .
В предельном случае (соответствующем отсутствию информации об искомом решении и шуме измерения) матрицы Wf и Wϕ задаются единичными, т.е.
Wf = IN×N ; Wϕ = IM ×M , |
(2.38) |
Ошибка решения ϕα .
Определим ошибку решения ϕα , определяемым вектором (2.26)
εα = ϕα −ϕ + ,
где ϕ + – нормальное псевдорешение системы Kϕ = f при точной правой части f , т.е. ϕ+ = (KTWf K)−1 KTWf f . Как и
прежде, вектор εα |
представим суммой векторов случайной ξα и |
|||
систематической bα |
ошибок: |
|
||
εα |
= ϕα −ϕα+ + ϕα+ −ϕ |
+ = ξα + bα . |
(2.38) |
|
Вектор bα |
= Mη [εα ] можно назвать смещением решения ϕα . |
|||
Систематическая ошибка bα имеет вид
bα = α (KTWf K + αWϕ )−1 Wϕ (ωϕ − ϕ + ).(2.39)
25
Вектор
ξα = εα − Mη [εα ] = εα − bα |
(2.40) |
является случайным вектором с нулевым средним и определяется выражением
|
|
ξα = (KTWf K +αWϕ )−1 |
KTWfη . |
|
(2.41) |
||||||||||
Ковариационная |
|
матрица Vξα |
|
= M |
|
T |
этого |
вектора |
|||||||
|
|
ξαξα |
|||||||||||||
определяется выражением: |
|
|
|
|
|
|
|
|
|||||||
V = (KTW |
K + αW )−1 KTW |
f |
V W |
K(KTW |
K + αW )−1 , |
||||||||||
ξα |
|
f |
|
|
ϕ |
|
|
|
η |
f |
|
f |
|
ϕ |
|
Полагая W |
f |
=V −1 |
, получим |
|
|
|
|
|
|
|
|
||||
|
|
η |
|
|
|
|
|
|
|
|
|
|
|
|
|
Vξα = (KTWf K + αWϕ )−1 KTWf K(KTWf K + αWϕ )−1 ,(2.42) |
|||||||||||||||
Полная ошибка решения равна |
|
|
|
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
∆α |
j |
= bα |
+ Vξα |
|
, j = 1,...,M |
. |
(2.43) |
|||||
|
|
|
|
|
j |
|
jj |
|
|
|
|
|
|||
Задание 2.3.
1. Задать матрицу системы K , вектор решения ϕ , ограничения на вектор ϕ вида (2.27).
2. Вычислить среднее значение |
|
и матрицу ковариации |
|
|
mϕ |
V ϕ |
|||
по формулам (2.28), (2.29). |
|
|
|
|
3. Для заданной матрицы K и вектора решения ϕ |
вычислить |
|||
правую часть f .
4. Внести шум в правую часть, т.е. вычислить вектор
f = f + η,
26
где η - вектор ошибки, вычисляемый с помощью нормального датчика случайных чисел для двух случаев:
а) ошибки не коррелированны. Значения СКО задать равными σηi = δi fi , i =1,...,N ; δi = 0.01,0.05,0.01.
Матрица ковариации в этом случае будет диагональной
Vη = diag (σ2η1 ...,σ2ηN ) .
б) ошибки коррелированны. В этом случае вектор ошибок вычисляется по формуле η =Vη1/2ξ, где Vη - заданная
матрица ковариации; ξ - вектор, проекции которого
состоят из нормальных случайных величин с единичной дисперсией и нулевым средним.
5. Задать ограничения на вектор f вида (2.31) и вычислить
матрицу V η по формуле (2.32).
6. Вычислить решение системы (2.26) и погрешность по формуле
(2.43) для следующих вариантов:
а) Wf = I, Wϕ = I, ωϕ = 0, для различных значений
α [10−8,1]. Значения |
α определять по формуле |
|
αk = αk−1 10; |
|
|
−1 |
−1 |
|
б) Wf =V η , |
Wϕ =V ϕ |
, ωϕ = mϕ , α = 1. |
Примечание. При наличии научной задачи магистранта, которую можно свести к системе линейных уравнений, провести исследования этой задачи.
§2.4. Регуляризирующий SVD-алгоритм
Обратимся к системе уравнений (2.26) и вычислим решение этой системы, используя сингулярное разложение.
27
Предположим, что матрица Wf неотрицательно определена, симметрична и допускает представление
|
|
|
|
W |
f |
=W |
12 |
W |
12 . |
|
|
(2.44) |
||
|
|
|
|
|
|
|
|
f |
|
f |
|
|
|
|
Запишем сингулярное разложение |
|
|
|
|
||||||||||
|
|
|
|
W |
f |
12 K =UΛV T |
|
|
(2.45) |
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
и представим матрицу W |
|
в форме |
|
|
|
|
||||||||
|
|
|
|
ϕ |
|
|
|
|
|
|
|
|
|
|
|
|
|
Wϕ =V diag{m(λ1),...,m(λM )} VT |
(2.46) |
||||||||||
Тогда вектор |
ϕα |
регуляризированного решения СЛАУ можно |
||||||||||||
представить как |
|
|
|
|
|
|
|
|
|
|
|
|||
|
p |
|
|
λj |
|
|
|
|
|
1 |
|
|
αm(λj ) |
|
|
ϕα = ∑ |
|
|
|
|
|
uj ,Wf 2 fɶ |
+ |
|
vj ,(2.47) |
||||
|
λj2 +αm(λj ) |
|
||||||||||||
|
j=1 |
|
|
|
|
|
|
|
λj2 +αm(λj ) |
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
где |
vj , uj |
|
– |
j -е столбцы матриц |
V , U соответственно: |
|||||||||
p |
– ранг |
(или |
практический |
ранг) |
матрицы K . Из (2.47) |
|||||||||
непосредственно следует матричное представление решения ϕα :
ϕ |
α |
=V |
p |
R |
pα |
U |
TW |
12 fɶ +V |
Z |
V Tω |
, |
(2.48) |
|
|
|
|
|
p |
f |
p |
|
pα p ϕ |
|
|
|||
где Vp – матрица размера |
M × p , составленная из p первых |
||||||||||||
столбцов |
|
матрицы |
V ; |
|
Up – |
|
матрица |
размера |
N × p , |
||||
составленная из |
p |
первых столбцов матрицы U ; |
Rpα – |
||||||||||
диагональная матрица размера p × p следующей структуры:
28
|
|
|
|
λ1 |
|
0 |
|
0 |
|
|
|
|
|
|
λ2 |
+αm(λ ) |
|
|
|||||
|
|
|
|
|
|
|
|
|
|||
|
|
|
1 |
|
1 |
|
|
|
|
|
|
|
|
|
|
0 |
|
|
λ2 |
|
0 |
|
|
R |
pα |
= |
|
|
|
λ22 +αm(λ2 ) |
|
. (2.49) |
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
0 |
|
0 |
|
λp |
|
|
|
|
|
|
|
|
λp2 +αm(λp ) |
|
|
||||
Матрица Zpα имеет структуру
|
αm( |
λ1 ) |
0 |
|
|
||||
|
λ12 +αm(λ1 ) |
|||
|
|
|
||
|
0 |
|
|
αm(λ2 ) |
Zpα = |
|
|
λ22 +αm(λ2 ) |
|
|
|
|
||
|
|
|
|
|
|
0 |
|
0 |
|
|
|
|
|
|
0
|
0 . |
(2.50) |
m(λp )
λp2 +αm(λp )
Функция m(λ) является неубывающей функцией, например
m(λ) = |
1 |
, |
(2.51) |
|
λγ |
||||
|
|
|
||
где γ ≥ 0 . Если γ = 0 , то |
Wϕ = I , что |
соответствует |
||
регуляризации нулевого порядка. Чем больше значение γ , тем в большей степени проекции вектора ϕα взаимосвязаны между
собой. Это обусловлено тем, что векторы vj , соответствующие малым λ j и имеющие осциллирующие проекции, не войдут в
решение ϕα из-за пренебрежимо малого значения множителя
λj . λj2 +αm(λj )
29
Точность решения оценим как и ранее вектором
εα = ϕα − ϕ+ , который можно представить как
εα = ξα + bα .
Тогда полная погрешность вычисляется по формуле
|
|
|
|
|
∆α |
|
= bα |
j |
+ |
|
|
Vξα |
|
, j =1,...,M , |
|
|
(2.52) |
|||||||||||||||||||||
|
|
|
|
|
|
|
j |
|
|
|
|
|
|
|
|
|
jj |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
где вектор bα |
|
(см. формулу (39)) в сингулярном представлении |
||||||||||||||||||||||||||||||||||||
равен |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
=V |
|
Z |
|
|
VT (ω − |
|
+ ), |
|
|
|
|
|
|
(2.53) |
||||||||||||||||||
|
|
|
|
|
b |
p |
pα |
ϕ |
|
|
|
|
|
|
||||||||||||||||||||||||
|
|
|
|
|
α |
|
|
|
|
|
|
|
|
p |
|
|
ϕ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
а матрица ковариации решения (42) имеет вид |
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
V |
|
|
=V F VT . |
|
|
|
|
|
|
|
|
|
(2.54) |
||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
ξα |
|
|
|
p pα |
p |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
Матрица |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
λp |
|
|
|
2 |
||
|
|
|
|
|
λ |
|
|
|
|
|
|
|
|
|
|
|
λ |
2 |
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
Fpα = diag |
|
|
|
|
1 |
|
|
|
|
|
|
, |
|
|
|
|
|
|
|
|
|
|
|
|
,..., |
|
|
|
|
|
|
|
, |
|||||
λ |
2 |
+ αm(λ ) |
|
|
λ |
2 |
+ αm(λ |
) |
λ |
2 |
+ αm(λ |
|
|
|
||||||||||||||||||||||||
|
|
1 |
|
|
|
|
|
2 |
|
|
|
p |
p |
) |
|
|
||||||||||||||||||||||
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
+ |
равен |
|
+ =VΛ−1UTW1/2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||
а вектор |
ϕ |
ϕ |
|
|
f . |
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||
Задание 2.4.
1.Задать матрицу системы K , вектор решения ϕ .
2.Для заданной матрицы K и вектора решения ϕ вычислить
правую часть f .
3 Внести шум в правую часть, т.е. вычислить вектор
f = f + η,
где η - вектор ошибки, вычисляемый с помощью нормального датчика случайных чисел для двух случаев:
30
