VMLA-Matzokin-2012 / 2012-лекции BMLA

k || Sk ||

lim

lim k c

[

(S)

]

(S)

(0,

0

) .

k

k

1

Переходя в этом неравенстве к пределу при

0 и учитывая, что левая

k || Sk ||

часть неравенства от

не зависит, получим

lim

(S) .

k

k || Sk ||

3. lim

(S) .

k

Действительно, так как все нормы в конечномерном пространстве

эквивалентны, то

:

|| Sk ||

|| Sk ||

и

k || Sk ||

|| Sk ||

lim k

k || Sk ||

lim

lim k

lim

(S) .

k

k

k

k

1

k || Sk ||

k || Sk ||

4. Из полученных неравенств

lim

(S)

и

lim

(S)

k

k

k || Sk ||

k || Sk ||

k || Sk || .

следует, что lim

lim

(S)

lim

k

k

k

Замечание.

Асимптотическая

скорость

сходимости

стационарного

матрицы в виде A B

C , переписи системы в виде Bx Cx

b и определении

очередного приближения

xk 1 по известному приближению

xk из решения

системы Bxk 1

Cxk

b.

Доказать: Bxk 1

Cxk

b

xk 1 xk B 1(Axk b) .

Если D

diag A

diag{a11, a22 , ..., ann}, то итерационный процесс

xk 1

xk

D 1(Axk

b)

называется методом Якоби для решения системы Ax b .

Сходимость в случае диагонального преобладания по строкам

n

Теорема.

Если | ai i |

| ai j

|

i , то метод Якоби сходится.

j

1, j i

Док–во.

i–тая строка матрицы

1

:

ai1

ai,i

1

ai,i 1

ai n

.

S

E

D A

, ...,

, 0,

, ...,

ai i

ai i

ai i

ai i

Из

условия

теоремы

ai1

...

ai,i 1

ai,i 1

...

ai n

1

ai i

ai i

ai i

ai i

|| S ||

1, т.е. выполняется достаточное условие сходимости.

Сходимость в случае диагонального преобладания по столбцам

n

Теорема.

Если | a j j |

| ai j

|

j , то метод Якоби сходится.

i

1, i j

Док–во.

j–ый столбец матрицы

T

E

AD

1

:

a1 j

, ...,

a j 1, j

, 0,

a j 1, j

, ...,

an j

.

a j j

a j j

a j j

a j j

Из условия

теоремы

a1 j

...

a j 1, j

a j 1, j

...

an j

1

a j j

a j j

a j j

a j j

(S)

(E D 1A)

(DTD 1)

(T)

|| T ||1 1,

т.е.

выполняется

необходимое условие сходимости.

Если матрица A системы Ax

b самосопряжена:

A

A ,

а ее

диагональ

D D diag A

diag{a11, a22 , ..., ann} положительно определена: D

0 ,

то метод Якоби:

x0

задан,

xk 1

xk

D 1 (Axk

b),

k

0, 1, ...,

сходится к решению x системы Ax b тогда

и

только тогда,

когда

положительно определены матрицы A и 2D A .

Доказательство. Прежде всего, отметим, что

для самосопряженной, положительно определенной матрицы D можно

построить ее квадратный корень:

D1/2 (D1/2 )

0 : D1/2D1/2

D,

собственные

значения

(S)

1 (D 1A)

матрицы

S

E

D 1A

совпадают

с

собственными

значениями

(S)

1

(D 1/2AD 1/2 )

матрицы

D1/2SD 1/2

E

D 1/2AD 1/2 ,

которая

самосопряжена

(S) 1

(D 1/2AD 1/2 )

(S),

так как необходимым и достаточным условием сходимости метода Якоби

является

условие

(S)

(E

D 1A)

1,

то нам

нужно

найти

необходимые и достаточные условия выполнения неравенств:

2

(D 1/2AD 1/2 ) 0

0

(D 1/2AD 1/2 )

2.

Необходимость: метод Якоби сходится, т.е. (S) 1 и, следовательно,

0

(D 1/2AD 1/2 )

2 ,

т.е. самосопряженные

матрицы

D 1/2AD 1/2

и

2E

D 1/2AD 1/2

положительно определены:

(D 1/2AD 1/2y, y)

min (D 1/2AD 1/2 ) (y, y)

0

y

0

Rn ,

([2E D 1/2AD 1/2 ]y, y)

[2

min (D 1/2AD 1/2 )] (y, y)

0

y

0

Rn .

Тогда A

0 , так как

z

0

(Az, z)

(A D 1/2y , D 1/2y)

(D 1/2AD 1/2y, y)

0 .

z

z

Тогда 2D

A

0, так как

z

0

([2D A]z, z)

([2E

D 1/2AD 1/2 ]D1/2z, D1/2z)

0 .

y

y

min (A)

0,

min (2D

A)

0 .

Тогда

положительно определена матрица D 1/2AD 1/2 , так как

z 0

(D 1/2AD 1/2z, z)

(A D 1/2z, D 1/2z)

0 ,

y

y

и, следовательно,

(D 1/2AD 1/2 )

0 ;

положительно определена матрица 2E D 1/2AD 1/2 , так как

z

0

([2E

D 1/2AD 1/2 ]z, z)

([2D

A]D 1/2z, D 1/2z)

0 ,

y

y

и, следовательно,

(2E D 1/2AD 1/2 )

2

(D 1/2AD 1/2 )

0 .

Таким образом,

0

(D 1/2AD 1/2 )

2 и, следовательно, любое собственное

значение матрицы шага для ошибки метода Якоби меньше 1:

|

(S) |

|1

(D 1/2AD 1/2 ) |

1,

т.е. выполняется условие сходимости метода: (S) 1.

Пример матрицы

A

D

L

L

0 & D

0, но матрица 2D A не

положительно определена, т.е. метод Якоби не будет сходиться:

1

0.5

0.5

A

0.5

1

0.5 ,

1(A)

2,

2 (A)

3(A)

0.5

A

0 ,

0.5

0.5

1

1

0.5

0.5

2D

A

0.5

1

0.5 ,

1(2D

A)

0

2D A

0 .

0.5

0.5

1

Если матрицу системы Ax

b представить в виде суммы A

L

D R , где

D diag A

diag{a11, a22 , ..., ann},

0

0

a12

a1n

a21

0

0

0

L

,

R

0

0

0

an 1,n

an1

an,n

1

0

0

то итерационный процесс

xk

1

xk

(D

L) 1(Axk

b)

называется методом Зейделя для решения системы Ax

b .

Доказать: S E (D L) 1A E (A R) 1 A (A

R) 1 R .

то

(S)

(E (D

L) 1A)

1 (т.е. метод Зейделя сходится)

тогда и только тогда, когда A

0 .

Доказательство.

Необходимость:

Пусть метод Зейделя сходится, т.е.

(S)

(E

(D

L) 1A)

1.

Предположим, что A

0 (доказать, что

min (A)

0 ).

Тогда

: (A

,

) 0 (например,

: A

min (A)

).

Зададим z0

и оценим (Azk

1, zk

1) :

(Azk 1, zk 1)

(A (E

[A

R] 1A)zk , (E

[A

R] 1A)zk )

zk

1

zk

1

(Azk

A[A

R] 1 Azk , zk

[A

R] 1Azk )

yk

0

yk

(Azk , zk ) (Azk , yk )

(Ayk , zk ) (Ayk , yk )

(Azk , zk ) ([A R]yk , yk )

(yk ,[A

R]yk ) (Ayk , yk )

(Azk , zk ) ([A R]yk , yk )

([A L]yk , yk ) (Ayk , yk )

(Azk , zk )

(Dyk , yk )

(Azk , zk ) ...

(Az0 , z0 ) const

0.

0

lim|| zk 1 ||

const

0, метод не сходится, что противоречит (S)

1,

следовательно, предположение, что A

0 , неверно и A 0 .

Необходимость утверждения теоремы доказана.

Отметим на будущее, что

(Azk

1, zk

1)

(Azk , zk ), если zk

0 .

Достаточность.

Нужно доказать, что из условия A

A

0

(S)

([A

R] 1R)

1.

Во-первых, заметим, что из условия A

A

0

1.

min (A)

0,

(A

,

)

min (A) (

,

)

;

2. dmin

min ai,i

min (A) , т.к.

1 i

n

dmin

(Demin , emin ) (Aemin , emin )

min (A)

0, т.е. D

0 .

Теперь, пусть

Sp(S) – собственное значение, а

– собственный вектор:

S

[A

R] 1R

(S)

R

(S) [A

R] , ||

|| 2 1.

(R

,

)

(S)

[ (A ,

)

(R

,

)]

r

i

a

min (A)

0

r

i

тогда

|

(S) | 2

r2

2

r2

2

1,

(a

r)2

2

a(a

2r)

r2

2

если a

2r

(A

,

)

2

Re[(R

,

)]

0.

Действительно,

a

2r

(A

,

)

2

Re[(R

,

)]

(A

,

)

2

Re[(R

,

)]

(D

,

) (R

,

)

(R ,

)

(D

,

)

dmin

min (A)

0

Следовательно,

|

(S) | 2

r2

2

r2

2

1, т.к. min (A) 0 .

a(a

2r)

r

2

2

2

r

2

2

min (A)

Теорема доказана, но в дополнение можно вывести оценку

(S) :

(S)

max

|

(S) | .

(S)

Sp(S)

Т.к. 0 r2

2

| (R , ) |2

|| R ||22 || ||22

|| R ||22

(R R) , то

| (S) | 2

x

max

x

(R R)

, т.е.

2

x

2

x

2

(R R)

min (A)

0

x

(R R)

min (A)

min (A)

(S)

(R R)

1.

2

(R R)

min (A)

линейных алгебраических уравнений Ax

b ( det A

0 ) состоит из построения

последовательности

приближений

{xk }

такой,

что

|| zk 1 ||

|| zk

||, т.е.

k 0

строгого убывания на каждом шаге функционала ошибки f (xk

x)

|| zk || ,

где zk xk x .

Теорема. Если

|| zk 1 || || zk ||

zk

0

и

отображение

S : Rn

Rn

(оператор шага для ошибки: zk 1

S(zk ) ) непрерывно при z

0 , то

|| zk ||

0, т.е. xk

x .

Доказательство.

Так как последовательность чисел { || zk || }

ограничена снизу 0 и

k 0

монотонно убывает, то она имеет предел:

lim || zk ||

0 .

k

Если

0 , то теорема доказана.

Предположим, что

0 .

Так

как

последовательность

векторов

{ zk }

лежит

в

шаре

k 0

{ z :

|| z ||

|| z0 || }

конечномерного

пространства

R n ,

то

из нее

zkm

z,

|| z ||

0 .

Так как zkm

0 и

z

0 ,

то

к этим

векторам применимо

отображение S :

zkm 1

S(zkm ) ,

S(z) :

|| S(z) || || z ||

0 .

Тогда, выполнив предельный переход в соотношениях

|| zkm 1 ||

|| S(zkm ) ||

|| zkm ||

|| S(z) ||

|| z ||,

и, учитывая, что || S(z) ||

|| z ||

, получим противоречие:

.

Следовательно, предположение

lim

|| zk ||

0 неверно и, стало

k

быть, lim || zk ||

0 . Теорема доказана.

k

a

i1

xk 1

...

a

i,i 1

xk 1

a

i i

xk+1

a

i,i 1

xk

...a

i n

xk

b ,

1

i 1

i

i 1

i n

i

k+1

(ai i )

1