выч.методы лин. алгебры

Òåìà: Вычислительные методы линейной алгебры.1 Подчиненные и согласованные матричные нормы.

Координатная сходимость используется в теоретических исследованиях, в практических приложениях удобнее пользоваться сходимостью по норме. Это объясняется тем, что при исследовании линейных пространств большой размерности трудно иметь дело с большим числом координатных последовательностей.

Вспомним определение линейного нормированного пространства.

Говорят, что в линейном пространстве X введена норма, если каждому

вектору x 2 X поставлено в соответствие действительное число kxk, называемое нормой, причем выполнены:

1.kxk 0 для 8x, причем kxk = 0, тогда и только тогда, когда x = 0;

2.k xk = j j kxk для 8x 2 X; 8 - вещественно;

3.kx + yk kxk + kyk äëÿ 8x è y èç X.

В n-мерном векторном постранстве наиболее употребительными являются следующие нормы:

Из курса линейной алгебры известно, что множество всех квадратных матриц порядка n с обычным определением сложения матриц и умножения матрицы на число является линеным пространством. В нем как и во всяком линейном пространстве можно различными способами ввести норму, лишь бы выполнялись аксиомы нормы, например:

u

XX

u

t

i=1 j=1

евклидова норма матрицы А.

Выполнение аксиом нормы очевидно, ибо она представляет собой вклидову длину kk2 вектора, имеющего n2 компонент и составленного из n2 элемен-

тов матрицы.

С другой стороны, мы рассматриваем матрицу не как вектор с n2 êîì-

понентами, а как матрицу определяющую линейное преобразование n-ìåð- ного пространства и для нас матрицы представляют интерес именно с этой точки зрения.

Поэтому, если в пространстве векторов уже определена некоторая норма, то норму в пространстве матриц желательно вводить так, чтобы она была в некотором смысле согласована с нормой в пространстве векторов.

1

Определение: Если в n-мерном пространстве X определена некоторая норма kxk, то подчиненной ей нормой в пространстве матриц порядка n называ-

ется величина:

Y проверить, что так введенна норма удовлетворяет аксиомам нормы.

Непосредственным следствием опеределения подчиненной матричной нормы является неравенство

kAxk kAk kxk; 8x; в том числе для = 0 ( )

Следствие: Говорят, что матричная норма согласована с векторной, если для всех А и х справедливо неравенство ( )

Тогда, всякая подчиненная матричная норма согласована с той векторной нормой, которой она подчинена. Обратное, вообще говоря, неверно. Пример согласованности норм kAkE è kxk2 в чем легко убедиться, исполь- зуя неравенство Коши-Буняковского.

Свойства подчиненных норм:

1.kEk = 1; где E - единичная матрица

2.kABk kAk kBk; 8A è B

Доказательство этих свойств:

Использование свойства 1 позволяет утверждать, что не существует век-

Обзначим через kAk1; kAk2; kAk1 матричные нормы, подчиненные соответственно kxk1; kxk2; kxk1:

a) Доказательство справедливости формулы

kAk1 = sup kAxk1

x6=0 kxk1

2

для 8x 6= 0 оценим

если существует такой вектор y, для которого достигается максимум, то формула доказана.

Обозначим через k номер того столбца, для которого

nn

XX

в качестве y = ek = (0; : : : ; 0; 11; 0; : : : ; 0)

nn

б) Доказательство для kAk2

(A A) = A (A ) = A A; ) A A - симметрич. и неотрицательно определена

(A Ax; x) = (Ax; Ax) = kAxk22 0

все собственные значения симметрической матрицы вещественны, и соот-

ветствующие собственые функции образуют полную ортогональную и нормированную систему, и в силу неотрицательности определителя A A неот-

рицательны, A Aui = i(A A)ui i = 1; n

(

0; i 6= j

u (ui; uj) =

1; i = j

n

X

8x 6= 0 : x = ciui

i=1

ss

X X X

p

kxk2 = (x; x) = ciui; ciui = c2i ;

i i i

1k-я компонента

3

s

X X

pp

p p

9y 6= 0; пусть к - номер максимального с.з. k(A A) = maxi(A A)

r

q

y = uk; kukk2 = 1; kAukk = (A Auk; uk) = max i(A A)

i

| {z }

kuk

Если А - симметрическая матрица A = A

q q q

kAk2 = max i(A A) = max i(A2) = max( i(A))2 = max i(A):

i i i i

2 Обусловленность матриц и с.л.а.у.

Определение: числом обусловленности квадратной матрицы А называется

величина

(A) = sup kAxk kAyk

x6=0;y6=0 kxk kyk

Из ( ) следует, что kAxk kAk kxk 8x; в том числе x = 0 ( )

Говорят, что матричная норма согласована с векторной, если выполнено

( )

Согласно этому определению всякая подчиненная матричная норма согласована с той векторной нормой, которой она подчинена.

Обратное, вообще говоря, неверно.

Примеры согласованных норм: kxk2 è kAkE

Y показать это, используя неравенство Коши - Буняковского.

Свойства подчиненной нормы:

1)kEk = 1

2)kABk kAk kBk 8A; B

Y доказать эти свойства

4

Использование свойства 1 позволяет утверждать, что не 9 - ет векторной

нормы, которой была бы подчинена k kE В самом деле kEkE = pn 6= 1

Обозначим через kAk1; kAk2; kAk1 ветственно нормам kxk1; kxk2; kxk1

и для доказательства формулы (1) достаточно показать, что 9 такой вектор

обозначим через k - номер того столбца, для которого

nn

XX

в качестве искомого вектора у следует взять k-ый координатный столбец

5

ek = (0; 0; :::; 1 ; 0; :::; 0) ;

|{z}

k-ое место

Аналогично доказывается формула (3). Перейдем к доказательству форму-

ëû (2)

Матрица A A - матрица и положительно определена.

Из курса линейной алгебры известно, что все собственные числа симметричной матрицы вещественны, кроме того собственные значения неотрицательны. Кроме того, симметричная матрица обладает полным ортонорми-

рованным набором обственных векторов, обозначим ui собственный вектор A A отвечающий ее собственному значению i(A A) : (A A)ui = i(A A)ui

ò.å. A Aui = iui; i = 1; n;

По определению подчиненной нормы

kAk2 = sup kAxk2

x6=0 kxk2

kAxk

Оценим сверху величину kxk22

Поскольку u1; :::; un образуют базис n-мерного векторного пространства, то

x можно представить:

n

6

q

= max i kxk2

1 i n

Отсюда следует, что для всех x 6= 0

kAxk2 r max i(A A) kxk2 1 i n

Покажем, что существует такой y, для которого достигается равенство. Обозначим через k - номер максимального собственного значения, в качестве

искомого вектора y возьмем uk; имеем p p

kukk2 = 1; kAukk2 = (A Auk; uk) = k

В частном случае симметрической матрицы А спектральная норма

rr

Обусловленность матриц и систем линейных алгебраических уравнений.

Числом обусловленности матрицы A называется

(A) = sup kAxk kAyk

x6=0;y6=0 kxk kyk

Чтобы понять смысл этой характеристики, рассмотрим систему уравнений

Ax = f (2)

с невырожденной матрицей А и рассмотрим систему уравнений с возмущенной правой частью

Заметим, что из определения точной верхней грани непосредственно следует, что (A) - наименьшая из констант, для которых при всех f 6= 0 и всех

7

6= 0 справедливо (4). Величины

k k

kfk - наз. относительным возмущением правой части

k k

kfk - относительным возмущением решения.

Неравенство (4) показывает, что если число (A) велико, то даже при ма-

лом относительном возмущении правой части относительное возмущение решения может быть достаточно большим: последнее может быть больше первого в (A) раз. Иными словами, при большом числе обусловленности

даже малое изменение правой части может привести к большому изменению решения. В таком случае говорят, что решение системы плохо определено, или плохо обусловлено ее правой частью.

Если же число (A) невелико, то из (4) следует, что малое изменение пра-

вой части приводит к малому изменению решения. В этом случае говорят, что решение системы хорошо обусловлено ее правой частью.

Мерой обусловленности решения системы ее правой частью, как мы видим, и является число обусловленности марицы этой системы.

Матрицы с большим числом обусловленности называют плохо обусловленными, а матрицы, имеющие большое число обусловленности - хорошо обусловленными.

Предполагаем, что А невырожденная, получим формулу для (A):

kAxk

(A) =

supx6=0 kxk

kAyk

infy6=0 kyk

Числитель есть kAk подчиненная норме векторной kxk Сделаем замену z = Ay

Окончательно, (A) = kAk kA 1k

Если, А - вырожденная, то однородная система Ay = 0 имеет нетривиальное

решение и следовательно

inf kAyk = 0

y6=0 kyk

В этом случае (A) = 1

Отметим, что число обусловленности матрицы не может быть 1. Выясняя смысл числа обусловленности (A) мы видели, что оно характеризует обусловленность решения системы Ax = f ее правой частью. Оказывается, что (A) указывает и на характер обусловленности решения системы ее матрицей.

8

Наряду с системой Ax = f рассмотрим систему

(A + )(x + ) = f +

Здесь - возмущение решения, вызванное возмущением правой части и возмущением матрицы системы.

Теорема

Åñëè kA 1k k k < 1, то для относительного возмущения решения: справедлива оценка

Доказательство теоремы:

(A + )(x + ) = f +

Ax = f

(A + ) = x

матрицу A + = A(E + A 1 ) и покажем, что она имеет обратную. Так как kA 1 k kA 1kk k < 1, то по лемме

E + A 1 имеет обратную, следовательно, имеет обратную и матрица

A(E + A 1 ):

= (A + ) 1( x)

= (E + A 1 ) 1A 1( x)

Оценим сверху по норме:

k k k(E + A 1 ) 1)k kA 1k (k k + k kkxk)

9

Полученная оценка показывает, что (A) является мерой обусловленности решения системы Ax = f как ее правой частью, так и матрицей, т.е. всей

системой в целом.

Тогда если есть нормы kxk1; kxk2; kxk1, òî k k1; k k2; k k1: Пример:

1 = 0; 2 = 0:0005 = 5 10 4

k k = maxi=1;2 j i( )j = 0:5 10 4

10