Матричные нормы

Множество M(n, R) всех квадратных nn-матриц над полем действительных чисел, как известно, образует векторное пространство размерности n², которое можно отождествить с R . Поэтому можно определить следующие нормы на M(n, R):

||A||₂ = , ||A||_ = , ||A||₁ = ,

где A = (a_ij) – квадратная nn-матрица с компонентами a_ij (1   n). Вопрос о том, почему эти нормы обозначены аналогично введённым выше векторным нормам, но некоторые из них выглядят иначе, будет обсуждаться позднее.

Примеры: 1. Для матрицы A = получаем

||A||₂ = , ||A||_ = max{|–1| + |2|, |3| + |5| } = 3,

||A||₁ = max{|–1| + |3|, |2| + |5|} = 4.

2. Для единичной матрицы I = любого порядка значения всех рассматриваемых норм равны 1.

Оказывается, что эти нормы, определённые для матриц в векторном пространстве, тесно связаны с умножением матриц:

 A, B  M(n, R) ||A·B||  ||A||·||B||.

Это легко проверить для ||||_ : если C = A·B, то c_ij = и . Поэтому ||C||_ =  ||A||_ ·||B||_ .

Для нормы ||||₁ вычисления аналогичны. В случае ||||₂ нужно проверить неравенство , справедливость которого можно уяснить, воспользовавшись неравенством Коши-Буня­ков­ского-Шварца – модуль скалярного произведения векторов не превосходит произведения их длин: . Поэтому

Есть другой, более общий, подход к определению матричных норм. Если задана некоторая векторная норма |||| в векторном пространстве ⁿR всех столбцов длины n, то единообразно можно определить связанную с ней матричную норму ||A|| = sup{||A·x||  R | x  ⁿR , ||x|| = 1}. Этот супремум конечен, т.к. множество {x  ⁿR | ||x|| = 1} ограничено и замкнуто, так что непрерывная функция ||A·x|| на нём достигает максимума.

Теорема (о матричной норме). Если в пространстве ⁿR задана норма |||| , то формула ||A|| = sup{||A·x||  R | x  ⁿR , ||x|| = 1} определяет матричную норму, т.е. отображение |||| : M(n, R)  R со свойствами:

(Н1):  A  M(n, R) ||A||  0  (||A|| = 0  A = 0)

(Н2):    R  A  M(n, R) ||·A|| = ||·||A||

(Н3):  A, B  M(n, R) ||A + B||  ||A|| + ||B||

(Н4):  A, B  M(n, R) ||A·B||  ||A||·||B||.

При этом  x  ⁿR ||A·x||  ||A||·||x||.

Доказательство. Для краткости будем писать sup{||A·x||} вместо sup{||A·x||  R | x  ⁿR , ||x|| = 1}.

(Н1): Условие ||A||  0 очевидно. Кроме того,

(||A|| = 0)  (sup{||A·x||} = 0)  ( x  ⁿR ||A·x|| = 0) 

 ( x  ⁿR A·x = 0)  A = 0.

(Н2): ||·A|| = sup{||·A·x||} = sup{||·||A·x||} = ||·sup{||A·x||} = ||·||A||.

(Н3): ||A + B|| = sup{||(A + B)·x||} = sup{||A·x+B·x||}  sup{||A·x|| + ||B·x||}   sup{||A·x||} + sup{||B·x||} = ||A|| + ||B||.

Докажем теперь неравенство  x  ⁿR ||A·x||  ||A||·||x||. Оно очевидно для x = 0. Если x  0, то для y = имеем ||y|| = = 1, поэтому ||A|| = sup{||A·z|| | ||z|| = 1}  ||A·y|| = , откуда и следует, что ||A·x||  ||A||·||x|| .

(Н4): ||A·B|| = sup{||(A·B)·x||} = sup{||A·(B·x)||}  sup{||A||·||B·x||} = = ||A||·sup{||B·x||}  ||A||·sup{||B||·||x||} = ||A||·||B||·sup{||x|| | ||x|| = 1} = ||A||·||B||.

Теорема доказана.

Упражнения: 1. Докажите, что по любой матричной норме можно построить векторную норму: именно по |||| : M(n, R)  R определяется норма |||| : ⁿR  R по правилу ||x|| = ||(x … x)||, где (x … x)  M(n, R) – матрица, полученная n-кратным повторением столбца x  ⁿR.

2. Докажите, что модуль ||  R любого собственного числа матрицы A  M(n, R) не превосходит произвольной нормы ||A|| матрицы A.

3. Докажите, что формула

||A|| = max{||  R |   C – собственное число матрицы А}

Определяет матричную норму.

Оказывается, что описанным в теореме о матричных нормах путём по нормам ||||₂ , ||||_ и ||||₁ в ⁿR можно получить рассмотренные выше соответствующие нормы матриц. Доказывать это не будем.

Ввиду тесной связи нормы |||| в банаховом пространстве с индуцированной метрикой (x, y) = ||x – y|| теорему о неподвижной точке сжимающего отображения можно переформулировать и для банаховых пространств:

Теорема (о неподвижной точке сжимающего отображения). Пусть в банаховом пространстве B с нормой |||| определено сжимающее отображение f : B  B, т.е.  c  [0; 1)  x, y  B ||f(x) – f(y)||  c·||x – y|| . Тогда у него существует единственная неподвижная точка x  B: f(x) = x. Эта неподвижная точка может быть получена, например, как предел последовательности {x_n}_{n  N} , где x₁ = f(x₀), x_n+1 = f(x_n), а x₀ – произвольный элемент из B. При этом

|| x_n+1 – x ||  c·|| x_n – x || , || x – x_n ||  .

Важным для приложений является случай сжимающего линейного оператора, т.е. сжимающего отображения f : B  B, удовлетворяющего условию линейности  ,   R  x, y  B f(·x + ·y) = ·f(x) + ·f(y).

Теорема (о сжимающих линейных операторах). Линейный оператор f : B  B является сжимающим тогда и только тогда, когда  с  [0; 1)  x  B ||f(x)||  c·||x||. Сжимающий линейный оператор имеет единственную неподвижную точку: 0  B. Если f – сжимающий линейный оператор, то линейный оператор  – f : B  B, где  – тождественное отображение, инъективен.

Доказательство. Если оператор сжимающий, то при y = 0 из условия сжимаемости получим ||f(x) – f(0)||  c·||x – 0|| , т.е. ||f(x)||  c·||x|| . Обратно, если  x  B ||f(x)||  c·||x|| , то при x = y – z будет верно  y , z  B ||f(y) – f(z)|| = ||f(y – z)||  c·||y – z || , что и требовалось.

Очевидно, что 0 – неподвижная точка линейного оператора: f(0) = 0. Если сжимающий линейный оператор имеет неподвижную точку x, то f(x) = x, и ||x|| = ||f(x)||  c·||x||, что при x  0 приводит к противоречию 1  c. Поэтому x = 0 – единственная неподвижная точка оператора f.

По определению,  x  B ( – f)(x) = x – f(x). Предположим, что ( – f)(x) = ( – f)(y), т.е. x – f(x) = y – f(y) или x – y = f(x) – f(y) = f(x – y). Значит, x – y – неподвижная точка сжимающего оператора, и поэтому, x – y = 0 , т.е. x = y.

Теорема доказана.

Замечание: Вообще говоря, для бесконечномерного банахова пространства B в условиях теоремы линейный оператор  – f : B  B не обязан быть сюръективным.

Если B = Rⁿ, то, как известно из курса алгебры, инъективность линейного оператора равносильна его обратимости, т.е. из инъективности оператора в конечномерном пространстве следует его сюръективность. Поэтому получаем

Следствие (об обратимости матрицы). Пусть А  M(n, R) и ||A|| < 1. Тогда матрица I_n – A обратима.

Доказательство. Рассмотрим линейный оператор  : ⁿR  ⁿR, определённый правилом (x) = A·x. Это – линейный оператор с матрицей A относительно стандартного базиса e₁ , … , e_n пространства ⁿR , где

e_i = (0; … ; 0; 1; 0; … ; 0)^t

– вектор-столбец с единицей на i-м месте и нулями на остальных. Этот оператор будет сжимающим:  x  ⁿR ||(x)|| = ||A·x||  ||A||·||x|| и ||A|| < 1, так что в условии сжимаемости оператора  можно взять c = ||A||  [0; 1). По теореме о сжимающих линейных операторах, оператор  –  обратим. Его матрицей в стандартном базисе e₁ , … , e_n будет I_n – A, что и доказывает её обратимость.

Лемма доказана.

Примеры: 1. Для матрицы A = имеем

||A||₂ = ,

||A||_ = max{|0,5| + |0|, |–0,45| + |0,9|} = 1,35,

||A||₁ = max{|0,5| + |–0,45|, |0| + |0,9|} = 0,95 < 1.

Таким образом, матрица I – A = обратима. Об этом свидетельствует неравенство нулю её определителя и ||A||₁ . Остальные нормы не позволяют сделать вывод об обратимости матрицы I – A.

2. Для матрицы A = имеем

||A||₂ = < 1,

||A||_ = max{|0,2| + |0,2|, |0,9| + |0,3|} = 1,2,

||A||₁ = max{|0,2| + |0,9|, |0,2| + |0,3|} = 1,1.

Таким образом, матрица I – A = обратима. Об этом свидетельствует неравенство нулю её определителя и ||A||₂ . Остальные нормы не позволяют сделать вывод об обратимости матрицы I – A.

Эти примеры показывают, что для решения задач полезно использовать весь спектр норм: некоторые не помогут, но возможно, какая-то из них и облегчит решение задачи.