Добавил:
Upload Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:
Скачиваний:
177
Добавлен:
14.05.2015
Размер:
1.85 Mб
Скачать
A(xk) сходится к

Лекция 27

27.1Линейные операторы

Любую матрицу A Cm×n можно естественным образом рассматривать как оператор, отображающий вектор x Cn в вектор Ax Cm. Этот оператор очевидно обладает

свойством линейности 1

A(αx + βy) = αAx + βAy α, β C, x, y Cn.

То же свойство линейности выполняется для многих очень важных отображений в линейных пространствах, элементами которых являются функции, объединенные каким-либо общим признаком (непрерывность, дифференцируемость и т.п.). Прежде всего, нужно сказать об отображениях, связанных с дифференцированием и интегрированием функций. Таким образом, поводов к тому, чтобы изучить свойство линейности с более общих позиций более чем достаточно.

Определение. Пусть V è W произвольные линейные пространства над одним и тем же полем P . Отображение A : V → W со свойством

A(αx + βy) = αA(x) + βA(y) α, β P, x, y V,

называется линейным оператором èç V â W . В случае линейных операторов аргумент принято писать без скобок: A(x) = Ax.

27.2Непрерывность и ограниченность

Пусть V è W нормированные пространства. Отображение A : V → W называется непрерывным в точке x V , если для любой последовательности xk V такой, что xk → x ïðè k → ∞, последовательность образов A(x):

||xk − x||V → 0 ||A(xk) − A(x)||W → 0.

Отображение называется непрерывным íà V , если оно непрерывно для всех x V . Линейный оператор A : V → W называется ограниченным, если для некоторой

константы c > 0

||Ax||W ≤ c||x||V x V.

1Это свойство можно рассматривать также как свойство сохранения операций при отображении одного линейного пространства в другое пространство над тем же полем. Такие отображения называются

гомоморфизмами.

177

178

Лекция 27

 

 

Теорема. Для непрерывности линейного оператора необходима и достаточна его ограниченность.

Доказательство. Достаточность очевидна из неравенства

||Axk − Ax||W = ||A(xk − x)||W ≤ c||xk − x||V .

Чтобы доказать необходимость, рассмотрим множество значений нормы ||Ax||W íà åäè- ничной сфере S = {x : ||x||V = 1}. Предположим, что это множество не ограниче- но. Тогда существует последовательность xk S такая, что ||Axk||W → ∞. Положим yk = xk/||Axk||W и заметим, что

||yk||V = 1/||Axk||W → 0 ||Ayk||W → 0.

Последнее невозможно, так как ||Ayk||W = 1 äëÿ âñåõ k. Значит, для какого-то c > 0

||Ax||W ≤ c x S ||Ax||W ≤ c||x||V x V. 2

27.3 Операторная норма

Утверждение 1. Множество L(V, W ) всех ограниченных линейных операторов из V в W является линейным пространством (над общим для V и W полем).

Доказательство. Пусть ||Ax||W ≤ c1||x||V , ||Bx||W ≤ c2||x||V . Тогда для любых чисел

α è β

||(αA + βB)x||W ≤ c||x||V , c = |α|c1 + |β|c2. 2

Утверждение 2. Величина

||A|| ≡ sup ||Ax||W , A L(V, W ),

( )

||x||V =1

 

является нормой на линейном пространстве L(V, W ).

 

Доказательство. Очевидно, величина ||A|| имеет конечное значение и, конечно, неот-

рицательна. Если ||A||

= 0, òî ||Ax||W = 0 на единичной сфере ||x||V = 1

||Ax||W = 0 x V

 

Ax = 0

 

x V

A = 0. Положительная

однородность следует из равенства

 

 

 

 

 

||αAx||W = |α| ||Ax||W ,

 

а неравенство треугольника из неравенства

 

 

||(αA + βB)x||W ≤ |α| ||Ax||W + |β| ||Bx||W .

2

Определение. Норма ( ) для операторов A L(V, W ) называется операторной нор-

ìîé или нормой, подчиненной векторным нормам || · ||V , || · ||W .

Утверждение 3. Если V конечномерное пространство, то любой линейный опера-

тор A : V → W является ограниченным и

||A|| = ||Ax0||W

для некоторого (завися-

щего от A) вектора x0 V

с нормой ||x0||V

= 1.

 

 

 

 

 

n

n

Доказательство. Пусть e1, . . . , en базис в V è x = i=1

αiei. Тогда ||x||(e) i=1 |αi| åñòü

норма на V , эквивалентная любой другой норме, в

том числе и норме

 

x

VP. Поэтому

P

 

||

 

 

 

 

||

Е. Е. Тыртышников

179

 

 

для какого-то c > 0

Следовательно,

 

 

 

||x||(e) ≤ c||x||V

 

x V.

 

 

 

 

 

 

Xi

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

||A

 

 

i|

1≤i≤n ||A

 

i||W = ||

 

||(e)

1≤i≤n

||A

i||W

x

||W

=1

|

α

 

x

 

 

 

 

 

max

e

 

 

 

 

 

max

e

 

 

 

≤ (

1

i

n

||A

i||W

)

||

x

||V

 

 

x

 

V.

 

 

 

 

c max

e

 

 

 

 

 

 

 

 

 

 

 

≤ ≤

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Чтобы доказать существование x0, достаточно учесть компактность единичной сферы в конечномерном пространстве, непрерывность на ней функции ||Ax||W и теорему Вей- ерштрасса. 2

Если фиксировано 1 ≤ p ≤ ∞ и в качестве нормы в пространстве Cn выбрана p-норма Гельдера, то соответствующую операторную норму матрицы A принято обозначать ||A||p.

Задача. Пусть A = [aij] матрица размеров m × n. Докажите, что

 

 

 

 

n

 

 

 

 

 

m

||

 

||

1 i m

X

ij|

 

||A||1

=

1 j n

Xi

 

A

 

= max

a

 

,

 

max

 

 

 

 

≤ ≤

j=1

 

 

 

 

≤ ≤

=1

Задача. Пусть u, v Cn. Докажите, что ||uv>||2 = ||u||2||v||2.

27.4Матричная норма

Пусть каждой комплексной матрице A поставлено в соответствие неотрицательное число f(A) таким образом, что:

(1)f(A) является нормой на Cm×n äëÿ âñåõ m, n;

(2)f(AB) ≤ f(A)f(B) для любых матриц A è B, допускающих умножение.

Âтаких случаях f(A) называется матричной нормой.

Утверждение. Пусть для каждого n задана векторная норма на Cn, и пусть для каждых m, n и каждой матрицы A Cm×n норма ||A|| определена как операторная норма, порожденная данными векторными нормами. Тогда ||A|| является матричной нормой.

Доказательство. Пусть ||x|| обозначает векторную норму для x Cn при любом n.

Для любых матриц A и B, допускающих умножение, существует вектор x0 единичной нормы такой,

||AB|| = ||ABx0|| ≤ ||A|| ||Bx0|| ≤ ||A|| ||B|| ||x0|| = ||A|| ||B||.

2

Задача. Может ли норма подматрицы быть больше нормы матрицы?

 

Задача. Дана обратимая матрица A Cn×n, выбирается произвольная матрица

X0 Cn×n è

строится последовательность матриц Xk+1 = 2Xk − XkAXk, k = 0, 1, . . . . Доказать, что если для некоторой матричной нормы ||I − AX0|| < 1, òî Xk → A−1 ïðè k → ∞.

строки матрицы B. Тогда

180

Лекция 27

 

 

27.5Норма Фробениуса

Пусть A = [aij] матрица размеров m × n. Величина

||A||F =

v

m n

|aij|2

 

ui=1 j=1

 

 

uXX

 

 

t

 

называется нормой Фробениуса èëè евклидовой нормой матрицы A. Утверждение. Норма Фробениуса является матричной нормой.

Доказательство. Для каждых m, n норма Фробениуса является нормой на линейном пространстве Cm×n (êàê 2-норма на пространстве Cmn, изоморфном Cm×n). Пусть a1, . . . , an столбцы матрицы A, à b>1 , . . . , b>n

 

AB = a1b1> + . . . + anbn>.

Используя

неравенство треугольника, легко проверяемые равенства ||aibi>||F =

||ai||F ||bi||F

и неравенство Коши Буняковского Шварца, находим

nn

XX

 

||AB||F

||aibi>||F = ||ai||F ||bi||F

 

i=1

 

i=1

n

!1/2

n

!1/2

XX

||ai||F2

||bi||F2

= ||A||F ||B||F . 2

 

i=1

i=1

 

Замечание. Норма Фробениуса не может быть операторной нормой на Cm×n íè ïðè каком выборе векторных норм в пространствах Cn è Cm дело в том, что операторная норма единичной матрицы должна быть равна 1.

Задача. Доказать, что при любом фиксированном c > 1 величина

||A|| = max{|a11| + c|a12|, |a22| + c|a21|}, A =

a21

a22

 

,

 

a11

a12

 

 

определяет в пространстве 2 × 2-матриц норму с неравенством ||AB|| ≤ ||A||||B||, справедливым для любых 2 × 2-матриц A è B. Является ли она операторной нормой?

27.6Сохранение норм

Линейный ограниченный оператор A : V → V со свойством

||Ax|| = ||x|| x V

называется изометрическим èëè сохраняющим норму. Сразу же заметим, что сохранение какой-то одной нормы не означает сохранение другой нормы.

Пусть в Cn задана какая-то норма, а матрица A Cn×n (как линейный оператор из Cn â Cn) ее сохраняет. Такую матрицу будем называть изометрической относительно данной нормы.

Утверждение. Множество всех комплексных n Ч n-матриц, изометрических относительно гельдеровской 2-нормы, совпадает с множеством унитарных матриц порядка n.

Доказательство. Очевидно, 2-норма порождается естественным скалярным произ- ведением в Cn. Из наших исследований, связанных с тождеством параллелограмма,

Е. Е. Тыртышников

181

 

 

вытекает, что сохранение длин влечет за собой сохранение скалярных произведений:

(Ax, Ay) = (x, y) y (A A)x = y x x, y Cn.

Отсюда y (A A−I)x = 0 äëÿ âñå x, y Cn. Выбирая в качестве x è y векторы стандартного базиса, приходим к выводу о том, что все элементы матрицы A A −I равны нулю. Таким образом, сохранение 2-нормы равносильно условию A A = I, определяющем

унитарную матрицу. 2

Замечание. Множество матриц, сохраняющих p-норму в случае p 6= 2, значительно беднее. Попробуйте доказать, что для всех p 6= 2 оно одно и то же и совпадает с мно-

жеством матриц вида DP , ãäå D диагональная унитарная матрица, а P матрица перестановки.

27.7Унитарно инвариантные нормы

Матричная норма || · || называется унитарно инвариантной, åñëè ||P AQ|| = ||A|| для любой матрицы A и любых унитарных матриц P è Q, допускающих умножение.

Утверждение 1. Норма Фробениуса является унитарно инвариантной.

Доказательство. Пусть Q унитарная матриц и A = [a1, . . . , an]. Тогда

||Qaj||2 = ||aj||2, j = 1, . . . , n.

Отсюда

nn

XX

||QA||F2 =

||Qaj||22 = ||aj||22 = ||A||F2 . 2

j=1

j=1

Заметим, что при изучении метода вращений (в связи с упрощением вида уравнений для поверхностей 2-го порядка) мы уже использовали факт сохранения суммы квадратов элементов вещественной матрицы при умножении ее слева и справа на ортогональные матрицы.

Рассмотрим еще матричную норму, подчиненную гельдеровской 2-норме:

||A|| = sup ||Ax||2.

||x||2=1

Данная норма называется спектральной нормой матрицы (смысл названия через некоторое время прояснится). Обозначение: ||A||2.

Утверждение 2. Спектральная норма матрицы является унитарно инвариантной.

Доказательство. Пусть Q унитарная матриц и A = [a1, . . . , an]. По определению,

||A||2 = sup ||Ax||2 =

sup ||(QA)x||2 = ||QA||2.

||x||2=1

||x||2=1

Кроме того,

||AQ||2 = sup ||(AQ)x||2 =

sup

||(AQ)(Q x)||2 = sup ||(Ax)||2 = ||A||2. 2

||x||2=1

||Q x||2=1

||x||2=1

182

Лекция 27

 

 

27.8Сингулярное разложение матрицы

В 70-х годах 19-го века независимо и почти одновременно Бельтрами (1873) и Жордан (1874) открыли, что любую квадратную матрицу можно привести к диагональному виду с помощью умножения слева и справа на унитарные матрицы. Различные вопросы, связанные с данным открытием, в том числе его обобщения, стали затем предметом целого ряда исследований. Не будет сильным преувеличением сказать, что данный факт оказался потрясающе полезным и одним из наиболее востребованных в теории матриц и приложениях линейной алгебры.

В действительности то же верно и для прямоугольной матрицы. С помощью умножения на унитарные матрицы она приводится к прямоугольной матрице тех же разме-

ров, имеющей всюду нули, кроме элементов с индексами i = j. Такие матрицы будем

называть диагональными прямоугольными

матрицами. Итак, речь идет о разложении

âèäà

 

( )

A = V ΣU ,

ãäå A заданная m × n-матрица, U è V унитарные матрицы соответственно по-

рядка m è n, à Σ диагональная прямоугольная m × n-матрица, имеющая при i = j

неотрицательные числа

σ1 σ2 . . . σmin(m,n).

Разложение ( ) называется сингулярным разложением матрицы A. Числа σi называ-

þòñÿ сингулярными числами матрицы A.

Теорема. Сингулярное разложение A = V ΣU существует для любой комплексной прямоугольной матрицы A. Если A вещественная, то матрицы U и V можно выбрать вещественными.

Доказательство. Положим σ1 = ||A||2 = sup ||Ax||2/||x||2. В силу компактности еди-

x6=0

ничной сферы в Cn, непрерывности нормы и теоремы Вейершрасса, найдется вектор x1 такой, что ||Ax1||2 = ||A||2 è ||x1||2 = 1. Пусть y1 = Ax1/||Ax1||2. Таким образом,

Ax1 = σ1y1, ||x1||2 = ||y1||2. (#)

Дополним x1 è y1 до ортонормированных базисов и образуем унитарные матрицы

U1 = [x1, x2, . . . , xn], V1 = [y1, y2, . . . , ym].

Согласно (#), матрица A1 V1 AU1 имеет в первом столбце только один ненулевой элемент, равный σ1:

A1

= V1 AU1

= h 0 A2i.

 

 

σ1 z

В силу унитарной инвариантности спектральной нормы, ||A1|| = σ1. Поэтому

σ1 h z i 2

A1 h z i 2

≥ σ1

+ ||z||2

σ1

≥ σ1

+ ||z||2

z = 0 A1

= h 0 A2

 

σ1

 

 

 

σ1

 

2

2

2

2

2

 

σ1 0

 

 

 

 

 

 

 

 

 

 

 

 

 

 

i

.

Далее будем рассуждать по индукции. Если для A2 уже имеется сингулярное раз-

ложение A2 = V2 Σ2U2, то сингулярное разложение для A находится с легкостью. Для этого достаточно взять

U = U1

0

U2

,

V = V1

0

V2

,

 

1

0

 

 

1

0

 

Е. Е. Тыртышников

183

 

 

заметить, что матрицы U è V унитарные (как произведение унитарных матриц), и убедиться в том, что выполняется равенство

V AU =

01

Σ2 .

 

σ

0

Остается заметить, что индукция начинается с построения сингулярного разложения для матриц, представляющих собой один столбец либо одну строку.

Пусть A = [a] Cm×1 матрица-столбец. В этом случае найдем в Cm ортонорми- рованный базис v1, . . . , vm, начинающийся с v1 = a/||a||2. Тогда

A = V ΣU , V = [v1, . . . , vm], Σ = [||a||2, 0, . . . , 0]>, U = [1] C1×1.

Для матрицы-строки сингулярное разложение получается транспонированием. 2

Следствие 1. Спектральная норма матрицы равна ее старшему сингулярному числу.

Следствие 2. Пусть матрица A обратима и σn ее младшее сингулярное число. Тогда ||A−1||2 = 1/σn.

Теперь ясно, что старшее сингулярное число матрицы и младшее сингулярное число обратимой матрицы определены однозначно. То же верно для всего набора сингулярных чисел, но это мы докажем позже. Сингулярное разложение вместе еще с рядом важных следствий заслуживает более обстоятельного обсуждения, которое мы временно отложим с тем, чтобы вернуться к нему на более подготовленной почве.

Задача. Доказать неравенство

 

 

 

 

||A||F

rankA ||A||2.

 

 

Задача. Пусть A = [aij] è D = [dij] комплексные матрицы порядка n, ïðè ýòîì D диагональная матрица с элементами dii = aii ïðè 1 ≤ i ≤ n. Докажите, что если ||A||2 = ||D||2, то нулевых элементов в матрице A не меньше, чем 2n − 2.

184

Лекция 27

 

 

L(Vn, Vm)

Лекция 28

28.1Матрица линейного оператора

Рассмотрим линейный оператор A : Vn → Vm, ãäå Vn è Vm линейные пространства размерности n è m (над общим полем P ).

Фиксируем какой-нибудь базис e1, . . . , en â Vn и какой-нибудь базис f1, . . . , fm â Vm. В силу линейности оператора A,

A(x1e1 + . . . + xnen) = x1(Ae1) + . . . + xn(Aen).

(1)

Поэтому A полностью определяется своим действием на базисных векторах e1, . . . , en. Разложим образы базисных векторов по базису пространства образов:

Aej = a1jf1 + . . . + amjfm, j = 1, . . . , n.

(2)

Èç (1) è (2) получаем

A(x1e1 + . . . + xnen) = (a11x1 + . . . + a1nxn) f1 + . . . + (am1x1 + . . . + amnxn) fm.

Следовательно,

A(x1e1 + . . . + xnen) = y1f1 + . . . + ymfm

y1 a11

. . . = . . .

ym am1

. . .

. . .

. . .

a1n x1

. . . . . . .

amn xn

Матрица, возникшая справа, называется матрицей линейного оператора A в паре базисов {ej} è {fi}.

Таким образом, любая фиксированная пара базисов порождает три изоморфизма

Vn ↔ P n, Vm ↔ P m, L(Vn, Vm) ↔ P m×n,

где линейное пространство всех линейных операторов, действующих из пространства Vn в пространство Vm, à P m×n линейное пространство всех mЧn-матриц с элементами из поля P . Отсюда, в частности, видно, что размерность пространства линейных операторов L(Vn, Vm) равна mn.

Пример. Пусть

D : V → W

оператор дифференцирования на пространстве многочленов

W

 

 

 

 

 

 

 

2

â V и базис f1

= 1, f2

 

V =2 â

степени 2 и ниже. Рассмотрим базис e1 = 1 + t, e2 = 1 − t, e3 = t

 

= t, f3 = t

W . Очевидно,

D(1 + t) = 1,

D(1 − t) = −1,

D(t2) = 2t.

 

 

 

 

 

 

 

Поэтому в паре базисов e = {ei} è f = {fi} матрица линейного оператора D имеет вид

 

 

 

 

Aef

=

0

0

2

.

 

 

 

 

 

 

 

 

 

1

1

0

 

 

 

 

 

 

 

 

 

0

0

0

 

 

 

 

 

185

186

 

 

 

 

 

 

 

 

 

Лекция 28

 

 

 

 

 

 

 

 

 

Какой будет матрица того же оператора, если в

W = V

выбрать тот же базис e1, e2, e3? Для этого

нужно найти разложения образов векторов e1, e2, e3 по тем же векторам e1, e2, e3:

 

1

 

1

1

 

1

 

 

D(1 + t) =

 

(1 + t) +

 

 

(1 − t),

D(1 − t) = −

 

(1 + t) −

 

(1 − t), D(t2) = (1 + t) − (1 − t)

 

2

2

2

2

1/2

−1/2

1

Aee = 1/2

−1/2

−1 .

00 0

28.2Произведение линейных операторов

Произведение линейных операторов A : Vn → Vm è B : Vm → Vk определяется как ком- позиция отображений: BA это оператор из Vn â Vk, заданный правилом (BA)(x) = B(Ax). Элементарно проверяется, что произведение линейных операторов является ли-

нейным оператором.

Пусть A матрица линейного оператора A в паре базисов {ej} è {fi}, а B матрица линейного оператора в паре базисов {fi} è {gl}. Тогда произведение матриц BA есть

матрица произведения операторов BA в паре базисов {ej} è {gl}.

Доказательство сводится к прямой проверке. Заметим, что наш курс, собственно, начался с определения произведения матриц и фактически с обсуждения композиции линейных отображений!

28.3Переход к другим базисам

Пусть Aef матрица линейного оператора A в паре базисов e = {ej} è f = {fi}. Êàê

найти матрицу Agh того же оператора в другой паре базисов g = {gj} è h = {hi}? Рассмотрим равенства

A(x1e1 + . . . + xnen) = y1f1 + . . . + ymfm, A(z1g1 + . . . + zngn) = u1h1 + . . . + umhm.

Согласно определению матриц Aef è Agh, находим

Aef x = y, Aghz = u, x =

.x.1.

, y =

.y.1.

, z =

.z.1.

, u =

.u.1.

,

Далее, запишем

xn

 

 

ym

 

zn

 

um

 

gj = s1je1 + . . . + snjen, 1 ≤ j ≤ n,

 

hi = t1if1 + . . . + tmifm, 1 ≤ i ≤ m,

и введем матрицы перехода

S =

s. 11. . .. .. ..

s.1.n.

,

T =

.t11. .

 

sn1 . . .

snn

 

 

tm1

. . . t1m

. . . . . . .

. . . smm

Тогда x = Sz è y = T u. Следовательно, Aef (Sz) = T u (T −1Aef S)z = u

 

Agh = T −1Aef S.

( )

Соседние файлы в папке лИТЕРАТУРА