Северин Методы БМ

5.2. Элементы векторной алгебры

Вектором называется упорядоченное множество действительных чисел. Например, a (a1, a2 , , an ) , где a1 , a2 , …, an действительные числа, есть вектор, состоящий из n элементов. Количество элементов n называется размером вектора. Числа a1 , a2 , …, an называются проекциями вектора.

ции сложения и вычитания векторов:

a b (a1 b1, a2 b2 , , an bn ) ,

a b (a1 b1, a2 b2 , , an bn ) .

Для любой скалярной величины определена операция умножения вектора на скаляр a (a1, a2 , , an ) .

Вектор 0 (0, 0, , 0) называется нулевым вектором.

Векторы a1 , a2 , …, am называют линейно зависимыми, если су-

ществуют скаляры 1 , 2 , …, m , не все равные нулю, что

1a1 2a2 mam 0 .

141

В этом случае хотя бы один из этих векторов можно представить линейной комбинацией остальных векторов, например, при m 0

am 1a1 2a2 m 1am 1 .

В противном случае векторы называют линейно независимыми. Множество всех n -мерных векторов называется n -мерным век-

случае x1 , x2 , …, xn называются координатами точки. Скалярное произведение двух векторов есть число, равное

a b a1b1 a2b2 anbn .

Евклидова норма вектора a определяется равенством

a a a a12 a22 an2

и соответствует длине вектора. Ее также обозначают a и называют

модулем вектора.

Если векторы a и b рассматриваются как направленные отрезки, между которыми угол , то

142

Здесь равенство возможно только при a b .

2) a a a Rn , R ;

3) a b a b , a, b Rn – неравенство треугольника.

Две нормы r и s называются эквивалентными, если суще-

ствуют , 0 такие, что

ностей их координат

143

x y (x1 y1)2 (x2 y2 )2 (xn yn )2 .

Расстояние обладает свойствами:

2) x y y x ;

3) x z x y y z – неравенство треугольника.

Последовательность векторов {xk } называется сходящейся к век-

тору x , если

Понятие сходимости последовательности векторов положено в основу исследования скорости сходимости методов многомерной оптимизации.

5.3. Матрицы и действия с ними

Матрица размера m n представляет собой прямоугольную таблицу действительных чисел, состоящую из m строк и n столбцов

где aij – действительные числа, называемые элементами матрицы.

Элементы aij при i j называются диагональными элементами, если же i j , то aij называются недиагональными элементами. Диагональ-

ные элементы составляют главную диагональ матрицы.

Элементы каждого столбца матрицы составляют вектор, который

144

называется вектор-столбцом. Аналогично каждая строка матрицы определяет вектор-строку. Вектор можно рассматривать как матрицу специального вида, которая содержит либо только одну строку, либо лишь один столбец. Матрица с одинаковым количеством строк и столбцов называется квадратной матрицей.

Если заменить строки матрицы A столбцами, то получится транспонированная к A матрица, которая обозначается AT . В частности, если a – вектор-строка, то aT – вектор-столбец.

Квадратная матрица A называется симметрической, если для ее элементов aij a ji , то есть симметричные относительно главной диа-

гонали элементы одинаковы. Для симметрической матрицы AT A . Две матрицы называются равными, если они имеют одинаковые

размеры и их соответствующие элементы совпадают.

Квадратная матрица, все диагональные элементы которой равны 1, а внедиагональные элементы – нулю, называется единичной матрицей и обозначается через E . Матрица, которая содержит только равные нулю элементы, называется нулевой матрицей и обозначается O .

Рангом матрицы называется максимальное число ее линейно независимых строк или столбцов.

Сумма или разность двух матриц A и B одинакового размера есть матрица того же размера C , элементы которой вычисляются по формулам cij aij bij или cij aij bij . При этом пишут C A B или C A B .

Скалярное произведение двух вектор-столбцов a и b представимо в виде aT b a1b1 a2b2 anbn . При этом aT b bT a . Условие ортогональности векторов a b имеет вид aT b 0 . Неравенство Ко-

ши-Буняковского-Шварца можно представить в виде aT b a b .

Произведение AB двух матриц A и B определено тогда и только тогда, когда размеры матриц согласованы, то есть количество столбцов матрицы A равно количеству строк матрицы B . Если A –

145

матрица размера m n , а B – матрица размера n p , то произведение этих матриц AB C представляет собой матрицу размера m p . Элемент матрицы C , расположенный на пересечении i -той строки и j -того столбца, определяется по формуле

cij ai1b1 j ai2b2 j ainbnj .

Это означает, что необходимо найти скалярное произведение i -той строки матрицы A и j -того столбца матрицы B , то есть произведение матриц выполняется по правилу «строка на столбец». В частности, всегда можно перемножать квадратные матрицы одинакового размера. В общем случае AB BA .

Произведением матрицы A на некоторое число называется матрица A с элементами aij .

Определителем квадратной матрицы A называется число, обозначаемое det A и получаемое с помощью арифметических операций над элементами A . Если A – матрица размера 2 2 , то

Матрица называется вырожденной или особенной, если ее определитель равен нулю. Если же определитель не равен нулю, то соответствующая ему матрица называется невырожденной или неособенной. При транспонировании матрицы ее определитель не изменяется.

146

Матрица, обратная к невырожденной квадратной матрице A , обозначается как A 1 и представляет собой невырожденную квадратную матрицу, обладающую свойством AA 1 A 1A E . Определитель обратной матрицы det A 1 1 det A .

Операции над матрицами обладают свойствами:

1)A B B A ;

2)(A B) C A (B C) ;

3)(A B) A B ;

4)( )A A A ;

5)AE A , EA A ;

6)(AB) (A)B A(B) ;

7)(A B)C AC BC , A(B C) AB AC ;

8)(AB)C A(BC) ;

9)(A B)T AT BT ;

10)(AB)T BT AT ;

11)det(AB) det Adet B ;

12)(AB) 1 B 1A 1 .

Если для квадратной матрицы A размера n и ненулевого вектор-

частности, определены максимальная столбцевая норма, максимальная строчная норма и спектральная норма:

147

Спектральная норма матрицы A равна квадратному корню из максимального собственного значения матрицы AT A .

Последовательность матриц {Ak } называется сходящейся к матрице A , если

lim Ak A 0 .

k

5.4. Формула Шермана – Моррисона и ее применение

Пусть A – невырожденная квадратная матрица размера n , а a и b – произвольные n -мерные векторы столбцы. Если 1 bT A 1a 0 ,

то матрица A abT 0 невырожденная и имеет обратную матрицу

Это равенство называется формулой Шермана – Моррисона. Для доказательства ее истинности умножим равенство (5.1) на матрицу

A abT :

Применим формулу Шермана – Моррисона для вывода модифи-

148

цированной формулы Бройдена – Флетчера – Гольдфарба – Шанно (4.35) обращением матрицы (4.29)

Рассмотрим матрицу V H ppT . По формуле (5.1) имеем:

UV 1 (H ppT ) 1 H 1 H 1 ppT H 1 .

1pT H 1 p

Сучетом обозначений (5.3)–(5.5)

Рассмотрим матрицу (5.6) Y V vvT . По формуле (5.1) имеем:

X Y 1 (V vvT ) 1 V 1 V 1 vvT V 1 . 1 vT V 1 v

149

Сучетом обозначений (5.4) и (5.5)

vHs G 1s , Gv GG 1s Es s .

Подставим последнее выражение, выражения (5.8) и (5.12) в (5.9):

X G uuT ssT sT p(suT usT ) 2 (sT p)2 uuT , (sT p)2

150