книги / Эконометрика. Начальный курс
.pdfЛинейная алгебра |
501 |
Предложение. Если А |
> В и обе матрицы обратимы, то |
В -1 > А ’ 1. |
|
Предложение. У положительно определенной (неотрицательно определенной) матрицы А все собственные числа положительны (неотрицательны).
В самом деле, пусть х — собственный вектор, соответствую щий собственному числу А, т. е. А х = А*. Так как матрица поло жительно определена, то х 'А х > 0. Но х ' А х = х'Хх = А*'* > 0, следовательно, А > 0 {х'х > 0, как скалярный квадрат ненулевого вектора).
Для положительно определенных матриц можно определить дробные степени и другие функции от матриц следующим об разом. Представим положительно определенную симметричную матрицу А в виде разложения на ортогональную и диагональную (ЛА.13):
А = О АО '.
Диагональные элементы Л являются собственными числами мат рицы А , следовательно, неотрицательны (см. выше). Тогда можно определить
А 1/2 = О А ^ 2(У,
(Л 1/2)2 = 0 Л 1/20 ,0 Л 1/20 / = 0 А 1/2Л 1/20 / = ОАО/ = А,
и аналогично для любой другой дробной степени (в том числе отрицательной).
Здесь, конечно,
|
Га1/2 |
0 ... |
0 |
|
Л 1/2 = |
0 |
л2А1/2 |
• . |
: |
... |
|
•• |
0 |
|
|
|
|||
|
. 0 |
♦* » |
0 |
АУ2 |
502 |
Приложение ЛА |
16.Идемпотентные матрицы
Определение. Матрица М называется идемпотентной, если она совпадает со своим квадратом: М = М 2. Мы далее будем счи тать матрицу М также и симметричной, так как именно такие матрицы встречаются в эконометрике. Однако многие приведен ные ниже результаты верны и без предположения симметрично сти матрицы М . Часто требование симметричности включают в определение идемпотентной матрицы.
Предложение. Собственные числа идемпотентной матрицы мо гут принимать значения только 0 или 1.
В самом деле, если х — собственный вектор идемпотентной матрицы М , а А — соответствующее собственное значение, то
А* = М х = |
М 2х = М Х х = АМ х = А2*, или (А —А2)* = 0, |
откуда А(1 - |
А) = 0. |
Предложение. Ранг идемпотентной матрицы равен ее следу. Пусть М — идемпотентиаи (симметричная) матрица. В си
лу (ЛА.13) се можно представить в виде М = ОАО7, где на диагонали А стоят пули и единицы (собственные числа матри цы М ). Из свойств ранга матрицы (см. ЛА, п. 10) следует, что rank(M) = гапк(А), т. к. ортогональная матрица О невырождена (dct(O) = ±1). Ранг матрицы А равен, очевидно, числу ненулевых элементов на диагонали, т. е. числу собственных значений матри цы М , равных 1. След матрицы М равен tr(Af) = tr(OAO') = tr(O'OA) = tr(A), также равен числу собственных значений мат рицы М , равных 1, что и требовалось показать.
Пример. Обозначим через t n x l - вектор-столбец, состоящий из одних единиц. Рассмотрим матрицу М = I — £ n'. Проверим, что она идемпотентиая.
М 2 = ( l - - n ' ) ( l - |
—ггЛ = J - |
-гг' + -\гг'гг' = / - |
-гг' = М . |
||
\ |
п ) \ |
п ) |
11 |
п£ |
п |
Эта матрица обладает следующим свойством (вычисление откло нений от среднего значения):
Линейная алгебра |
503 |
Xj —X |
1 |
п |
М х = х — хг = |
, где X = - |
'y 'x j . |
Хп ~ X |
п »*1 |
С геометрической точки зрения идемпотентная матрица соот ветствует оператору проектирования на векторное подпростран ство. Так, например, матрица М = I —£»»' является проектором на подпространство, ортогональное вектору * = (1, . . . , 1)'.
17.Блочные матрицы
Часто, в соответствии со смыслом задачи, удобно разбить матри цу на подматрицы (блоки). Например, т х п матрицу А можно разбить на блоки:
а _ А п |
-Ап] |
(ЛА.16) |
|
[An |
A22J ’ |
||
|
где А п — mi х 711 матрица, А 12 — mi х п2 матрица, A2I -- m2 х ni матрица, А 22 — т 2 х п2 матрица, m = ттц + т 2, п = щ + п2.
Две матрицы, разбитые на блоки одинаковым образом (т.е. размерности матриц Aij и B y совпадают), можно складывать
А + В = А п + В ц |
A I2 + В12 |
A2I + В 21 |
А22 + B 22J ‘ |
Можно также умножать матрицы, разбитые на блоки подхо дящим способом, т. е. так, чтобы все операции в приведенной ниже формуле были корректны (для этого необходимо, чтобы количе ство столбцов в матрице Ау и строк в матрице B jk совпадали для всех t, j, к)
А В = А ц |
A I2 |
Вц |
В12 |
||
A 2I |
А22 |
B21 |
В 22 |
||
А ц В ц |
+ А 1 2 В 2 1 |
А л В ,2 + А , 2В 22 |
|||
A 2I B H |
+ А 2 2 В 2 1 |
A 2i B i 2 + A 2 2 B 2 2 ' |
504 Приложение ЛА
Определитель блочной матрицы
Пусть п х п матрица А разбита на блоки (ЛА.16), такие что А ц и А 22 являются квадратными матрицами. Тогда верна сле дующая формула для определителя матрицы А:
А п А ц —|Ац||А2$ - A i l A j j A a l = |А22||Ац —А ц А ^ А ц 1 .
А21 А 22
Вчастном случае, когда А |2 и А21 — нулевые матрицы (такая маорица А называется блочно-диагональной)
Ац |
О |
О |
Ч А п П А я ! . |
А22 |
Матрица, обратная к блочной матрице
Для блочно-диагональной матрицы А обратная матрица рав
на
Ац |
О |
[Aii |
О |
О |
А п |
О |
A d . • |
Для блочной матрицы общего вида можно получить (см. упражнение ЛА.9)
Л и |
Л 12\~1 _ \ |
А 11 |
-A f/A .a A 22' |
(ЛА.17) |
||
А21 |
A22J |
[ - i 422A 2iA j'1I |
А 22 |
|||
|
А22= (А22—А2]А ^ А ю) *, A1I = (A n-i4i2A ^1A2i)-1. (ЛА.18)
18.Произведение Кронекера
Некоторые вычисления, связанные с системами регрессионных уравнений, значительно сокращаются, если использовать понятие произведения Кронекера.
Определение. Произведением Кронекера двух матриц А (размер ности т х п ) и В (размерности k x l) называется блочная матрица
506 Приложение ЛА
матрица, составленная из производных |
|
|
|
||||||
d f{x ) |
a®i |
• |
а д м ] |
|
|
|
|
||
дхп |
|
(матрица Якоби). |
(ЛА.21) |
||||||
|
д х 1 |
|
|
в/ тЫ) |
|||||
|
ОХх |
’ |
|
|
|
|
|||
|
1 |
9хп |
т |
|
|
|
|
||
Заметим, что при m = 1 второе определение совпадает с пер |
|||||||||
вым. |
|
|
|
|
|
|
|
|
|
Важные примеры |
|
|
|
|
|
|
|
||
1. |
у>(*) = а 'х, а = |
(в|,... ,ап)/, * = |
(х,,...,х„)' |
п х 1 век- |
|||||
|
торы. |
|
д<р(х) _ |
д(а'х) _ |
, |
|
|||
|
|
|
(ЛА.22) |
||||||
|
|
|
|
дх! |
|
дх! |
~ Л ' |
||
|
|
|
|
|
|
||||
2. |
¥>(*) = х 'А х , А |
— п х п матрица. |
|
|
|
||||
|
|
д<р(х) _ д(х!Ах) |
= х '(А + А'). |
(ЛА.23) |
|||||
|
|
д х1 |
|
дх! |
|
||||
|
|
|
|
|
|
|
|
||
Докажем последнее равенство. |
|
|
|
|
|||||
|
|
|
XaAstXt) |
_ V"4 |
d(xsA 3tXt) |
|
|||
|
dXi |
dXi |
|
~ |
a t |
|
®Xi |
|
|
|
— |
( < 5 j j + xsA at6ti) — ^ |
| AnXt + |
XgAai |
|||||
|
a |
t |
|
|
|
|
|
t |
a |
= ( z '( A ' + A ) ) t
(здесь S{j — символ Кронекера (ЛА.2)).
В том случае, когда матрица А симметричная, (ЛА.23) при
нимает вид |
|
|
|
д<р(х) _ д(х'Ах) _ |
2х' А. |
(ЛА.24) |
|
д х' |
дх! |
|
|
3. /(* ) = А х , А — тх. п матрица. |
|
|
|
d f(x ) __ д А х |
= А. |
(ЛА.25) |
|
дх' |
дх' |
Подробное и последовательное изложение аппарата векторно го и матричного дифференциального исчисления можно найти в книге (Magnus, Neudecker, 1988).
Упражнения |
507 |
Упражнения
ЛА.1. Докажите, что tr(AB) = tr(BA). (Указание. Напишите это условие в координатах.)
ЛА.2. Докажите, что tr(A® В) = tr(A) tr(В).
ЛА.З. Покажите, что матрица Х ( Х ' Х ) ~ 1Х ' —идсмпотентная.
ЛА.4. Матрица А —идемпотентная. Докажите, что матрица В = I —А также идемпотентная и В А = 0.
ЛА.5. Пусть А —п х п матрица А = (1 - а)1 +агг\ где t = [1 ... 1]' — п х 1 вектор. Найдите собственные числа и собственные векторы мат* рнцы А.
ЛА.6. Пусть п х п матрица А зависит от скалярной переменной i, А = А(£), х —вектор п х 1.
а) Найдите d{x'Ax)/dt.
б) Найдите d(x'Ax)/dt, если х зависит от t: х = x(t).
ЛА.7. Пусть A: L —* М линейный оператор, dim(L) = n, dim(M) = тп. Докажите, что
а) Im(A), Кег(А) — векторные пространства;
б) dim(Im(A)) < inin(n,m);
в) dim(Ker(A)) + dim(Im(A)) = n.
ЛА.8. Покажите, что многочлены р(х) с вещественными коэффици ентами и естественными операциями сложения и умножения на число образуют векторное пространство L.
а) Найдите размерность L.
б) Выберите базис в L. Какие матрицы соответствуют в выбранном вами базисе операторам А: р(х) —»dp(x)/dx\ В: р(х) —*р(х —1). Найдите собственные числа и собственные векторы этих операто ров.
ЛА.9. Докажите формулы (ЛА.17), (ЛА.18) для обращения блочной матрицы. (Указание. Используйте формулу для произведения блочных матриц из п. 17 и определение обратной матрицы).
508 |
|
|
|
|
|
Приложение ЛА |
ЛА.10. Покажите, что: |
|
|
||||
, |
да'f{x) |
_,df(x) |
|
|
||
а) |
|
|
|
|
|
|
«> |
W |
g |
^ |
, {9W)- ^ ) + ( / w y |
^ |
) ; |
•) |
- (/-(^ |
Л9(- |
- Ш ) ' * Ц & + т |
и |
ф - |