книги / Статистический анализ временных рядов
..pdf«64 |
ЛИНЕЙНЫЕ ТРЕНДЫ И СЛУЧАЙНЫЕ СОСТАВЛЯЮЩИЕ |
Гл. 10, |
наименьших квадратов регрессии равны
<28) и = у — Zb* = у — Z (Z'ZГ 1Z'y = [1 — Z (Z'Z)-1 Z'J у.
Тогда сериальный коэффициент корреляции равен
|
у' [I — Z (Z'Z)"1 Z'] At [I — Z (Z'Z)-1 Z'l у |
|
|
y'[l —z (Z'Z)-1 Z'l [I — Z (Z'Z)-1 Z'J у |
|
|
y'B'A^y |
|
— |
y'B'By |
’ |
тде |
|
|
<30) |
В = |
1 — Z (Z'Z)-1Z'. |
При этом матрица В размера Т X Т имеет ранг Т — р как матрица, ортогональная Z. Матрица В идемпотентна, поскольку
.(31) В* = [I ■—Z (Z'Z)-1 Z'J [I — Z (Z'Z)-1Z'J =
= 1 — 2Z (Z'Z)-1 Z' + Z (Z'Z)-1Z'Z (Z'Z)“ ‘ Z' —
- I — 2Z (Z'Z)_,Z' + Z (Z'Z)-'Z' =
= I — Z (Z'Z)-1Z' = B.
Характеристические корни идемпотентной матрицы равны 1 и 0. Матрица В имеет характеристический корень 1 кратности Т — р, рав ной ее рангу, и характеристический корень 0 кратности р. Посколь ку В'В = В8, то В'В имеет те же самые характеристические корни. Таким образом, существует ортогональная матрица Q, которая при водит В'В к диагональному виду, т. е.
(32) |
Q'B'BQ - Q |
J) . |
|
|
|
где матрица I в (32) имеет порядок Т — р. Если BQ = (CG), |
где |
||||
•С имеет размер Т X (Т — р), то (32) равно |
|
|
|||
(33) |
/С '\ |
|
/С'С |
C'G \ |
|
Q-B'BQ = (0 , ) ( C G ) _ ( 0 ,C |
0 ,0 ) |
|
|||
Поскольку G'G = 0, то G = 0 |
и BQ = |
(СО). Пусть у = Qu и |
век |
||
тор ц представлен в виде и = |
(и*' и**')', где и* состоит из Г — р |
10.4 ПРОВЕРКА НЕЗАВИСИМОСТИ 665
компонент. Тогда |
|
|
|
|
|
|
|
||||
(34) |
* |
* |
uQ'B'AiBQu |
|
|
|
|
|
|
||
Г\ |
uQ'B'BQti |
“ |
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
(»••."') Q |
A, (СО) |
|
и^С'АХи* |
|
|||
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
*' |
** |
|
|
|
..................*п и. % |
|
|
|
|
|
|
|
|
|
и и* |
|
|||
|
|
|
|
<■' |
11 |
|
|
|
|
|
|
у |
При нулевой гипотезе ух ?= 0 ковариационная матрица вектора |
||||||||||
равна а21 и такова же ковариационная |
матрица вектора*и. По |
||||||||||
скольку у = |
Qu и By = BQu = (С0)и = |
Си*, то |
С'Ву = |
С'Си* = |
|||||||
= |
и*. Поэтому 8и* = C'BSy = C'BZji = |
0. |
|
|
|||||||
|
При |
нулевой гипотезе вектор и* имеет распределение N (0, ст21). |
|||||||||
Пусть характеристическими |
корнями |
матрицы |
С'АХС |
являются |
|||||||
vi |
••• |
VT- P. Поскольку в |
матрице |
Q'P'AXBQ |
в левом верхнем |
Углу расположена матрица C'AjC, а остальные элементы — нули, указанные корни являются также и характеристическими корнями матрицы В'АХВ. Более того, они являются характеристическими кор нями матрицы ВВ'Ах = В2АХ= ВАХ.
Т еорема 10.4:2. При ух = |
0 распределение величины г\ совпадает |
с распределением отношения |
|
|
Т -р |
(35) |
------- |
2 * /2 /=i
в котором vx >■ ... >- vr_p представляют собой Т — р характери
стических корней матрицы [I — Z(Z'Z)-IZ']A1, составляющих все отличные от нуля характеристические корни этой матрицы, а случайные величины хх....... хт-Р независимы и нормально распреде лены с нулевыми средними и единичными дисперсиями.
Задача, таким образом, состоит в том, чтобы найти характеристи
ческие |
корни |
матрицы |
[I — Z (Z'Z)_lZ']Ai = |
Ах — Z (Z'Z)-1 Z'AX. |
|
При этом можно использовать теорию § 6.7 и |
6.8. Семиинвариант |
||||
Л-го порядка числителя (35) равен k\, |
умноженному на |
||||
(36) |
о*-1 г~р ь |
о*-' |
, |
, |
|
- Y - |
g v? = |
tr {[I - |
Z (Z'Z)-1Z'] Ах)*= |
||
|
|
= |
^ t r {A1- Z ( Z 'Z ) - , Z'A1)‘ . |
При разложении правой части (36) следует учитывать возможность того, что матрицы Ах и Z (Z'Z)-1 Z' могут оказаться неперестановоч-
€66 |
ЛИНЕЙНЫЕ ТРЕНДЫ И СЛУЧАЙНЫЕ СОСТАВЛЯЮЩИЕ |
Г л . 10. |
ними. См. упр. 21 и 22. Дурбин и Ватсон (1950) не обратили вни мания на эту возможную потерю коммутативности.
Моменты величины г\ могут быть вычислены через ее семиинва рианты. По первым четырем моментам можно подобрать бета-рас
пределение, аппроксимирующее истинное распределение величины г\. Во многих случаях вычисление характеристических корней мат рицы ВАх является довольно утомительной процедурой. В связи с этим Дурбин и Ватсон (1950), (1951) получили неравенства для этих
теорией и как следствие неравенства для точного распределения г\. Мы покажем сейчас, что Т — р характеристических корней матри цы ВАЬ не относящихся к тем р векторам, для которых Вх = 0, бу дут соответственно не больше чем Т — р наибольших характери стических корней матрицы Ах и не меньше чем Т — р наименьших характеристических корней этой матрицы. Мы получим эти нера венства с помощью следующих двух лемм. Пусть ch, (А) обозначает t-й по величине характеристический корень матрицы А, т. е. chx (А) >- > ... > c h r (А).
Л емма 10.4.1. Для любой симметрической матрицы А и произ вольных векторов Ох, ..., ог_1
<37) |
|
ch, (А) ^ |
шах |
х'Ах |
|
|
х'х |
|
|||
|
|
|
ч Х'«у=0 |
|
|
|
|
|
/=1...i-1 |
|
|
Д оказательство. Если матрица А диагональна, |
Т |
||||
то х'Ах = 2 |
|||||
где |
> ... :> У>т— характеристические корни |
/=! |
|||
А. Поэтому |
|||||
<(38) |
‘max— |
х'Ах |
S 3 . |
(МД1Л- |
|
|
х'а.==0 |
XX |
|||
|
/=1...<-! |
|
/=1...1-1 |
|
|
= max Х'«у=*0 /=1... 1
*<+!=• • =*Г=°
> |
( s x i\/ ( g х]) = ch, (А). |
Поскольку всякую симметрическую матрицу А можно привести к диагональному виду некоторым ортогональным преобразованием, причем и характеристические корни, и х'х остаются без изменений, то отсюда следует, что утверждение леммы сохраняет силу для любой симметрической матрицы. (См. Курант и Гильберт (1937).)
Аналогичные аргументы приводят к следующей лемме.
«68 ЛИНЕЙНЫЕ ТРЕНДЫ И СЛУЧАЙНЫЕ СОСТАВЛЯЮЩИЕ Гл. 10.
Теорема 10.4.4. В условиях теоремы 10.4.3
|
|
Т -Р |
|
Г-р |
|
<44) |
Рг |
fce1 |
> R < Р г |
|
> R |
Т -р |
Т -Р |
||||
|
|
<=1 |
|
м |
|
|
|
|
|
Т-р |
л |
|
|
|
<.Рг |
2 |
|
|
|
|
- ё |
------ > * |
2 ® ? <=i
Пусть случайные величины wlt ..., wr-pнезависимы и нормально распределены с нулевыми средними и дисперсиями 1. Если при этом независимые переменные соответствуют наибольшим характеристик ческим корням матрицы Ах, то левая часть (44) равна 1 минус функ ция распределения соответствующей сериальной корреляции. Если же независимые переменные соответствуют наименьшим по величине характеристическим корням матрицы А1( то тогда той же величине равна правая часть соотношения (44). Было бы хорошо, если бы мы знали, что некоторые из независимых переменных являются харак теристическими векторами матрицы Ах.
Теорема 10.4.5. Предположим, что р* линейно независимых линейных комбинаций столбцов матрицы Z являются р* характе
ристическими векторами матрицы Ах. Пусть Ai > ... > Аг_р. — Характеристические корни Ах, соответствующие остальным ее характеристическим векторам. Тогда если вектор у имеет распре деление N (ZP, <т21), то
|
|
2 |
h+p-p*wt |
|
|
|
(45) |
Рг |
/=1 |
Т -Р |
> R < Рг {rl > |
R} <. |
|
|
|
|||||
|
|
|
2 |
Щ |
|
|
|
|
|
/=1 |
|
|
|
|
|
|
|
Т -р |
|
|
|
|
|
|
2 |
|
|
|
|
|
|
< Р г м |
|
> R |
|
|
|
|
Т -Р |
|
|
|
|
|
|
2 - ? |
|
где г\ определяется соотношением (29), a wlt ..., WT- P — независимые нормально распределенные случайные величины с нулевыми средними и единичными дисперсиями.
Для данной матрицы Ах и определенных р* характеристических векторов в Z можнЬ затабулировать те значения R, для которых пра-
10.4 |
ПРОВЕРКА НЕЗАВИСИМОСТИ |
669 |
вая часть (45) равна е. Обозначим эти R через Ru. |
Тогда если на |
|
блюдаемое значение г \ |
превосходит Ru, то это превышение следует |
|
считать значимым для уровня е. Пусть RL — такое R, при котором |
левая часть (45) равна е. Тогда, если наблюдаемое г\ окажется мень ше R L , это различие оказывается незначимым для уровня е. Если
же наблюдаемое значение г \ заключено между R L и R U , то опреде ленного заключения вынести нельзя. Эта процедура является крите рием проверки независимости против альтернативы о положитель
ной зависимости (ух |
= 0 против ух << 0). |
Дурбин и Ватсон |
(1951) затабулировали величины dz. = 2(1 — |
— Ru) и du — 2 (1 — RL) в случае использования суммы квадра |
|
тов последовательных разностей для уровней е = 0.05, 0.025, 0.01 |
н р = 2, 3, 4, 5, 6. При этом предполагалось, что одним из столбцов матрицы Z является в = (1...... 1)'. Если для р = 2 статистики, стоя щие в левой и правой частях неравенства (45), переписать соответст-
Г-2 , |
Г-2 |
# |
Г-2 |
|
венно как деленные на ^ |
суммы |
2 |
Х/Ю/ + %\w\ и |
2 Х<0)< + |
М |
/=2 |
|
6=2 |
|
+ Xr_1ш? (гдесимволы |
wl t ..., WT- 2 |
используются для |
обозначения |
Т — 2 независимых стандартных нормальных величин), то можно не посредственно заметить, что разность между этими статистиками рав на
(46) |
(Ъ) — Ь'г—1) |
wf |
’ |
|
Т—2 |
= 2 cos |
"f—2 |
||
|
2 |
«ч |
2W |
|
|
<=1 |
|
|
|
что приближенно соответствует величине 2cos (п/Т)/(Т — 2). Ис пользуя таблицы Дурбина и Ватсона, можно показать, что разность между Ru и R L для р = 2 близка к этой величине. Упрощенное эмпирическое правило состоит здесь в том, что Ru приближенно
Р—1
равно R из табл. 6.3 (для данного Т) плюс 2 cos (я/ !Т)НХ — р),
/-1
a R L приближенно равно R минус последняя сумма. В табл. 10.3 приведены процентные точки для р =2.
Особого интереса заслуживает случай полиномиальной регрес сии. Предположим, что Ах соответствует использованию суммы квадратов последовательных разностей (см. (41) из § 6.5) и т = (1,
2, ..., Г)'. Тогда линейный тренд имеет |
вид |
foe + |
Р2т. Вектор т |
|||
близок к характеристическому вектору |
матрицы |
Аь |
соответствую |
|||
щему характеристическому корню 1, именно |
|
|
||||
(47) |
AlT « t + |
0, |
•••, |
0, - |
1)'. |
|
(См. упр. 24.) Это наводит на мысль о том, что процентные точки остатков от. регрессии foe + foT должны быть, близки к RL для р «=*,
«7а |
ЛИНЕЙНЫЕ ТРЕНДЫ И СЛУЧАЙНЫЕ СОСТАВЛЯЮЩИЕ |
Гл. 10. |
Таблица 10.3
НИЖНЯЯ И ВЕРХНЯЯ ГРАНИЦЫ ДЛЯ ВЕРХНИХ НЮе-ПРОЦЕНТНЫХ ТОЧЕК РАСПРЕДЕЛЕНИЙ СЕРИАЛЬНОГО КОЭФФИЦИЕНТА КОРРЕЛЯЦИИ. СТРОЯЩЕГОСЯ ПО ПОСЛЕДОВАТЕЛЬНЫМ РАЗНОСТЯМ ОСТАТКОВ ОТ ТРЕНДА. СОСТОЯЩЕГО ИЗ КОНСТАНТЫ И НЕЗАВИСИМОЙ ПЕРЕМЕННОЙ
Уровни значимости 8
|
|
5 % |
|
2 .5 % |
|
1 % |
т |
|
|
|
|
|
|
15 |
0.32 |
0.46 |
0.385 |
0.525 |
0.465 |
0.595 |
16 |
0.315 |
0.45 |
0.38 |
0.51 |
0.455 |
0.58 |
17 |
0.31 |
0.435 |
0.375 |
0.495 |
0.45 |
0.465 |
18 |
0.305 |
0.42 |
0.37 |
0.485 |
0.44 |
0.55 |
19 |
0.30 |
0.41 |
0.36 |
0.47 |
0.435 |
0.535 |
20 |
0.295 |
0.40 |
0.36 |
0.46 |
0.425 |
0.525 |
21 |
0.29 |
0.39 |
0.35 |
0.45 |
0.42 |
0.515 |
22 |
0.285 |
0.38 |
0.345 |
0.44 |
0.415 |
0.50 |
23 |
0.28 |
0.37 |
0.34 |
0.43 |
0.405 |
0.49 |
24 |
0.275 |
0.365 |
0.335 |
0.42 |
0.40 |
0.48 |
25 |
0.275 |
0.355 |
0.33 |
0.41 |
0.395 |
0.475 |
ят 2. (Другой подход состоит в том, что вектор, t-я компонента ко торого равна (Т + I — 2t)/(T — 1), близок к вектору с t-й компо нентой cos я (( — 1/2)/ Т.) Возьмем матрицу Ах из разд. 6.5.4. Тогда
(48)Ахе в* е -----± - (1 ,0 ..........0,1)'.
Таким образом, вектор е мало отличается от характеристического вектора матрицы Ах, соответствующего характеристическому корню 1. Это заставляет предположить, что распределение отношения у'В'АхВу/у'В'Ву близко к распределению отношения
тт
2 W |
/ 2 |
«£ |
в |
самом |
деле, |
Т — 1 |
наименьших характеристи- |
/-2 |
*=2 |
матрицы |
Ах и |
Т — 1 |
характеристических корней |
||
ческих |
корней |
||||||
матрицы |
В'АХВ |
равны |
соответственно 1/2 и —1/2 для Т — 2; (0, |
—V2i2 = — 0.7071) и (0,— 2/3 = — 0.6667) для 7 = 3; (cos 2л/5 =
= 0.3090, cos |
Зя/б = — 0.3090,_cos 4я/5 = — 0.8090) и [(J/5 — |
— 1)/4 = 0.3090, |
—0.2500, — (^ 5 + 1)/4 = — 0.8090] для 7 = 4. |
Для проверки независимости в условиях, когда оценки наимень ших квадратов не являются эффективными, Дурбин (1970) предло
жил другую процедуру. Предположим, что Z = (V?Z2), где pt столбцов матрицы V* являются рх характеристическими векторами матрицы Ах, v;'v; = i, Vj'Za = 0 и что никакая линейная комбина-
672 |
|
ЛИНЕЙНЫЕ ТРЕНДЫ И СЛУЧАЙНЫЕ СОСТАВЛЯЮЩИЕ |
Г л . 10. |
||
Ковариационная матрица вектора w равна |
|
||||
(55) |
I W |
= |
(Z, - |
V X Z ,) PQ -1QQ' (Q')_I Р' (Ъ> - |
= |
|
|
= |
(z2- |
v;vrz2) с (z2- z;v*2v*2'). |
|
Поскольку |
Z2V2 = — C- , D и E — D'C- , D — I, TO |
|
|||
(56) |
%(v + w) (v + w)' = Svv' -f- S ww' = I — V*V*’ — V2V2', |
что совпадает с ковариационной матрицей остатков от регрессии на
V* = (Vi V2). |
Распределение |
отношения |
|
/суч |
(у + |
w)' Аг (у + |
W) |
'■ ' |
(V + |
W)' (V + |
w) |
при нулевой гипотезе совпадает с распределением отношения
|
х' (1 — V«V*') Ах (1 — V«V*') A |
x'AtX— х'У*А*у*'х |
|
<58) |
х' (I — V*V*') (I — V*V*') х “ |
х'х —x'V*V*'x |
’ |
в котором х имеет распределение N (0, I). Последнее же отношение является сериальной корреляцией, основывающейся на остатках от V*. При этом А* — диагональная матрица, диагональные эле менты которой равны характеристическим корням, соответствую щим столбцам матрицы V*.
Можно использовать также и сериальный коэффициент корреля ции, основывающийся на последовательных разностях. Кон
станту можно включить в |
регрессию, полагая рх= 1 |
и Vj = |
— V l/T в = V 1IT (1.......1)'. |
Если другие независимые |
перемен- |
'ные, составляющие Z2, изменяются медленно, то их совокупность
может оказаться близкой к матрице V2, состоящей из р2 векторовстолбцов с компонентами cos ns (/ — 1/2)/Т, t = 1 , ..., Т, s = 1, ...
..., р2. При этом процентной точкой (58) будет RL.
ЛИТЕРАТУРА
§10.1. Т. Андерсон (1948), Ватсон (1952), (1955), (1967), Ватсон и Хеннан (1956), Гревандер (1954), Гренандер и Розенблатт (1957), Зискинд (1967), Магнесс и Макгир (1962), Розенблатт (1956), Хеннан (1958).
§10.2. Т. Андерсон (1948), (1958), Ватсон (1955), (1967), Гоенандер (1954), Гренандер и Розенблатт (1957), Зискинд (1967), Канторович (1948), Розенблатт
(1956), Хеннан (1961), (1963).
' |
§ 10.3. Хеннан (1958). |
§ 10.4. Р. Андерсон и Т. Андерсон (1950), Дурбин (1970), Дурбин и Ватсон |
(1950), (1951), Курант и Гильберт (1937).