книги / Статистический анализ временных рядов.
.pdf7.7. |
НЕКОТОРЫЕ ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ |
46S |
|
Таким образом, |
|
|
|
(12) |
Pr {Sr < |
z] < F (г) + Зе. |
|
Аналогично получаем |
|
|
|
(13) |
Pr {Sr < |
г} > F (г) — Зе. |
|
Это и доказывает теорему.^ |
|
|
|
С ледствие 7.7.1. Пусть для последовательности {МЦ |
|
||
(14) |
%XlT< M k, |
|
|
(15) |
lim Mk — 0 |
|
|
|
/г-foo |
|
|
и, кроме того, имеет место (3) и (4). Тогда выполняется соотношение
(5).
Д о казательство. Неравенство Чебышева влечет за собой соот ношение (2). Тогда теорема 7.7.1 доказывает утверждение след ствия .щ
Этот результат был получен Андерсоном (1959) и в несколько ином виде Дианандой (1953).
Приведем несколько примеров центральных предельных теорем. Теорема 7.7.4 следует из теоремы 7.7.2.
Т еорема 7.7.2. (Центральная предельная теорема Линдеберга.)
Пусть wf, |
..., |
wf — последовательность |
независимых |
случайных |
||||||
величин, Т = |
1, |
2......... Пусть Ff (w) есть распределение величины |
||||||||
wf, &wf = 0, |
t = |
1, ...» |
Т, |
|
|
|
|
|
||
(16) |
|
|
|
|
т |
|
|
|
|
|
|
|
|
|
2 |
Var wf = 1. |
|
|
|
||
|
|
|
|
|
i=i |
|
|
|
т |
|
Достаточным |
условием |
сходимости распределения суммы 2 |
||||||||
к N (0, 1) является |
|
|
|
|
|
|
||||
(17) |
|
|
|
2 |
1 |
w2dFj (w) |
О |
|
|
|
|
|
|
|
t = l I W I |
> 6 |
|
|
|
|
|
при T -> oo для любого 6 |
>• 0. |
|
|
|
|
|||||
Условие |
(17) |
является также и необходимым для |
сходимости |
|||||||
|
|
|
|
|
т |
|
|
|
|
|
распределения суммы 2 |
wf |
к |
W.(0 , 1), |
если |
max |
8 (wf)2-> 0 » |
||||
[См. Лоэв (1963, § 21.2).] |
|
|
|
|
|
|||||
Т еорема |
7.7.3. |
(Центральная |
предельная |
теорема |
Ляпунова.)’ |
|||||
Пусть wf,- fti , wf,T |
— 1, 2, . ., , — последовательность независимых |
|||||||||
464 СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПРОЦЕССЫ Гл. 7.
случайных величин, такая, что &w[ = 0 , t = 1, Т, и выпол няется (16). Достаточным условием сходимости распределения сум-
т |
|
|
|
мы 2 |
wl к N (0, 1) является |
|
|
t=] |
|
|
|
(18) |
2 8 |ш [|2+в- * 0 , |
|
|
|
;=1 |
|
|
если оно выполняется для некоторого 6 > |
0 . |
||
Т еорем а 7.7.4. (Одинаково распределенные случайные величины.) |
|||
Если |
«х, ы2, ... независимы и |
одинаково |
распределены, Ц = 0 « |
|
Т |
_ |
|
8 и< = а*, то распределение 2 +/(о У Т ) сходится к N (0, 1) при t=1
71—>■оо.
Из теоремы 7.7.1 и следствия 7.7.1 можно получить центральные предельные теоремы для некоторых случайных стационарных про цессов. Представляет интерес случай конечной зависимости, в ко тором переменные независимы, если разность индексов достаточно
я
большая. Конечный процесс скользящего среднего yt = 2 aso<_s,
s=0
где vt независимы и одинаково распределены, обладает этим свой ством.
Т еорема 7.7.5. |
Пусть |
уг, |
у2, ... — стационарный |
случайный |
|||
процесс, такой, что для каждого целого п и целых tv ...,/„ (0 |
< < |
||||||
< ... < tn) ylt, ..., |
у, |
распределены независимо от |
уи |
..., |
yt, - m- 1 |
||
|
|
п |
|
|
т |
|
|
и ytn+m+i...........Если |
Ц , = |
о |
и Ц) < оо, то 2 |
y ^V T |
имеет |
||
П |
|
|
|
|
t=l |
|
|
предельное нормальное распределение со средним значением 0 и дис персией
(19) |
|
%у\ + |
21угуг + ••• |
+ |
2&у1ут+1. |
|
Д о казательство. Пусть |
|
|
|
|||
(2 0 ) |
|
|
YT = Y J |
|
|
|
Тогда |
|
|
|
|
|
|
(2 1 ) |
|
|
%УТ = |
0 , |
|
|
(22) |
W |
= у - 2 ly tyt = -jr [П у\ + |
2(7'— 1) |
+ |
||
|
|
(,S=1 |
2 (Т—• 2) 8^хг/8 + |
|
|
|
|
|
+ |
• • • + 2(7*—.m) 8^ */m+ib |
|||
7.7. |
|
НЕКОТОРЫЕ ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ |
|
|
|
465 |
|||||
И |
|
|
|
|
|
|
|
|
|
|
|
(23) |
Нш %Y\ = Ъу\ + 28уху2+ |
• • • |
+ |
Э&УхУпил = |
W. |
|
|
||||
|
T-+OQ |
|
|
|
|
|
|
|
|
|
|
Для |
данного целого k > 2 т пусть Т —kN + г, |
где |
0 < г < |
к, |
|||||||
т. е. N= [T!k\. Определим |
|
|
|
|
|
|
|
|
|
||
(24) |
U k T = |
-рг==Г К#1 + • • • |
+ |
Ук-m) + |
(Ук+ 1 + • • • |
+ |
У2к-щ) + |
• • • |
|||
|
|
|
|
* * • |
+ (Ук (JV—1) +1 + |
• • • + |
У к Ы -т ) 1, |
||||
(25) |
Х кТ = |
-ш+1 + • • • |
+ */<[) + |
(#2*—m+1 + |
• • • |
+ |
</2ft) + |
• * • |
|||
|
|
|
|
|
• *' |
+ |
(У/WV-m+l + |
• • * + </*Лг)]» |
|||
(26) |
RkT = |
— (УкМ-\-1 + |
*• ' |
+ |
Ут) |
|
|
|
|
|
|
ДЛЯ k Т . Пусть U k T — УТу ХкТ ~ |
R k T |
~ |
О ДЛЯ k > Т. |
|
|
||||||
Величина t/*r ] /”7' есть сумма N независимо и одинаково рас пределенных слагаемых. Для /-го слагаемого имеем
(27) |
8 |
(*/fe (/—I)+i + |
• • • |
+ |
Ук1—т) = О, |
(28) |
8 |
(г/*(/—i) +1 + |
• • • |
+ |
Ук]—т)г = |
|
|
— ^ (У 1 + ' • • + Ук —т ) 2 = |
|||
|
= (k— т)%у\ + 2 (6 — т — l) 8 t/1</3+ . .. |
||||
|
. . . |
+ 2 ( 6 — 2 m) |
|
|
= kVk. |
По теореме 7.7.4 сумма всех этих слагаемых, деленная на У Н (т. е.
U k T У T / N ) , имеет предельное нормальное распределение со сред ним значением 0 и дисперсией kVk при Т -»-оо и N -*■ оо. Таким об
разом, U k r V T K N k ) |
имеет предельное нормальное распределение со |
||||||
средним значением 0 и дисперсией Vk. |
Rkr |
ограничено, так |
|||||
Среднеквадратичное |
значение величины |
||||||
как |
|
|
|
|
|
|
|
(29) |
%R\T ^ |
8 ^ |
< -у - Ъу\. |
|
|
||
Мы использовали |
тот |
факт, |
что |
| &ytys| < |
%у\. |
Когда |
Т -+■ оо, |
(29) стремится к 0 |
и Rkr сходится |
по вероятности к 0. |
Следова |
||||
тельно, UkT + |
RkT имеет предельное нормальное распределение со |
|
средним значением 0 и дисперсией |
Vk. |
|
Для k < Т |
справедливо |
|
(30) %ХкТ = |
+ . . . + Ут? |
^-%-%(У1 + • • • + Ут)г, |
7.7. |
НЕКОТОРЫЕ ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ |
467 |
Т__
то 2 |
y jV Т |
имеет |
предельное нормальное распределение со сред |
||||||
ах |
|
О и дисперсией |
|
|
|
|
|||
ним значением |
|
|
|
|
|||||
<36) |
|
|
|
|
2 |
|
а (г), |
|
|
|
|
|
|
|
г=—оо |
|
|
|
|
где |
|
|
|
|
|
|
|
|
|
(37) |
|
|
|
а(г) = а2 |
оо |
Y,Ys-K- |
|||
|
|
|
2 |
||||||
|
|
|
|
|
|
S— — оо |
|
||
Д оказательство. |
Пусть |
|
|
|
|
|
|||
(38) |
|
|
|
\jttk |
= |
к |
Vs^—s* |
||
|
|
|
2 |
||||||
|
|
|
|
|
s=—k |
|
|
||
(39) |
|
|
|
Ил* = |
2 |
|
Ys°/-s. |
||
|
|
|
|
|
s=k+l |
|
|
||
(40) |
|
|
|
щ9к = |
-<*+l) |
|
|||
|
|
|
2 |
ysvt~s. |
|||||
|
|
|
|
|
|
S=—oo |
|
||
Тогда |
yt —yt,k + U ttk |
+ Ut'k- |
Пусть |
|
|||||
(41) |
|
|
|
ZkT — |
1 |
t2=i Ум* |
|||
|
|
|
V T |
||||||
(42) |
|
|
|
|
|
|
1 |
T |
|
|
|
|
XkT — V~T t2= \ |
, |
|||||
(43) |
|
|
|
xlr |
= |
y |
1 |
T |
|
|
|
|
j |
2 |
“<■* |
||||
|
|
|
|
|
|
|
|
t=i |
|
Тогда |
ij yt/V T = |
ZkT + XkT + XkT■ Имеем |
|||||||
(44) |
%X\T = |
|
|
ut,k] |
= 4 - |
2 W kUs,k = |
|||
|
|
|
|
\* = 1 |
|
/ |
|
|
*,S=1 |
|
|
= |
4r 2 |
2 |
YpYr*»<-pO*-r = |
||||
|
|
|
|
/,s = l p ,r = ft+ 1 |
|
|
|
||
|
|
|
o2 |
r |
|
|
00 |
|
VPVP+S—t ^ |
|
|
= -у - 2 |
|
|
2 |
|
|||
|
|
|
|
^,s=I |
p== max (0 ,/—s) -\-k-\-\ |
||||
|
|
< - S - 2 |
|
|
S |
|
IYPI • IYP+ » -« I< |
||
|
|
|
|
/,s = l |
p = max (0,/—s) + Л -И |
||||
468 СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПРОЦЕССЫ Гл. 7.
|
< о 2 I I |
I |
Ы |
‘ Ы |
= |
|
|
|
|
q=k+\ p=k-{-\ |
|
|
|
|
|
|
|
со |
| ур | <; °о , то (44) |
|
|
|
|
k |
|
|
Так как Ц |
сходится к 0 при |
оо. Подобным |
||||||
P = |
I |
|
|
|
|
|
|
|
же образом |
|
|
|
|
|
|
|
|
(45) |
W r < . o a( ~ 2 1)'Vpl |
|
|
|
||||
|
|
|
' р=—оо |
|
|
|
|
|
что сходится к 0 при k -> оо. Тогда |
|
|
|
|
|
|||
(46) |
8(Хкт+ Х1т? < |
2 [%Х1т + |
8Х?т\ < |
|
|
|
||
|
|
|
/ с о |
Ы |
\2 |
/ - ( f e + 1 ) |
,2 - | |
|
|
|
. 2 о2 |
( 2 |
+ |
\ |
2 |
\ур\) |
|
|
|
|
\р=*+1 |
/ |
р = - 0 0 |
/ . |
||
что сходится к 0 при k -+■оо. Утверждение теоремы 7.7.8 следует из следствия 7.7.1 и теоремы 7.7.5. g
|
|
|
|
со |
|
|
|
|
|
Подобные теоремы |
(для |
г/, = |
2 |
Ys1’*-*) |
были |
доказаны |
не- |
||
сколько по-иному Мораном (1947) и |
S^sO |
|
|
|
|
||||
Дианандой (1953). |
|
|
|||||||
Теорема 7.7.9. Пусть уъ |
уг, |
. . . — последовательность |
случай |
||||||
ных величин, такая, что для |
каждого п и |
tu ..., |
tn (0 < |
^ < ... |
|||||
... < tn) совокупности |
уи.......ytn |
и |
ylt .... |
yt,-m -и ytn+m+1, |
••• |
||||
взаимно независимы. Пусть %yt = |
0 и 8 |
J yt | 2+6 < М, / = |
1, 2, |
..., |
|||||
для некоторого 6 > 0 |
ы некоторого М. Пусть аъ а2, ... — последо |
||||||||
вательность постоянных величин, такая, что \ at | ■< L, t = |
1, 2,... , |
||||||||
для некоторого L, и такая, что существует предел |
|
|
|
||||||
(47) |
Нш-=1- |
^Т |
atas%ytys- |
|
|
|
|
||
'/,s=l
Т |
_ |
|
Тогда 2 |
o./yjVТ |
имеет предельное нормальное распределение |
со средним значением 0 и дисперсией (47). |
||
Д оказательство. |
Пусть у] — atyt, t = 1, 2, ... . Доказательство |
|
аналогично доказательству теоремы 7.7.5 с заменой yt на у). Случай
ные величины г/*(/_ 1) + 1 + ••• + Ущ-т, } = 1, .... N, независимы, но не одинаково распределены. Однако их абсолютные моменты по
рядка 2 + 6 |
равномерно ограничены величиной |
(k — m f+6L2+6M |
(неравенство |
Минковского). Среднеквадратичное |
значение разнос- |
|
УПРАЖНЕНИЯ |
469* |
|
т |
_ |
|
|
ти между 2 y '/ Y Т и Ulr [которое |
совпадает |
с (24) при замене- |
|
yt на у)] ограничено величиной [приближенно |
равной m2L2 (М + |
||
т 1)/k], которая |
стремится к 0 |
равномерно при k -> с»; |
|
lim |
lim Var Ukr есть (47). Доказательство завершается применением* |
||||||
к-+°о Т-*оо |
|
|
|
|
|
||
центральной предельной теоремы Ляпунова (теорема 7.7.3). и |
|
||||||
|
Следстви е 7.7.2. Пусть уи уг, ... — последовательность случай |
||||||
ных величин, таких, что для |
каждого п |
и tu ..., |
tn (0 < |
tx < ... |
|||
...< /„ ) |
совокупности ytl....... ytft и ylt .... |
ytl~m- и ytn+m+i, |
... |
не |
|||
зависимы. Пусть i%yt — 0, %ytys = о (t — s) и &\yt’ |
\ 2+6 < |
M, |
t = |
||||
|
|
|
|
|
T |
ytl V Т' |
|
= |
1, 2, |
..., для некоторого б > 0 и некоторого М. Тогда 2 |
|||||
имеет |
|
|
|
<=i |
|
||
предельное нормальное распределение со средним значением. |
|||||||
|
|
т |
а (Л). |
|
|
|
|
О |
и дисперсией а (0 ) + 2 2 |
|
|
|
|
||
|
|
Л= 1 |
|
|
|
|
|
|
Доказательство несколько упростится, если положить |
б = U |
|||||
Эти результаты применяются для регрессионных оценок. |
|
|
|||||
ЛИТЕРАТУРА
Наиболее полно теория случайных процессов изложена в книге Дуба (1953).. Достаточно полной является также книга Лоэва (1963). Читатель может исполь зовать книги Бартлетта (1966), Яглома (1962), Парзена (1962) и Розенблатта (1962).
§7.2. Колмогоров (1933).
§7.3. Лоэв (1963), Хобсон (1907).
§7.4. Дуб (1953).
§7.5. Дуб (1953), Лукач (1960).
§7.6. Акутовиц (1957), Винер (1949), Вольд (1954), Гренандер и Розенблатт (1957), Дуб (1953), Зигмунд (1959), Колмогоров (1941а), (1941b), Лоэв (1963), Парзен (1961а).
§7.7. Андерсон (1959), Диананда (1953), Крамер (1946), Лоэв (1963), Марсалья (1954), Моран (1947), Парзен (1957а).
УПРАЖНЕНИЯ
1. (Разд. 7.2.1) Докажите, что процесс, стационарный в узком смысле и имею щий конечную дисперсию, стационарен в широком смысле.
2. (Разд. 7.2.1) Докажите, что если {yt} и {г/} — два независимых стацио
нарных процесса, то {yt + гД стационарный процесс.
3. |
(Разд*. 7.2.2) Пусть yt = |
(— Vfy, где у — случайная величина. |
a) |
Каким должно быть необходимое и достаточное условие для распределения- |
|
величины у , чтобы процесс {yt} |
был стационарным в узком смысле? |
|
B) |
Каким должно быть необходимое и достаточное условие для распределения^ |
|
величины у , чтобы процесс {yt) был стационарным в широком смысле?
УПРАЖНЕНИЯ |
471 |
Используя эти факты, докажите существование интеграла Римана *= Стилтьеса
п
(iv) |
|
|
|
|
J |
h (Я) dH (X). |
|
|
|
|||
|
|
|
|
|
о |
|
|
|
|
|
|
|
14. (Разд. 7.4.1) |
Пусть |
|
|
|
|
|
|
|
|
|
||
|
|
0 = |
Х0 < Х 1 < |
••• |
< К |
= п, |
|
|||||
|
|
и |
ц |
|
^1» |
• • • » ^п—1^ |
^ |
^П* |
|
|||
|
|
^0 ^ |
^1 ^ |
^1» |
• • *» |
1^ |
^ |
^л* |
|
|||
Пусть |
С (Я), 0 ^ А, ^ |
я ,— случайный процесс с |
некоррелированными |
прираще |
||||||||
ниями и ковариационной функцией Я (Я). Покажите, что |
|
|||||||||||
8 fS |
Л (Я;.) [С (Я,/) - |
С (*.,_,)! - |
2 |
|
h (X) [С (Я/) - |
С (Я ,,)] |
|
|||||
l / = i |
|
|
|
|
/= 1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
= |
2S |
[Л (я;.) - |
h (Х))Г [Н (XD - |
Н (Я /,,)]. |
|
|
|
|
|
|
|
|
|
/=1 |
|
|
|
|
15. (Разд. 7.4.1) |
Пусть |
|
|
|
|
|
|
|
|
|
||
|
|
О = |
А,0< ^ < |
|
< Х 2п = |
тс. |
|
|
||||
|
|
|
п |
|
|
|
|
|
|
|
|
|
|
|
= |
2 |
^ (^2/) |
(^2/) |
^ (^2 (/—1))Ь |
|
|||||
|
|
|
/=1 |
|
|
|
|
|
|
|
|
|
|
|
|
2п |
|
|
|
|
|
|
|
|
|
|
S2n = ^ h ( X l) ( C ( X i ) - C ( X i_ l)]. |
|
|
|||||||||
Покажите, что |
|
1=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
g (5 2rt~ 5 J 2 < |
шах |
[Л (Я2. |
j) - |
h (Я,2.)]2[Я (я) - Я (0)]. |
|
||||||
|
|
|
/= 1... /* |
|
' |
|
|
' |
|
|
||
16.(Разд. 7.4.1) Дайте полное доказательство (21).
17.(Разд. 7.4.1) Покажите, что можно ввести определение стохастического*
интеграла Римана — Стилтьеса, если h (Я) имеет конечное число разрывов и если h (Я) и Я (Я) не имеют общих точек разрыва.
18. (Разд. 7.4.1) Пусть С (Я), 0 < X < я — случайный процесс с некоррели рованными приращениями и ковариационной функцией Я (Я), a k (Я) — ступен чатая функция
k (А,) = |
су, |
a j _ { < |
А, < а/, |
/ = |
1, . . . , п, |
где 0 = а0 < а\ < ... < ап = |
я, |
k (0) = съ |
Допустим, |
что Я (X) |
непрерывна, |
в точках а0, сц, ..., ап. Покажите, что стохастический интеграл Римана — Стилтье» са (определенный, как в упр. 7) есть
472 |
СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПРОЦЕССЫ |
Гл. 7. |
||
19. (Разд. 7.4.1) Пусть h (Я) удовлетворяет неравенству |
|
|||
|
п |
|
|
|
|
J А2 (X) d H (к) < |
со. |
|
|
|
О |
|
|
|
Стохастический |
интеграл Лебега |
Стилтьеса |
определяется как предел |
в сред |
нем величин |
Jя К |
|
|
|
|
(к) dC (к), |
|
||
|
О |
|
|
|
где {hn (Я)} — последовательность ступенчатых функций, такая, что
п
lim f I hn (K) — h (К) |2dH (Я.) = 0.
П-fOOtj
Покажите, что из существования стохастического интеграла Римана Стилтьеса следует существование стохастического интеграла Лебега — Стилтьеса (с вероят ностью 1).
20. (Разд. 7.5.1) Покажите, что неравенство
2I Сг | < оо
г= — оо
является достаточным условием сходимости правой части формулы (2).
|
21. |
(Разд. 7.5.2) Пусть ре10 и ре~10— корни уравнения z2+ ciz-\- с2 = 0, |
|
>и пусть |
|
|
|
|
|
yt = Щ+ |
+ с2^ _ 2, |
Т'де |
= |
0, gp* = а2 и $vtvs = О1 t Ф s. Покажите, что |
|
|
|
а (0) — (1 + |
4р2cos20 + р4) аа, |
|
|
а (1) = — 2р (1 + р2) о2cos 0, |
|
о(2) = р2а2.
22.(Разд. 7.5.3) Покажите, что если yt удовлетворяет стохастическому раз ностному уравнению
|
П (1 —xi(£)yt = ut |
|
(где |х/| < 1), то |
/= 1 |
|
|
|
|
П fl---i£\ |
П (1 —Xlg)yt = и* |
|
/=1 \ |
X/ |
/ /=!+/• |
есть последовательность некоррелированных случайных величин с постоянной дисперсией; если */, / = 1; ..., г,— комплексное число, то его сопряженное зна
чение Xj = х/, i Ф /, входит в число первых г корней.
23. (Разд. 7.5.3) Покажите, что
/ ( А ) - V -------а!(1 — x f)
* 2ял (1П —- 2Xi cos А, + дф *
