книги из ГПНТБ / Хеннан, Э. Многомерные временные ряды

220 Гл. I I I . Прогнозирование и фильтрация случайных процессов

6. Вывести рекуррентные формулы, приведенные перед теоремой 10', кото­

где hд (z) аналитична.

Часть II

СТАТИСТИЧЕСКИЕ ВЫВОДЫ

Г л а в а I V

Законы больших чисел. Центральная предельная теорема

і. ВВЕДЕНИЕ

Сэтого момента мы начинаем заниматься статистическими проблема­ ми анализа временных рядов. Это означает, что мы будем заниматься проблемами, которые, как мы надеемся, достаточно близки к реаль­ ному миру. Излишне говорить, что при этом неизбеяшы некоторые компромиссы. С одной стороны, нам придется использовать заведомо неточные модели реального мира, основанные в лучшем случае на простейших формах отклонений от стационарности. С другой сторо­

ны, мы не сможем оставаться на прежнем уровне общности, так как бессмысленно, например, рассматривать статистические проблемы, основываясь только на предположении интегрируемости / (Я). (С этой точки зрения некоторые результаты первой части являются излишне общими.) Это не означает, что допустимо какое-либо ослаб­ ление математической строгости, просто нам придется наложить некоторые дополнительные ограничения, которые, хотя и жестки с математической точки зрения, не являются таковыми, как мы надеемся, с практической точки зрения.'

Мы почти полностью ограничим нашу статистическую теорию случаем дискретного времени. Это ни в коей мере не является необ­ ходимым, однако представляется целесообразным, так как если бы мы этого не сделали, то потребовалось бы слишком много места для ясного изложения. Кроме того, почти все способы анализа времен­ ных рядов реализуются теперь на вычислительных машинах. В таких случаях дискретизация непрерывных данных необходима, и дискрет­ ное время отвечает существу дела. Это, конечно, не означает, что изучение в предыдущих главах процессов с непрерывным временем было ненужным, ибо обычно в основе анализируемых данных лежат непрерывные явления.

Мы не собираемся давать подробные инструкции, как следует производить те или иные расчеты (хотя часто будем обсуждать вычис­ лительные проблемы и подробности вычислений).

Поскольку мы будем иметь дело с проблемами реального мира, то мы постараемся, где это возможно, снизить математический уро­ вень изложения по сравнению с первой частью, с тем чтобы вторая часть была доступна более широкому кругу читателей. Этому спо­ собствует ограничение общности, о котором говорилось выше, а такяш наше соглашение рассматривать дискретное время. Кроме того, мы несколько замедлим темп изложения.

2. Эргодическал теория для процессов, стационарных в узком смысле 225

Т е о р е м а 1. Если х (п) — стационарный в узком смысле процесс, причем Е {| Xj (п) |} < оо, / = 1, . . р, то существует

вектор X инвариантных случайных величин, для которых Е {| Xj |} < < оо и

lim xN --- X п. н.,

Лт—>со

Е (х (п)) = Е (х).

Единственный минус этого факта в том, что х не обязан быть постоянным с вероятностью 1. Очевидно, что это требование будет выполнено, если инвариантными случайными величинами являются только постоянные с вероятностью 1, или, что то же самое, если всякое множество S , такое, что S = TS (с точностью до множества нулевой вероятности), имеет вероятность 0 или 1. В этом случае процесс X (п) называется эргодическим. (Такой процесс и оператор сдвига Т иногда называются также «метрически транзитивными».)

Свойство эргодичности не может быть установлено по наблюде­ ниям за единственной траекторией. Это можно показать на примере

Однако на основании одной траектории нельзя судить, является ли

стремится к нулю, когда Хь Х2 приближаются к Х0. Отсюда

Tz (dX0) = exp (—iX0) z (dX0)

и I z {dX0) I2 инвариантна, что и утверждалось. В гауссовском случае отсутствие скачков в спектре также и достаточно для эргодичности х). Несколько обобщая, имеем следующий результат. Рассмотрим про­ цесс

оо

J) Доказательства результатов, приводимых в атом абзаце, читатель может найти в книге Розанова [1963].

15 э. Хешіан

226 Гл. IV . Законы больших чисел. Центральная предельная теорема

исключает гауссовский случай.) Таким образом, случайность входит в X (п) только через фазы колебаний. Во-вторых, если S — любое конечное подмножество Х }-, такое, что для некоторых целых чисел n i f

где ф и. н. постоянна. Необходимость этого условия вновь довольно

Следующее условие, более сильное, чем эргодичность, смысл

с перемешиванием. Чтобы показать, что перемешивание влечет за собой эргодичность, возьмем в качестве А = В инвариантное собы­ тие; тогда получаем Р (А)2 = Р (А), откуда Р (А) — 0 или 1. Грубо говоря, если события, определяемые значениями х (п), сильно раз­ деленными во времени, почти независимы, то выборочное среднее с вероятностью 1 сходится к среднему значению процесса. Более сильным условием, чем (2.1), является «условие сильного перемеши­ вания», которое мы сейчас введем. Рассмотрим все события (т. е. все множества из Л), определяемые только значениями х (п) при п ^ р.

положительная функция g от целочисленного аргумента, такая, что

Тогда говорят, что х (п) удовлетворяет условию сильного перемеши­ вания. Теперь мы утверждаем, что события, разделенные во времени

228 Гл. IV . Законы больших чисел. Центральная предельная теорема

Если X (п) — процесс с перемешиванием, то любой новый процесс, определенный соотношением

уЦп. со) = / (Т~па).

где / — векторнозначная измеримая функция на (й, А , Р), также будет процессом с перемешиванием. В самом деле, если А и В — множества вида

вие (2.1) выполняется для класса измеримых множеств J-.v, порож­

что последовательность независимых, одинаково распределенных случайных векторов е (п) с нулевым средним и конечной матрицей

то X (га) — также процесс с перемешиванием и, следовательно, эргодичен. Процессы вида (2.3) иногда называются «линейными». Мы, однако, будем использовать этот термин в более узком смысле. (Мы знаем, что если процесс х (п) гауссов с абсолютно непрерывным спектром, то он может быть представлен в виде (2.3).)

Т е о р е м а 3. Если х (га) дается соотношением (2.3), где е (га) независимы и одинаково распределены, то х (п) — процесс с переме­ шиванием и, следовательно, эргодичен.

3.ЭРГОДІІЧЕСКАЯ ТЕОРИЯ ДЛЯ ПРОЦЕССОВ, СТАЦИОНАРНЫХ

ВШИРОКОМ СМЫСЛЕ

Целью настоящего параграфа является доказательство ряда теорем, аналогичных теоремам предыдущего параграфа, однако использую­ щих, насколько это возможно, лишь предположения относительно моментов второго порядка. Мы начнем с теорем, касающихся средних значений, затем модифицируем их применительно к ковариациям и в заключение обсудим некоторые статистики, которые служат исходными элементами при оценивании спектра и имеют важное значение во многих статистических проблемах.

230 Гл. IV . Законы больших чисел. Центральная предельная теорема

Из теоремы 4. сразу следует, что если х (п) — стационарный

процесс со средним р, то вектор выборочных средних x N сходится в среднеквадратичном к р тогда и только тогда, когда спектр процесса не имеет скачка в нуле. Это утверждение, часто называемое, в отли­ чие от «индивидуальной эргоднческой теоремы» предыдущего пара­ графа, «статистической эргоднческой теоремой», принадлежит Дж. фон Непмаиу.

Мы знаем, что если х (п) стационарен в узком смысле, то x N имеет

предел почти наверное. Последняя теорема утверждает, что x N сходится в среднеквадратичном к случайной величине z (0) — z (0—). Так как из сходимости в среднеквадратичном и сходимости почти

наверное вытекает сходимость по вероятности, то х к почти наверное должно сходиться именно к z (0) — z (0—).

С л е д с т в и е 1. Если х (п) — стационарный в узком смысле

(а также в широком смысле) процесс с нулевым средним, то х N схо­ дится п. н. к 0 тогда и только тогда, когда спектр процесса не имеет скачка в нуле.

Совершенно аналогичные рассуждения, примененные к величинам

Л'

-jr 2 х («)еіп%.

показывают, что они сходятся в среднеквадратичном и и. н. к слу­ чайной величине z (X) — z (X—); при этом они сходятся к нулю тогда

итолько тогда, когда спектр процесса не имеет скачка в точке X. Сейчас мы докажем теорему Дуба [1953], которая дает условия,

при которых среднеквадратичная сходимость может быть заменена сходимостью п. н. для процессов, стационарных в широком смысле.

то xN сходится к нулю с вероятностью 1.

Очевидно, эту теорему достаточно доказать для одномерного про­ цесса. В этом случае левая часть формулы (3.1) есть дисперсия х^. Найдем ß > 1, такое, что ßa >-1. Тогда при N >- имеем Е (х%) ЦІ Если е > 0 и N (М) — наименьшее целое, большее или