ЭКОНОМЕТРИКА и математическая экономика / Эконометрика. Учебник продвинутый (2005)

ρk = A1Gk1 + A2Gk2 = eiβ − e−iβ · dk eikα − eiβ − e−iβ · dk e−ikα =

= dk ei(kα+β) − e−i(kα+β) . eiβ − e−iβ

Таким образом, подтверждается, что автокорреляционную функцию можно записать в форме

ρk = dk sin(kα + β) .

Нахождение автокорреляционной функции AR(p)

с помощью решения конечно-разностного уравнения

Аналогичным образом можно изучать автокорреляционную функцию процесса AR(p) при произвольном p. Запишем уравнение (14.18) с помощью лагового оператора, действующего на k:

где ϕ(L) = 1 − ϕ1L − ϕ2L2 − . . . − ϕpLp. Рассмотрим характеристическое уравнение:

ϕ(z) = 1 − ϕ1z − ϕ2z2 − . . . − ϕpzp = 0.

Пусть λi (i = 1, . . . , p) — корни этого уравнения. Мы будем предполагать, что все они различны. Характеристический многочлен ϕ(z) можно разложить следующим образом:

p

ϕ(z) = −ϕp (λi − z).

i=1

Обозначим через Gi значения, обратные корням характеристического уравнения: Gi = 1 λi . Тогда, учитывая, что λ1· λ2· . . . · λp = −1 ϕp и соответственно

G1· G2· . . . · Gp = −ϕp, имеем:

Из теории конечно-разностных уравнений известно, что если все корни λi

где Ai — некоторые константы, в общем случае комплексные. (Обсуждение решений линейных конечно-разностных уравнений см. в Приложении A.4.)

Проверим, что это действительно решение. Подставим ρk в (14.29):

Другой способ состоит в том, чтобы вычислить ρ1, . . . , ρp−1 из уравнений Юла— Уокера (14.19), а затем составить на основе (14.30) при k = 0, . . . , p − 1 систему линейных уравнений, откуда и найти A1, . . . , Ap.

же для какого-то корня выполнено |λi| < 1, то (при условии, что Ai = 0) соответствующее слагаемое «уходит на бесконечность». Если |λi| = 1, то соответствующее слагаемое не затухает. Из этих рассуждений следует условие стационарности AR(p) — все корни соответствующего характеристического уравнения по модулю должны быть больше единицы.

стом k экспоненциально, коль скоро |λi| > 1. Если же есть пара комплексносопряженных корней λi = G−i 1, λj = G−j 1 , то соответствующие коэффициенты Ai, Aj также будут сопряженными и в составе автокорреляционной функции появится экспоненциально затухающая синусоида (см. вывод автокорреляционной функции процесса Юла).

Таким образом, из соотношения (14.30) следует, что в общем случае автокорреляционная функция стационарного процесса авторегрессии является комбинацией затухающих экспонент и затухающих синусоид.

Итак, мы вывели общий вид автокорреляционной функции стационарного процесса авторегрессии. Теоретически выборочная автокорреляционная функция может служить инструментом для распознавания авторегрессионого процесса. На практике же для коротких рядов различительная сила автокорреляционной функции не очень высока. Однако часто изучение автокорреляционной функции является хорошим заделом исследования системы.

Кроме автокорреляционной функции важным инструментом для распознавания типа процесса является его спектр.

Спектр стационарного процесса авторегрессии

В главе 13 мы определили спектральную плотность стационарного процесса как косинус-преобразование Фурье автоковариационной функции (13.29):

Из этой общей формулы найдем спектральную плотность для стационарного процесса Маркова ( |ϕ1| < 1). Автоковариационная функция этого процесса имеет вид:

Подставляя эти автоковариации в формулу (14.31), получим

Воспользовавшись представлением косинуса через комплексную экспоненту (формулами Эйлера) — 2 cos 2πf k = ei2πf k + e−i2πf k , после несложных преобра-

Произведение знаменателей двух дробей можно записать в разных формах:

Таким образом, спектральная плотность марковского процесса равна

2σ2

p(f ) = 1 − 2ϕ1 cosε2πf + ϕ21 ,

или, в другой форме,

2σ2

p(f ) = ε 2 .

1 − ϕ1e−i2πf

Ошибку εt авторегрессии произвольного порядка AR(p) можно выразить в виде линейного фильтра от yt:

p

εt = xt − ϕj xt−j ,

j=1

поэтому для вычисления спектра авторегрессионного процесса можно воспользоваться общей формулой (14.4), характеризующей изменение спектра при применении линейного фильтра.

Спектральная плотность белого шума εt равна 2σε2 . Применение формулы (14.4) дает

j=1

откуда

В частном случае процесса Юла формула спектральной плотности имеет вид:

Разложение Вольда и условия стационарности процессов авторегрессии

Как уже говорилось, модель AR(p) можно записать в виде модели линейного фильтра:

∞

xt = ψiεt−i = ψ(L)εt,

i=0

где ψ(L) = ϕ−1(L). Если процесс авторегрессии стационарен, то это разложение Вольда такого процесса.

Найдем коэффициенты модели линейного фильтра ψi процесса авторегрессии. Для этого в уравнении

приравняем коэффициенты при одинаковых степенях L. Получим следующие уравнения:

где ψ0 = 1 и ψi = 0 при i < 0.

Это разностное уравнение, которое фактически совпадает с уравнением для автокорреляций (14.18). Соответственно, если все корни характеристического уравнения различны, то общее решение такого уравнения такое же, как указано в (14.30), т.е.

ψi = B1Gi1 + B2Gi2 + . . . + BpGip, i > −p,

где Bi — некоторые константы. Коэффициенты Bi можно вычислить, исходя из известных значений ψi при i 0.

Очевидно, что если |Gj | < 1 j, то все слагаемые здесь экспоненциально затухают, и поэтому ряд, составленный из коэффициентов ψi сходится абсолютно:

∞

|ψi| < ∞.

i=0

Таким образом, указанное условие гарантирует, что процесс авторегрессии является стационарным. Это дополняет вывод, полученный при анализе автокорреляционной функции.

Итак, условием стационарности процесса AR(p) является то, что корни λi характеристического уравнения лежат вне единичного круга на комплексной плоскости.

Для процесса AR(2) имеем два уравнения для коэффициентов B1, B2 :

B1 + B2 = ψ−1 = 0, G1 G2

B1 + B2 = ψ0 = 1,

Оценивание авторегрессий

Термин авторегрессия для обозначения модели (14.7) используется потому, что она фактически представляет собой модель регрессии, в которой регрессорами служат лаги изучаемого ряда xt. По определению авторегрессии ошибки εt являются белым шумом и некоррелированы с лагами xt. Таким образом, выполнены все основные предположения регрессионного анализа: ошибки имеют нулевое математическое ожидание, некоррелированы с регрессорами, не автокоррелированы и гомоскедастичны. Следовательно, модель (14.7) можно оценивать с помощью обычного метода наименьших квадратов.

Отметим, что при таком оценивании p начальных наблюдений теряются. Пусть имеется ряд x1, . . . , xT . Тогда регрессия в матричной записи будет иметь следующий вид:

= (ϕ1, ϕ2, . . . , ϕp) , а матрицы M и m, как нетрудно увидеть, фактически состоят из выборочных автоковариаций ряда xt. Отличие от стандартных выборочных автоковариаций состоит в том, что используются не все наблюдения.

Можно рассматривать данную регрессию как решение уравнений Юла— Уокера для автоковариаций (14.21) (или, что эквивалентно, уравнений для автокорреляций (14.19)), где теоретические автоковариации заменяются выборочными.

Действительно, уравнения Юла—Уокера (14.21) без первой строки записываются в виде

γ = Γϕ,

где

откуда

ϕ = Γ−1γ.

Замена теоретических значений автоковариаций γk выборочными автоковариациями ck позволяет найти параметры процесса авторегрессии. Ясно, что при этом можно использовать и стандартные формулы выборочных автоковариаций. Тем самым, мы получаем еще один из возможных методов оценивания авторегрессий — метод моментов.

Частная автокорреляционная функция

Как мы видели, автокорреляционная функция процесса авторегрессии состоит из экспоненциально затухающих компонент. Такая характеристика не очень наглядна, поскольку соседние автокорреляции сильно связаны друг с другом, и, кроме того, для полного описания свойств ряда используется бесконечная последовательность автокорреляций.

Более наглядными характеристиками авторегрессии являются частные автокорреляции. Частная автокорреляция измеряет «чистую» корреляцию между уровнями временного ряда xt и xt−k при исключении опосредованного влияния промежуточных уровней ряда. Такой показатель корреляции между элементами ряда более информативен.

Пусть {xt} — произвольный стационарный ряд (не обязательно авторегрессия) и ρj — его автокорреляции. Применим к нему уравнения Юла—Уокера (14.19), как если бы процесс представлял собой авторегрессию k-го порядка, и найдем по автокорреляциям коэффициенты. Если обозначить j-й коэффициент уравнения авторегрессии порядка k через ϕkj , то уравнения Юла—Уокера

принимают вид:

Частная автокорреляция k-го порядка определяется как величина ϕkk , полученная из этих уравнений.

Решение этих уравнений соответственно для k = 1, 2, 3 дает следующие результаты (здесь используется правило Крамера):

Частная автокорреляционная функция рассматривается как функция частной автокорреляции от задержки k, где k = 1, 2, . . ..

Для процесса авторегрессии порядка p частная автокорреляционная функция {ϕkk } будет ненулевой для k p и равна нулю для k > p, то есть обрывается на задержке p.

Значение выборочного частного коэффициента автокорреляции ϕkk вычисляется как МНК-оценка последнего коэффициента в уравнении авторегрессии AR(k).

Частная автокорреляционная функция может оказаться полезной в решении задачи идентификации модели временного ряда: если она быстро затухает, то это авторегрессия, причем ее порядок следует выбрать по последнему большому значению частной автокорреляционной функции.

14.4. Процессы скользящего среднего

Другой частный случай модели линейного фильтра, широко распространенный в анализе временных рядов, — модель скользящего среднего, когда xt линейно зависит от конечного числа q предыдущих значений ε:

Модель скользящего среднего q-го порядка обозначают MA(q) (от английского moving average).

Данную модель можно записать и более сжато:

Легко видеть, что процесс MA(q) является стационарным без каких-либо ограничений на параметры θj .

Действительно, математическое ожидание процесса

E(xt) = 0,

а дисперсия

γ0 = (1 + θ12 + θ22 + . . . + θq2)σε2,

т.е. равна дисперсии белого шума, умноженной на конечную величину (1 + θ12 + + θ22 + . . . + θq2).

Остальные моменты второго порядка (γk , ρk ) также от времени не зависят.

Автоковариационная функция и спектр процесса MA(q)

Автоковариационная функция MA(q)

В частном случае для MA(1) имеем:

γ0 = (1 + θ12)σε2,