17-11-2015_11-58-24 / Эконометрика (электронный конспект)
.pdf6. Временные ряды
Временной ряд представляет собой последовательность значений какого-либо фактора, взятых в разные моменты времени. Например, y1, y2 , , yn – выпуск предприятия за первый, второй и т.д. годы. В этом случае, индекс t соответствует временному периоду для соответствующего показателя.
Часто для исследования временных рядов используются лагированные (лаговые) переменные. Например, yt выпуск предприятия в год t может зависеть не только от инвести-
ций xt в этот год, но и от инвестиций в предыдущие годы:
yt = α +β0 xt +β1xt −1 |
+ +βm xt −m + εt . |
(1) |
Отметим, что в динамических моделях в качестве независимых переменных могут |
||
также использоваться лагированные значения зависимой переменной. Например, |
||
yt = α +β1xt +β2 xt −1 |
+β3 yt −1 + εt |
(2) |
Динамические модели вида (1), в которых в качестве объясняющих переменных не используются лагированные значения зависимой переменной, называются моделями с распределенными лагами. Модели вида (2) – авторегрессионными моделями.
Модели с распределенными лагами
Модели с распределенными лагами (с конечным числом лагов):
yt = α +β0 xt +β1xt −1 + +βm xt −m + εt |
(3) |
являются частным случаем моделей множественной линейной регрессии, рассмотренных нами ранее. Поэтому все методы, разработанные для моделей множественной линейной регрессии, пригодны и для моделей с распределенными лагами (прежде всего, МНК и ОМНК).
Отметим, что в качестве независимых переменных в модели (3) могут быть использованы лагированные значения нескольких (разных) показателей.
Для определения количества лагов m используется метод последовательного увеличения количества лагов. По данному методу модели (3) рекомендуется оценивать с последовательно увеличивающимся количеством лагов. Признаков завершения процедуры может быть несколько:
−При добавлении нового лага k какой-либо коэффициент регрессии меняет знак. (Тогда в уравнении регрессии оставляют переменные, при которых коэффициенты знак не поменяли.)
71
−При добавлении нового лага k соответствующий коэффициент βk регрессии становится статистически незначимым. (Тогда выбирается модель с количеством лагов k −1.)
Модель геометрических лагов
В этой модели предполагается, что количество лагов бесконечно:
∞ |
|
yt = α + ∑βk xt −k + εt , |
(4) |
k=0
акоэффициенты βk убывают в геометрической прогрессии:
βk = βλk , k ≥ 0 (5)
где 0 < λ <1 – константа, характеризующая скорость убывания коэффициентов регрессии. Подставив (5) в (4), получим:
∞ |
|
yt = α +β∑λk xt −k + εt |
(6) |
k =0 |
|
Для оценивания параметров модели (6) используется следующая методика. |
|
Запишем уравнение (6) для периода t −1: |
|
∞ |
|
yt −1 = α +β∑λk xt −k −1 + εt −1 |
(7) |
k =0 |
|
Несложно показать, что уравнение (6) можно записать в виде: |
|
∞ |
|
yt = α +βxt +βλ∑λk xt −k −1 + εt |
(8) |
k =0 |
|
В силу (7), (8): |
|
yt −λyt −1 = α(1−λ)+βxt + vt |
(9) |
где |
|
vt = εt −λεt−1 |
(10) |
Из (9) получим: |
|
yt = α(1−λ)+ λyt −1 +βxt + vt |
(11) |
Преобразование уравнения (4) в уравнение (11) называется преобразованием Койка. Согласно излагаемой методике уравнение (11) используется для оценки параметров модели и построения прогноза.
Следует отметить, что уравнение (11) содержит, во-первых, лагированное значение yt −1 за-
висимой переменной и, во-вторых, ошибки vt , не удовлетворяющие (в силу (10)) условиям
72
классической модели линейной регрессии. Поэтому МНК-оценки коэффициентов регрессии уравнения (11) являются смещенными и несостоятельными.
Для получения состоятельных оценок можно применять метод инструментальных переменных (взяв, например, xt −1 в качестве инструмента для yt −1 ) или воспользоваться методом максимального правдоподобия.
Модели авторегрессии
Модель AR(1)
yt = β0 +β1 yt −1 + εt , t =1,n (12)
где εt независимые нормально распределенные случайные величины с нулевым математиче-
ским ожиданием и постоянной дисперсией σ2 :
E (εt )= 0 , |
var(εt )= σ2 , cov(εt ,εs )= 0 . |
|
(13) |
Будем считать, что случайный процесс yt |
является стационарным (в слабом смысле), т.е. |
||
E (yt )= m , |
var(yt )= γ0 , cov(yt , yt −k )= γk |
t |
(14) |
(эти величины не зависят от t ). |
|
|
|
Отметим, что в соответствии с (12), (13): |
|
|
|
cov(εt , yt −k )= 0 при k ≥1 |
|
(15) |
Из (12) в силу (13) и (14):
E (yt )= E (β0 +β1 yt −1 + εt )= β0 +β1m
Следовательно,
β0 +β1m = m |
(16) |
|||
Отсюда, |
|
|||
m = |
β0 |
|
(17) |
|
1−β |
||||
|
|
|||
|
1 |
|
|
var(yt )= var(β0 +β1 yt −1 + εt )= β12 var(yt −1 )+ σ2 = β12γ0 + σ2
Следовательно,
γ |
0 |
= β2γ |
0 |
+ σ2 |
(18) |
||
|
1 |
|
|
|
|||
Отсюда: |
|
|
|
||||
γ0 |
= |
σ2 |
|
|
(19) |
||
1−β2 |
|
||||||
|
|
|
|
|
1 |
|
|
Поскольку дисперсия всегда неотрицательна, из формулы (19) следует, что условие:
73
|
β1 |
|
<1 |
(20) |
|
|
является необходимым условием стационарности процесса yt .
С другой стороны, можно доказать, что при выполнении условия (20) всегда можно построить стационарный процесс yt , для которого имеет место равенство (12) и выполнены усло-
вия (13).
В силу (1)-(4):
cov(yt , yt −1 )= cov(β0 +β1 yt −1 + εt , yt −1 )= β1 var(yt −1 )= β1γ0
Следовательно, |
|
γ1 = γ0β1 |
(20) |
В силу (12)-(15): |
|
cov(yt , yt −k )= cov(β0 +β1 yt −1 + εt , yt −k )= β1 cov(yt −1, yt −k )= β1γk −1
Итак, |
|
||
γk |
= γk −1β1 |
(21) |
|
Из (20), (21) следует, что |
|
||
γ |
k |
= γ βk |
(22) |
|
0 1 |
|
Функция, описывающая зависимость cov(yt , yt −k ) от k , называется ковариационной функ-
цией (стационарного) случайного процесса yt .
Таким образом, ковариационная функция процесса yt определяется формулой (22).
Напомним, что коэффициент корреляции ρk = ρ(yt , yt −k ) находится по формуле:
ρ(yt , yt −k )= |
|
cov(yt , yt −k ) |
(23) |
||||
|
|
|
|||||
var(yt )var(yt −k ) |
|||||||
|
|
|
|
|
|||
Следовательно, в силу равенств (14), (22): |
|
||||||
ρ |
k |
= βk |
(24) |
|
|||
|
1 |
|
|
|
|
Функция, описывающая зависимость коэффициента корреляции ρ(yt , yt −k ) от k , называется,
автокорреляционной функцией (стационарного) случайного процесса yt .
Таким образом, автокорреляционная функция процесса yt определяется формулой (24).
Оценивание параметров
Выборочная ковариация gk = g (yt , yt −k ) вычисляется по формуле:
74
|
|
|
|
|
1 |
|
n |
|
|
|
g (yt , yt −k |
)= |
|
|
∑(yt − y )(yt −k − y ), |
(25) |
|||||
|
|
|
||||||||
|
|
|
|
n − k −1t =k +1 |
|
|
||||
где y = |
1 |
n |
y |
– среднее значение показателя |
y . |
|||||
n ∑t =1 |
||||||||||
|
|
t |
|
|
t |
|||||
|
|
|
|
|
|
|
|
|||
В частности, выборочная дисперсия: |
|
|||||||||
|
1 |
|
n |
|
|
|
|
|
|
|
g0 = |
|
∑(yt − y )2 |
|
(26) |
|
|||||
|
|
|
|
|||||||
|
n −1 t =1 |
|
|
|
|
|
|
|||
Выборочные ковариации gk |
являются оценками (теоретических) ковариаций γk . |
В соответствии с формулами (23), (25), (26) выборочный коэффициент корреляции
rk = r (yt , yt −k ) |
|
вычисляется следующим образом: |
|
|||||||
|
|
|
|
|
1 |
|
n |
|
||
|
|
|
|
|
|
∑(yt − y )(yt −k − y ) |
|
|||
|
|
|
n |
|
|
|
|
|||
r (yt , yt −k )= |
− k −1t =k +1 |
(27) |
||||||||
|
|
|
|
1 |
n |
|
||||
|
|
|
|
|
|
|
∑(yt − y )2 |
|
||
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
n −1 t =1 |
|
|||
где y = |
1 |
n |
y |
– среднее значение показателя y . |
|
|||||
|
|
|
||||||||
|
n ∑t =1 |
t |
|
|
|
|
t |
|
||
|
|
|
|
|
|
|
|
Автокорреляционная функция процесса yt оценивается с помощью формулы (25).
В соответствии с формулой (24): |
|
β1 = ρ(yt , yt −1 ) |
(28). |
Следовательно, в качестве оценки b1 |
коэффициента β1 можно взять r (yt , yt −1 ): |
b1 = r (yt , yt −1 ) |
(29) |
Поскольку E (y )= E (yt ), в качестве оценки параметра m = E (yt ) можно взять y .
Из формулы (17):
β0 = (1−β1 )m |
(30) |
|
где m = E (yt ). |
|
|
Следовательно, в качестве оценки b0 |
параметра β0 |
можно взять (1−b1 )y : |
b0 = (1−b1 )y |
(31) |
|
Из (18): |
|
|
σ2 = (1−β12 )γ0 |
(32) |
|
Следовательно, в качестве оценки s2 |
параметра σ2 |
можно взять (1−b12 )g0 : |
75
s2 = (1−b12 )g0 |
(33) |
Прогнозирование Прогнозирование на один период вперед
В соответствии с формулой (12): |
|
yn+1 = β0 +β1 yn + εn+1 |
(34) |
Следовательно, |
|
E (yn+1 | y1, , yn )= β0 +β1 yn
В силу формулы (35) в качестве прогноза yˆn+1
yˆn+1 = b0 +b1 yn |
(36) |
(35)
можно взять следующее значение:
Прогнозирование на несколько периодов вперед
В соответствии с формулой (12):
yn+k = β0 +β1 yn+k −1 + εn+k
Следовательно,
E (yn+k | y1, , yn )= β0 +β1E (yn+k −1 | y1, , yn )
В силу формулы (38) в качестве прогноза yˆn+k
(37)
(38)
можно взять следующее значение:
yˆn+k = b0 +b1 yˆn+k −1 . |
(39) |
С помощью формул (36), (39) рекуррентным образом можно построить прогноз на любое количество периодов вперед.
Модель AR( p)
p |
|
|
yt = β0 + ∑βi yt −i + εt , |
t =1,n |
(40) |
i=1
где εt независимые нормально распределенные случайные величины с нулевым математиче-
ским ожиданием и постоянной дисперсией σ2 : |
|
E (εt )= 0 , var(εt )= σ2 , cov(εt ,εs )= 0 . |
(41) |
Будем считать, что случайный процесс yt является стационарным (в слабом смысле), т.е.
E (yt )= m , var(yt )= γ0 , cov(yt , yt −k )= γk |
t |
(42) |
(эти величины не зависят от t ). |
|
|
Отметим, что в соответствии с (41), (42): |
|
|
cov(εt , yt −k )= 0 при k ≥1 |
|
(43) |
76
Из (40) в силу (41) и (42):
|
|
p |
|
p |
|
E (yt )= E β0 + |
∑βi yt −i + εt = β0 + m∑βi |
||||
|
|
i=1 |
|
i=1 |
|
Следовательно, |
|
|
|
||
|
p |
|
|
|
|
β0 + m∑βi = m |
|
|
(44) |
||
|
i=1 |
|
|
|
|
Отсюда, |
|
|
|
||
m = |
β0 |
|
|
(45) |
|
p |
|
|
|
1− ∑βi
i=1
var(yt )= E (yt |
|
|
|
p |
− m)+ εt (yt |
|
|
|
p |
|
||||||
− m)2 |
= E |
∑βi (yt −i |
− m) |
= E ∑βi (yt −i − m)(yt − m) + |
||||||||||||
+E ε |
y |
− m |
|
|
i=1 |
ε β |
+ |
|
|
|
|
|
i=1 |
|
||
= β cov y |
, y + E |
p |
β y +ε − m = |
(46) |
||||||||||||
|
t ( t |
|
p |
|
( t −i t ) |
|
|
|
|
|
|
|
|
|
||
|
) ∑ i |
|
t |
0 |
∑ i |
t −i |
|
t |
|
|
||||||
|
|
|
i=1 |
|
|
|
|
|
|
i=1 |
|
|
|
|
|
|
p
=∑βi γi + σ2
i=1
Следовательно,
p |
|
γ0 = ∑βi γi + σ2 |
(47) |
i=1
Найдем ковариацию cov(yt , yt −k ).
|
|
|
|
|
|
|
|
|
|
p |
|
p |
p |
|
||
cov(yt , yt −k )= cov |
β0 |
+ ∑βi yt −i + εt , yt −k |
= ∑βi cov(yt −i , yt −k )= ∑βi γ |
|
k −i |
|
||||||||||
|
|
|||||||||||||||
|
|
|
|
|
|
|
|
|
|
i=1 |
|
i=1 |
i=1 |
|
|
|
Итак, |
|
|
|
|
|
|
|
|
||||||||
p |
|
|
|
|
|
|
|
|
||||||||
γk = ∑βi γ |
|
k −i |
|
|
|
|
|
|
|
(48) |
|
|
|
|
||
|
|
|
|
|
|
|
|
|
||||||||
i=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Из (48) следует, что: |
|
|
|
|
|
|
|
|||||||||
p |
|
|
|
|
|
|
|
|
||||||||
ρk = ∑βiρ |
|
k −i |
|
|
|
|
|
(49) |
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
||||||||
i=1 |
|
|
|
|
|
|
|
|
|
|
|
|
Оценивание параметров модели AR( p)
Выборочные коэффициенты корреляции rk вычисляются по формуле (27).
77
Заменив теоретические коэффициенты корреляции ρk на выборочные ρk получим систему линейных уравнений относительно оценок bi коэффициентов βi :
p |
|
|
|
|
|
|
|
|
|
||||
∑bir |
|
|
|
|
= rk , |
k = |
|
|
|
|
(50) |
|
|
|
k −i |
|
|
1, p |
|
|
|
|
|||||
|
|
|
|
|
|
||||||||
i=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
Уравнения (50) называются уравнениями Юла-Уокера. |
|
||||||||||||
Систему (50) можно записать в матричном виде: |
|
||||||||||||
R b = r |
|
|
|
|
|
|
(51) |
|
|||||
где |
|
|
|
|
|
|
|
|
|
||||
1 |
r1 |
rp−1 |
|
b |
|
r |
|
|
|||||
r |
|
|
|
|
1 |
|
1 |
|
|
||||
1 |
r |
, |
b |
|
r |
|
(52) |
||||||
R = 1 |
|
p−2 |
|
b = 2 |
, |
r = 2 |
|
||||||
|
|
|
|
|
|
|
|
|
|
||||
....................... |
|
|
|
||||||||||
|
|
|
|
|
|
||||||||
|
r |
1 |
|
|
|
|
|
||||||
r |
|
|
bp |
|
rp |
|
|||||||
p−1 |
p−1 |
|
|
|
|
|
|
|
|
||||
Из (51) следует, что: |
|
|
|
|
|
|
|||||||
b = R−1r |
|
|
|
|
|
|
(53) |
|
Итак, коэффициенты регрессии βi , i =1, p могут быть оценены по формуле (53). В силу (44):
β0 |
|
p |
|
(54) |
= 1− ∑βi m |
||||
|
|
i=1 |
|
|
Следовательно, в качестве оценки b0 параметра β0 можно взять:
b0 |
|
p |
|
= 1− ∑bi y |
|||
|
|
i=1 |
|
Из (47):
p
γ0 = γ0 − ∑βi γi
i=1
(55)
(56)
Следовательно, в качестве оценки s2 |
параметра σ2 можно взять: |
p |
|
s2 = g0 −∑bi gi |
(57) |
i=1 |
|
Прогнозирование на один период вперед |
|
В соответствии с формулой (40): |
|
p |
|
yn+1 = β0 + ∑βi yn−i+1 + εn+1 |
(58) |
i=1
Следовательно,
78
p |
|
E (yn+1 | yn , yn− p+1 )= β0 + ∑βi yn−i+1 |
(59) |
i=1
В силу формулы (59) в качестве прогноза yˆt +1 можно взять следующее значение:
p |
|
|
yˆn+1 = b0 + ∑bi yn−i+1 |
(60) |
|
i=1 |
|
|
Прогнозирование на несколько периодов вперед |
|
|
В соответствии с формулой (40): |
|
|
p |
|
|
yn+k = β0 + ∑βi yn+k −i + εn+k |
(61) |
|
i=1 |
|
|
Следовательно, |
|
|
k −1 |
p |
|
E (yn+k | y1, , yn )= β0 + ∑βi E (yn+k −i | y1, , yn )+ ∑βi yn+k −i |
(61’) |
|
i=1 |
i=k |
|
В силу (61’) прогнозное значение yˆn+k формуле:
k −1 |
p |
yˆn+k = b0 +∑bi yˆn+k −i +∑bi yn+k −i . |
|
i=1 |
i=k |
можно искать рекуррентным образом по следующей
(62)
Определение порядка авторегрессии
Доказано, что при k > p все значения частной автокорреляции ρ(yt +k , yt | yt +1, , yt +k −1 ) рав-
ны нулю.
Порядок авторегрессии равен значению p при котором:
ρ(yt + p , yt | yt +1, , yt + p−1 )≠ 0 |
(63) |
и |
|
ρ(yt +k , yt | yt +1, , yt +k −1 )= 0 k > p |
(64) |
С помощью реальных данных можно определить выборочный коэффициент частной автокорреляции.
Выборочный частный коэффициент автокорреляции находится в соответствии с изложенным выше методом (см. тему 5), а именно:
Построим регрессии yt |
и yt +k на yt +1, yt +2 , , yt +k −1 : |
|
k −1 |
|
|
yt = β′0 + ∑β′i |
yt +i + ε′t |
(65) |
i=1
79
k −1 |
|
yt +k = β′′0 + ∑β′′i yt +i + ε′′t |
(66) |
i=1
где β′i и β′′i коэффициенты регрессии, ε′t и ε′′t – случайные отклонения.
Найдем МНК-оценки βˆ′ и βˆ′′i коэффициентов β′i и β′′i
С помощью МНК-оценок βˆ′ и βˆ′′i построим прогнозные значения:
yˆt′ |
ˆ |
|
k −1 ˆ |
yt +i , |
(67) |
= β′0 |
+ ∑β′i |
||||
|
|
|
i=1 |
|
|
|
|
ˆ |
k −1 |
ˆ |
(68) |
yˆt′′+k = β′′0 |
+ ∑β′′i yt +i |
i=1
Спомощью найденных прогнозных значений найдем остатки регрессий:
et′ = yt − yˆt′, |
(69) |
et′′+k = yt +k − yˆt′′+k |
(70) |
Частный коэффициент корреляции между yt и yt +k без учета влияния значений |
yt +1, yt +2 , , yt +k −1 |
– это коэффициент парной корреляции между остатками et′ и et′′+k : |
||||||||
r (yt , yt +k | yt +1, yt +2 , , yt +k −1 )= r (et′,et′′+k ), |
(71) |
||||||||
т.е. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
n−k |
+1 |
|
|
|
|
|
|
|
|
′ ′′ |
|
||
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
etet |
|
|
r (yt , yt −k )= |
|
n − 2k +1 ∑t =k |
(72) |
||||||
|
|
|
|
|
|
|
|
||
1 |
|
|
n−k +1 |
|
n |
||||
|
|
|
|
∑(et′)2 |
∑(et′′)2 |
|
|||
|
n − k |
|
|||||||
|
t =1 |
|
t =k |
|
|||||
Условия стационарности |
|
|
|
||||||
Характеристическое уравнение: |
|
||||||||
p |
|
|
|
|
|
|
|
|
|
1− ∑βk zk = 0 |
|
|
|
|
|
|
|
(73) |
k =0
Для стационарности процесса AR( p) необходимо и достаточно, чтобы все корни уравнения (73) (в том числе комплексные) лежали вне единичного круга, т.е. превосходили по модулю единицу.
Для исследования ряда yt |
на стационарность используется тест Дики-Фуллера. |
||
Рассмотрим модель AR(1) |
|
|
|
yt = β0 +β1 yt −1 + εt , |
t = |
|
(74) |
1,n |
80