Диагностика оцененной модели

После выбора типа и оценивания коэффициентов модели производится диагностика оцененной модели, т.е. выяснение того, насколько хорошо модель соответствует данным наблюдений (адекватна данным наблюдений) – это является третьим этапом процедуры подбора модели.

Для целей диагностики можно использовать целый ряд различных статистических процедур, которые направлены в основном на проверку гипотезы H₀ о том, что в модели, порождающей наблюдения, последовательность ε_t действительно образует процесс белого шума.

Пусть мы остановили свой выбор на этапе идентификации на модели ARMA(p, q)

a(L) X_t = b(L) ε_t ,

т.е.

X_t = a₁ X_t–1 + … + a_p X_t–p + ε_t + b₁ ε_t–1 + … + b_q ε_t–q ,

и на втором этапе оценили ее как

,

где

,

.

Если MA составляющая модели ARMA(p, q) обратима, то тогда

X_t ,

и оценки для ε_t теоретически можно получить заменой a(L) и b(L) на и , соответственно:

.

На практике, конечно, мы можем использовать эту формулу лишь частично, поскольку бесконечный ряд в правой части приходится обрывать из-за наличия только конечного количества наблюдений.

При большом количестве наблюдений поведение должно имитировать поведение самих ε_t . Cледовательно, если ошибки ε_t образуют процесс белого шума, то остатки должны имитировать процесс белого шума.

Основываясь на этом соображении, было предложено исследовать статистическую значимость выборочных автокорреляций для ряда оцененных инноваций и суммы их квадратов

(Q-статистика Бокса – Пирса).

Если модель правильно специфицирована, то Q_BP имеет распределение, которое близко к распределению χ²(M – p – q), при условии, что T и M велики, а отношение (M/T) мало. Гипотеза адекватности подобранной модели отвергается, если

Q_BP > χ²_0.95(M – p – q).

Однако впоследствии было замечено, что при конечных T  распределение статистики Q_BP может существенно отличаться от распределения χ²(M – p – q). Лучшую аппроксимацию дает Q-статистика Люнга – Бокса

,

которая имеет то же асимптотическое распределение χ²(M – p – q), что и Q_BP , но зато при конечных T распределение статистики Q_LB гораздо ближе к χ²(M – p – q), чем распределение статистики Q_BP . При этом качество приближения ухудшается, если значения параметров находятся вблизи границы стационарности или обратимости модели; особенно это заметно при малых M .

Хотя первоначально вывод асимптотического распределения статистики Люнга – Бокса производился в предположении, что ε_t    – гауссовский белый шум, в дальнейшем было установлено, что этот критерий достаточно устойчив к отклонениям распределения ε_t от нормального. Важно только, чтобы была конечной дисперсия D(ε_t). Последнее условие часто нарушается для рядов, описывающих эволюцию быстро изменяющихся финансовых показателей – цен на акции, биржевых индексов, обменных курсов. Для таких рядов ε_t обычно имеет распределение с “тяжелыми” хвостами (heavy-tailed distribution), т.е достаточно часто наблюдаются большие по абсолютной величине значения ε_t . И это требует привлечения для описания таких рядов более сложных моделей.

В пакете EVIEWS в распечатке результатов оценивания моделей ARMA рядом с коррелограммой ряда остатков приводятся P-значения для наблюдаемых значений Q–статистики Люнга – Бокса.

Проверка предположения о нормальности

Многие статистические процедуры, используемые при анализе временных рядов, опираются на предположение гауссовости (нормальности) анализируемого ряда. Последнее означает, что для любого набора t₁, …, t_n случайные величины имеют совместное нормальное распределение.

Имея в распоряжении одну единственную реализацию временного ряда, просто невозможно проверить справедливость такого утверждения. В то же время, еще возможно проверить гипотезу о нормальности одномерного (маргинального) распределения стационарного временного ряда. Соответствующая процедура была предложена в работе Ломницкого [Lomnicki Z.A. “Tests for Departure from Normality in the Case of Linear Stochastic Processes”, Metrika, 1961, №4, p. 37–62].

Пусть

,

.

В указанной работе было доказано, что если X_t – стационарный гауссовский временной ряд, то при больших T статистики G₁ и G₂ имеют приближенно нормальные распределения с нулевыми математическими ожиданиями и дисперсиями

Оценить эти дисперсии можно, заменив бесконечные суммы степеней автокорреляций ρ(k) конечными суммами степеней выборочных автокорреляций r(k). Используя такие оценки получаем статистики

,

которые при гипотезе нормальности имеют распределения, аппроксимируемые стандартным нормальным распределением. Поскольку последние статистики еще и асимптотически независимы, то при T → ∞

Моделирование показывает, однако, что при умеренных значениях T распределение статистики плохо приближается нормальным распределением. Более того, процедура проверки здесь весьма общая (структура временного ряда не специфицируется). Поэтому критерий нормальности, основанный на статистике , имеет довольно низкую мощность при применении его к моделям AR и MA, т.е. слишком часто не отвергает гипотезу нормальности ряда X_t , когда она не верна.

Более подходящей является в этом отношении аналогичная процедура, применяемая не к самому ряду X_t , а к остаткам  , полученным при оценивании специфицированной модели ряда X_t . В стационарных и обратимых моделях ARMA остатки состоятельно оценивают инновации  ε_t , которые, в предположении нормальности, являются независимыми, одинаково распределенными случайными величинами, имеющими распределение N(0, σ²). Поэтому при применении метода Ломницкого для проверки предположения о нормальности инноваций, мы получаем:

(т.к. для ряда инноваций ρ(k) = 0 при k ≠ 0), причем при построении статистик G₁ и G₂ вместо

используются

.

Соответственно,

так что

,

а это есть статистика, используемая для проверки нормальности в популярном критерии Харке – Бера [Jarque C., A. Bera  “Efficient Tests for Normality, Homoskedasticity, and Serial Independence of Regression Residuals”, Economics Letters, 1980, №6, p. 255–259]. 

Таким образом, критерий Харке – Бера можно использовать не только в рамках классической модели регрессии (с фиксированными значениями объясняющих переменных), но и для проверки нормальности инноваций в моделях временных рядов, помня, конечно, о том, что это всего лишь асимптотический критерий. Для улучшения приближения статистики критерия распределением хи-квадрат, в пакете EVIEWS в статистике критерия вместо множителя T используется множитель (T– K), где K – количество коэффициентов, оцениваемых при построении модели исследуемого ряда.

Правда, здесь мы не заметили еще одного ”подводного камня”. Мы предполагали неявно, что остатки берутся как результат оценивания правильно идентифицированной модели. Как будет влиять на свойства критерия неправильное определение порядка модели?

При больших T критерий Шварца достаточно надежно определяет порядок (p, q) модели ARMA, так что проверка нормальности инноваций по модели, выбранной критерием Шварца, асимптотически равносильна проверке нормальности инноваций по правильно идентифицированной модели.

На третьем шаге производят также проверку выбранной модели на “оптимальность”, имея в виду, что “более сложные” модели не должны существенно отличаться от подобранной модели. Точнее говоря, при увеличении порядка модели оценки коэффициентов при добавленных составляющих должны быть статистически незначимыми, а оценки коэффициентов при сохраняемых составляющих должны изменяться не очень существенно.

Замечание 1.2.1

При построении статистики Харке – Бера для проверки нормальности инноваций в модели ARMA существенным является центрирование остатков, полученных в результате оценивания модели, т.е. вычитание из каждого остатка среднего всех полученнных остатков.

При оценивании модели линейной регрессии методом наименьших квадратов сумма полученных остатков равна нулю, так что остатки автоматически являются центрированными. Поскольку же при оценивании ARMA моделей приходится привлекать метод максимального правдоподобия, получаемые остатки не обязательно являются центрированными, и надо позаботиться об их центрировании. В противном случае статистика Харке – Бера уже не имеет асимптотического распределения .