Применение временных рядов для анализа больших данных. Учебное пособие по курсу «Математические методы анализа больших данных»

4. Процедуры оценки моделей временных рядов

Практически, автоковариационная функция оценивается автоковариациями ̂( ) выборки для k = 1; 2; ...; K. Решение расширенных Yule− Walker−уравнений, используя эти моменты выборки, производит метод моментов оценки авторегрессионных параметров. Общая константа тогда может быть оценена заданной оценкой . Заметим, что расширенные Yule−Walker−уравнения могут быть аналогично определены в терминах автокорреляций вместо автоковариаций.

4.2. Процедура MAMME

Процедура MAMME оценивает, основываясь на системе нелинейных уравнений, параметры скользящего среднего ARMA-процесса, заданного K = maxlag автоковариациями ( ) для k = 1; 2; ...; K и p = npar авто-

где ( ) означает автоковариационную функцию оригинального процесса Wt. Итерационная процедура для определения параметров скользящего среднего основана на отношении

72

4.3. Процедура nspe

Процедура оценивания начинается с начального значения

и заканчивается на итерации , когда или ‖( )‖ меньше, чем RELERR, или равно MAXIT. Параметры скользящего среднего определяются из финальной оценки установкой = − / для j = 1; 2; ...; q. Дисперсия случайных шоков определяется в соответствии с

На практике оцениваются и автоковариации и авторегрессионные параметры. Решение системы нелинейных уравнений, используя эти моменты выборки, производит метод моментов оценки параметров скользящего среднего и дисперсии случайных шоков. Заметим, что автокорреляции ( ) могут быть использованы вместо автоковариаций ( ), чтобы вычислить ′( ) для k = 1; 2; ...; K.

4.3. Процедура nspe

73

4. Процедуры оценки моделей временных рядов

Положим, что временной ряд { } генерируется ARMA(p,q)-мо- делью в форме:

p = NPAR и q = NPMA.

Пусть ̂= WMEAN является оценкой среднего временного ряда

{ }, где

Автоковариационная функция ( ) оценивается как

где = + . Заметим, что ̂(0) есть оценка дисперсии выборки.

Чтобы для данной выборки ковариаций вычислить методом моментов, используя расширенные уравнения Юла – Уолкера, оценки авторегрессионных параметров используется процедура ARMME

74

4.4. Процедура KALMN

Параметры скользящего среднего оцениваются, используя проце-

Тогда автоковариации производного процесса скользящего среднего ′ = ( ) даются

Итерационная процедура для определения параметров скользящего среднего основана на отношении

где ( ) означает автоковариационную функцию оригинального процесса Wt.

Пусть = ( 0, 1, . . . , , ) и = ( 0, 1, . . . , , ) , где

Тогда значение на ( + 1) −итерации определяется как

Процедура оценивания начинается с начального значения

(0) = ( 0 ,0, ,0)T

и заканчивается на итерации i, когда или ‖ ( )‖ меньше, чем RELERR, или i равно MAXIT. Параметры скользящего среднего получаются из фи-

75

4. Процедуры оценки моделей временных рядов

нальной оценки установкой = − / для j = 1; 2; ...; q. Дисперсия случайных шоков оценивается как

4.4. Процедура KALMN

Процедура KALMN основана на рекурсивном алгоритме Калмана (Kalman, 1960), который известен как фильтр Калмана. Нижеследующая модель известна как модель пространства состояний. Модель специфицируется этап за этапом, где этапы обычно соответствуют точкам времени, в которых становятся доступными наблюдения. Процедура KALMN не требует массивных вычислений и объёмов памяти, что существенно, раз она должна обрабатывать не все данные в конце каждого этапа для того, чтобы оценивать вектор состояния. Это достигается использованием результатов предшествующих вычислений и хранением в памяти только тех, которые существенны для обработки будущих наблюдений.

Здесь используется нотация, следуя Салласу и Харвиллу (Sallas, Harville, 1981). Пусть (вводится в Y) – тл × 1 −вектор наблюдений, которые становятся доступными в момент времени k. Индекс k используется здесь вместо t, более общепринятого во временных рядах, чтобы подчеркнуть, что модель выражена на этапах k = 1, 2, ..., K, и эти этапы не должны соответствовать равным интервалам времени. Фактически, они могут соответствовать любым моментам времени. Уравнение наблюдений для модели пространства состояний:

ния. Вектор состояния может изменяться со временем в соответствии с уравнением состояния

bk+1 = Tk+1bk + wk+1, k =1,2,K,

начиная с

b1 = m1 + w1.

76

4.4. Процедура KALMN

Изменение в векторе состояния от момента времени до + 1 объясняется частично матрицей перехода +1 (вводится в T), которая считается известной.

Примем, что q-мерный вектор (k = 1, 2, ..., K) является независимо распределенным многомерным нормальным со средним вектором 0 и ковариационной матрицей 2( ), что -мерный вектор(k = 1, 2, ..., K) является независимо распределенным многомерным

Здесь, (хранится в V) – прогноз ошибки на шаг вперед и 2 – ковариационная матрица для . хранится в COVV. «Пусковые значения», необходимые при первом вызове KALMN, ̂1|0 = 1 и 1|0 = 1 вводятся через B и COVB, соответственно. Вычисления для k-го вызова завершаются KALMN-вычислением на шаг вперед оценки ̂ +1| вместе с+1| , даваемые уравнениями прогноза:

77

4. Процедуры оценки моделей временных рядов

Если и отфильтрованные оценки, и оценки на шаг вперед необходимы пользователю в каждой точке времени, KALMN может вызываться дважды в каждой точке времени – первый раз с IT = 1 и IQ = 1, чтобы

используют ковариационную матрицу ошибок в уравнении наблюдения и уравнении состояния как известную с точностью до неизвестного положительного скалярного множителя 2.

Оценка максимального правдоподобия 2, основанная на наблюдениях 1, 2, . . . , , дается

Если 2 известна, и могут быть введены как ковариационные матрицы точно. В более раннем обсуждении предлагалось упростить заданием 2 = 1.

На практике матрицы , и обычно не известны полностью. Они могут быть известными функциями неизвестного параметра – вектора . В этом случае KALMN может быть использована в сопряжении с программой оптимизации (см. процедуру UMINF, IMSL MATH/ LIBRARY), чтобы получить оценку максимального правдоподобия .

78

4.4. Процедура KALMN

Здесь ∑ =1 ln (det ( )) (хранится в ALNDET) – натуральный логарифм определителя , где 2 – ковариационная матрица наблюдений.

Минимизация −2 ( , 2, 1, 2, . . . , ) по всем и 2 обеспечивает оценки максимального правдоподобия. Эквивалентно, минимизация

−2 ( , 1, 2, . . . , ), где

обеспечивает оценки максимального правдоподобия ̂ и ̂2 = ( )/ .

В более раннем обсуждении принималось, чтобы была несингулярна. Если сингулярна, используется модификация для сингулярных распределений описанных Рао (Rao, 1973).

Необходимые изменения в предыдущей дискуссии:

1.Заменить обобщённой обратной.

2.Заменить ( ) произведением ненулевых собственных чисел .

3.Заменить ∑ =1 ( ).

Оценки максимального правдоподобия параметров в фильтре Калмана обсуждаются Салласом и Харвиллом (Sallas, Harville, 1988).

79

Введение

КОНТРОЛЬНЫЕ ЗАДАНИЯ

Для изучения технологий анализа временных рядов предлагается выполнение следующих контрольных заданий:

−По выборке значений временного ряда оценить параметры линейного и квадратичного трендов и выполнить прогнозирование.

−Применить процедуры рекуррентного и свёрточного экспоненциального сглаживания к значениям временного ряда и выполнить прогнозирование.

−По выборке значений временного ряда построить периодограмму

иоценить период циклической составляющей.

−Выделить из временного ряда циклическую составляющую и выполнить прогнозирование.

−По выборке значений временного ряда построить автокорреляционную функцию и получить ряд, близкий к стационарному.

−По выборке значений временного ряда построить частную автокорреляционную функцию и оценить порядки модели Бокса-Дженкинса.

−Оценить параметр модели Бокса-Дженкинса, наиболее адекватного временному ряду, близкому к стационарному.

−Выполнить прогнозирование значений временного ряда по модели Бокса-Дженкинса.

80