- •ОГЛАВЛЕНИЕ
- •ПРЕДИСЛОВИЕ
- •МЕТОДИЧЕСКИЕ МАТЕРИАЛЫ
- •РАБОЧАЯ ПРОГРАММА ДИСЦИПЛИНЫ
- •РЕКОМЕНДАЦИИ ПО САМОСТОЯТЕЛЬНОЙ РАБОТЕ СТУДЕНТА
- •ТЕОРЕТИЧЕСКИЕ МАТЕРИАЛЫ
- •ГЛАВА 1. СТАТИСТИЧЕСКИЕ ПОНЯТИЯ И РАСПРЕДЕЛЕНИЯ
- •§ 1. Введение
- •§ 2. Суть регрессионного анализа
- •§ 3. Некоторые статистические определения
- •§ 4. Нормальное (гауссовское) распределение
- •§ 5. (хи-квадрат)-распределение
- •§ 6. Распределение Стьюдента (t-распределение)
- •§ 7. F-распределение (распределение дисперсионного отношения)
- •§ 8. Статистическая проверка гипотез
- •§ 9. Определение критических значений распределений Стьюдента и Фишера с использованием программы Microsoft Office Excel
- •Резюме
- •Вопросы для самопроверки
- •ГЛАВА 2. ПАРНАЯ ЛИНЕЙНАЯ РЕГРЕССИЯ. УСЛОВИЯ ГАУССА–МАРКОВА
- •§ 1. Основные понятия
- •§ 2. Метод наименьших квадратов
- •§ 3. Предпосылки метода наименьших квадратов
- •§ 4. Анализ точности определения оценок коэффициентов регрессии
- •§ 5. Проверка статистической значимости коэффициентов парной линейной регрессии
- •§ 6. Интервальные оценки коэффициентов линейного уравнения регрессии
- •§ 7. Доверительные интервалы для зависимой переменной
- •§ 8. Проверка общего качества уравнения регрессии. Коэффициент детерминации
- •Резюме
- •Вопросы для самопроверки
- •ГЛАВА 3. МНОЖЕСТВЕННАЯ ЛИНЕЙНАЯ РЕГРЕССИЯ
- •§ 1. Определение параметров уравнения регрессии
- •§ 2. Расчет коэффициентов множественной линейной регрессии
- •§ 3. Дисперсии и стандартные ошибки коэффициентов
- •§ 4. Проверка статистической значимости коэффициентов уравнения регрессии
- •§ 5. Интервальные оценки коэффициентов теоретического уравнения регрессии
- •§ 6. Проверка общего качества уравнения регрессии
- •§ 7. Проверка равенства двух коэффициентов детерминации
- •§ 8. Проверка гипотезы о совпадении уравнений регрессии для двух выборок
- •§ 10. Частные уравнения регрессии
- •Резюме
- •Вопросы для самопроверки
- •ГЛАВА 4. АВТОКОРРЕЛЯЦИЯ СЛУЧАЙНЫХ ВОЗМУЩЕНИЙ
- •§ 1. Суть и причины автокорреляции
- •§ 2. Последствия автокорреляции
- •§ 3. Обнаружение автокорреляции. Критерий Дарбина–Уотсона
- •§ 4. Методы устранения автокорреляции
- •Резюме
- •Вопросы для самопроверки
- •ГЛАВА 5. ГЕТЕРОСКЕДАСТИЧНОСТЬ СЛУЧАЙНЫХ ВОЗМУЩЕНИЙ
- •§ 1. Общие понятия
- •§ 2. Последствия гетероскедастичности
- •§ 3. Обнаружение гетероскедастичности
- •§ 4. Методы смягчения проблемы гетероскедастичности
- •Резюме
- •Вопросы для самопроверки
- •ГЛАВА 6. МУЛЬТИКОЛЛИНЕАРНОСТЬ
- •§ 1. Общие понятия и последствия мультиколлнеарности
- •§ 2. Определение мультиколлинеарности
- •§ 3. Методы устранения мультиколлинеарности
- •Резюме
- •Вопросы для самопроверки
- •ГЛАВА 7. ФИКТИВНЫЕ ПЕРЕМЕННЫЕ В РЕГРЕССИОННЫХ МОДЕЛЯХ
- •§ 1. Модель с одной фиктивной (бинарной) переменной
- •§ 3. Сравнение двух регрессий
- •Резюме
- •Вопросы для самопроверки
- •ГЛАВА 8. НЕЛИНЕЙНАЯ РЕГРЕССИЯ
- •§ 1. Общие понятия
- •§ 2. Степенные модели (логарифмические)
- •§ 3. Обратная модель (гиперболическая)
- •§ 4. Полиномиальная модель
- •§ 5. Показательная модель (лог-линейная)
- •§ 6. Выбор формы модели
- •Резюме
- •Вопросы для самопроверки
- •ГЛАВА 9. ВРЕМЕННЫЕ РЯДЫ
- •§ 1. Общие понятия
- •§ 2. Моделирование тренда временного ряда
- •§ 4. Стационарные ряды
- •§ 5. Процесс авторегрессии AR(p)
- •§ 6. Процессы скользящего среднего MA(q)
- •§ 7. Комбинированные процессы авторегрессии-скользящего среднего ARMA(p, q)
- •§ 8. Модели ARMA, учитывающие наличие сезонности
- •§ 9. Нестационарные временные ряды. Процессы авторегрессии и проинтегрированного скользящего среднего ARIMA(p, k, q)
- •§ 10. Регрессионные модели с распределенными лагами
- •§ 11. Полиномиально распределенные лаги Ш. Алмон
- •Резюме
- •Вопросы для самопроверки
- •ГЛАВА 10. СИСТЕМЫ ОДНОВРЕМЕННЫХ УРАВНЕНИЙ
- •§ 1. Общие понятия
- •§ 2. Идентификация структурной формы модели
- •§ 3. Косвенный метод наименьших квадратов
- •§ 4. Двухшаговый метод наименьших квадратов
- •§ 5. Трехшаговый метод наименьших квадратов
- •Резюме
- •Вопросы для самопроверки
- •ЗАКЛЮЧЕНИЕ
- •ЗАДАНИЯ ДЛЯ КОНТРОЛЯ
- •Тесты для самоконтроля
- •Ключи к тестам для самоконтроля
- •Контрольная работа
- •Вопросы к зачету (экзамену)
- •ГЛОССАРИЙ
- •СПИСОК ЛИТЕРАТУРЫ
Для того чтобы выписать решение в явном виде, перейдем к матричным обозначениям:
φˆ1 |
|
Φ = φˆ2 |
, r |
... |
|
φˆp
rˆ1
=rˆ2 ,...rˆp
R=
rˆ(p −1)
rˆ(1) |
rˆ(2) |
... |
rˆ(p −1) |
|
1 |
rˆ(1) |
... |
rˆ(p − 2) |
|
... |
... |
... |
... |
. |
|
||||
rˆ(p − 2) |
rˆ(p −3) |
... |
1 |
|
|
Тогда система может быть записана в виде:
R Φ = r ,
аее решение будет иметь вид:
Φ= R−1r .
Вобщем случае условие стационарности процесса AR(p) формулируют в терминах корней его характеристического уравнения. Для стационарности процесса (9.17) необходимо и достаточно, чтобы все корни его характеристического уравнения
1−φ1 z −φ2 z2 −... −φp z p = 0 |
(9.18) |
лежали вне единичного круга, т. е. превосходили бы по модулю единицу. В общем случае корни уравнения (9.18) являются комплексными числами.
Для процесса авторегрессии первого порядка характеристическое уравнение имеет вид: 1 −φ z = 0 . Если φ < 0, тогда для корня
уравнения z0 выполняется условие z0 >1. Таким образом, из условия φ < 0 следует стационарность процесса (9.13).
§6. Процессы скользящего среднего MA(q)
В1938 г. Вольд (Wold) доказал следующий фундаментальный результат: всякий слабо стационарный временной ряд может быть представлен в виде линейной комбинации белых шумов, с разными весовыми коэффициентами:
181
y(t)= μ + εt +θ1εt −1 + ... +θq εt −q + ....
Случайный процесс y(t) называется процессом скользящего среднего MA(q) порядка q, если в разложении Вольда присутствует конечное число слагаемых:
y(t)= εt +θ1εt−1 +... +θq εt−q , |
(9.19) |
где εt — процесс белого шума, понимаемый в широком или узком смысле.
Отметим, что модель можно обобщить до процесса, имеющего ненулевое математическое ожидание μ:
y(t)= μ +εt +θ1εt−1 +... +θq εt −q .
Рис. 9.10. Процесс скользящего среднего MA(1)
Название «скользящее среднее» объясняется тем, что текущее значение случайного процесса определяется взвешенным средним q предыдущих значений белого шума. Процедуру скользящего среднего часто используют для того, чтобы сгладить данные, которые сильно колеблются.
Очевидно, что MA(q) — стационарный процесс,
182
My(t)= 0, Dy(t)=σ2 (1+θ12 +... +θ2q).
Нетрудно подсчитать, что для k > q выполняется cov(y(t), y(t +k))=0 . Отсюда следует, что автокорреляция r(k) обращается в нуль вне некоторого конечного участка:
r (k)=0 , |
|
k |
|
>q. |
(9.20) |
|
|
Это свойство автокорреляции хорошо различимо на ее графике. Оно позволяет уверенно различать процессы скользящего среднего.
Таким образом, процесс MA(q) является стационарным при любых вещественных значениях параметров θ1,θ2 ,...,θq . Однако чтобы избежать случая, когда текущее значение ряда будет зависеть от своих предыдущих значений, берущихся с весами, бесконечно растущими по мере удаления в прошлое, необходимо потребовать, чтобы корни характеристического уравнения:
1−θ1 z −θ2 z2 −... −θq zq = 0
лежали вне единичного круга, т. е. z j >1(j=1, 2, …, q). Это утвер-
ждение называют условием обратимости.
Можно получить следующую систему уравнений, связывающую автокорреляционную функцию с параметрами уравнения:
|
q−k |
|
|
r(k)= |
−θk + ∑θ jθ j+k |
|
|
j=1 |
, k =1, 2, …, q; |
|
|
1+θ12 +θ22 +... +θq2 |
(9.21) |
r(k)= 0, k > q.
Полученная система является нелинейной. К сожалению, оценивание коэффициентов θ j по наблюдаемому участку траектории —
довольно сложная в теоретическом и вычислительном отношении задача.
183
Рассмотрим процессы первого и второго порядка, которые особо важны для практики.
Уравнение процесса MA(1) имеет вид:
y(t)= εt +θ εt−1 . |
(9.22) |
||||
В этом случае: |
|
|
|
|
|
r(k)= |
|
|
−θ |
, k =1; |
|
1 |
+θ2 |
|
|||
|
|
|
|||
r(k )= 0, k ≥ 2. |
|
Таким образом, для оценки параметра θ процесса (9.22) необходимо решить квадратное уравнение:
θ2 + |
1 |
θ +1 = 0 . |
|
rˆ(1) |
|||
|
|
Из двух решений выбирают то, которое удовлетворяет условию
θ <1.
Уравнение процесса MA(2) имеет вид:
y(t)= εt +θ1εt−1 +θ2εt−2 .
Должны выполняться условия:
θ1 < 2,
θ2 <1− θ1.
Для оценки параметров необходимо решить систему из двух нелинейных (относительно θ1,θ2 ) уравнений:
rˆ(1)= −θ1(1−θ2),
1+θ12 +θ22
rˆ(2)= |
−θ2 |
|
|
. |
|
1+θ12 +θ22 |
Для процесса MA(q) теоретические коэффициенты автокорреляции r(k) при 1 ≤ k ≤ q отличны от нуля, а остальные равны нулю.
184