- •Оглавление
- •Тема 0. Введение (группа 3.3б) 4
- •Тема 1. Парная регрессия (группа 3.5а) 23
- •Тема 2. Множественная регрессия (группа 3.5б) 51
- •Тема 3. Нелинейная регрессия (группа 3.3а) 70
- •Тема 4. Системы регрессионных уравнений (группа 3.3б) 91
- •Тема 5. Прогнозирование временных рядов (группа 3.7ммэ) 102 Тема 0. Введение (группа 3.3б)
- •0.1. Эконометрика как наука.
- •0.2. История возникновения эконометрики
- •0.3.Элементы теории вероятности.
- •0.3.1. Вероятностные характеристики случайных переменных
- •0.3.2.Законы распределения:
- •0.3.3 Условное математическое ожидание
- •0.4. Элементы математической статистики
- •0.4.1.Оценивание «хороших» свойств оценок
- •1) Состоятельность оценок
- •2) Несмещенность оценок
- •3) Эффективность оценок
- •0.4.2. Проверка гипотез и интервальное оценивание
- •Тема 1. Парная регрессия (группа 3.5а)
- •1.1 Определение линейной однофакторной регрессии.
- •1.1.1.Основные понятия регрессионного анализа
- •1.1.2. Линейная однофакторная регрессия
- •1.1.3. Матричная запись линейной регрессии
- •1.1.4 Оценки параметров регрессии
- •1.1.5 Смысл коэффициента регрессии
- •1.2 Проверка адекватности ру
- •1.2.1 Показатели качества подгонки
- •1.2.2.Проверка гипотез относительно параметров ру
- •1.3 Предпосылки мнк (ls)
- •1.3.1. Общие положения мнк
- •1.3.2. Выполнение первой предпосылки мнк (случайный характер остатков)
- •1.3.4. Выполнение третьей предпосылки мнк (гомоскедастичность остатков)
- •1.3.5 Выполнение 4-го условия мнк (отсутствие автокорреляции остатков)
- •1.3.6 Выполнение 5-го условия мнк (нормальность остатков)
- •1.4. Устранение нарушения предпосылок мнк для оценки парной регрессии
- •1.4.1. Автокорреляция остатков
- •1.4.2.Гетероскедастичность остатков и избавление от нее
- •1 Подход: преобразование исходных данных
- •2 Подход: применение другого метода оценивания коэф-ов регрессии.
- •3 Подход) включение дисперсии в модель
- •1.4.3. Метод максимального правдоподобия.
- •Тема 2. Множественная регрессия (группа 3.5б)
- •2.1 Множественная линейная регрессия
- •2.1.1. Основные понятия
- •2.1.2. Методы оценивания коэффициентов линейной многофакторной регрессии.
- •2.2.Проверка адекватности уравнений линейной множественной регрессии
- •2.2.1. Проверка качества подборки мнк.
- •3) Коэффициент эластичности
- •2.2.2.Проверка гипотез для млр
- •2.2.3. Допущение выполнения мнк или получение «хороших» оценок
- •2.3. Мультиколлинеарность факторов
- •2.3.1. Обнаружение мультиколлинеарности
- •2.3.2 Избавление от мультиколлинеарности. Метод главных компонент
- •2.4.Учет качественных факторов
- •2.4.1.Множественные переменные
- •2.4.2. Фиктивные переменные
- •2.4.3. Структурные изменения тенденций. Тест Чоу.
- •2.4.4. Модели бинарного выбора
- •Тема 3. Нелинейная регрессия (группа 3.3а)
- •3.1.Виды нелинейной зависимости
- •3.1.1.Основные понятия
- •3.1.2. Методы оценивания линеаризуемых функций:
- •3.1.3. Нелинеаризуемые функции и методы их оценки
- •1.Квазиньютоновский
- •2.Симплекс-метод
- •3.Метод Хука-Дживса
- •3.2.Проверка адекватности нелинейной регрессии
- •3.2.1. Показатели качества подгонки
- •3.2.2. Проверка гипотезы о значимости нелинейных моделей
- •3.2.3. Проверка выполнения условий для получения «хороших» оценок методом оценивания
- •3.3.Выбор типа зависимости
- •3.3.1. Теоретические предпосылки
- •3.3.2. Процедура Бокса – Кокса и тест Зарембеки
- •Тест Зарембеки
- •3.3.3.Производственные функции (пф)
- •3.3.4. Коэффициент эластичности
- •3.4.Спецификация и прогноз регрессионных уравнений
- •3.4.1. Информационные критерии (критерий Акайке, Шварца)
- •3.4.2. Ложная регрессия
- •3.4.3. Прогноз по регрессионным моделям. Доверительный интервал.
- •3.4.4. Применение регрессионного анализа в хеджировании
- •Тема 4. Системы регрессионных уравнений (группа 3.3б)
- •4.1.Понятие и виды сру
- •4.1.1. Система независимых уравнений
- •4.1.2. Системы рекурсивных уравнений
- •4.2. Структурный и приведенный виды сру
- •4.3 Идентификация модели
- •4.4 Оценка параметров сру
- •4.4.1.Кмнк.
- •4.4.2.Дмнк.
- •4.4.3.Тмнк.
- •Тема 5. Прогнозирование временных рядов (группа 3.7ммэ)
1.3.6 Выполнение 5-го условия мнк (нормальность остатков)
Эта предпосылка говорит о том, что если случайная компонента распределена нормально, то и коэффициенты регрессии будут также распределены. Эта предпосылка в полной мере относится к предпосылкам метода максимального правдоподобия (ММП), и поэтому при проверке условий выполнения МНК, данное требование часто опускают.
Данное требование основано на центральной предельной теореме вероятности:
Если случайная величина является общим результатом взаимодействия большого числа случайных величин, то она приближённо имеет нормальное распределение. Случайная компонента Ɛi в неявном виде определяется несколькими факторами, следовательно, можно предполагать нормальность остатков.
Ɛi ~ N (0; 2)
Тесты на проверку нормальности – тест Пирсона, Колмогорова-Смирнова, Бера-Жарка.
1.4. Устранение нарушения предпосылок мнк для оценки парной регрессии
- Автокорреляция остатков.
Одна из причин присутствия автокорреляции в остатках – неправильный выбор вида зависимости между переменными, т.е. необходимо изменить зависимость.
Еще один способ устранения автокорреляции остатков – введение лаговых переменных.
- Гетероскедастичность остатков
Существует несколько подходов к решению данного нарушения:
1. Преобразование исходных данных
2. Применение другого метода оценивания
3. Включение изменяющейся дисперсии в модели (актуально для временных рядов)
- Метод максимального правдоподобия
Применяется для оценки коэффициентов регрессии. Одна из важных предпосылок ММП – известность знака распределения зависимой переменной.
1.4.1. Автокорреляция остатков
Одна из причин присутствия автокорреляции в остатках может быть неправильный выбор вида зависимости между переменными. Т.е. следует изменить зависимость. Еще один способ устранения автокорреляции остатков – введение лаговых переменных.
Лаговые переменные – переменные, которые измерены в прошлом периоде времени и участвуют в модели
При проверке наличия автокорреляции на практике руководствуются простым правилом: Расчетные значения DW, близкое к 2, свидетельствует об отсутствии автокорреляции; значение близкое к 4, свидетельствует об отрицательной автокорреляции; значение близкое к 0, о положительной автокорреляции.
Следует отметить, что тест DW можно применять при выполнении следующих условий:
1. в регрессионном уравнении есть свободный член
2. в регрессионном уравнении нет лаговых значений зависимой переменной (напр. yi-j)
Тест DW определяет лишь отсутствие автокорреляции I порядка. Про остальные порядки он ответа не дает.
Тест Брана-Годфри ее общий тест, тест DW.
Предположительно, что остатки εi можно представить в виде авторегрессионного процесса 4 порядка.
εi = ρ1 εi-1+ ρ2 εi-2 + … + ρr εi-r + ui
1)рассчитывается регрессия
т.е. в уравнении линейной регрессии подставили (?)
2)рассчитывается коэффициент детерминации R2 для (*) множественной R2
3)рассчитывается x2расч = (n-r) R2,
n – количество наблюдений, r – порядок авторегрессионного процесса εi
4)по таблице x2 – распределения находим x2 табличное со степенями свободы r.
2. Оценивается регрессия и находится оценка ρ (по МНК)
3. Зная ρ, оцениваем и ( ;
4. Рассчитывается регрессия между и по уравнению (4.3): получаются новые оценки и
5. Вычисляются новые отклонения расчетных значений от фактических;
6. Возвращаемся к пункту 2). Процедуру выполняют, пока отклонения, полученные в пункте 2), не совпадут с отклонениями в пункте 5) до определенной точности.
В итоге получим уравнение (4.3), в котором автокорреляции в остатках не будет.