Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Эконометрика. Учебное пособие-2
.pdf
больше. Поэтому, как правило, модель (4.1) является переопределенной, что приводит: а) к экономическим издержкам, б) к включению
неинформативных, малоинформативных и дублирующих перемен-
ˆ
ных. Последнее приводит к возрастанию дисперсии прогноза
y
и к понижению точности оценивания коэффициентов в модели.
С другой стороны, недоопределенная модель, не содержащая значимых факторов, приводит к систематической ошибке в прогнозе.
Таким образом, выдвигая гипотезу (4.1), исследователь сталкивается с множеством конкурирующих моделей (структур), содержащих
некоторое количество регрессоров. Так как каждая переменная
xxx ,...,,
может либо входить в уравнение, либо нет, то всего
21
p
получается p2 моделей. Из этого множества структур необходимо
выбрать по заданному критерию качества одну или несколько конкурирующих моделей.
Проблема выбора критерия оптимальности является достаточно
острой даже при однокритериальном подходе. Наиболее подходящими, естественно, являются меры точности прогноза. Если их затруднительно получить, можно остановиться на общем F–критерии.
Получив при однокритериальном
следует тщательно изучить вектор остатков
поиске оптимальную модель,
на предмет соблюдения
e
условий применения регрессионного анализа.
4.2. Основные предположения регрессионного анализа
4.2.1. Предположения о выборке
<1.1> – объем наблюдений достаточен,
<1.2> – при организации наблюдений обеспечивается случайный
отбор,
<1.3> – ряд наблюдений однороден,
<1.4> – в наблюдениях отсутствуют грубые промахи.
91
4.2.2. Предположения о векторе параметров В
<2.1> – адекватная наблюдениям модель линейна по элементам
вектора
В,
<2.2> – на вектор
<2.3> – вектор
В не наложено ограничений,
В содержит аддитивную постоянную,
<2.4> – элементы вектора
В вычислены с пренебрежимо малой
компьютерной ошибкой.
4.2.3. Предположения о матрице Х
<3.1> – элементы матрицы Х (регрессоры
линейно-независимыми векторами матрицы Х,
<3.2> – элементы матрицы
Х (регрессоры
ются случайными величинами.
xxx ,...,,
) являются
21
21
p
xxx ,...,,
) не явля-
p
4.2.4. Предположения о векторе ошибок е
<4.1> – ошибки
e являются случайными величинами, аддитивно
i
входящими в модель,
<4.2> – ошибки
<4.3> – ошибки
<4.4> – ошибки
<4.5> – ошибки
e распределены по нормальному закону,
i
e не содержат систематического смещения,
i
e имеют постоянную дисперсию,
i
e не коррелированы и при справедливости <4.2>
i
статистически независимы.
92
4.2.5. Дополнительные предположения о векторе Y
Гипотезы <2> – <4> в совокупности являются одновременно
гипотезами о векторе
Y. Дополнительно вводятся следующие два
предположения.
<5.1> – метод поиска оптимального набора регрессоров
xxx ,...,,
для Y является точным; при однокритериальном поиске
21
p
оптимальной модели из p2 возможных точным является метод пол-
ного перебора;
<5.2> – для многооткликовой задачи правомерно применение
метода наименьших квадратов к каждой из регрессий в отдельности.
4.3. Методология регрессионного моделирования
Подход адаптивного регрессионного моделирования предусматривает:
– применение линейной по оцениваемым параметрам модели
и вычислительной схемы метода наименьших квадратов;
– проверку соблюдения предположений регрессионного анализа,
ранжирование нарушений по степени искажения свойств оценок
параметров модели;
– последовательную адаптацию к нарушениям предположений
регрессионного анализа путем применения соответствующих вычислительных процедур;
– повторную проверку соблюдения предположений
регрессион-
ного анализа и ранжирование нарушений при необходимости.
93
4.4. Анализ соблюдения предположений регрессионного анализа
S
S
p
j
t
t
S
и способы адаптации
4.4.1. Остатки
Анализ предположений обычно выполняется по остаткам:
ˆ
yye
,
iii
ˆ
y
где
– прогноз, получаемый по модели.
i
Вместо остатков используются шкалированные остатки:
e
d
i
, (4.2)
i
где
– стандартная ошибка наблюдений, квадратный корень из оста-
точной дисперсии (3.22).
Предполагая, что
d
остатков
от отклика y и регрессоров
i
i
)1,0(~ Nd
, строятся графики зависимости
x ,
j
,...,2,1
и вычисля-
ются статистические критерии.
4.4.2. Нарушения предположений о векторе В
и способы адаптации
Нарушение
<2.1>. Адекватная в целом модель может быть улуч-
шена по структуре путем устранения избыточных факторов или (и)
введением значимых регрессоров.
Признаки нарушения: при избыточности: наличие незначимых
факторов в модели со значениями
критическое значение
–статистики; при недоопределенности: нали-
чие трендов на графиках остатков );ˆ,(
зонтальной равномерной полосы шириной
–статистик
xyd , отличающихся от гори-
j
2
.
tt
, где
таблфакт
t –
табл
Адаптация: при избыточности: устранение незначимых факторов
и пересчет коэффициентов модели, при одновременном нарушении
предположений <2.1> и <3.1> использование методов пошаговой рег-
94
рессии или других способов; при недоопределенности: поиск пропу-
щенных факторов (
2
xx
).
,...,,
t
jk
Если модель сразу признается неадекватной, то переходят к другому классу моделей.
Нарушение <2.2>. Косвенные признаки нарушения: наличие зна-
чимых парных коэффициентов корреляции регрессоров.
Адаптация: учет ограничений на вектор
В и решение задачи на
поиск экстремума функции с ограничениями.
Нарушение <2.3>. О необходимости исключения свободного
коэффициента модели судят, исходя из существа процесса или из
результатов сравнения по критериям качества.
4.4.3. Нарушения предположений о матрице X
и способы адаптации
Нарушение
<3.1>. Зависимость регрессоров
x друг от друга
j
называется мультиколлинеарностью.
Признаки нарушения: наличие парных коэффициентов корреля-
ции
между регрессорами значимо отличных от нуля; близость
r
xx
ji
T
к нулю.
)det( XX
Адаптация: операция центрирования, смещенное оценивание,
при числе регрессоров p 4020
– пошаговая регрессия. Полностью
избавиться от мультиколлинеарности не всегда представляется возможным. Самый простой способ: вывод из модели несколько коррелирующих (дублирующих) регрессоров, имеющих значения парных
коэффициентов корреляции
r
xx
ji
8,0
.
Нарушение <3.2>. Косвенные признаки нарушения: резкое разли-
чие между стандартной ошибкой модели S и точностью прогноза
рассчитанной по контрольной выборке.
95
σ ,
Δ
Адаптация: применение вычислительной схемы условной рег-
y
t
рессии со случайными коэффициентами.
4.4.4. Нарушения предположений о векторе е
и способы адаптации
Нарушение
гетероскедастичности на графике
<4.1>. Косвенные признаки нарушения: наличие
)ˆ,( yd
.
Гетероскедастичностью называется явление непостоянства
ˆ
y
дисперсии переменной
или регрессоров
Адаптация: преобразование отклика
регрессоров
x .
j
x .
j
и при необходимости
Нарушение <4.2>. Признаки нарушения: наличие на графиках
);ˆ,(
остатков
xyd
точек за пределами полосы S3. Также для про-
j
верки нормальности распределения используются аналитические кри-
2
терии: критерий
Шапиро и Уилка
, Колмогорова – Смирнова )100( n , критерий
)20( n , метод Айвазяна.
Адаптация: удаление выбросов, применение робастных (устой-
чивых) методов оценивания.
Нарушение <4.3>. При наличии свободного коэффициента
в модели данное предположение не требует особого внимания. Если
величина
d отлична от нуля, то это сигнализирует об ошибках в рас-
четах.
Нарушение <4.4>. Признаки нарушения: наличие гетероскеда-
стичности на графиках остатков );ˆ,(
xyd .
j
Адаптация: описание неоднородности дисперсии аналитическим
соотношениям, взвешенный метод наименьших квадратов.
Нарушение <4.5>. Признаки нарушения: наличие трендов на гра-
фике остатков ),(
td , где
– время или номер наблюдения; наличие
96
взаимных корреляций между
t
e (авторегрессий первого порядка) по
i
критерию Дарбина–Уотсона.
Адаптация: введение линейного или нелинейного слагаемого по
времени
. Если и после этого остается авторегрессия, то использу-
ется обобщенный метод наименьших квадратов.
4.4.5. Нарушения предположений о векторе Y
и способы адаптации
Нарушение
<5.1>. Признаки нарушения: применение неполного
метода перебора.
Адаптация: при невозможности применить метод полного перебора используются методы ветвей и границ, псевдобулевой оптимизации, пошаговой регрессии, генетические алгоритмы.
Нарушение <5.2>. Признаки нарушения: наличие значимых пар-
r
ных коэффициентов корреляции откликов
.
yy
ji
Адаптация: для оценивания параметров модели использование
косвенного метода наименьших квадратов, двухшагового метода
наименьших квадратов; трехшагового метода наименьших квадратов
и других.
4.5. Методы структурной идентификации
4.5.1. Полный перебор
Метод полного перебора предполагает построение всех
2
p
воз-
можных регрессионных моделей. Модели сравниваются между собой,
и выбирается наилучшая по заданному критерию качества (стандартная ошибка, критерий Фишера и т. д.).
Основной проблемой при реализации метода полного перебора
являются чрезмерные затраты машинного времени. Вследствие этого
97
вместо полного перебора используются методы поиска, в которых
количество перебираемых моделей порядка р.
Обычно условие <5.1> о корректности метода поиска нарушается, если присутствует мультиколлинеарность, количество регрессоров
достаточно большое и полный перебор всех структур невозможен.
4.5.2. Метод включения
Начинают с модели, содержащей свободный коэффициент и один
фактор, в наибольшей степени коррелирующий с зависимой переменной y.
Затем в модель последовательно добавляются факторы в порядке
возрастания их частных коэффициентов корреляции с откликом y.
На каждом шаге для включенного фактора
чение F–статистики )(
ем F
. При выполнении неравенства
табл
x
2
tF
и сравнивается с табличным значени-
b
jj
x
j
x вычисляется зна-
j
FF
включение новых
табл
регрессоров прекращается.
4.5.3. Метод исключения
Начинают с полной модели, содержащей все факторы. Для каждого регрессора
Из набора значений статистики Фишера {
x вычисляется значение F–статистики (
j
F
} выбирается
x
j
F
).
x
j
F–статистика с наименьшим значением и сравнивается с табличным
F
табл
. Если
x
j
min
FF
, то регрессор, соответствующий
табл
F
x
minj
,
выводится из модели и производится перерасчет коэффициентов
модели без этого фактора.
Если на каком-то шаге все
FF
x
j
, то исключение прекраща-
табл
ется.
98
4.5.4. Метод включения с исключением
При использовании методов включения и исключения в случае
сильной мультиколлинеарности факторов в модели могут присутствовать лишние факторы. Так как фактор, введенный в модель на раннем шаге, на более позднем из-за корреляции с другими факторами
в модели может оказаться малоинформативным. Этот недостаток
в некоторой степени устраняется в методе, предусматривающем
использование обеих процедур – как включения, так и исключения.
Для каждой из этих процедур выбирается из таблиц критическое
значение F–статистики: F
для включения и F
табл1
для исключения.
табл2
Идея метода: на каждом этапе включения проверяется, не появ-
ляются ли в связи с этим в модели незначимые регрессоры, подлежащие исключению.
4.6. Контрольные вопросы
1. Какая проблема является основной при поиске оптимальной
регрессии?
2.
К каким последствиям приводит включение большого числа
факторов в модель?
К чему приводит недоопределенная модель?
3.
4.
Какие меры являются наиболее подходящими для поиска
оптимальной модели?
5.
Назовите основные предположения регрессионного анализа
о выборке.
6.
Каким предположениям должен удовлетворять вектор пара-
метров модели?
7.
Каковы предположения о матрице Х?
8.
Каковы предположения о векторе ошибок е?
9.
Перечислите дополнительные предположения о векторе Y.
99
10. Каковы этапы подхода адаптивного регрессионного модели-
рования?
Как обычно выполняется анализ предположений регрессион-
11.
ного анализа?
12.
Каковы признаки нарушений предположений о векторе В?
Назовите способы адаптации к нарушениям предположений
13.
о векторе
14.
15.
о матрице
16.
бок
е?
17.
В.
Каковы признаки нарушений предположений о матрице X?
Назовите способы адаптации к нарушениям предположений
X.
Каковы признаки нарушений предположений о векторе оши-
Назовите способы адаптации к нарушениям предположений
о векторе ошибок
18.
Каковы признаки нарушений предположений о векторе Y?
19.
Назовите способы адаптации к нарушениям предположений
о векторе
20.
21.
Y.
В чем суть метода полного перебора?
В чем состоит метод включения? Исключения?
е.
22.
Какова идея метода включения с исключением?
100
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]