Вопрос 15. Методы оценки параметров в регрессионных моделях и критерии проверки их качества.

МНК - просто и эффективно. (линейные модели). Нет жестких требований к ЗР ошибок моделей. Поэтому оценки к-тов моделей, полученные на основе МНК, не зависят от фактич (или предполагаемого) ЗР. обычно ЗР предполагается нормальным.

В “классическом” варианте МНК в отношении свойств _t есть предположения:

1. нулевое МО, M[_t]=0;

2. дисперсия конечна и постоянна, _²=const;

3. автокорр связи в ряду ошибки отсутствуют Cov()=_²Е

4. ряд значений ошибки стат-ки не связан с рядами значений независ переменных модели.

Модель в общем виде: y_t=₀+₁ х_1t +...+_nх_nt +_t. (1.2)

сумма квадратов значений фактической ошибки модели должна быть минимальной.

=> min

Неизвестные- a₀, a₁,..., a_n, известны: i,j=1,2,..., п.

Вект-Матр Ф: у=Х+, (2.4)

s² =(е, е)=(у–Хa)(у–Хa)= уу–aХу–уХa+aХХa=уу–2aХу+aХХa. (2.6)

s²/a=0. (2.7)

s²/a=(уу–2aХу+aХХa)/a=–2Ху+2ХХa=0

ХХa=Ху.

a=(ХХ)^–1Ху. (2.8)

Использование метода наименьших квадратов позволяет получить несмещенные и эффективные оценки параметров линейной эконометрической модели при детерминированных значениях независимых переменных в случае конечной выборки, если выполняются следующие положения:

Предпосылки для ошибки + невырожд-ть ХХ (т.е.отсутствие мультиколл)

Оценки коэффициентов эконометрической модели со стохастическими независимыми переменными, полученные на основе МНК, являются асимптотически состоятельными и эффективными, если выполняются следующие условия:

[|Х]=M[]=0;

[()|Х]=_² E;

)]=0

Q.

Т.е. те же условия, но в пределах.

Особенности проверки качества оценок МНК

Методы измерения ошибок прогноза:

1. MAD – среднее абсолютное отклонение

- показывает, на сколько в среднем отклоняется каждый прогноз.

2. MSE – среднеквадратическая ошибка

- используется только для сравнения моделей.

3. MAPE – средняя абсолютная процентная ошибка

- используется только для сравнения моделей.

4. MPE – средняя процентная ошибка

- если ошибка MPE большая и отрицательная, то прогноз дает завышенные результаты, если положительная, то заниженные результаты.

Тестирование свойств фактической ошибки эконометрической модели

1. Тестирование условия постоянства дисперсии ошибки модели.

Двусторонний критерий Фишера. Интервал (1,Т) разбивается на три интервала (1,Т₁), (Т₁+1, Т₂), (Т₂+1, Т). При этом первый и третий интервалы обычно выбираются одинаковой длины. Для данных, соответствующих первому и третьем интервалам, строятся эконометрические модели, аналогичные исходному варианту. Для каждой из них определяются последовательности ошибки е_t – е₁, е₂,..., и е_Т соответственно. Для первого и третьего интервалов на основании известных значений ошибки, рассчитываются дисперсии

_1e²= и _3e² =

где n – число параметров модели.

Отношение _3e² / _1e² сопоставляется с граничными значениями двухстороннего критерия Фишера F_* и F^* с заданным уровнем доверительной вероятности р_* и числом степеней свободы ₁=T–(n+1) и ₂=T–T₂–(n+1). Если влезает в интервал, то гипотеза о постоянстве дисперсии на интервале (1,Т) принимается. В противном случае – эта гипотеза отвергается. (F_* =1/F^*(₂, ₁)).

2. Тестирование автокорреляционной зависимости ошибки.

1) сопоставление расчетного значения его критерия Стьюдента

,

с его табличным значением _* (р_*, Т–2), взятым при заданном уровне доверительной вероятности р_* и известном числе степеней свободы Т–2. Если _r _*, то 1й к-т автокорреляции временного ряда фактической ошибки =0.

2) вместо выборочной оценки коэффициента автокорреляции r₁ используется его преобразование

Фишер показал, что величина z₁ распределена приблизительно по нормальному закону с m=0 при любых значениях r₁1. Вследствие этого – среднеквадратическая ошибка переменной z₁. В практических расчетах ее можно заменить оценкой, полученной из выражения (2.55).

МЕТОД МАКСИМАЛЬНОГО ПРАВДОПОДОБИЯ

ММП базируется на критерии, согласно которому оптимальные оценки параметров обеспечивают максимум так называемой “функции правдоподобия”. Это условная плотность совместного распределения (|y, х) п+1-го неизвестного параметра модели ₀, ₁,... _n при заданных исходных значениях Х и У с учетом того, что эти переменные взаимосвязаны между собой эконометрической моделью с функционалом f(, x) в общем случае.

В целом, в основе ММП лежат следующие рассуждения.

1. Выбранная модель адекватна процессу изменения (распределению) зависимой переменной y_t ,

2. Закон распределения значений y_t известен. Чаще всего предпол-ся N.

В “классическом” варианте ММП в отношении зависимой переменной y_t выдвигается предположение о независимости распределений значений y_t, рассматриваемых в разные моменты времени t=1, 2,..., T, и о постоянстве их разновременных дисперсий относительно математических ожиданий y^_t. В этом случае матрица _y =  Е , где – постоянная дисперсия переменных y₁,..., y_T;

3. Функция плотности закона распределения ошибки _t эквивалентна функции плотности закона распределения переменной y_t , т. е.  (_t )= (y_t ), и в общем случае (_t )N(0, _ ).

Таким образом, максимум произведения р(е₁)р(е₂)...р(е_Т) соответствует наиболее вероятному сочетанию значений _t, t=1, 2,..., T, обеспечиваемому “наилучшими” оценками параметров модели. При этом имеется в виду, что для произвольного набора значений фактической ошибки е₁, е₂,..., е_T произведение вероятностей р(е₁)р(е₂)...р(е_Т ) в данном случае выражает вероятность совместного распределения их значений, соответствующих определенному набору оценок параметров a₀, a₁,..., a_n.

С учетом этого, решение задачи оценки параметров линейной эконометрической модели может быть получено в результате максимизации целевой функции следующего вида:

по неизвестным параметрам ₀ , ₁ ,..., _n и _² при заданных массивах исходных данных, выражаемых вектором известных значений зависимой переменной у_t и матрицей значений независимых факторов Х размера Т(п+1) (в 1м столбце единицы).

Целевая функция называется функцией МП.

Не принимая во внимание первое постоянное слагаемое в правой части выражения (2.111), заметим, что оптимальные значения a₀^*, a₁^*,..., a_n^* и _e² в этом случае могут быть найдены путем решения следующей системы из п+2-х дифференциальных уравнений в частных производных по этим параметрам:

Векторно-матричная форма: у=Х+, (2.113)

Тогда =у –Х, (2.114)

И (2.115)

l/ = (– Ху+ ХХ)=0;

l/_²= (у –Х)(у –Х)=0. (2.116)

a^*=a=(ХХ )^–1Ху, _е² = (у –Хa)(у –Хa)=

Несмещенная оценка: