13. Предпосылки мнк

Для того чтобы оценки МНК соответствовали истине необходимо выполнение следующих гипотез:

1. Модель парной линейной регрессии имеет форму i=1,…,n – спецификация модели

2. Xi – детерминированная величина (неслучайная)

3a. Математическое ожидание должно быть равно 0. Е (εi)=0, дисперсия – не зависит от i.

3b. при i≠j, некоррелированность ошибок для разных наблюдений

3с. Ошибки εi, i=1,…,n, имеют совместное нормальное распределение: εi~N(0, σ²).

В этом случае модель называется нормальной линейной регрессионной.

Если условие постоянства дисперсии и ошибок выполняется, то речь идет о гомоскедастичности, если не выполняется – то гетероскедастичности.

Если остатки оказываются гетероскедастичными, то приходится применять специальные математические методы преобразования данных.

15. Линейная регрессионная модель с двумя переменными

Мы уже заметили, что при наличии объективной тенденции поддержания линейной связи между переменными и естественно рассмотреть линейную модель наблюдений (7.1)

- зависимая переменная

- случайная ошибка или случайное отклонение

_{- константа или свободный член}

_{- коэффициент регрессии ( показывает, на сколько в среднем изменится результат при изменении фактора на 1.}

-независимая переменная, объясняющая фактор или регроссор

- теоретическое значение результативного признака, найденное исходя из соответствующей математической функции связи у и х, т. е. из уравнения регрессии, ее также называют оценкой y;

 - случайная величина, характеризующая отклонения реального значения результативного признака от теоретического, найденного по уравнению регрессии.

Случайная величина  называется также возмущением. Присутствие случайных ошибок в уравнениях мотивируется комплексом причин — влиянием неучтенных факторов, непредсказуемостью человеческих реакций, неточностями наблюдений и измерений и т.д.

Присутствие в модели случайной величины порождено тремя основными источниками:

• спецификацией модели,

• выборочным характером исходных данных,

особенностями измерения переменных.

Парную линейную регрессию можно использовать в тех случаях, когда имеется доминирующий фактор, по сравнению с которым влияние всех остальных факторов можно пренебречь.

17. Определение качества оценок

Свойства оценок параметров

Общая задача оценивания заключается в получении каких-либо выводов о параметре У, на основании наблюдений Х₁, Х ₂,…,. Х _n

Существуют следующие критерии оценок параметров:

• несмещенность,

• состоятельность

• эффективность.

Несмещенность оценки означает, что при ее использовании мы не получаем систематической ошибки, и только при наличии этого свойства оценки могут иметь практическую значимость. Математически несмещенность оценки означает, что математическое ожидание остатков равно 0 или .

Следовательно, при большом числе выборочных оцениваний остатки не будут накапливаться и найденный параметр можно рассматривать как среднее значение из возможно большого количества несмещенных оценок. Если оценки обладают свойством несмещенности, то их можно сравнивать по разным исследованиям.

Состоятельность оценки гарантирует приближение оценки к истинному значению (т.е. увеличение их точности) при увеличении объема выборки, т.е. должно выполняться равенство

для всякого

Состоятельной называется такая оценка, которая дает истинное  значение  при   достаточно  большом  объеме  выборки   вне   зависимости   от  значений   входящих   в нее   конкретных   наблюдений. Состоятельность обычно рассматривается как самое важное свойство оценки (это минимальное требование, предъявляемое к любой оценке).

Признаком несостоятельности оценки является резкое изменение коэффициентов регрессии при изменении объема выборки.

Эффективная оценка является наилучшей в смысле минимума среднеквадратичного отклонения. Оценки, полученные методом наименьших квадратов при выполнении всех необходимых предпосылок (гипотез), являются эффективными.

Несмещенность и эффективность - это свойства, не зависящие от объема выборки n, в то время как состоятельность является асимптотическим свойством при стремлении n к бесконечности.

Для определения качества оценок, полученных методом наименьших квадратов (МНК), необходимо учитывать статистические свойства имеющихся данных. В уравнении 7.6

_i — ошибка (случайные величины).

y_i —объясняемая (зависимая) переменная

x_i — объясняющая (независимая) переменная или регрессор.

Можно считать, что _i — случайная величина с некоторой функцией распределения, которой соответствует функция распределения случайной величины y_i .