3.6. Предпосылки метода наименьших квадратов
Применение метода наименьших квадратов в уравнении множест-
венной регрессии |
уравнения регрессии. |
предполага- |
|
ет оценку параметров= + ∙ + |
∙ + ….+ ∙ + |
|
|
Оценки параметров регрессии |
должны отвечать определенным кри- |
||
С |
|
|
|
териям: |
|
|
|
несмещенность оценки – математическое ожидание остатков рав- |
|||
но нулю. Если оценки обладают свойством несмещенности, их можно |
|||
сравнивать между |
сследованиями; |
|
|
эффект вность остатков – характеризуются наименьшей диспер- |
|||
сией; |
|
|
|
состоятельность оценки – увеличение точности оценки с увеличе- |
|||
нием объема |
[3]. |
|
|
При этом делаются определенные предпосылки относительно слу- |
|||
чайной вел ч ны |
. Исследование остатков предполагает проверку нали- |
||
чиявыборкипредпосылок метода наименьших квадратов: |
|
||
случайный характер остатков – для оценки строится график зави- |
|||
симости остатков |
от теоретического значения результативного признака. |
||
Если на графике получена горизонтальная линия, то остатки представляют |
|||
собой случайные величины и применение МНК оправдано; |
|
||
нулевая средняя величина остатков, не зависящая от х – эта пред- |
|||
нейных моделейбАи ∑( − ) = 0 |
|
||
посылка означает, |
что |
. Данное условие выполнимо для ли- |
|
моделей, нелинейных относительно включаемых пара-
метров;
гомоскедастичность означает, что для каждого значения фактора х остатки имеют одинаковую дисперсию;
отсутствие автокорреляции остатков – значение остатков распределены независимо друг от друга. Автокорреляция остатков означает наличие корреляции между остатками текущих и предыдущих значений;
остатки подчиняются нормальному распределению [6,7]. Обобщенный метод квадратов применяется к преобразованным дан-ДИ
ным и позволяет получить оценки, обладающие не только свойством несмещенности, но и имеющим меньшие выборочные дисперсии.
Если среднее значение остаточных величин равно нулю, а дисперсия пропорциональна величине Ki:
|
ė |
|
где ė – дисперсия ошибки при |
конкретном i - м значении фактора; |
|
|
= ∙ , |
|
– постоянная дисперсия ошибки при соблюдении предпосылки о гомоскедастичности остатков;
35
|
– коэффициент пропорциональности, меняющийся с изменением вели- |
||||||||||||||||||||||||||||||||||||||||
чины фактора, что обуславливает неоднородность дисперсии. |
|
|
|
|
|
||||||||||||||||||||||||||||||||||||
|
|
В отношении величины |
|
|
выдвигаются гипотезы, характеризующие |
||||||||||||||||||||||||||||||||||||
структуру гетероскедастичности. Для |
|
уравнения |
|
|
|
|
ė |
при |
|||||||||||||||||||||||||||||||||
|
= |
∙ |
|
|
|
|
|
|
|
|
|
|
= |
|
+ ∙ |
+ |
|
∙ |
Остаточные дис- |
||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||
ė |
|
|
модель примет вид |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
=ė. |
+ |
+ |
|
|
|
|
|||||||||
персии в данной модели гетескедатичные, поскольку автокорреляция от- |
|||||||||||||||||||||||||||||||||||||||||
сутствует, можно перейти к уравнению с гомоскедастичными остатками, |
|||||||||||||||||||||||||||||||||||||||||
поделив все переменные на |
|
|
|
|
|
. Уравнение регрессии примет вид [1, 2]: |
|
||||||||||||||||||||||||||||||||||
|
|
|
|
|
|||||||||||||||||||||||||||||||||||||
С |
|
|
|
= |
|
|
|
|
|
|
|
|
|
|
|
+ |
|
|
∙ |
|
|
|
|
|
+ ė. |
|
|
|
|
|
|
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||
|
|
Исходные данные для такого уравнения имеют вид |
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||
|
и |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||
|
|
|
|
= |
|
|
|
|
|
|
|
; |
|
= |
|
|
|
|
|
|
. |
|
|
|
|
|
|
|
|
||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Уравнение с прео разованными переменными представляет собой |
|||||||||||||||||||||||||||||||||||||||
взвешенную регрессию, в которой переменные y и х взяты с весами |
|
|
. |
||||||||||||||||||||||||||||||||||||||
|
|
||||||||||||||||||||||||||||||||||||||||
Оценка параметров нового уравнения осуществляется взвешенным мето- |
|||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1/ |
|
|
дом наименьшихбАквадратов, для которого необходимо минимизировать√ |
|||||||||||||||||||||||||||||||||||||||||
сумму квадратов отклонений вида: |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||
|
|
|
|
|
|
= ∑ |
|
|
|
∙(Д− − ∙ ) . |
|
(52) |
|
||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||
|
|
Коэффициент регрессии рассчитывается по формуле (переменные |
|||||||||||||||||||||||||||||||||||||||
отклонены от средних уровней): |
|
|
|
= |
∑ |
|
|
|
|
. |
|
|
|
|
|
|
И |
||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||
|
|
При применении |
традиционного метода наименьших квадратов к |
||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
∑ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
уравнению линейной регрессии для переменных в отклонениях от средних |
|||||||||||||||||||||||||||||||||||||||||
уровней коэффициент регрессии рассчитывается по формуле |
|
|
|
|
|
||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
∑ |
|
∙ |
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
= |
∑ |
. |
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||
36
Данный подход используется для множественной регрессии, является коэффициентом пропорциональности, принимающим различные зна-
чения |
для соответствующих величин факторов при наблюдении. Уравне- |
||||||||||||
ние, содержащее гомоскедастичные остатки, имеет вид |
|||||||||||||
|
|
|
= |
|
+ |
∙ |
|
+ ∙ |
|
|
+ + ∙ |
|
+ . |
|
|
|
|
|
|
|
|||||||
Пр менен е обобщённого метода |
наименьших квадратов позволяет |
||||||||||||
получить оценки параметров |
модели, |
обладающие наименьшей диспер- |
|||||||||||
сией [4]. |
|
|
|
|
|
|
|
|
|
||||
и |
|
|
|
|
|||||||||
С |
Контрольные вопросы |
|
|
||||||||||
1. |
Что означает н зкое значение коэффициента множественной кор- |
||||||||||||
реляции? |
|
|
|
|
|
|
|
|
|
||||
2. |
Что пон мается под коллинеарностью и мультиколлинеарностью |
||||||||||||
факторов? |
|
|
|
|
|
|
|
|
|
||||
3. |
Укаж те формулу расчета коэффициента множественной корреля- |
||||||||||||
ции. |
По какойбформуле рассчитывается индекс |
множественной корре- |
|||||||||||
4. |
|||||||||||||
ляции? |
Какие тре ования |
предъявляются к факторам, включаемым в |
|||||||||||
5. |
|||||||||||||
уравнение регрессии? |
|
|
|
Д |
|||||||||
6. |
Как рассчитываютсяАсредние коэффициенты эластичности? |
||||||||||||
7. |
Как строятся частные коэффициенты эластичности? |
||||||||||||
8. |
Охарактеризуйте понятие «стандартизированные переменные». |
||||||||||||
9. |
Что понимается под стандартизированными переменными? |
||||||||||||
|
|
|
|
|
|
|
|
|
|
|
И |
||
10. Что понимается под спецификацией модели? |
|||||||||||||
11. Какие подходы применяются |
для преодоления межфакторной |
||||||||||||
корреляции?
12. Как вычисляются частные коэффициенты корреляции?
37