1.3. Обобщенный метод наименьших квадратов

При нарушении гомоскедастичности и наличии автокорреляции ошибок рекомендуется заменять традиционный метод наименьших квадратов (Ordinary Least Squares  OLS) обобщенным методом (Generalized Least Squares  GLS).

Обобщенный метод наименьших квадратов применяется к преобразованным данным и позволяет получать оценки, которые обладают не только свойством несмещенности, но и имеют меньшие выборочные дисперсии. В этом разделе остановимся на использовании обобщенного МНК для корректировки гетероскедастичности.

Как и раньше, предположим, что среднее значение остатков равно нулю, а дисперсия их пропорциональна величине К_i, т. е.

(34)

где  дисперсия ошибки при конкретном i-м значении фактора; ²  постоянная дисперсия ошибки при соблюдении предпосылки о гомоскедастичности остатков; К_i  коэффициент пропорциональности, меняющийся с изменением величины фактора, что и обусловливает неоднородность дисперсии.

При этом предполагается, что ² неизвестна, а в отношении величины К выдвигаются гипотезы, характеризующие структуру гeтероскедастичности.

В общем виде для уравнения y_i = a + b  x + _i при модель примет вид:

y_i =  + _i  x_i +  _i. (35)

В данной модели остаточные величины гeтероскедастичны. Предположив в них отсутствие автокорреляции, перейдем к уравнению с гомоскедастичными остатками, поделив все переменные, зафиксированные в ходе i-го наблюдения, на . Тогда дисперсия остатков будет величиной постоянной, т.е. . Иными словами, от регрессии у по х мы перейдем к регрессии на новых переменных: и. Уравнение регрессии примет следующий вид:

. (36)

Исходные данные для этого уравнения будут иметь вид:

(37)

По отношению к обычной регрессии уравнение с новыми, преобразованными переменными представляет собой взвешенную регрессию, в которой переменные у и х взяты с весами .

Оценка параметров уравнения с преобразованными переменными дается с помощью взвешенного метода наименьших квадратов, для которого необходимо минимизировать сумму квадратов отклонений вида .

Если преобразованные переменные х и у взять в отклонениях от средних уровней, то коэффициент регрессии b можно определить как

. (38)

Как видим, при использовании обобщенного МНК с целью корректировки гетероскедастичности коэффициент регрессии b представляет собой взвешенную величину по отношению к обычному методу наименьших квадратов с весами 1/К.

Аналогичный подход возможен не только для уравнения парной, но и для уравнения множественной регрессии.

Например, при рассмотрении зависимости сбережений у от дохода х по первоначальным данным было получено уравнение регрессии

у = 1,081 + 0,1178х.

Применив обобщенный МНК к данной модели в предположении, что ошибки пропорциональны доходу, было получено уравнение для преобразованных данных .

Коэффициент регрессии первого уравнения сравнивают со свободным членом второго уравнения, т.е. 0,1178 и 0,1026  оценки параметром b зависимости сбережений от дохода.

Обобщенный метод наименьших квадратов устраняет гетероскедастичность, если известна взаимосвязь ошибок регрессии (_i) с фактором х (например, на основе рассмотренных тестов гeтероскедастичности). Иными словами, должны быть установлены коэффициенты пропорциональности К_i, что и приводит к взвешенному методу наименьших квадратов.