Метод взвешенных наименьших квадратов
Гетероскедастичность не позволяет получить эффективные оценки коэффициентов уравнения регрессии, что приводит к необоснованным выводам относительно качества этих оценок. Обнаружение гетероскедастичности является достаточно сложной проблемой.
Одним из возможных
методов устранения гетероскедастичности
является метод взвешенных наименьших
квадратов. Для его применения необходима
определенная информация либо обоснованные
предположения о величине дисперсий
отклонений
.
Рассмотрим случай,
когда дисперсии отклонений
неизвестны и пропорциональны
.
Уравнений линейной
регрессии имеет вид
.
Разделим обе части этого уравнения на
.
Тогда получаем
,
откуда
.
Обозначим
,
,
.
Получаем уравнение
.
Для этого уравнения уже выполнено
условие гомоскедастичности. Методом
наименьших квадратов находим оценки
коэффициентов
и
,
затем возвращаемся к исходному уравнению
.
Пример 11.
Проверить гипотезу о наличии гомоскедастичности, устранить ее и построить уравнений линейной регрессии.
x |
y |
x |
y |
x |
y |
x |
y |
x |
y |
100 |
75,5 |
200 |
80,5 |
300 |
85,5 |
400 |
93 |
500 |
102 |
100 |
75,5 |
200 |
82 |
300 |
88,5 |
400 |
93,5 |
500 |
105,5 |
100 |
77,5 |
200 |
84,5 |
300 |
90 |
400 |
97,5 |
500 |
107 |
100 |
78,5 |
200 |
85 |
300 |
91 |
400 |
99 |
500 |
110,5 |
100 |
80 |
200 |
85,5 |
300 |
95 |
400 |
102,5 |
500 |
115 |
100 |
81 |
200 |
86,5 |
300 |
96 |
400 |
105 |
500 |
118,5 |
Уравнение регрессии
имеет вид
.
Мы видим, что с ростом x
разброс значений y
увеличивается. Например, при
размах вариации переменной y
равен
,
а при
размах вариации переменной y
равен
.
Поэтому можно ожидать наличие
гетероскедастичности.
Проверим с помощью
теста Голдфелда-Квандта гипотезу о
наличии гетероскедастичности. Возьмем
.
Доверительная вероятность
,
тогда
,
с помощью функции FРАСПОБР(0,05;10;10)
находится
граничная точка
.
m
это количество факторов модели, в нашем
случае m
= 1.
Теперь воспользуемся Пакетом анализа и заполним таблицу:
x |
y |
|
|
x |
y |
|
|
100 |
75,5 |
1,15 |
1,32 |
400 |
93 |
7,03 |
49,35 |
100 |
75,5 |
1,15 |
1,32 |
400 |
93,5 |
6,53 |
42,58 |
100 |
77,5 |
0,85 |
0,72 |
400 |
97,5 |
2,53 |
6,38 |
100 |
78,5 |
1,85 |
3,42 |
400 |
99 |
1,03 |
1,05 |
100 |
80 |
3,35 |
11,22 |
400 |
102,5 |
2,47 |
6,13 |
100 |
81 |
4,35 |
18,92 |
400 |
105 |
4,97 |
24,75 |
200 |
80,5 |
3,94 |
15,54 |
500 |
102 |
5,82 |
33,83 |
200 |
82 |
2,94 |
5,96 |
500 |
105,5 |
2,32 |
5,37 |
200 |
84,5 |
0,06 |
0 |
500 |
107 |
0,82 |
0,67 |
200 |
85 |
0,56 |
0,31 |
500 |
110,5 |
2,68 |
7,2 |
200 |
85,5 |
1,06 |
1,12 |
500 |
115 |
7,18 |
51,6 |
200 |
86,5 |
2,06 |
4,24 |
500 |
118,5 |
10,68 |
114,13 |
Сумма |
64,11 |
Сумма |
343,03 |
||||
300 |
85,5 |
6,73 |
45,34 |
|
|
|
|
300 |
88,5 |
3,73 |
13,94 |
|
|
|
|
300 |
90 |
2,23 |
4,99 |
|
|
|
|
300 |
91 |
1,23 |
1,52 |
|
|
|
|
300 |
95 |
2,77 |
7,65 |
|
|
|
|
300 |
96 |
3,77 |
14,19 |
|
|
|
|
Столбец это столбец Остатки из блока Вывод остатка.
Суммы квадратов
отклонений соответственно равны:
,
.
Значения из середины таблицы при
в вычислении сумм не используются.
Статистика
определяется формулой
.
Так как 5,35 > 2,98, то на уровне значимости
5% принимается гипотеза о наличии
гетероскедастичности.
Устраним гетероскедастичность. Предположим, что неизвестные дисперсии отклонений неизвестны и пропорциональны .
Уравнений линейной
регрессии имеет вид
.
Разделим обе части этого уравнения на
.
Тогда получаем
,
откуда
.
Обозначим
,
.
Получаем уравнение
.
Заполним таблицу:
x |
y |
|
|
x |
y |
|
|
100 |
75,5 |
0,01 |
0,76 |
400 |
93 |
0,0025 |
0,23 |
100 |
75,5 |
0,01 |
0,76 |
400 |
93,5 |
0,0025 |
0,23 |
100 |
77,5 |
0,01 |
0,78 |
400 |
97,5 |
0,0025 |
0,24 |
100 |
78,5 |
0,01 |
0,79 |
400 |
99 |
0,0025 |
0,25 |
100 |
80 |
0,01 |
0,8 |
400 |
102,5 |
0,0025 |
0,26 |
100 |
81 |
0,01 |
0,81 |
400 |
105 |
0,0025 |
0,26 |
200 |
80,5 |
0,005 |
0,4 |
500 |
102 |
0,002 |
0,2 |
200 |
82 |
0,005 |
0,41 |
500 |
105,5 |
0,002 |
0,21 |
200 |
84,5 |
0,005 |
0,42 |
500 |
107 |
0,002 |
0,21 |
200 |
85 |
0,005 |
0,43 |
500 |
110,5 |
0,002 |
0,22 |
200 |
85,5 |
0,005 |
0,43 |
500 |
115 |
0,002 |
0,23 |
200 |
86,5 |
0,005 |
0,43 |
500 |
118,5 |
0,002 |
0,24 |
300 |
85,5 |
0,003 |
0,29 |
|
|
|
|
300 |
88,5 |
0,003 |
0,3 |
|
|
|
|
300 |
90 |
0,003 |
0,3 |
|
|
|
|
300 |
91 |
0,003 |
0,3 |
|
|
|
|
300 |
95 |
0,003 |
0,32 |
|
|
|
|
300 |
96 |
0,003 |
0,32 |
|
|
|
|
По данным столбцов
и
с помощью пакета анализа находим
коэффициенты
и
.
Тогда уравнение регрессии имеет вид
.