Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Основы эконометрики. Учебное пособие
.pdf
Рисунок 1.26 – Гистограмма распределения регрессионных остатков
В результате проведения пошаговой регрессии получили следующую
оценку уравнения регрессии:
ˆ
3
)39,0()27,2(
)29,0(
0015,048,108,142,60
xxxy −−+=
4
9
)0006,0(
Оценка уравнения регрессии значима т.к. нулевая гипотеза отклонена;
коэффициенты при переменных также значимы. Коэффициент детерминации
составил 0,675, т.е. 67,5% доли вариации результирующей переменной объясняется переменными Х
, Х4 и Х9, а 32,5% доли вариации, вероятно, объяс-
3
няется неучтенными в модели факторами.
Согласно полученной модели, можно сделать вывод о том, что увеличение количества браков приводит к росту ожидаемой продолжительности
жизни мужчин в среднем на 1,08 лет, при росте количества разводов ожидаемая продолжительность жизни мужчин в среднем сокращается на 1,48 лет,
при увеличении
числа зарегистрированных преступлений ожидаемая про-
должительность жизни мужчин в среднем также сокращается на 0,0015 лет.
1.9 Вопросы для самоконтроля
1 Назовите основные задачи эконометрики.
2 Приведите примеры эконометрических моделей.
3 Сформулируйте условия Гаусса-Маркова.
4 Как определяются стандартные ошибки оценок коэффициентов рег-
рессии?
5 Как проверить значимость уравнения регрессии и его коэффициентов?
6 Как проверяется адекватность модели?
7 В чем суть коэффициента детерминации и в каких пределах он изме-
няется?
41
8 Раскройте понятие полной и частичной мультиколлинеарности.
9 Укажите причины и признаки мультиколлинеарности.
10 Укажите формальные признаки мультиколлинеарности.
11 К чему ведет отбрасывание незначимых коэффициентов в модели
регрессии.
12 Поясните суть пошаговой регрессии.
13 Поясните суть «ридж-регрессии».
42
2 Обобщенная линейная модель множественной регрессии.
ε
β
+
=
ε
β
Обобщенный метод наименьших квадратов
При моделировании реальных социально-экономических процессов
можно столкнуться с ситуациями, в которых условия классической линейной
модели множественной регрессии оказываются нарушенными. Если в качестве исходных статистических данных используются временные или пространственно-временные ряды, то чрезмерно нереалистичным становится,
как правило, условие взаимной некоррелированности. При работе с пространственно-неоднородными данными
выполнение условия гомоскедастичности регрессионных остатков. К примеру, часто приходится анализировать регрессионные модели, в которых меняется разброс остатков около линии регрессии, например, возрастая пропорционально значениям функции регрессии.
исследовании зависимости расходов на потребление от уровня доходов семей. В этом случае можно ожидать, что в более обеспеченных семьях вариация расходов выше, чем в малообеспеченных, что приводит к росту дисперсии регрессионных остатков с увеличением расходов семьи.
2.1 Обобщенная линейная модель множественной регрессии
Линейная модель множественной регрессии
излишне оптимистичным становится
Такая ситуация наблюдается при
XY
, (2.1)
для которой нарушено 4 и/или 5 условие Гаусса-Маркова называется
обобщенной линейной моделью множественной регрессии (ОЛММР), а
именно [1]:
х1,…,х
1)
2) ранг матрицы
– детерминированные переменные;
к
Х равен "к+1" – среди признаков нет линейно зависи-
мых;
3)
4`)
M
,
0=
i
M ,
ε
- нет систематических ошибок в измерении у;
ni ,1=
T
2
)( Σ==Σ
σεε
0
0
E≠Σ
- положительно-определенная, симмет-
n
0
ричная матрица.
В обобщенной модели множественной регрессии ковариации между
регрессионными остатками могут быть отличными от нуля, а дисперсии могут различаться у различных объектов. В дальнейшем рассмотрим два типа
наиболее распространенных эконометрических моделей: линейную модель
множественной регрессии с гетероскедастичными остатками (регрессионные
остатки которой не отвечают требованиям гомоскедастичности)
и линейную
модель множественной регрессии с автокоррелированными остатками (регрессионные остатки являются коррелированными между собой). Наша задача, как и прежде, заключается в оценивании вектора
, а также изучении
свойств полученных оценок.
43
∑
−
k
−
−
2.2 Свойства МНК-оценок и обобщенный метод наименьших квад-
ратов (ОМНК)
МНК-оценки коэффициентов регрессионной модели, определенные соотношениями (1.5) остаются и в рамках ОЛММР состоятельными (при тех же
требованиях к матрице наблюдений Х) и несмещенными (доказательство несмещенности оценок
b в задаче оценивания параметров ОЛММР в точ-
МНК
ности повторяет доказательство этого факта в условиях КЛММР – (1.10) и
(1.10а)). Однако полученные ранее формулы (1.11) и (1.13) для ковариацион-
Σ
ной матрицы
оказываются неработоспособными, неприемлемыми в ус-
b
мнк
ловиях ОЛММР [1]:
1111
∑
TTTTT
b
111
2
Σ==
σεε
0
TTTTTTT
0
XXXXXXXXXMXXX
TTTT
−−−−
εεεε
1
−−−−
)()()()()(
===
XXXXXMXXXXXXM
])()[()])))(()[((
(2.2)
12
−
в то время как для классической модели
Таким образом, оценка
b , найденная обычным методом наименьших
=
b
T
)(
σ
XX
.
квадратов (1.5) хотя и будет несмещенной и состоятельной, но не будет эффективной. Для получения эффективной оценки преобразуем исходные дан-
ные с помощью любой невырожденной матрицы С:
−−
321321
ХY
прпр
111
СXСYС
{
εβ
ε
пр
+=
(
XY
εβ
+= ). Преобразуемая модель является КЛММР, тогда оценки ко-
прпрпр
эффициентов определяются следующим образом [1,2,7]:
T
прОМНК
прTпрпр
11111
Оценки, определенные соотношением (2.3) называются оценки обобщенного метода наименьших квадратов.
При этом несмещенная оценка остаточной дисперсии, ковариационной
матрицы
Σ имеет вид:
b
ОМНК
2
ˆ
S −Σ−
=
)( OMHK
1
n
1
−−
OMHKОМНКост
1
T
−
0
XbYXbY
ˆ
ОМНК
2
ˆ
ОМНКостb
T
Σ=Σ XXS
)(
0
11
)(
. (2.5)
Выборочный коэффициент детерминации определяется по формуле
(2.6):
11
0
)()(
1
TTTTTT
−−−−−−−−
)()()())(()(
YXXXYCCXXCXYXXXb
ΣΣ=== . (2.3)
0
, (2.4)
44
1
−
ε
β
+
=
X
ε
j
≠
=
x
T
ee
cp
Σ
0
1
T
−
−Σ−
0
. (2.6)
)()(
YYYY
cp
2
ˆ
R
ОМНК
1
−=
2
ˆ
Однако здесь в
R вообще говоря может выходить за пределы
ОМНК
[0;1]. Поэтому выражение (2.6) используется лишь как приближенная характеристика качества модели.
В заключение отметим, что для применения обобщенного метода наименьших квадратов необходимо уметь оценивать ковариационную матрицу
Σ или подбирать матрицу С, что удается только в некоторых случаях, рас-
0
смотренных ниже.
2.3 Обобщенная линейная модель множественной регрессии с гете-
роскедастичными остатками
Линейная модель множественной регрессии
Y
, (2.7)
для которой нарушено 4 условие Гаусса-Маркова называется
обобщенной
линейной моделью множественной регрессии с гетероскедастичными остатками
, а именно [1]:
х1,…,х
1)
– детерминированные переменные;
к
2) ранг матрицы
Х равен "к+1" – среди признаков нет линейно зависи-
мых;
3)
4)
M
,
0=
i
2
MD
==
5)
T
4')
M (где
ε
который общий множитель диагональных элементов
Рассмотрим пример моделирования зависимости
душевых сбережений от
- нет систематических ошибок в измерении у;
ni ,1=
2
M
,
σεε
iii
εεεε
Σ==Σ
σεε
020
ni ,1=
i
0)(),cov( =⋅=
,
jiji
Σ - диагональная матрица, но
,
0
ni ,1=
nj ,1
Σ ).
ε
(ден. ед.) – средне-
y
(ден. ед.) – среднедушевого дохода за один месяц
E≠Σ
0
2
;
σ
n
- не-
0
в семье, извлеченных из совокупности семей, однородных по своему потребительскому поведению (таблица 2.1). Естественно ожидать, что с ростом
дохода разброс денежных сбережений относительно условной средней величины (функции регрессии) увеличивается (рисунок 2.1). Таким образом, наблюдается рост дисперсии регрессионных остатков с увеличением дохода
семьи.
45
140
120
100
80
60
Сбережения
40
20
0
50 70 90 110 130 150 170 190 210
Доход
140
120
100
80
60
Сбережения
40
20
0
50 70 90 110 130 150 170 190 210
Доход
Рисунок 2.1 – Графическое изображение зависимости сбережений от
дохода
Влияние гетероскедастичности на свойства МНК-оценок коэффициентов регрессионной модели с гетероскедастичными остатками имеет двойственный характер. Во-первых, оценки, полученные с помощью МНК, в этом
случае уже не будут обладать наименьшей дисперсией среди всех линейных
несмещенных оценок. Во-вторых, стандартные ошибки таких
оценок будут
смещены, это обстоятельство приводит к тому, что при проверке гипотез о
несущественности параметров регрессионной модели будет снижаться достоверность статистических выводов.
46
сяц
)
(
)
(
)
(
)
(
)
Таблица 2.1 - Данные о среднедушевых сбережений и доходах за ме-
Средне-
душевой
доход
(ден.ед.)
Средне-
душевые
сбережения
(ден.ед.)
Средние сбережения
для семей данной
группы
(ден. ед.)
1 2 3 4
y
5.12
=
1
y
7.10
=
2
y
5.18
=
3
y
9.14
=
4
80
y
5
y
6
y
7
y
8
y
9
y
10
y
11
y
12
y
13
y
14
y
15
y
16
y
17
y
18
y
19
y
20
y
21
y
22
y
23
y
24
y
25
y
26
y
27
y
28
y
29
y
30
y
31
y
32
y
33
y
34
y
35
y
36
y
37
y
38
y
39
y
40
...
xx
21
1211
2221
3231
===
0
===
xx
110
...
===xxxx
0
120
===
220
...
===xxxx
0
160
===
330
...
===xxxx
0
200
===
440
1.24
=
3.10
=
2.14
=
0.31
=
4.20
=
0.20
=
1.70
=
0.35
=
0.43
=
0.29
=
0.17
=
2.48
=
9.18
=
0.53
=
4.39
=
2.46
=
6.49
=
4.69
=
8.77
=
0.43
=
8.31
=
6.62
=
2.100
=
8.68
=
0.78
=
8.29
=
5.125
=
3.88
=
0.62
=
8.58
=
0.84
=
0.79
=
5.95
=
8.120
=
7.98
=
7.29
=
0
xy
=
1
10
1
10
∑
=
i
==
y
1
9.17
i
0
=
xy
2
1
10
20
∑
=
i
y
i
11
==
40
0
=
xy
3
30
1
10
∑
=
i
==
y
i
21
1.61
0
=
xy
4
40
1
10
∑
=
i
==
y
31
2.84
i
Оценка среднеквадратического отклонения
S
и коэффициента вариации V)сбереже-
ний для семей данной доходной группы
)
0
)(
1
)
)0(
()
xV
1
10
1
⎡
∑
⎢
9
⎣
=
−=
i
1
=
i
%36
)0(
xyyxS
()()
1
)
0
)(
2
6.16
=
)
)0(
()
xV
2
20
1
⎡
⎢
9
⎣
=
∑
=
i
%40
−=
i
11
)0(
()()
xyyxS
2
)
0
)(
3
6.26
=
)
)0(
()
xV
3
30
1
⎡
⎢
9
⎣
=
∑
=
i
%37
−=
i
21
)0(
()()
xyyxS
3
)
0
)(
4
4.28
=
)
)0(
()
xV
4
40
1
⎡
⎢
9
⎣
=
∑
=
i
%34
−=
i
31
)0(
()()
xyyxS
4
1
2
2
⎤
⎥
⎦
1
2
2
⎤
=
⎥
⎦
1
2
2
⎤
=
⎥
⎦
1
2
2
⎤
=
⎥
⎦
4.6
=
47
2.3.1 Выявление и тестирование гетероскедастичности
−
=
−
ρ
ρ
Исследование модели регрессии начинается в предположении справедливости условий Гаусса-Маркова. После оценки ее коэффициентов МНК мы
должны подтвердить справедливость предположений 4 и 5, для чего оцени-
ˆ
yyе
ваются регрессионные остатки
. Для проверки на гетероскеда-
iii
стичность, в случае множественной функции регрессии строится график зависимости
//ie , упорядоченных в порядке возрастания значений объясняю-
щей переменной
дастичность. Если по мере возрастания переменной
мер, тенденция к возрастанию (или убыванию)
x , относительно которой модель исследуется на геретоске-
l
x наблюдается, напри-
l
e и т.п., то можно предпо-
i
ложить наличие гетероскедастичности. Высказанное предположение о наличие гетероскедастичности следует проверить с помощью приведенных ниже
тестов.
Тест ранговой корреляции Спирмена
Тест Спирмена используется, если есть основание предполагать, что
дисперсия регрессионных остатков изменяется прямо или обратно пропорциональна значению объясняющей переменной
)(lx .
Вычисляется коэффициент ранговой корреляции Спирмена [2]:
n
2
D
6
∑
i
i
1
r
//
ex
где
−= .
li
)()( erangxrangD
Гипотеза об отсутствии (
=
1
−=
Н ) или наличии (1Н ) явления гетероскеда-
0
, (2.8)
3
nn
стичности формируется следующим образом:
0:
xe
xe
=
(нет гетероскедастичности)
0:
≠
(есть гетероскедастичность)
1//−= nrt
ex
, которая в
H
0
H
1
Для проверки гипотезы используется статистика
случае справедливости нулевой гипотезы имеет нормальный закон распреде-
ления с параметрами 0 и 1.
Если нулевая гипотеза не принимается (то есть существует гетероскедастичность), то для оценки коэффициентов линейной модели множественной регрессии используется ОМНК. Структура матрицы
Σ для реализации
0
ОМНК имеет следующий вид:
48
2
⎛
x
1
l
⎜
⎜
=Σ
0
⎜
⎜
⎜
⎝
или случаепротивномв
=Σ
0
L
2
x
L
2
l
...
00
L
1
⎛
⎜
2
x
⎜
1
l
⎜
0
⎜
⎜
x
⎜
⎜
⎜
⎝
⎞
00
⎟
00
⎟
,
⎟
MMM
⎟
2
⎟
x
nl
⎠
0,
>
rестьтоxростомс
xel
L
⎞
00
⎟
остатковныхрегрессионмодуляростуктенденцияимеетсяесли
⎟
1
L
2
2
l
...
L
00
⎟
0
⎟
,
.
⎟
MMM
⎟
1
⎟
2
⎟
x
nl
⎠
Тест Голдфелда-Квандта
Тест Голдфелда-Квандта используется, если есть основание предполагать, что дисперсия регрессионных остатков пропорциональна значению
)(
объясняющей переменной
x , вариацией которых порождается гетероскеда-
l
стичность.
Выдвигается гипотеза [2, 3]:
H
2
:
10
1
2
:, :
jiH
22
σσ
≠∃ (есть гетероскедастичность)
ji
22
σσσ
=== K (нет гетероскедастичности)
n
Шаги теста:
1 – Упорядочить в порядке возрастания значения объясняющей пере-
менной
)(lx .
2 – Упорядочить наблюдаемые значения результативного признака и
объясняющих переменных в порядке возрастания
)(lx .
3 – Сформировать (по результатам упорядочивания) выборки, состоя-
щие из n′ первых и n′′ последних объектов наблюдения, где
′′
′
=
=
25.0 nnnn−
.
2
4 – Оцениваются уравнения регрессии Y на Х, сформированных по вы-
боркам объемами n′ и n′′:
5 – Вычисляются регрессионные остатки
суммы квадратов отклонений:
T
'e)'e('Q
⋅= и ''e)''e(''Q
′
=
T
⋅= .
YYe
−
и YYe
=ˆ'' и их
′′
′′
−
ˆ
′
′
6 – Для проверки нулевой гипотезы строится статистика
'///
=
F
'///
)1/(};{max
−−
knQQ
, которая в случае справедливости нулевой гипоте-
)1/(};min{
−−
knQQ
зы имеет закон распределения Фишера-Снедекора с числом степеней свободы
′
= kn
ν
11−−
, 1
ν
/
−−= kn
2
.
49
Если гипотеза об отсутствии гетероскедастичности отвергнута, при
я
γ
)
)
этом
случае
///
QQ < , то в качестве оценки 0Σ можно взять
1
///
QQ > , оценка матрица
⎛
⎜
2
x
⎜
l
1
⎜
0
⎜
=Σ
0
⎜
⎜
⎜
⎜
⎝
L
00
1
L
2
x
l
2
0
...
1
L
00
x
2
⎛
x
1
l
⎜
⎜
=Σ
0
⎜
⎜
⎜
⎝
⎞
⎟
L
2
x
L
2
l
...
00
L
⎟
⎟
⎟
.
⎟
MMM
⎟
⎟
2
⎟
nl
⎠
x
00
00
MMM
2
nl
⎞
⎟
⎟
, а в
⎟
⎟
⎟
⎠
Критерий Глейзера
Критерий Глейзера позволяет более точно аппроксимировать зависимость между регрессионными остатками и объясняющей переменной. В качестве такой аппроксимации берется линейная регрессия абсолютных значений регрессионных остатков
//
e на
i
γ
//lx [1, 2, 3]:
γ
xe
δβα
++=
, (2.9)
iili
где
подбираетскоторыйпараметр
промежуткаиз
−−
]2[)3;3(,
δ
−
i
,0
⎧
δδ
)(
М
=
⎨
ji
,
2
,
σ
⎩
δ
свойствамяющаяудовлетворкомпонентаслучайная
=
jiесли
≠
jiесли
:,
Если среди моделей вида (2.9), хотя бы для одного значения γ найдется
значимая, то есть гипотеза
10
0:;0:
≠=ββHH будет отвергнута, то наличие
гетероскедастичности будет доказано. Выбрав среди значимых моделей
ˆ
)
ку
βα
xe +=
с наибольшим коэффициентом детерминации, построим оцен-
ili
ˆ
γ
⎛
βα
+
⎜
⎜
=Σ
⎜
0
⎜
⎜
⎝
2
x
l
1
)
ˆ
)
+
γ
βα
2
x
l
2
0...00)(
0...0)(0
...............
)
)
βα
x
+
⎞
⎟
⎟
.
⎟
⎟
ˆ
γ
2
⎟
)(...000
nl
⎠
ˆ
γ
ˆ
ˆ
Точечный прогноз для ОЛММР с гетероскедастичными остатками, оп-
T
ределяется значением функции регрессии в точке
= :
xxxX ),...,,,1(
,11,21,11 ++++
knnnn
ˆ
=
T
bXy
nn
11
++
. (2.10)
омнк
50
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]