Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Эконометрика. Учебное пособие-2
.pdf
y
321
...
xxpxxxxyx
113121
p
rβrβrββr
rβrββrβr
321
...
...
321
321
pppp
xxpxxxxyx
223212
p
(3.11)
βrβrβrβr
....
pxxxxxxyx
Стандартизованные коэффициенты β
факторы по силе их влияния на переменную y. Фактор х
позволяют ранжировать
j
, которому
j
соответствует большее по модулю значение стандартизованного
коэффициента β
, будет оказывать большее относительное воздейст-
j
вие на изменение отклика y.
Для оценивания параметров нелинейных моделей множественной
регрессии сначала модель преобразуется к линейному виду с помощью процедур логарифмирования и замены переменных. После преобразования переменных и формирования новой таблицы эмпирических данных для оценки параметров нелинейных моделей множественной регрессии
применяется метод наименьших квадратов. Если
нелинейную модель невозможно преобразовать в линейную форму, то
для оценки параметров модели используются методы нелинейной
оптимизации.
3.3. Теорема Гаусса–Маркова
Теорема Гаусса–Маркова. Если будут выполняться предположе-
ния:
1) Модель линейна по оцениваемым параметрам:
2)
X – детерминированная матрица, имеющая максимальный ранг
(p+1), т. е. векторы
2211
х
, х2, …, хp линейно независимы.
1
bbba
exxx
pp
;
3.1) математическое ожидание случайной величины
нулю в любом наблюдении:
eM ;
0)(
i
61
e
равно
3.2) дисперсия случайной величины
j
наблюдений:
постоянна для всех
e
)(
eD
i
3.3) ошибки e для разных наблюдений
3.4) ошибки
Ne
i
то оценка
2
;
e
и
e некоррелированы:
i
beeM
0)(
при
jiijji
i
;
j
e имеют нормальное распределение:
2
для всех ni ,1 ,
),0(~
TT 1)(
, полученная методом наименьших квад-
YXXXB
ратов, является наиболее эффективной (в смысле наименьшей дисперсии) оценкой в классе линейных несмещенных оценок.
3.4. Анализ качества модели множественной регрессии
В основном для анализа качества модели множественной регрес-
сии используются те же меры качества, что и для парной регрессии.
Дисперсионный анализ для множественной регрессии
Вариация
(дисперсия)
Факторная
Остаточная
Полная
3.4.1. Таблица дисперсионного анализа
y
Степень
свободы
pν
R
ν
e
pn
Сумма квадра-
1
1 n
тов
n
1
i
n
1
i
n
1
i
Средний
квадрат
2
ˆ
(
iR
(
i
yySS
)
2
ˆ
yySS
)
iie
2
yySS
)(
MS
MS
e
F
SS
R
R
SS
ν
R
MS
MS
R
e
e
e
S
F
2
–
62
Основное тождество дисперсионного анализа:
SSSSSS .
eR
2
Стандартная ошибка S или остаточная дисперсия S
применя-
ются как для оценки адекватности модели, так и для сравнения конкурирующих моделей.
3.4.2. Критерий Фишера (F–критерий)
Для оценки значимости и адекватности модели в целом применя-
ется критерий Фишера.
Выдвигается статистическая гипотеза:
H : 0...
0
21
т. е. гипотеза о том, что в модели факторы
существенно на отклик
Вычисляется фактическое значение
MS
F
факт
n – число наблюдений; p – число факторов в модели;
где
2
R
– коэффициент детерминации.
R
2
S
1
bbb ,
p
y.
2
R
R
2
xxx ,...,,
не влияют
21
p
F–критерия:
1
pn
, (3.12)
p
Затем из таблиц квантилей распределения Фишера (Приложе-
),,(
kkαF
ние 2) находится табличное значение
чимости
α и числами степеней свободы pk
Если
F
факт
F , то гипотеза 0H о незначимости модели при-
табл
табл
1
и )1(
при уровне зна-
21
2
pnk .
нимается, в противном случае регрессия признается значимой.
Для оценки адекватности модели на практике применяется
вило
: если
FF 4 , (3.13)
таблфакт
то модель считается адекватной и пригодной для прогноза.
63
пра-
3.4.3. Множественный коэффициент корреляции и коэффициент
детерминации
Множественной коэффициент корреляции характеризует тес-
ноту линейной стохастической связи множества факторов
с исследуемым процессом
xxx ,...,,
факторов
21
на отклик y.
p
y и оценивает тесноту совместного влияния
Пользуясь таблицей дисперсионного анализа, значение множест-
венного коэффициента корреляции вычисляется по формуле
SS
R
R
SS
Чем больше значение R )10(
ной связи между совокупностью факторов
переменной
y.
Недостаток меры
в модели значения
SS
e
1 . (3.14)
SS
R , тем сильнее степень линей-
xxx ,...,,
и зависимой
21
2
)(
RR : при увеличении количества регрессоров
2
)(
RR возрастают. Для устранения этого недос-
p
xxx ,...,,
21
p
татка практически соблюдается условие, чтобы число исходных
наблюдений было больше числа факторов в 5–15 раз.
2
)(
Кроме того, вместо
RR применяется скорректированный
множественный коэффициент корреляции:
n
1
(3.15)
1
pn
c
или детерминации
RR
2
)1(1
2
R .
c
Используя парные коэффициенты корреляции зависимой пере-
менной с факторами
r , множественный коэффициент корреляции R
yx
j
вычисляется по формуле
rβR
, (3.16)
yx
j
j
j
β
– стандартизованные коэффициенты регрессии.
j
64
3.4.4. Применение частного F–критерия и t–критерия
Частный F–критерий и t–критерий применяются для анализа
значимости каждого регрессора в отдельности. Это дает возможность
в принципе получить оптимальную структуру модели.
Выдвигается нулевая гипотеза о незначимости параметра
и несущественном влиянии фактора
),1(0:
pjbH
0
j
.
х
на зависимую переменную y:
j
Вычисляется значение частного F–критерия:
2
b
j
F
b
j
S
(3.17)
j
или t–критерия:
b
t
b
j
j
. (3.18)
S
j
Если
F
b
j
табл
)1,1,( pnF
j
таблb
)1,( pntt
,
b
j
H
то гипотеза
равным 0, а соответствующий фактор
незначимой переменной, в противном случае регрессор
принимается, т. е. коэффициент регрессии bj считается
0
х
считается статистически
j
х
признается
j
значимым.
3.4.5. Частные коэффициенты корреляции
Частные коэффициенты корреляции характеризуют тесноту
линейной стохастической связи между зависимой переменной
и фактором
х
при устранении влияния других факторов, входящих
j
в уравнение множественной регрессии.
y
65
Коэффициенты частной корреляции более высоких порядков
j
вычисляются через коэффициенты частной корреляции более низких
порядков.
При двух факторах
х
и х2 частные коэффициенты корреляции
1
вычисляются по формулам:
rrr
xxyxyx
r
r
, (3.19)
xyx
*
21
. (3.20)
xyx
*
12
2121
22
)1)(1(
rr
xxyx
212
rrr
xxyxyx
2112
22
)1)(1(
rr
xxyx
211
Частные коэффициенты корреляции позволяют ранжировать
факторы по силе их влияния на переменную
y. Фактор х
, которому
j
соответствует большее по модулю значение частного коэффициента
корреляции, будет сильнее связан с переменной
y.
3.4.6. Интервальные оценки
Интервальная оценка для параметра bj определится доверительным интервалом с вероятностью p:
, (3.21)
)),1(;),1((
SαpntbSαpntbI
bтаблjbтаблjp
jj
где
– стандартная ошибка параметра bj (корень квадратный из
S
b
j
-го диагонального элемента матрицы ковариаций
12
T
XXB
SD ).
)()(
Остаточная дисперсия вычисляется по формуле
n
2
e
i
i
1
. (3.22)
11
pn
n
(
2
i
1
S
pn
2
ˆ
)
yy
ii
66
3.4.7. Средние коэффициенты эластичности
Средние коэффициенты эластичности для линейной множест-
венной регрессии вычисляются по формуле
x
(3.23)
j
j
bЭ
jyx
y
и показывают, на сколько процентов от среднего значения изменится
значение отклика
у при изменении значения фактора х
на 1% относи-
j
тельно своего среднего значения при неизменных средних значениях
других факторов.
Средние коэффициенты эластичности можно сравнивать друг
с другом и соответственно ранжировать факторы по силе их влияния
на зависимую переменную
у.
3.4.8. Меры качества прогноза
Для оценки качества прогнозов исходная выборка данных
делится на две части – обучающую (модельную) и контрольную.
Обучающая выборка используется для построения модели, а контрольная дает возможность оценить качество прогноза по мерам,
основанным на разностях
(
ˆ
)
yy для контрольных точек.
ii
Одной из таких мер является среднеквадратическое отклонение
ошибок на контрольной выборке:
k
1
k
i
1
где k – число элементов контрольной выборки;
значения отклика
y на контрольном интервале;
2
ˆ
yy
, (3.24)
ii
y – наблюдаемые
i
ˆ
y
– их прогнозы,
i
вычисляемые по модели.
67
3.5. Примеры
Пример 1. Изучается зависимость стоимости квартиры y
x
(млн руб.) от общей площади квартиры
x
(единиц). Эмпирические данные представлены в таблице:
2
№ 1 2 3 4 5 6 7 8
(м2) и количества комнат
1
y
x
60 45 80 54 35 28 58 42
1
x
3 2 3 3 1 1 3 2
2
1) Построить уравнение множественной линейной регрессии.
2) Построить таблицу дисперсионного анализа и оценить качест-
во модели по критерию Фишера.
3) Определить множественный коэффициент корреляции и коэф-
фициент детерминации.
4) Найти частные коэффициенты корреляции.
5) Оценить значимость параметров уравнения множественной
регрессии по частному F–критерию и t–критерию.
1,7 1,5 2,2 1,8 1,3 1,1 1,6 1,5
Решение.
1) Рассчитаем параметры уравнения множественной линейной
регрессии по формуле (3.6), где матрица
X
3601
2451
3801
3541
Y
,
1351
1281
3581
2421
7,1
5,1
2,2
8,1
.
3,1
1,1
6,1
5,1
68
Х и вектор Y имеют вид
Тогда вектор параметров будет иметь вид
S
6071,0
1
)(
TT
YXXXB
0196,0
0011,0
.
Следовательно, уравнение множественной линейной регрессии
имеет вид
0011,00196,06071,0 xxy
.
21
2) Построим таблицу дисперсионного анализа.
Для этого сначала составим таблицу наблюдаемых
ˆ
занных
y
значений отклика и остатков
i
ˆ
yye
.
iii
y
и предска-
i
№ 1 2 3 4 5
y
1,7 1,5 2,2 1,8 1,3
i
6 7 8
1,1 1,6 1,5
ˆ
y
1,780 1,487 2,172 1,662 1,292
i
e
–0,080 0,013 0,028 0,138 0,008
i
1,155 1,741 1,428
–0,055 –0,141 0,072
S
Вычислим значение полной суммы квадратов
, используя
формулу
n
i
11
n
ii
i
ynyyySS .
2222
756,0)588,1(8930,20)()(
Вычислим значение остаточной суммы квадратов:
n
(.
i
11
ˆ
n
22
eyySS
iiie
i
054,0)
Из основного тождества дисперсионного анализа вычислим
сумму квадратов, обусловленную регрессией:
SSSSSS .
eR
702,0054,0756,0
69
В регрессионной модели присутствуют два фактора х1 и х2, сле-
ν
довательно, степень свободы
p
R
.
2
Для остаточной суммы квадратов число степеней равно
e
pnν
Для полной дисперсии число степеней равно
51281
.
n
Средние квадраты оцениваются как отношение суммы квадратов
к соответствующему числу степеней свободы:
SS
ν
SS
ν
R
R
e
e
MS ,
R
MS
e
702,0
351,0
2
2
054,0
011,0
S
.
5
Фактическое значение F–критерия Фишера равно:
F
факт
MS
S
R
2
351,0
909,31
.
011,0
Заполним таблицу дисперсионного анализа вычисленными значениями.
7181
.
Таблица дисперсионного анализа
Вариация
(дисперсия)
Степень
y
свободы
Сумма
квадратов
Средний
квадрат
Факторная 2 0,702 0,351
Остаточная 5 0,054 0,011
Полная 7 0,756 –
Оценим качество модели по критерию Фишера.
Табличное значение F–статистики Фишера при уровне значимо-
сти
= 0,05 (Приложение 2):
(α, p, n – p – 1) = F
F
табл
(0,05; 2; 5) = 5,79.
табл
При сравнении фактического и табличного значений F–статис-
F
31,909
тики оказалось, что
70
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]