17-11-2015_11-58-24 / Эконометрика (электронный конспект)

Итак,

E[b | X ]= β.

(20)

Итак,

b = β+(X T X )−1

X T ε

(21)

Следовательно,

b −β = (X T X )−1

X T ε

(22)

В силу (22) и симметричности матрицы (X T X )−1 :

(b −β)(b −β)T = (X T X )−1 X T εεT X (X T X )−1

(23)

В силу (23) и (7):

Var[b | X ]= E (b −β)(b −β)T | X = E (X T X )−1

X T εεT X (X T X )−1 | X

=

Итак,

Var[b | X ]= σ2 (X T X )−1

(24)

Var[bi | X ]= σ2 zii .

(25)

Обозначим через σ(bi | X )

стандартное отклонение коэффициента bi .

В силу (25):

σ(bi | X ) = σ

(26)

zii

где 0m×n – нулевая матрица размера m ×n .

Итак,

cov(b,e | X )= 0m×n

(33)

В силу (33) векторы

b и e не коррелированны, а следовательно и независимы (в силу их

нормальной распределенности).

Найдем Var[e | X ].

В силу (32), (7):

| X }=

T

T

X )

−1

X

T

T

T

X )

−1

X

T

Var[e | X ]= E ee

| X

= E{I − X (X

εε

I − X (X

Var[e | X ]= σ2 In − X (X T X )−1

X T

(34)

1

n

1

s2

=

∑et2

=

eT e (необъясненная дисперсия)

(35)

n − m t =1

n − m

В нашем примере:

2

1

T

1

T

s

=

e e =

e e = 0,5774

n − m

5 −3

Можно показать, что величина s2

является несмещенной оценкой дисперсии ошибок σ2 ,

т.е.

2

= σ

2

.

(36)

E s

| X

Можно показать,

что случайная величина (n − m)

s2

имеет распределение «хи

σ2

квадрат» с числом степеней свободы n − m :

(n

− m)

s2

χ

2

(n − m)

(37)

σ2

Напомним, что распределение «хи квадрат» с n степенями свободы – это распре-

деление следующей случайной величины:

n

χ2

(n) = ∑εk2

(38)

2

(X

T

X )

−1

,

(39)

Var[b | X ]= s

3,8617

-0,0726 -0,0167

2

(X

T

X )

−1

0,0016

0,0002

Var[b | X ]= s

= -0,0726

0,0002

0,0002

-0,0167

В силу (25) величина

2

zii

(40)

Var[bi | X ]= s

(41)

s(bi | X ) = Var[bi | X ]

i

| X ]

s(b | X )

Var[bi

i

1

3,8617

1,9651

2

0,0016

0,0397

3

0,0002

0,0145

Отметим, что из (40), (41):

s(bi | X ) = s

(41’)

zii

Пусть

t – (условно) нормально распределенные случайные величины. Следовательно,

| X

2

In ,

(42)

N 0,

где In

– единичная матрица размером

n n .

Тогда и Yt (условно)

нормально распределенные величины, а следовательно и векторная

МНК-оценка

b

также условно нормально распределена (поскольку она линейна

относительно

Y ).

В силу (20) и (24)

b | X

2

X

T

X

1

(43)

N ,

Как было указано выше, случайная величина (n m)

s2

имеет распределение «хи квадрат» с

2

bi i

t bi

(bi | X )

(44’’)

s2

1

m)

(n

2

n m

имеет распределение Стъюдента со степенями свободы

n m .

Упростив (44’’), получим:

t bi

bi i

(45)

s

(bi

| X )

Напомним,

что

распределение Стъюдента

с n степенями свободы – это

распределение следующей случайной величины:

t(n)

0

,

(45’)

1

2

(n)

n

где 0

и

2

(n)

– независимые стандартная нормальная случайная величина и случайная

величина, имеющая распределение «хи квадрат» с

n

степенями свободы.

Подставим (26) в формулу (45) примет вид:

Напомним,

что

случайная

величина

t bi

имеет распределение

Стъюдента со

степенями свободы

n m :

t bi

t(n m)

(47)

Статистики t bi ,

как

и в случае

парной регрессии, можно использовать

для проверки

P t , n m t bi t ,n m 1 ,

(48)

где

t , n m

двусторонняя квантиль распределения Стъюдента с числом степеней свободы

n m при уровне значимости .

Пусть 0,05 .

В условиях нашего примера n 5 , m 3

и

t , n m 4,3027 .

Найдем t-статистики коэффициентов регрессии при i

0

по формуле (46):

Как и в случае парной регрессии доверительные интервалы для коэффициентов

i

имеют

вид:

bi

t , n m s(bi

| X ),

bi t , n m s(bi

| X )

(49)

В нашем случае:

i

95%-й доверительный

интервал для

i

1

-9,0028;

7,9078

2

0,0925;

0,4344

3

-0,1199;

0,0046

2

Проверка общего качества уравнения регрессии. Коэффициент детерминации

R

n

t

TSS

Y Y

2

49,2

t 1

t

i

n

ˆ

2

ESS

1,1547

Y Y

i 1

n

2

ˆ

Y

48,0453

RSS Yt

t 1

Обозначим:

R

2

1

ESS

RSS

(53)

TSS

TSS

Статистику

R

2

называют коэффициентом детерминации.

2

1

2

0

3

Найдем

E Hb r |

X H r

(54)

Var Hb r | X E

Hb r H r Hb r H

r

T

| X

E

H b H b

|

X

E H b b

H

| X

T

T

T

H E b b

| X H

H Var b | X H

T

T

T

Итак,

Var Hb r | X H Var b |

X H

T

(55)

Подставим (24) в (55):

Var Hb r | X 2 H X T X 1 H T

(56)

T

1

T

1

T

H X

X

Hb r

Hb r

H

F

(59)

2

q

s

F F(q,n m)

(60)

1

2

(q)

q

F (q, n)

(61)

1

2

(n)

n

2

(q)

и

2

(n)

–

независимые случайные величины, имеющие

распределения

«хи

где

квадрат» с

q

и n степенями свободы, соответственно.

Следовательно, при выполнении гипотезы (58) имеет место равенство:

P F Fc ;q,n m 1 ,

(62)

где Fc ;q, n m

–

(1 ) -квантиль распределения Фишера с (q, n m) степенями свободы.

В случае, если F Fc ;q, n m нулевая гипотеза отвергается; если

F Fc ;q, n m

, нет

оснований отвергать нулевую гипотезу (и она принимается).

В условиях нашего примера при указанных выше H , r и q при 0,05

:

F ;q, n m 39

c

T

1

T

1

T

H X

X

Hb r

Hb r

H

F

64,7002

2

q

s

2

3

m 0

,

(63)

для модели:

m

X

Y

ti

t

t

1

i

i 2

формулу (59) можно привести к виду:

R

2

n m

F

(64)

R

2

m

1

1

F

R2

n m

0,9765 5 3

41,6075

R2

m 1

1-0,9765 3 1

1