Эконометрика

n

n

m

Q ei2

( yi

(b0 bj xij ))2 .

(2.8)

i 1

i 1

j 1

Необходимым условием минимизации функции Q является равенство

нулю всех ее частных производных по bj

, т.е.:

Q

n

m

2 ( yi

(b0 b j xij ))

b0

i 1

j 1

.

(2.9)

Q

n

m

2 ( yi

(b0

b j xij ))xij , j 1,2, , m

b

j

i 1

j 1

Приравнивая их к нулю,

получаем систему m 1 линейных

y

1

x

x

x

b

e

1

11

12

1m

0

1

y2

1

x21

x22

x2m

b1

e2

Y

,

X

,

B

,

e

.

y

n

1

x

n1

x

n2

x

b

e

n

nm

m

Здесь

Y n -мерный вектор-столбец

наблюдений

зависимой

переменной

X ; X -

матрица размерности n (m 1) ,

в которой i -тая

строка (i 1,2, , n)

представляет

наблюдение вектора

значений

независимых

переменных X1, X2 , , Xm ;

единица

соответствует

переменной при свободном члене b0 ;

B

- вектор-столбец размерности

(m 1) параметров уравнения регрессии;

e - вектор-столбец размерности

n отклонений выборочных (реальных) значений

yi зависимой переменной

Y от значений yi , получаемых по уравнению регрессии

b0 b1xi1 b2 xi2 bm xim .

yi

(2.10)

n

Функция Q ei2 в матричной форме представима как произведение

i 1

вектор-строки eT (e ,e

, ,e ) на вектор-столбец

e . Вектор-столбец e

1 2

n

может быть в свою очередь представлен в следующем виде:

e Y XB .

(2.11)

Здесь

eT , BT , X T ,Y T - векторы и матрицы, транспонированные к

e, B, X ,Y

соответственно. При выводе

формулы использовались

следующие известные соотношения линейной

алгебры:

нулю ее частных производных

Q

по всем параметрам b

, j 1,2, ,m .

j

b j

Вектор-столбец

Q

частных

производных

в матричном виде

имеет

B

следующий вид:

Q

2X T Y 2( X T X )B .

(2.12)

B

Q

Рассмотрим более подробно нахождение

B . Очевидно, что

Q

(Y T Y )

2

(BT X T Y )

(BT X T XB)

B

B

B

B

.

Y T Y от B не зависит, следовательно

(Y T Y )

0 .

B

Обозначим

вектор-столбец

X T Y

размерности

(m 1)

через

m

R . Тогда BT X T Y BT R bj rj 1 ,

где

rj 1

-

соответствующий

j 0

элемент вектора

R . Поэтому

(BT R)

R X T Y .

B

Обозначим матрицу

X T X размерности (m 1) (m 1) через

Z .

Тогда

z

z

z

b

11

12

1,m 1

0

S BT ZB

b ,b , ,b

z21

z22

z2,m 1

b

1

0

1

m

z

m 1,1

z

m 1,2

z

b

m 1,m 1

m

b

0

m

m

m

b1

m

m

bi zi 1,1 ,

bi zi 1,2 , , bi zi 1,m 1

bj bi zi 1, j 1

i 0

i 0

i 0

j 0

i 0

bm

S

m

Следовательно, частная производная

2 bi zi 1, j 1 .

bj

i 0

В результате имеем S 2( X T X )B .

B

Следовательно, формула (2.12) справедлива. Приравняв

Q

к нулю,

B

получаем:

2X TY 2(X T X )B 0

X T Y ( X T X )B

(2.13)

B (X T X ) 1 X TY

(2.14)

Здесь ( X T X ) 1 - матрица, обратная к X T X .

xi2 yi

xi xi yi

n xi2 ( xi )2

y b1 x

b0

(2.15)

n xi yi

xi yi

b1

b1

2

( xi )

2

n xi

yi

nb0 b1 xi1 b2 xi 2

2

b2 xi1 xi 2 .

xi1 yi

b0 xi1 b1 xi1

(2.16)

x y

b

x b

x x b

x2

i 2 i

0 i 2

1 i1 i 2

2 i 2

Решение данной системы имеет вид:

b0 y b1 x1 b2 x2

(x

i1

x )( y

i

y) (x

i2

x

2

) 2 (x

i2

x

2

)( y

i

y) (x

i1

x )( x

i2

x

2

)

b1

1

1

(x

i1

x )

2 (x

i2

x

2

) 2 ( (x

i1

x )( x

i2

x

2

)) 2

1

1

(x

i2

x

2

)( y

i

y)

(x

i1

x ) 2

(x

i1

x )( y

i

y) (x

i1

x )( x

i2

x

2

)

b2

1

1

1

(x

i1

x )

2 (x

i2

x

2

) 2 ( (x

i1

x )( x

i2

x

2

)) 2

1

1

(2.17)

можно определить следующим образом:

S

2

S

2

z

/

ei2

z

/

, j 1,2, , m .

(2.18)

bj

jj

n m

jj

1

Здесь z /

-

j -тый диагональный элемент матрицы Z 1

( X T X ) 1 .

jj

При этом:

ei2

S

2

,

(2.19)

n m

1

ˆ

b0 b1 X1 b2 X 2

с двумя

В частности, для уравнения Y

1

12 (xi 2

2 ) 2

22 (xi1

1 ) 2 2

1

2

(xi1

1 )(xi 2

2 )

2

x

x

x

x

x

x

x

x

S

2

Sb0

,

n

(xi1 x1 ) 2

(x i 2 x2 ) 2 ( (xi1 x1 )(xi 2 x2 )) 2

(x

) 2

2

i2

x

2

S 2

S

b1

(x

i1

x ) 2 (x

i2

x

2

) 2

( (x

i1

x )(x

i2

x

2

)) 2

1

1

S

2

S 2

,

b1

(x

i1

x ) 2

(1 r

2 )

1

12

(x

) 2

x

S

2

i1

1

S 2

b2