6.3. Дисперсии и стандартные ошибки коэффициентов

Знание дисперсий и стандартных ошибок позволяет анализиро­вать точность оценок, строить доверительные интервалы для теорети­ческих коэффициентов, проверять соответствующие гипотезы.

Наиболее удобно формулы расчета данных характеристик приво­дить в матричной форме. Попутно заметим, что три первые предпо­сылки МНК в матричной форме будут иметь вид:

1°. М(е) = 0;

2°. D(s) = eft;

3°. К(е) = M(es^T) =

149

З десь s —

, I=[l]_nxi =

1 0 ... О О 1 ... О

0 0 0 1

... у₍

K(8) =

Уе_2е1

е_пе₂

Как показано выше, эмпирические коэффициенты множествен­ной линейной регрессии определяются по формуле (6.18)

В = (X^х X)-^!X^TY.

Подставляя теоретические значения Y = Хр + е в данное соотно­шение, имеем:

в = (Х^тх)~¹х^т(хр + е) = (х^тх)~¹(х^тх)р + (x^Tx)~¹x^Ts =

= р + (Х^тХ)-¹Х^тг.

Следовательно, р - В = (X^TX)~¹X^TS.

Построим дисперсионно-ковариационную матрицу

К(р) = М((Р - В)( р - В)^т) = M[((X^TX)-¹X^Ts)((X^TX)-¹X^Ts)^T] =

= М(Х^Т X) ~¹X^TSS^T Х(Х^Т X)"¹. В силу того, что Xj не являются случайными величинами, имеем:

к(р) = (x^tx)-¹x^tm(ss^t) х(х^тх)~¹ = (x^tx)-¹xVex(x^tx)-¹ =

(6.21)

= а²(Х^тХ)~¹ D(ei) = oVjj.

Напомним, что z'~ - j-й диагональный элемент матрицы Z"¹ =

= (Х^тХ)-^!.

Поскольку истинное значение дисперсии а по выборке опреде­лить невозможно, оно заменяется соответствующей несмещенной оценкой

n-m-1'

(6.22)

150

где m - количество объясняющих переменных модели. Отметим, что иногда в формуле (6.22) знаменатель представляют в виде п - m - 1 = = n - k, подразумевая под к число параметров модели (подлежащих определению коэффициентов регрессии).

Следовательно, по выборке мы можем определить лишь выбороч­ные дисперсии эмпирических коэффициентов регрессии:

Sj.= S² ₂'_й = ^£б{ zV j = 0, 1, ..., m. (6.23)

^J n-m-1

Как и в случае парной регрессии, S = VS² называется стандартной ошибкой регрессии. S_b. = JS_b. называется стандартной ошибкой ко­эффициента регрессии.

В частности, для уравнения Y = b₀ + bjXj + Ь₂Х₂ с двумя объяс­няющими переменными дисперсии и стандартные ошибки коэффици­ентов вычисляются по следующим формулам:

1 _| xfXC^-Xz^+x^XCXji-xQ² -2x₁x₂I(x_il -XjXx^ -х₂)

^ \2

Z (x_u -хО'Кх^ -х₂)² -(Х(х_и -хОСха -х₂))²

_^S_? „ ,,, (6-24)

X)

x)² (I(x XXx x))²

^ -x₂)² -(I(x_u -XjXx^ -x₂))

о _ /о² о _ /о² о _ о*

Здесь г 12 = r_{x x} - выборочный коэффициент корреляции между

объясняющими переменными Xi и Х₂.

Ковариация между коэффициентами рассчитывается по формуле:

Cov(b_bb₂) = „ . "^ri2'^S_o . . (6.25)

151

6.4. Интервальные оценки коэффициентов теоретического уравнения регрессии

По аналогии с парной регрессией (см. параграф 5.4) после опре­деления точечных оценок bj коэффициентов Pj (j = 0, 1, ..., m) теоре­тического уравнения регрессии могут быть рассчитаны интервальные оценки указанных коэффициентов. Для построения интервальной оценки коэффициента Pj строится t-статистика

t = ^i, (6.26)

имеющая распределение Стьюдента с числом степеней свободы v = = n-m-l(n- объем выборки, m - количество объясняющих пере­менных в модели).

Пусть необходимо построить 100(1 - а)%-ный доверительный интервал для коэффициента Pj. Тогда по таблице критических точек распределения Стьюдента по требуемому уровню значимости а и числу степеней свободы v находят критическую точку t₆ ,

-, n-m-l

удовлетворяющую условию

P(|t|< t₆ ) = P(-t₆ <t<t₆ ) = l-a. (6.27)

—, n-m-l —, n-m-l —, n-m-l

2 2 2'

₆ ^6

—, n-m-l 4, —, n-m-l

2 bj 2

Подставляя (6.26) в (6.27), получаем

или после преобразования P(bj-t₆ •S_b<B_j<b_j+t₆ -S_b) = l-6. (6.28)

^J -,n-m-l J ^{J J} -,n-m-l J

2 2

Напомним, что S_b. рассчитывается по формуле

Zef Sb, = S-X =\\^^<- (6.29)

n-m-

J

^п л

Т аким образом, доверительный интервал, накрывающий с надеж­ностью (1 - а) неизвестное значение параметра Pj, определяется нера­венством

152

bj-tg .S_bj<Bj <b_j+t₆ -S_b (6.30)

^J -,n-m-l ^{J J J} -,n-m-l ^J

2 2

He вдаваясь в детали, отметим, что по аналогии с парной регрес­сией (см. раздел 5.5) может быть построена интервальная оценка для среднего значения предсказания:

^T

Y_p-t₆ -S(Y_p)<M(Y_p X_p^T)<Y+t₆ -S(Y_p). (6.31)

2 2

В матричной форме это неравенство имеет вид:

Y_p -

(6.32)