книги из ГПНТБ / Сирл, С. Матричная алгебра в экономике

где г = k — р, а подписные индексы подматриц Т указывают на раз­ меры последних; помимо этого примем ТРт= (ТгР)'. Тогда для запол­ нения табл. 5 получим следующий результат1:2

Это выражение легко вычисляется: мы уже получили Ьр как часть Ь, а на основе (Х'Х)~Л получаем Трр и находим обратную к ней мат­ рицу2. Такой путь требует значительно меньше усилий, чем непосредст­ венное получение SSR, поскольку в последнем случае требуется определить обратную матрицу порядка k — р, тогда как выражение (43) требует найти обратную матрицу только порядка р X р. Когда k существенно выше р (а это обычно так и бывает), то косвенный метод имеет явное преимущество. Особенно это проявляется тогда, когда же­ лательно испытать несколько различных подмножеств из р перемен­ ных х. Кроме того, хотя здесь рассматривалось р последних перемен­ ных в последовательности х ъ х 2, ..., xh, описанный подход применим

к любым р переменным: возьмем коэффициенты вектора Ь, относящие­

ся к р переменным, и назовем их вектором Ьр. В матрице (Х ’Х)~г выделим подматрицу р X р, соответствующую этим же переменным. Назовем ее Т рр и определим обратную к ней матрицу Трр1. Тогда для

этих Ьр и Трр применимо выражение (43).

Пример (продолжение). Предположим, что в нашем примере, содер­ жащем две переменные х, нам необходимо испытать существенность введения первой переменной при наличии второй переменной.

Тогда k = 2 и р = l,,SSRft — сумма квадратов регрессии, определен- -

ной по двум переменным. Ее значение показано в табл. 4; SSR*. = •

Для получения SSRfe — SSRfe_p с помощью (43) нам необходимо найти Ьр — коэффициент регрессии для первой переменной. На основе

2 8 0

ч т о у п р о щ а е т с я д о

Поскольку табличное значение F с одной и тремя степенями свободы при 5%-ном уровне существенности равно 10,13, то гипотеза о том, что первая переменная не дает существенного вклада в регрессию, помимо второй, не может быть отвергнута.

На основе приведенных ранее данных может быть подсчитано зна­ чение SSR^-j,:

SSRh-p

1592

9 6 6

Можно показать, что этот результат идентичен сумме квадратов ре­ грессии только на k—р переменных (а именно, на вторую, переменную). Модель со свободным членом имеет вид: y t =-- b0 + b2xi2 + ег, и выра­ жение для оценивания параметров следует из второго уравнения (38). Оно сокращается до

(2 xh — nxl) b2 = 2 xi2 Vi— nx2 у,

где b2 есть оценка b2 для данного-случая. На основе ранее приведенных базовых данных это уравнение дает

и, таким образом,

Следовательно, на основе (37), которое в данном случае сокращается до

SSR = b2 ( У х 12у 1— пх2у),

получим такую сумму квадратов регрессии, которая тождественна

SSRft- p:

как было установлено ранее.

281

г) И С П Ы ТА Н И Е О ТД Е Л Ь Н Ы Х П ЕР ЕМ ЕН Н Ы Х

Испытание существенности, основанное на /‘"-статистике диспер­ сионного анализа (см. раздел а параграфа 4), относится к нулевой ги­ потезе, которая заключается в том, что все коэффициенты blt b2, ..., Ьк равны нулю. В этом смысле /^-критерий есть критерий способности мо­ дели в целом объяснить вариацию зависимой переменной. Однако в от­ личие от этого внимание можно сконцентрировать только на одной из k независимых переменных, проверяя, будет или не будет коэффициент у конкретной переменной равен нулю после того, как найдена регрес­ сия на k — 1 других переменных.

Подобное испытание представляет собой особый случай по срав­

Предположим, что имеется i-я переменная х, вклад которой в рег­ рессию рассматривается. Обозначим соответствующую величину (45) через Fi. Тогда можно показать, что

В этом выражении bt есть оценка коэффициента, относящегося к г-й

переменной х, полученная из вектора b, a var (bi)— оценка дисперсии bi. Таким образом, если d, — г-й диагональный элемент {Х'Х —

—nww')*1, то из (24) следует, что var (bi)---diO2, а при а2, определенном

по (30), var {bi) =\di0 2.

Величина t, показанная в (47), имеет распределение с п — k — 1 степенями свободы1. Она дает возможность проверить существенность включения t-й переменной после выбора других k — 1 переменных.

282

S S E — — , п р и ч е м п — k — \ = 3 . О т с ю д а

Поскольку табличное значение t. для 5%-ного уровня при п — k —

— 1 — 3 степенях свободы равно 3,182, то мы заключаем, что нуле­ вая гипотеза (Ь г 0) не может быть отвергнута при 5%-ном .уровне существенности. Заметим, что Р — 1,122 =- 1,25. Эта величина равна

л) ДИСПЕРСИОННЫЙ АНАЛИЗ ДЛЯ МОДЕЛИ СО СВОБОДНЫМ ЧЛЕНОМ

Модель со свободным членом, содержащая k переменных х, экви­ валентна по процедуре анализа модели без свободного члена с k + 1 переменными,- В связи с этим (см. (18)) соответствующая сумма квадра­

тов ошибок составляет, как это показано в (29), SSE = у 'у — Ь*'Х*'у.

Первая строка таблицы содержит сумму квадратов регрессии, содержащей k переменных и свободный член. Рассмотрим теперь под­ бор модели, содержащей только свободный член: yt =--- b0 + et. Выбор такой модели эквивалентен подбору только средней величины; соот­

ветствующая сумма квадратов равна пу2, Теперь первая строка табл. 6 может быть разбита на две строки:

283

г) И С П Ы ТА Н И Е О ТД Е Л Ь Н Ы Х П ЕР ЕМ ЕН Н Ы Х

Испытание существенности, основанное на /•’-статистике диспер­ сионного анализа (см. раздел а параграфа 4), относится к нулевой ги­ потезе, которая заключается в том, что все коэффициенты Ьи Ьг, ..., Ьк равны нулю. В этом смысле /•’-критерий есть критерий способности мо­ дели в целом объяснить вариацию зависимой переменной. Однако в от­ личие от этого внимание можно сконцентрировать только на одной из k независимых переменных, проверяя, будет или не будет коэффициент у конкретной переменной равен нулю после того, как найдена регрес­ сия на k — 1других переменных.

Подобное испытание представляет собой особый случай по срав­ нению с изложенным ранее, а именно при р = 1. Тогда /•’-статистика с 1 и п — k — 1 степенями свободы становится равной

Предположим, что имеется i-я переменная х, вклад которой в рег­ рессию рассматривается. Обозначим соответствующую величину (45) через Ft. Тогда можно показать, что

где

(47)

!v a r($0

Вэтом выражении bt есть оценка коэффициента, относящегося к i-я

переменной х, полученная из вектора b, a var (bi)— оценка дисперсии bt. Таким образом, если dt — /-й диагональный элемент ( Х ' Х -—

—nww')-1, то из (24) следует, что var (Ьг-)— df<72, а при а2, определенном

по (30), var (bi) =зус?го2.

Величина t, показанная в (47), имеет распределение с п — k — 1 степенями свободы1. Она дает возможность проверить существенность включения t-й переменной после выбора других k — 1 переменных.

282

д) ДИСПЕРСИОННЫЙ АНАЛИЗ ДЛЯ МОДЕЛИ СО СВОБОДНЫМ ЧЛЕНОМ

Модель со свободным членом, содержащая k переменных х, экви­ валентна по процедуре анализа модели без свободного члена с k + 1 переменными. - В связи с этим (см. (18)) соответствующая сумма квадра­

тов ошибок составляет, как это показано в (29), SSE = у ' у — Ь*'Х*'у.

Первая строка таблицы содержит сумму квадратов регрессии, содержащей k переменных и свободный член. Рассмотрим теперь под­ бор модели, содержащей только свободный член: y t = b0 + et. Выбор такой модели эквивалентен подбору только средней величины; соот­

ветствующая сумма квадратов равна /гг/2. Теперь первая строка табл. 6 может быть разбита на две строки:

283

Сумма показателей этих строк равна Ь*'Х*'у при числе степеней сво­ боды, равном k + 1. Теперь на основе (29) получим

Снова с помощью (48), (49) и (29) определим SSE, после чего табл. 6 трансформируем в табл. 7. Если убрать первую строку таблиц ы и вы­ честь показатель этой строки из показателя последней строки, то по­ лучим схему дисперсионного анализа табл. 3 для модели со свобод­ ным членом.

5.ОСНОВНЫЕ ШАГИ РАСЧЕТА РЕГРЕССИИ

Вданном параграфе обобщены и перечислены в виде удобных для вычисления формул общие выражения, связанные с оцениванием ли­ нейной регрессии на k переменных.

Замечание. Для модели без свободного члена эти суммы берутся нескорректированными; для модели со свободным членом эти суммы

284

SSE = у'у — b'X'y — сумма квадратов ошибок;

о2 = SSE/(n — k*) — оценка дисперсии ошибки;

var (Ь) = ( Х ' Х ) 1^2 —оценка ковариационной матрицы.

Модель со свободным членом

Ь0 = у — w'b — оценка свободного члена;

var (80) = [1/п + W [X'Xy^w] о2—оценка дисперсии Ь0;

cov (Ь0, 8) = — (Х'М)_1даа2 — оценка ковариации 80 и 8.

Мы показали здесь, как методы регрессионного анализа могут быть описаны с помощью ряда матричных выражений. Соответствую­ щие расчеты легко программируются для ЭВМ и поэтому программы подбора регрессий и определения сопутствующих статистик имеются в большинстве вычислительных центров.

При большом п и особенно k расчеты становятся очень громоздкими, поскольку эти величины определяют порядок матрицы Х' Х, к которой необходимо найти обратную матрицу. При k, равном 100, современные ЭВМ могут осуществить расчет менее чем за две минуты.

2 8 5

Уп р а ж н е н и я

1.Поскольку дивиденды представляют собой составную часть личного дохода, в эконометрическую модель США можно включить уравнение, связываю­ щее дивиденды с уровнем экономической активности. Наиболее логично эту взаимосвязь представить в виде функции дивидендов от дохода корпораций. Самая общая линейная запись имеет вид Dt -- bn + bj^Pt, где Dt и Pt — ди­ виденды и доход в году t. В исследовании поведения в области дивидендов Линт-

нера [6 ] отмечается,что отношения дивидендов к доходу могут считаться приемле­ мыми в весьма широком диапазоне. Если это утверждение правильно для от­ дельной компании, то оно должно быть правильным и для укрупненного объекта изучения.

а) Как такая политика в области распределения дивидендов влияет на коэффициент Ь0 в приведенном уравнении?

б.) Следующие данные взяты из экономического отчета 1968 г. (млрд, долл.):

2.Решите уравнение (5) данной главы.

3.Покажите, что уравнения (5) являются частным случаем нормальных

коэффициентов регрессии сгу + kx на с2х + k2 и оценками коэффициентов рег­ рессии у на х. Проиллюстрируйте полученные результаты (с помощью упражне­ ний 5 и 6).

8 . Выведите выражение В} для модели без свободного члена в том виде,

вкотором оно дано в табл. 2 .

9.Чоу [1] предложил следующую модель для характеристики платы за арен­ ду ЭВМ:

г — b0tblmbzabs

logior = log1060 + &ilog10 t + 62log10 m + £>3logl0a,

где r — месячная плата за пользование ЭВМ; t — время дополнительного цик­ ла ЭВМ; т — объем памяти ЭВМ; а — время выборки из запоминающего уст­ ройства.

а) Какие знаки ожидаются у коэффициентов Ьг, Ь% и Ь3?

б) Допустим, что имеются следующие данные, относящиеся к пяти ЭВМ:

286