4.1. Классическая нормальная линейная модель множественной регрессии

модель множественной линейной регрессии:

, (4.1)

Введем обозначения: – матрица-столбец, или вектор, значений зависимой переменной.

– матрица значений объясняющих переменных, или матрица плана размера

– матрица-столбец, или вектор, параметров размера

– матрица-столбец, или вектор, возмущений (случайных ошибок, остатков) размера .

в матричной форме модель (4.1) примет вид:

(4.2)

Оценкой этой модели по выборке является уравнение

, (4.2)'

Где , .

4.2. Оценка параметров классической регрессионной модели методом наименьших квадратов

Система нормальных уравнений в матричной форме для определения вектора :

. (4.5)

(4.6)

Матрица есть вектор произведений наблюдений объясняющих и зависимой переменных:

. (4.7)

Решением уравнения (4.5) является вектор

, (4.8)

где – матрица, обратная матрице коэффициентов системы (4.5), – матрица-столбец, или вектор, ее свободных членов.

Зная вектор , выборочное уравнение множественной регрессии представим в виде:

(4.9)

где – групповая (условная) средняя переменной при заданном векторе значений объясняющей переменной

.

Пример 4.1. Имеются следующие данные (условные) о сменной добыче угля на одного рабочего (т), мощности пласта (м) и уровне механизации работ (%), характеризующие процесс добычи угля в 10 шахтах.

Таблица 4.1

1	8	5	5	6	8	8	6
2	11	8	10	7	9	6	6
3	12	8	10	8	9	4	5
4	9	5	7	9	8	5	6
5	8	7	5	10	12	7	8

Предполагая, что между переменными , и существует линейная корреляционная зависимость, найти ее аналитическое выражение (уравнение регрессии no и ).

Решение. Обозначим

,

(в матрицу вводится дополнительный столбец чисел, состоящий из единиц).

Таблица 4.2

1	8	5	5	64	25	25	40	40	25	5,13	0,016
2	11	8	10	121	64	100	88	110	80	8,79	1,464
3	12	8	10	144	64	100	96	120	80	9,64	1,127
4	9	5	7	81	25	49	45	63	35	5,98	1,038
5	8	7	5	64	49	25	56	40	35	5,86	0,741
6	8	8	6	64	64	36	64	48	48	6,23	0,052
7	9	6	6	81	36	36	54	54	36	6,35	0,121
8	9	4	5	81	16	25	36	45	20	5,61	0,377
9	8	5	6	64	25	36	40	48	30	5,13	0,762
10	12	7	8	144	49	64	84	96	56	9,28	1,631
	94	63	68	908	417	496	603	664	445	-	6,329

(см. суммы в итоговой строке табл. 4.2);

Матрицу определим по формуле где – определитель матрицы ; присоединенная к матрице . Получим

(самостоятельно).

Теперь в соответствии с (4.8) умножая эту матрицу на вектор

,

получим .

С учетом (4.9) уравнение множественной регрессии имеет вид: .

На практике часто бывает необходимо сравнение влияния на зависимую переменную различных объясняющих переменных, когда последние выражаются разными единицами измерения. В этом случае используют стандартизованные коэффициенты регрессии и коэффициенты эластичности :

; (4.10)

. (4.11)

Стандартизованный коэффициент регрессии показывает, на сколько величин изменится в среднем зависимая переменная при увеличении только -й объясняющей переменной на , а коэффициент эластичности – на сколько процентов (от средней) изменится в среднем при увеличении только на 1%.

Пример 4.2.

По данным примера 4.1 сравнить раздельное влияние на сменную добычу угля двух факторов – мощности пласта и уровня механизации работ.

Решение.

по (4.10):

; ,

по (4.11):

; .

(Здесь: ).