Лекция №15 традиционный метод наименьших квадратов для многомерной регрессии

Расчет необходимых сумм для системы нормальных линейных уравнений сведем в табл. 7.

i	у – зара-ботная плата, $	х1 –возраст, лёт	х2 – выра-ботка, шт./ смену	yx1	yx2	x12	x22	x1x2
1	300	29	17	8700	5100	841	289	493
2	400	40	25	16000	10000	1600	625	1000
3	300	36	15	10800	4500	1296	225	540
4	320	32	17	10240	5440	1024	289	544
5	200	23	15	4600	3000	529	225	345
6	350	45	18	15750	6300	2025	324	810
7	350	38	17	13300	5950	1444	289	646
8	400	40	25	16000	10000	1600	625	1000
9	380	50	19	19000	7220	2500	361	950
10	400	47	23	18800	9200	2209	529	1081
11	250	28	15	7000	3750	784	225	420
12	350	30	18	10500	6300	900	324	540
13	200	25	16	5000	3200	625	256	400
14	400	48	23	19200	9200	2304	529	1104
15	220	30	18	6600	3960	900	324	540
16	320	40	18	12800	5760	1600	324	720
17	390	40	25	15600	9750	1600	625	1000
18	360	38	23	13680	8280	1444	529	874
19	260	29	18	7540	4680	841	324	522
20	250	25	17	6250	4250	625	289	425
	6400	713	382	237360	125840	26691	7530	13954

Тогда система нормальных линейных уравнений будет иметь вид:

Решив систему, найдем значения :

; ; .

Найдем МНК-оценки для нашего примера матричным способом.

Воспользовавшись правилами умножения матриц будем иметь:

Х^ТХ=

Х^ТХ=

;

;

и т.д.

В результате получим:

Тогда вектор оценок коэффициентов регрессии равен:

То есть ; ; (оценки такие же, что и найденные 1-м способом).

Лекция №16

ПОКАЗАТЕЛИ ТЕСНОТЫ СВЯЗИ ФАКТОРА С РЕЗУЛЬТАТОМ: КОЭФФИЦИЕНТЫ ЧАСТНОЙ ЭЛАСТИЧНОСТИ И СТАНДАРТИЗОВАННЫЕ КОЭФФИЦИЕНТЫ РЕГРЕССИИ ( – КОЭФФИЦИЕНТЫ)

Пример. Рассмотрим ранжирование факторов на примере. Исходные данные были приведены в табл. 7. Воспользуемся результатами оценивания регрессии заработной платы рабочих у по возрасту x₁ и выработке х₂:

(3)

(см. вопрос 15).

Лекция №17

ЧАСТНАЯ КОРРЕЛЯЦИЯ

.

, которая будет не больше .

.

.

Лекция №18

КОЭФФИЦИЕНТЫ МНОЖЕСТВЕННОЙ ДЕТЕРМИНАЦИИ И КОРРЕЛЯЦИИ. СКОРРЕКТИРОВАННЫЙ КОЭФФИЦИЕНТ МНОЖЕСТВЕННОЙ ДЕТЕРМИНАЦИИ

.

,

• для однофакторной регрессии: ;

• для двухфакторной регрессии:

Лекция №19

ОЦЕНКА ЗНАЧИМОСТИ УРАВНЕНИЯ МНОЖЕСТВЕННОЙ РЕГРЕССИИ. ОЦЕНКА ЗНАЧИМОСТИ ФАКТОРА, ДОПОЛНИТЕЛЬНО ВКЛЮЧЕННОГО В МОДЕЛЬ РЕГРЕССИИ. ОБЩИЙ И ЧАСТНЫЙ F-КРИТЕРИИ

,

.

. (4)

Тогда: .

.

F_набл=41,9>F_кр, следовательно, уравнение регрессии (4) статистически значимо и может быть использовано на практике.

Лекция №20

ФИКТИВНЫЕ ПЕРЕМЕННЫЕ МНОЖЕСТВЕННОЙ РЕГРЕССИИ

Рассмотрим применение фиктивных переменных на примере. Пусть по данным о 20 рабочих цеха оценивается регрессия заработной платы рабочего за месяц у ($) от количественного фактора х₁ – возраст рабочего (лет) и качественного фактора х₂ – пол. Мы предполагаем, что у мужчин зарплата выше, чем у женщин. Введем в модель: фиктивную переменную z, которая принимает 2 значения: 1 — если пол рабочего мужской; 0 — если пол женский.

Построим модель:

(5)

Исходные данные приведены в табл. 8.

Таблица 8

№ наблюдения	у – заработная плата рабочего за месяц, $	Х – возраст рабочего, лет	Пол, м/ж
1	300	29	ж
2	400	40	м
3	300	36	ж
4	320	32	ж
5	200	23	м
6	350	45	м
7	350	38	ж
8	400	40	м
9	380	50	м
10	400	47	м
11	250	28	ж
12	350	30	м
13	200	25	м
14	400	48	м
15	220	30	ж
16	320	40	м
17	390	40	м
18	360	38	м
19	260	29	ж
20	250	25	м

Для оценки параметров модели (5) используем обычный МНК. Построим систему нормальных линейных уравнений:

В результате решения системы получим оценки: ; 4; .

(1,63) (6,14) (0,541);

; ; .

В скобках указаны значения t-критерия.

.

(4,29) (4,104)

; ; .

а) при z=1 (рабочий – мужчина);

б) при z=0 (рабочий – женщина).

Таблица 9

Образование	z1	z2
до 8 классов	0	0
среднее	1	0
специальное	0	1

Модель регрессии будет иметь вид:

'.

• «до 8 классов»: ;

• «среднее»: ;

• «специальное»: .