Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Специальные разделы высшей математики. Практикум по математической статистике. Учебно-методическое пособие.pdf
6.3. Примеры типовых задач с решением 201
Коэффициенты Стандартная ошибка t-статистика
Константа -32,16 4,94 -6,51
X 1,03 0,08 12,72
б) проверим значимость коэффициентов регрессии β0и β1:
1) выдвигаем основную гипотезу
H0: βj= 0;
против двусторонней альтернативы
H1: βj= 0;
2) статистики тестов на значимость коэффициентов регрессии β0и β
имеют вид
*
β
tj=
j
, j = 0; 1,
*
S
β
j
каждая из которых при справедливости гипотезы H0имеет распределение
Стьюдента с n − 2 степенями свободы, а значения этих статистик указаны
в таблице;
3) критическое значение на уровне значимости α = 0,05 определим по
таблице Б.1 приложения
t
крит
= t
1−α/2
(
n − k − 1)= t
1−0,05/2
(
47 − 1 − 1)= t
0,975
(45)
= 2,0141;
4) так как
6,51 =|t
12,72 =|t
|
> t
0
|
> t
1
крит
крит
= 2,0141,
= 2,0141,
1
то оба коэффициента β0и β1парной линейной регрессии на уровне α = 0,05
признаются значимыми.
Пример 6.9. Для линейной регрессионной модели примера 6.8 записа-
ны результаты дисперсионного анализа, таблица не полная.
Дисперсионный анализ df SS MS F-статистика
Регрессия (R) A 5876 D H
Остаток (E) B 1634 E
Итого (T) C 7510
202 Глава 6. КОРРЕЛЯЦИОННЫЙ И РЕГРЕССИОННЫЙ АНАЛИЗ
Проверить адекватность эмпирическим данным модели в целом для этого:
а) допишите в таблицу недостающие значения: A, B, C, D и E;
б) вычислите коэффициент детерминации R2, что означает его значение;
б) проверьте его значимость, выполнив следующие шаги:
1) запишите нулевую и альтернативную гипотезу;
2) вычислите статистику и укажите какое распределение она имеет при
справедливости гипотезы H0;
3) определите критическое значение на уровне α = 0,05;
4) сделайте вывод относительно значимости коэффициента.
Решение. а) Вычислим количество степей свободы, которые соответ-
ствуют определенным суммам квадратов
X A = dfR = k = 1,
X B = dfE = n − k − 1 = 45,
X C = dfT = n − 1.
Рассчитаем средние квадраты
X D = MSR =
MSR
dfR
MSE
X E = MSE =
dfE
MSR
=
k
MSR
=
n − k − 1
=
5876
1
=
= 5876,
1634
= 36,31.
45
б) Вычислим коэффициент детерминации R2по формуле 6.20:
R2=
P
P
n
i=1
n
i=1
*
y
− m
i
yi− m
2
*
y
*
y
SSR
=
2
SST
=
5876
= 0,7824.
7510
Это означает, что модель объясняет 78,24% изменчивости зависимой переменной Y.
б) Проверим значимость всей модели в целом.
1) Для этого выдвигаем нулевую и альтернативную гипотезу
H0: R2= 0,
против альтернативы
H1: R2= 0.
6.3. Примеры типовых задач с решением 203
2) Статистика критерия имеет вид
2
F =
(
R
n − k − 1
(
1 − R
)
MSR
2
)
=
k
MSE
,
если справедлива нулевая гипотеза она имеет распределение Фишера с
(
k,n − k − 1)=(1,45)степенями свободы. В данном случае значение ста-
тистики равно
MSR
F =
MSE
=
5876
= 161,84.
36,31
3) По таблице В.2 определим критическое значение, как квантиль рас-
пределения Фишера с (1; 45) степенями свободы уровня 1 − α = 0,95:
F
крит
= f
(1,45) = 4,06.
0,95
4) Таким образом, так как 4,06 = F
< F = 161,84, то гипотеза H
крит
отклоняется и вся модель в целом признается значимой.
Пример 6.10. При исследовании прочности (МПа) древесины (бере-
за) при изгибе от длительности (мес.) нахождения в условиях повышенной
влажности получены следующие экспериментальные данные
X 1 2 3 4 5 6 7 8
Y 656,78 678,40 639,14 602,74 565,18 529,18 491,17 449,48
Оцените уравнение линейной регрессии Y = β
*
0
+ b
*
1
X.
Решение. Заполним таблицу промежуточных вычислений
Используя метод наименьших квадратов, оценки β
*
0
и β
*
неизвестных
1
0
параметров β0и β1, вычислим по формулам (6.13) и (6.14):
n
P
β
β
*
1
*
0
1
n
=
=m
xiyi− m
i=1
n
P
1
n
i=1
*
− β
Y
x
2
−(m
i
*
m
1
*
*
m
X
Y
2422,1 − 4,5 · 576,51
=
2
*
)
x
*
= 576,51 − (−32,79) · 4,5 = 724,08.
X
25,5 − 4,5
2
= −32,79,
Таким образом, оцененное уравнение регрессии имеет вид
Y*= 724,08 − 32,79X.
204 Глава 6. КОРРЕЛЯЦИОННЫЙ И РЕГРЕССИОННЫЙ АНАЛИЗ
x y x
2
y
2
xy
1 656,78 1 431359,9684 656,78
2 678,4 4 460226,56 1356,8
3 639,14 9 408499,9396 1917,4
4 602,74 16 363295,5076 2411
5 565,18 25 319428,4324 2825,9
6 529,18 36 280031,4724 3175,1
7 491,17 49 241247,9689 3438,2
8 449,48 64 202032,2704 3595,8
Сумма 36 4612,1 204 2706122,1197 19377
Среднее 4,5 576,51 25,5 338265,2650 2422,1
Пример 6.11. Проверьте значимость коэффициентов β0и b1модели
регрессии из примера 6.10, для этого
а) запишите нулевую и альтернативную гипотезу;
б) вычислите статистику и укажите какое распределение она имеет при
справедливости гипотезы H0;
в) определите критическое значение на уровне α = 0,01;
г) сделайте вывод относительно значимости коэффициента.
Решение. Для нахождения оценки дисперсии случайной составляющей
ε вычислим остатки eiмодели.
Далее, согласно формуле (6.14) вычислим оценку дисперсии случайной
составляющей ε:
n
X
=
1
n − 2
e
i=1
2
S
ε
2
=
i
2054,857
= 342,476.
8 − 2
А соответствующая стандартная ошибка равна
Sε=S
2
=√342,476 = 18,506.
ε
Используя формулы (6.16) и (6.17), вычислим стандартные ошибки ко-
эффициентов регрессии
6.3. Примеры типовых задач с решением 205
x y y
*
e = y − y
*
1 656,78 691,29 -34,51 1190,940
2 678,4 658,5 19,9 396,010
3 639,14 625,71 13,43 180,365
4 602,74 592,92 9,82 96,432
5 565,18 560,13 5,05 25,502
6 529,18 527,34 1,84 3,386
7 491,17 494,55 -3,38 11,424
8 449,48 461,76 -12,28 150,7980
Сумма 2054,857
*
S
=S
β
ε
0
P
n
n
i=1
P
x
2
i
n
i=1
−
(
x
P
2
i
n
i=1
2
)
x
i
= 18,506 ·
n
*
S
=S
β
ε
1
n
P
n
i=1
P
2
x
−
i
n
(
i=1
2
)
x
i
= 18,506 ·
204
8 · 204 − 36
8
8 · 204 − 36
2
e
= 14,4198,
2
= 2,8556.
2
а) Для проверим значимости коэффициентов регрессии. Для этого вы-
двигаем основную гипотезу
H0: βj= 0, j = 0; 1,
против альтернативы
H1: βj= 0.
б) Вычислим значения статистик по формулам (6.18)
*
t0=
t1=
β
0
*
S
β
0
*
β
1
*
S
β
1
724,08
=
14,4198
−32,79
=
2,8556
= 50,2143
= −11,4827
каждая, из которых, при справедливости гипотезы H0, имеет распределение
Стьюдента с n − 2 = 8 − 2 = 6 степенями свободы.
г) По заданному уровню значимости α = 0,01 с помощью таблицы Б.1 t-
распределения вычисляется критическое значение t
крит
= t
0,995
(6)
= 3,7074.
д) Так как обе статистики t0и t1по абсолютной величине превосходят
206 Глава 6. КОРРЕЛЯЦИОННЫЙ И РЕГРЕССИОННЫЙ АНАЛИЗ
критическое значение t
, то с вероятностью 0,99 коэффициенты β0, и β
крит
признаются значимыми.
Пример 6.12. Проверить адекватность эмпирическим данным модели
из примера 6.10 в целом для этого:
а) вычислите коэффициент детерминации R2, что он означает;
б) проверьте его значимость, выполнив следующие шаги:
1) запишите нулевую и альтернативную гипотезу;
2) вычислите статистику и укажите какое распределение она имеет при
справедливости гипотезы H0;
3) определите критическое значение на уровне α = 0,05;
4) сделайте вывод относительно значимости коэффициента.
Решение. a) Вычислим коэффициент детерминации R2по формуле
1
(6.20)
R2= 1 −
P
P
n
i=1
n
i=1
(
yi− y
yi− m
*
i
*
y
2
)
= 1 −
2
P
P
n
i=1
n
i=1
y
(
yi− y
2
− nm
i
2
*
)
i
=
2
*
y
2054,857
= 1 −
2706122,1197 − 8 · 576,51
= 0,9565.
2
Таким образом, регрессионная модель объясняет 95,65%изменчивости
независимыой переменной Y.
б)Оценим значимость уравнения регрессии в целом.
1) Для этого выдвинем основную гипотезу
H0: R2= 0 против альтернативы H1: R2= 0.
2) Вычислим значение статистики по формуле (6.21)
2
F =
R
1 − R
(
n − 2
)
0,9565(8 − 2
=
2
1 − 0,9565
)
= 131,888,
которая, при справедливости гипотезы H0, имеет распределение Фишера с
(
1,n − 2)=(1; 6)степенями свободы.
3) По заданному уровню значимости α = 0,05, используя таблицу В.2,
находим критическое значение F
крит
= F
(
1,n − 2)= F
1−α
(
1,6)= 5,99.
0,95
6.3. Примеры типовых задач с решением 207
4) Так как F ≥ F
, то гипотеза H0отклоняется, и модель с вероятно-
крит
стью 0,95 в целом признается значимой.
Пример 6.13. По выборке одновременных наблюдений объема n = 50
оценена линейная регрессионная модель
Y = β
*
0
+ b
*
X1+ b
1
*
X2+ b
2
*
X3+ b
3
*
X4+ b
4
*
X5+ b
5
*
6
X6.
В таблице представлены частичные результаты множественного линейного
анализа.
Коэффициенты Стандартная ошибка t-статистика
Константа A 203,7 7,06
X1 -11,64 2,21 B
X2 -2,69 2,05 C
X3 0,63 D 6,61
X4 1,56 E 4,61
X5 H 0,99 7,57
X6 -37,36 6,34 I
Продолжите проведение регрессионного анализа. Для этого
при α = 0,01:
a) допишите в таблицу результатов недостающие значения: A, B, C, D,
E, H и I;
б) проверьте значимость коэффициентов регрессии βiи i = 0,6, выпол-
нив следующие шаги:
1) запишите нулевую и альтернативную гипотезу;
2) выпишите статистику и укажите какое распределение она имеет при
справедливости гипотезы H0;
3) определите критическое значение;
4) сделайте вывод относительно значимости коэффициента.
Решение.
а) Используя то, что коэффициент, его стандартная ошибка и соответ-
ствующая t-статистика связаны соотношением
*
β
tj=
j
,
*
S
β
j
208 Глава 6. КОРРЕЛЯЦИОННЫЙ И РЕГРЕССИОННЫЙ АНАЛИЗ
вычислим неизвестные элементы таблицы
Недостающие коэффициенты равны
A = β
H = β
*
= t0· S
0
*
= t5· S
5
*
= 203,6 · 7,06 = 1438,12,
β
0
*
= 0,99 · 7,57 = 7,49.
β
5
Неизвестные стандартные ошибки равны
*
D = S
E = S
β
*
=
β
3
t
β
*
=
β
4
t
0,63
3
=
6,61
3
*
1,56
4
=
4,61
4
Соотвествующие статистики равны
*
B = t1=
C = t2=
I = t6=
β
S
β
β
S
β
β
S
β
1
*
1
*
2
*
2
*
6
*
6
−11,64
=
2,21
−2,69
=
2,05
−37,36
=
6,34
= 0,1,
= 0,34.
= −5,27,
= −1,31,
= −5,89.
б) Проверим значимость коэффициентов регрессии βi, i = 0, 1, 2, 3, 4, 5, 6.
Для этого
1) выдвинем нулевую гипотезу
H0: βj= 0;
против альтернативы
H1: βj= 0.
2) статистики тестов для различения этих гипотез имеют вид
*
β
tj=
j
, j = 0, 1, 2, 3, 4, 5, 6,
*
S
β
j
каждая из которых при справедливости гипотезы H0имеет распределение
Стьюдента с n − k − 1 = 50 − 6 − 1 = 43 степенями свободы.
3) критическое значение на уровне значимости α = 0,01 определим по
таблице Б.1 приложения
t
крит
= t
1−α/2
(
n − k − 1)= t
1−0,01/2
(
50 − 6 − 1)= t
0,995
(43)
= 2,6951;
6.3. Примеры типовых задач с решением 209
4) так как
7,06 =|t
5,27 =|t
1,31 =|t
6,61 =|t
4,61 =|t
7,57 =|t
5,89 =|t
0
1
2
3
4
5
6
|
|
|
|
|
|
|
> t
> t
< t
> t
> t
> t
> t
= 2,6951, коэффициент β0— значим,
крит
= 2,6951, коэффициент β1— значим,
крит
= 2,6951, коэффициент β2— не значим,
крит
= 2,6951, коэффициент β3— значим,
крит
= 2,6951, коэффициент β4— значим,
крит
= 2,6951, коэффициент β5— значим,
крит
= 2,6951, коэффициент β6— значим.
крит
Пример 6.14. Исследуется зависимость признака Y от двух факторов
X1 и X2 технологического процесса. Построить линейную модель множе-
ственной регрессии Y = β
*
0
+ b
*
X1+ b
1
*
X2по следующим статистическим
2
данным.
X1 3 6 2 4 8 9 1 9 5 1
X2 7 9 2 3 8 3 3 9 9 8
Y 24 24 22 22 35 49 20 46 23 6
Решение. Используя метод наименьших квадратов, найдем оценки β
β
*
1
и β
*
коэффициентов β0, β1и β2двухфакторной линейной регрессионной
2
модели. Заполним таблицу промежуточных вычислений.
Используя данные таблицы, вычислим эмпирические моменты:
n
X
x1iyi− nm
i=1
n
X
x2iyi− nm
i=1
n
X
)
=
2
X
=
1
i=1
X
=
2
i=1
x1ix2i− nm
i=1
n
2
x
− nm
1i
n
2
z
− nm
2i
*
*
m
X
*
X
*
X
1
*
X
2
= 1624 − 10 · 4,8 · 27,1 = 323,2,
Y
1
*
m
= 1650 − 10 · 6,1 · 27,1 = −3,1,
Y
2
*
*
m
X
1
2
= 319 − 10 · 4,8 · 6,1 = 26,2,
X
2
= 318 − 10 · (4,8)2= 87,6,
2
= 451 − 10 · (6,1)2= 78,9.
(n − 1)cov
(n − 1)cov
(n − 1)cov
(n − 1)S
(n − 1)S
*
(
X1, Y)=
*
(
X2, Y)=
*
(
X1, X
2
X
2
X
*
,
0
210 Глава 6. КОРРЕЛЯЦИОННЫЙ И РЕГРЕССИОННЫЙ АНАЛИЗ
X
X
1
2
Y X
2
1
X
2
2
2
Y
X1X
X1Y X2Y
2
3 7 24 9 49 576 21 72 168
6 9 24 36 81 576 54 144 216
2 2 22 4 4 484 4 44 44
4 3 22 16 9 484 12 88 66
8 8 35 64 64 1225 64 280 280
9 3 49 81 9 2401 27 441 147
1 3 20 1 9 400 3 20 60
9 9 46 81 81 2116 81 414 414
5 9 23 25 81 529 45 115 207
1 8 6 1 64 36 8 6 48
Сумма 48 61 271 318 451 8827 319 1624 1650
Среднее 4,8 6,1 27,1 31,8 45,1 882,7 31,9 162,4 165
Подставим вычисленные значения в формулы (6.29)–(6.31), сократив на
n − 1. Получим оценки β
β
*
cov
*
=
1
(
X1, Y)S
2
− cov
X
2
2
2
S
S
1
−[cov
X
2
X
*
, β
0
1
*
(
X2, Y)cov
*
(
и β
X1, X
*
коэффициентов регрессии
2
*
(
X1, X
2
)]
2
)
2
=
*
323,2 · 78,9 − (−3,1) · 26,2
β
=
87,6 · 78,9 − 26,2
*
cov
*
=
2
(
X2, Y)S
2
− cov
X
1
2
2
S
S
1
−[cov
X
2
X
*
(
X1, Y)cov(X1, X
*
(
X1, X
2
)]
2
)
2
=
2
= 4,1094,
−3,1 · 87,6 − 323,2 · 26,2
= −1,4039,
β
*
= m
0
*
y
− β
=
87,6 · 78,9 − 26,2
*
*
m
1
x
1
− β
*
2
*
m
= 27,1 − 4,1094 · 4,8 − (−1,4039) · 6,1 = 15,9386.
x
2
2
Таким образом, оцененная линейная модель двухфакторной регрессии
имеет вид
Y*= 4,1094 + 0,9798X1− 1,4039X2.