Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Специальные разделы высшей математики. Практикум по математической статистике. Учебно-методическое пособие.pdf
6.1. Коротко о главном 191
Таким образом, если:
а) F
крит
< f
(
k; n − k − 1)— гипотеза H0принимается (множественный
1−α
коэффициент корреляции не значим);
б) F
крит
≥ f
(
k; n − k − 1)— гипотеза H0отклоняется (множественный
1−α
коэффициент корреляции статистически значим).
Здесь f
(
v,w)— квантиль распределения Фишера с(v,w)степенями сво-
α
боды уровня α.
Парная нелинейная регрессия В общем случае парная нелинейная
регрессионная модель имеет вид
Y = f(β1, . . . ,βk,X,ε),
где βj— неизвестные параметры, а функция f(β1, . . . ,βk,X,ε)нелинейна.
Однако, нелинейность модели регрессии может быть разного типа.
Нелинейность по параметрам, в этом случае независимую переменную
или некоторую функцию ψ(y)нельзя представить в виде линейной комбинации некоторых известных функций φ
(x)
. В этом случае, применяются
j
нелинейные методы оценивания.
Модель Y = f(β1, . . . ,βk,X,ε)линейна по параметрам, если с помощью
замены переменной или специальных преобразований функцию можно линеаризовать. Рассмотрим некоторые примеры.
Параболическая регрессия. Пусть модель имеет вид
Y = β0+ β1X + β2X2+ ε.
Выполнив замену переменных Z1= X, Z2= X2, получим линеаризованную форму модели
Y = β0+ β1Z1+ β2Z2+ ε.
Гиперболическая модель. Данные связаны соотношением
1
Y = β0+ β
Введем новую переменную Z =
1
, тогда модель примет вид:
X
+ ε.
1
X
Y = β0+ β1Z + ε.
192 Глава 6. КОРРЕЛЯЦИОННЫЙ И РЕГРЕССИОННЫЙ АНАЛИЗ
Обратная модель. Модель, порождающая данные
Y =
.
β0+ β1X + ε
1
Замена переменной Z =
1
приведет к следующей линейной форме мо-
Y
дели
Z = β0+ β1X + ε.
Логарифмическая модель (
log
−lin):
Y = β0e
β1X
ε.
Прологарифмируем обе части соотношения, введя обозначения
Z =lnY, B0=lnβ0, ν =lnε,
запишем модель в линейной форме
Z = B0+ β1X + ν.
Двойная логарифмическая модель(log−log):
β
Y = β0X
1
ε.
Прологарифмируем обе части соотношения, введя обозначения
Z =lnY, B0=lnβ0, U =lnX, ν =lnε,
запишем модель в линейной форме
Z = B0+ β1U + ν.
Такие модели оцениваются с помощью линейного регрессионного анализа. Также, по аналогии с линейной регрессией, проводится проверка значимости коэффициентов и адекватности модели.
Очевидно, для одного набора эмпирических данных можно использовать различные модели, которые возможно окажутся и адекватными. Тогда
для их сравнения и выбора лучшей используются специальные статистические тесты.
6.2. Вопросы для самоконтроля 193
6.2 Вопросы для самоконтроля
1. В чем различие между функциональной и статистической зависимостью двух переменных?
2. Какие задачи решает корреляционный анализ?
3. Что определяет парный коэффициент корреляции?
4. Как определить значимость коэффициента корреляции?
5. Что определяет коэффициент частной корреляции?
6. Что определяет коэффициент множественной корреляции?
7. Как определить значимость коэффициента множественной корреляции? Какие задачи решает регрессионный анализ?
8. Приведите общую постановку задачи регрессионного анализа.
9. По каким признакам классифицируются задачи регрессионного анализа?
10. Перечислите этапы регрессионного анализа.
11. Сформулируйте и запишите постановку задачи парной линейной регрессии.
12. В чем суть метода наименьших квадратов?
13. Назовите условия Гаусса–Маркова.
14. О чем говорит теорема Гаусса–Маркова?
15. Запишите выражения для оценки коэффициентов регрессии в задаче
линейной регрессии.
16. Запишите выражения для оценки дисперсии случайного члена в задаче линейной регрессии.
194 Глава 6. КОРРЕЛЯЦИОННЫЙ И РЕГРЕССИОННЫЙ АНАЛИЗ
17. Запишите формулу для оценки ковариационной матрицы коэффициентов регрессии в задаче линейной регрессии.
18. Запишите доверительный интервал для коэффициентов регрессии в
задаче линейной регрессии
19. Как проверяется значимость уравнения регрессии?
20. Как проверяется значимость коэффициентов уравнения регрессии?
21. Как вычисляется коэффициент детерминации R2?
22. Чему равны коэффициент детерминации R2и F–статистика в случае
строгой функциональной зависимости Y от X?
6.3 Примеры типовых задач с решением
Пример 6.1. При изучении зависимости между средней плотностью ке-
рамзитобетона (X1, кг/м3) и его прочностью при сжатии, (X2, МПа) получены следующие результаты.
X1 940 990 970 960 990 1060 1050 910 1000 930
X2 5,7 5,6 5,8 5,5 5,8 6,3 6,1 4,8 6,2 5,1
а) Построить диаграмму рассеяния.
б) Вычислить выборочный коэффициент корреляции и оценить силу и
направление связи между исследуемыми величинами.
Решение. а) Построим по эмпирическим данным корреляционное поле
(диаграмму рассеяния)
Составим таблицу промежуточных вычислений 6.2.
Согласно этой таблице выборочные средние равны
m
n
X
1
*
=
1
n
X1i= 980, m
i=1
n
X
1
n
i=1
X
2
2i
*
=
2
= 32,577,
1
n
n
X
X2i= 5,69,
i=1
n
X
1
n
j=1
X
1
n
i=1
X1iX2i= 5594,4.
n
2
X
= 962540,
1i
6.3. Примеры типовых задач с решением 195
X2
6.5
6
5.5
950 1,000 1,050
X1
Рис. 6.2 – Диаграмма рассеяния
Таблица 6.2 – Промежуточные вычисления
X1 X2 X1
2
X2
2
990 5,6 980100 31,36 5544
970 5,8 940900 33,64 5626
960 5,5 921600 30,25 5280
990 5,8 980100 33,64 5742
1060 6,3 1123600 39,69 6678
1050 6,1 1102500 37,21 6405
910 4,8 828100 23,04 4368
1000 6,2 1000000 38,44 6200
X1X2
930 5,1 864900 26,01 4743
Сумма 9800 56,9 9625400 325,77 55944
Среднее 980 5,69 962540 32,577 5594,4
Используя формулу (6.1), оценим коэффициент корреляции
P
n
1
n
i=1
X
n
2
1i
=
P
1
n
r
1,2
X1iX2i− m
i=1
−(m
*
1
2
)
*
*
m
1
2
P
n
1
n
i=1
X
2
−(m
2i
=
2
*
)
2
5594,4 − 980 · 5,69
В силу того, что r
=
(
962540 − 9804
= 0,8778 > 0, то корреляционная связь между
1,2
2
) (
32,577 − 5,69
2
)
=0,
8778
.
196 Глава 6. КОРРЕЛЯЦИОННЫЙ И РЕГРЕССИОННЫЙ АНАЛИЗ
факторами X1и X2положительна. А так как 0,7 < rxy= 0,8778 < 0,9, то
корреляционная связь между признаками X и Y — высокая.
Пример 6.2. Определить значим ли коэффициент парной корреляции
вычисленный при решении примера 6.1 на уровне α = 0,05.
Решение.
Для проверки значимости коэффициента корреляции выдвигаем гипо-
тезу
H0: ρxy= 0
против альтернативы
H1: ρxy= 0.
Вычислим значение t -статистики по формуле (6.6)
t =
r
1,2
1 − r
√
n − i − 2 =
2
1,2
0,8778
√
1 − 0,8778
√
10 − 0 − 2 = 5,1819.
2
По таблице t-распределения найдем критическое значение, как кван-
тиль распределения Стьюдента t
Так как 5,1819 =|t|> t
крит
= t
крит
= 2,3060, то гипотеза H0о незначимости
0,975
(8)
= 2,3060.
коэффициента корреляции отвергается, т.е. коэффициент корреляции признается значимым.
Пример 6.3. Построить доверительный интервал для коэффициента
парной корреляции из примера 6.1 при γ = 0,95.
Решение. При построения доверительного интервала для коэффициен-
та корреляции согласно формуле (6.7) выполним z-преобразование
z = 0,5
1 + r
ln
1 − r
= 0,5
1 + 0,8778
ln
1 − 0,8778
= 1,3659.
Тогда, согласно формуле (6.8), вычислим
z
1−α/2
z1=z −
= 1,3659 −
√
(n − 3)
z
1−α/2
z2=z +
= 1,3659 +
√
(n − 3)
1,96
= 0,6251,
10 − 3
1,96
= 2,1067.
10 − 3
6.3. Примеры типовых задач с решением 197
Далее, согласно формуле (6.9), нижняя и верхняя границы доверитель-
ного интервала для коэффициента корреляции, соответственно, равны
2z
1
e
− 1
2z
1
e
+ 1
=
2·(0,6251
e
2·(0,6251
e
)
)
− 1
= 0,5547 и
+ 1
2z
2
e
− 1
2z
2
e
+ 1
=
2·(2,1067
e
2·(2,1067
e
)
)
− 1
= 0,9708.
+ 1
Таким образом, с вероятностью 0,95 мы можем утверждать, что
ρ ∈(0,5547; 0,9708).
Пример 6.4. Исследуется три показателя технологического процесса
Y, X1, X2. По выборке, содержащей 20 одновременных наблюдений над ними оценена их корреляционная матрица (матрица парных коэффициентов
корреляции между ними).
Y X1 X2
Y 1 0,9 -0,8
X1 0,9 1 -0,5
X2 -0,8 -0,5 1
Вычислить выборочные коэффициенты частной корреляции r
r
Y,X2|X
.
1
Y,X1|X
2
Решение.
Вычислим частный коэффициент корреляции (первого порядка) величин Y и X1при исключении влияния переменной X2, используя коэффициенты парной корреляции, по формуле 6.4
r
Y,X1|X
− r
YX
=
2
1
1 − r
2
YX
2
YX
r
X1X
2
1 − r
2
2
X1X
0,9 − (−0,8)(−0,5)
=
1 − (−0,8)
2
2
1 − (−0,5)
= 0,9622.
2
r
Аналогично, вычислим коэффициент корреляции Y и X2при исключении влияния переменной X
1
,
r
Y,X1|X
r
− r
YX
=
2
2
1 − r
2
YX
1
YX
r
X1X
1
1 − r
2
2
X1X
(−0,8) − 0,9(−0,5)
√
=
1 − 0,9
2
2
1 − (−0,5)
= −0,9272.
2
198 Глава 6. КОРРЕЛЯЦИОННЫЙ И РЕГРЕССИОННЫЙ АНАЛИЗ
Пример 6.5. Проверить значимость коэффициентов частных корреляции из примера 6.4 на уровне α = 0,01. Какой вывод можно сделать, сравнивая коэффициенты парной и частной корреляции?
Решение.
Для проверки значимости коэффициента корреляции частной корреляции выдвигаем гипотезу
H0: ρ
Y,X1|X
2
= 0
против альтернативы
H1: ρ
Y,X1|X
2
= 0.
Вычислим значение t -статистики по формуле (6.6)
t =
r
Y,X1|X
1 − r
2
2
Y,X1|X
√
n − i − 2 =
2
0,9622
√
1 − 0,9622
√
20 − 1 − 2 = 14,5832.
2
По таблице Б.1 t -распределения найдем критическое значение, как
квантиль распределения Стьюдента t
Так как 14,5832 =|t|> t
ляции ρ
Для ρ
Y,X1|X
признается значимым.
2
Y,X2|X
значение статистики равно
1
= 2,8982, то коэффициент частной корре-
крит
крит
= t
0,995
(17)
= 2,8982.
r
Y,X2|X
t =
1 − r
1
2
Y,X2|X
Так как 0,2026 =|t|> t
ции ρ
Y,X1|X
является значимым.
2
√
n − i − 2 =
1
0,9272
1 − (0,9272)
= 2,8982, то коэффициент частной корреля-
крит
√
20 − 1 − 2 = −10,2026.
2
Так как коэффициенты парной корреляции по абсолютной величине
меньше соответствующих коэффициентов корреляции, то второй фактор
занижает парный коэффициент.
Пример 6.6. Оценить коэффициент множественной корреляции признака Y по данным примера 6.4.
Решение. Для нахождения коэффициента множественной корреляции
6.3. Примеры типовых задач с решением 199
признака Y вычислим определитель корреляционной матрицы
|R|
1 0,9 −0,8
=
0,9 1 0,5
−0,8 0,5 1
= 0,02,
и алгебраическое дополнение C
|
C
11
11
1 0,5
|
=
0,5 1
= 0,75,
Коэффициент множественной корреляции признака Y найдем по формуле 6.5
RY= R
Y/X1,X
=1 −
2
|R|
C
11
=1 −
0,02
= 0,9866,
0,75
Пример 6.7. Проверить значимость коэффициента множественной корреляции признака Y, вычисленного в примере 6.6 на уровне α = 0,01.
Решение. Для определения значимости множественного коэффициента
корреляции выдвигаем две гипотезы:
H0: RY= 0,
H1: RY> 0.
Как мы видим, в этом случае альтернативная гипотеза односторонняя.
Статистика критерия находится по формуле 6.10:
F =
1
n−k
1
2
R
1
k−1
(1 − R
=
2
)
1
1
0,9866
2−1
1
(1 − 0,98662)
20−2
2
= 657,
где k = 2 — размерность факторного пространства, n = 20 — количество
наблюдений.
Если справедлива основная гипотеза, то статистика критерия F приблизительно имеет распределение Фишера с(k − 1; n − k)= (1, 18) степенями
свободы.
По таблице В.3 приложения найдем критическое значение, как квантиль распределения Фишера
F
крит
= f
(
k − 1; n − k)= f
1−α
1−0,01
(
2 − 1; 20 − 2)= f
(
1; 18)= 8,29.
0,99
200 Глава 6. КОРРЕЛЯЦИОННЫЙ И РЕГРЕССИОННЫЙ АНАЛИЗ
Так как
657 = F > F
крит
= 8,29,
то гипотеза H0отклоняется, и множественный коэффициент корреляции
признается статистически значимым.
Пример 6.8. По выборке одновременных наблюдений объема n = 47
оценена линейная регрессионная модель Y = β
*
0
*
+ b
X. В таблице представ-
1
лены не полные результаты регрессионного анализа
Коэффициенты Стандартная ошибка t-статистика
Константа -32,16 4,94 A
X 1,03 B 12,72
Закончите проведение регрессионного анализа. Для этого
a) допишите в таблицу результатов недостающие значения: A и B;
б) проверьте значимость коэффициентов регрессии β0и β1, выполнив
следующие шаги:
1) запишите нулевую и альтернативную гипотезу;
2) вычислите статистику и укажите какое распределение она имеет при
справедливости гипотезы H0;
3) определите критическое значение на уровне α = 0,05;
4) сделайте вывод относительно значимости коэффициента.
Решение. a) Коэффициент, его стандартная ошибка и соответствующая
t-статистика связаны соотношением
*
β
tj=
j
.
*
S
β
j
Следовательно, значения A и B соответственно равны
*
A = t0=
B = S
*
β
1
=
β
S
β
β
t
0
*
0
1
=
*
1
=
−32,16
= −6,51,
4,94
1,03
= 0,08.
12,72
Допишем в таблицу условия недостающие значения A и B, в итоге имеем