Lektsia_05_new_MS_end

10

Таблица 5.1 – Корреляционная таблица

5.03. Анализ коэффициента корреляции

Точечная оценка показателя ρ . Пусть экспериментальные данные представлены в форме (5.9). Тогда ρˆ – значение точечной оценки коэффициента корреляции ρ – вычисляют по формуле:

Интервальная оценка и проверка значимости. При построении дове-

рительного интервала для коэффициента корреляции и проверки его значимости будем предполагать, что генеральная совокупность имеет двумерный нормальный закон распределения. В этом случае оценка коэффициента

корреляции ρˆ(Xn ,Yn ) имеет асимптотически нормальный закон распределе-

ния с математическим ожиданием Mρˆ(Xn ,Yn ) ≈ ρ − 21n ρ(1 −ρ2 ) и дисперсией

Dρˆ(Xn ,Yn ) ≈ n1 (1 −ρ2 )2 .

Заметим, что если распределение генеральной совокупности не является нормальным, то приближенное выражение для Dρˆ(Xn ,Yn ) содержит вто-

рые и четвертые моменты генеральной совокупности.

Используя общий метод построения доверительного интервала при

11

ρ2 1 , основанный на нормальном законе распределения соответствующей оценки при доверительной вероятности γ = 1 −α можно получить сле-

дующее представление для значений нижней и верхней границ интервальной оценки:

Однако пользоваться оценками (5.13) и (5.14) можно только при больших объемах выборки (не менее 500).

При малых объемах выборки можно рекомендовать построение доверительного интервала для ρ , которое основано на преобразовании Р. Фишера

Оказывается, что случайная величина

Заметим, что равенствами (5.17), (5.18) можно пользоваться и в тех случаях, когда закон распределения генеральной совокупности отличен от нормального. Но в этих случаях ухудшается качество оценивания, т.е. увеличи-

12

вается длина интервала (z, z ) , а значит, ухудшается точность оценивания.

При проверке статистической гипотезы H0 : ρ = 0 (т.е. гипотезы о том,

что нормально распределенные случайные величины независимы) используют статистику

1 −ρˆ2(Xn ,Yn )

которая имеет распределение Стьюдента с n −2 степенями свободы. Если окажется, что

то гипотезу H0 принимают при уровне значимости α.

5.04. Анализ корреляционного отношения

Точечная оценка показателя rηξ . Пусть экспериментальные данные представлены в форме (5.10), т.е. сгруппированы по значениям xi – случайной величиныξ .

Тогда за значение точечной оценки величины σf2 принимают

Отсюда на основании (5.5) получаем значение точечной оценки показателя rηξ

σˆ2

rˆηξ = f . (5.20)

σˆη2

Напомним, что точечная оценка rˆηξ(Xn ,Yn ) определяет степень зависи-

13

мости случайной величины η от случайной величины ξ . Аналогично можно ввести точечную оценку rˆξη для корреляционного отношения rξη

Пусть экспериментальные данные получены в форме (5.9) и не допускают удовлетворительной группировки по оси значений ξ (т.к. недостаточно

велико n или точки (xi , yi ) слишком “разрежены” на плоскости)

В этом случае нужно выдвинуть некоторое предположение (статистическую гипотезу) о виде функции регрессии M(η | ξ = x) = f (x) . Проверка таких

гипотез будет рассмотрена в рамках регрессионного анализа.

Допустим, что параметрический вид этой функции задан, т.е. принято предположение о том, что

f (x) = f (x; θ1, …, θk )

и методами регрессионного анализа найдены значения θˆi оценок парамет-

Следовательно, согласно (5.5), точечную оценку показателя rηξ можно определить равенством

Интервальная оценка и проверка значимости rηξ . Построение дове-

рительного интервала для показателя rηξ основано на том, что статистика

приближенно имеет распределение Фишера с числом степеней свободы r1*

ет считать значимо отличающейся от нуля, если значение статистики W0 принадлежит критическому множеству, т.е. ее значение больше или равно f1−α, r1, r2 . В противном случае делаем вывод об отсутствии стохастической связи между ξ и η .

15

5.05. Анализ множественных связей

Перейдем к рассмотрению стохастических связей между совокупностью p +1 случайных величин X0, X1, ..., Xp , где переменные X1, ..., Xp являются

входными, а переменное X0 – выходным. Такое выделение переменного

X0 не является обязательным, т.е. все переменные могут быть входными,

или выходных переменных может быть несколько, но выделенный случай является, по-видимому, наиболее типичным.

Предположим, что случайный вектор (X0, X1, ..., Xp ) имеет нормальный закон распределения, определяемый вектором математических ожиданий μ =(μ0, μ1, …, μp ) и ковариационной матрицей ∑=(σij ) . Таким образом, из-

вестна корреляционная матрица

где ρij является коэффициентом корреляции между случайными величина-

ми Xi и Xj , i, j = 0, p .

Частные коэффициенты корреляции. При рассмотрении трех и более случайных величин X0, X1, ..., Xp коэффициенты корреляции любой пары из

этих случайных величин могут не дать правильного представления о степени связи между всеми случайными величинами. Это объясняется тем, что на закон распределения вероятностей исследуемой пары случайных величин могут оказывать влияние и другие рассматриваемые случайные величины. Это обстоятельство делает необходимым введение показателей стохасти-

ческой связи между парой случайных величин Xi и Xj ( i = 0, p , j = 0, p , i ≠ j ) при условии, что значения других случайных величин зафиксированы. В этом случае говорят о статистическом анализе частных связей.

Частный коэффициент корреляции – мера линейной стохастической зависимости между двумя случайными величинами из некоторой совокупно-

сти случайных величин X0, X1, ..., Xp , когда исключено влияние остальных,

Если случайный вектор (X0, ..., Xp ) распределен по нормальному зако-

ну, то частный коэффициент корреляции между случайными величинами Xi

и Xj вычисляют по формуле:

Из формулы (5.29) следует, что для вычисления частных коэффициентов корреляции нужны лишь все коэффициенты корреляции случайных ве-

личин Xi , Xj , i ≠ j .

Численные расчеты могут быть упрощены, если использовать рекуррентные соотношения:

Согласно (5.30), любой частный коэффициент корреляции может быть выражен через частные коэффициенты с меньшим на единицу числом вторичных индексов.

Отметим, что практика многомерного статистического анализа показала, что частные коэффициенты корреляции, определенные соотношениями (5.28) – (5.30), – вполне приемлемые характеристики линейной связи и в том

случае, когда распределение анализируемых переменных X0, X1, ..., Xp от-

личается от нормального.

Статистический анализ частных коэффициентов корреляции. Вы-

числение значений ρˆij(J (i, j )) точечной оценки частного коэффициента корре-

ляции ρij(J (i, j )) проводят по тем же формулам (5.29), (5.30) путем подстановки вместо коэффициентов корреляции ρij их выборочных значений ρˆij .

Исследуя статистические свойства выборочного частного коэффициента корреляции ρˆij(J (i, j ))(X0n , ..., Xpn ) , можно воспользоваться тем, что он рас-

пределен точно так же, как и выборочный коэффициент корреляции тех же случайных величин Xi , Xj , но с единственной поправкой: объем выборки n

надо заменить на n −k , где k – порядок частного коэффициента корреляции (см. (5.30)). Поэтому все формулы для доверительных интервалов и критерии значимости, приведенные в предыдущем пункте, сохраняются и для частных коэффициентов корреляции с учетом замены n на n −k .

Множественный коэффициент корреляции. Для того чтобы результа-

ты, изложенные в 5.4, были частным случаем рассматриваемой общей ситуации, сохраним обозначение η для “выходной” переменной X0 и обозначение ξ для “входной” переменной, но теперь ξ будет вектором размерно-

сти p , т.е. ξ =(ξ1, ξ2, ...., ξp ) . Возможные значения переменной η будем обо-

значать y , а возможные значения ξ – x =(x1, ..., xp ) .

При решении практических задач, связанных с анализом стохастических связей между многими случайными переменными, чаще других рассматри-

18

вают ситуацию, в которой поведение какой-то одной (выходной) переменной η стараются объяснить поведением совокупности других (входных) пере-

менных ξ = (ξ1, ξ2, ..., ξp ) .

Прежде всего убедимся, что наилучшим прогнозом (аппроксимацией) для неизвестного значения η (в смысле средней квадратичной ошибки) яв-

ляется условное математическое ожидание η при условии ξ = x , т.е. величина M(η | ξ = x ) = f (x ) , где x =(x1, ..., xp ) .

Действительно, пусть f (x ) – любая функция. Тогда

M(η − f (ξ))2 = M[(η − f (ξ)) +(f (ξ) − f (ξ))]2 =

= M(η − f (ξ))2 +M(f (ξ) − f (ξ)))2 +2M[(f (ξ) − f (ξ))(η − f (ξ))].

Поскольку последнее слагаемое равно нулю (доказательство этого аналогично тому, которое приведено в 5.2), то

min M(η − f (ξ))2 = M(η − f (ξ))2 ,

если f (ξ) = f (ξ) . Следовательно, при каждом данном значении ξ = x любой

функции f (x ) ≠ f (x ) имеет место неравенство

M(η − f (x ))2 > M(η − f (x ))2 .

Таким образом, мы снова (как и в 5.1) пришли к функции регрессии f (x ) = M(η | ξ = x ) , но уже функции от p переменных x1, ..., xp , которая наи-

более точно (в смысле средней квадратичной ошибки) воспроизводит значения исследуемого результирующего переменного η по заданным величи-

нам x =(x1, ..., xp ) входных переменных ξ = (ξ1, ξ2, ..., ξp ) .

Теперь вернемся к соотношению (5.4), которое связывает дисперсию ση2

случайной величины η с величинами σf2 = Df (ξ) и ση2 = MD(η | ξ) . Соотно-

шение (5.4) остается справедливым и в случае вектора входных переменных

ξ = (ξ1, ξ2, ..., ξp ) .

Следовательно, так же как и в случае парной зависимости, случайный разброс (вариация) выходного переменного η складывается из контроли-

руемой нами (посредством x =(x1, ..., xp ) ) вариации функции регрессии f (x)

19

и из неподдающегося нашему контролю случайного разброса значений η

(при фиксированном x ) относительно функции регрессии. Именно этот неконтролируемый разброс определяет меру зависимости переменной η от

переменной ξ , торая характеризуется величиной ση2 . Чем меньше значение

ση2 , тем точнее прогноз. При ση2 = 0 случайные величины η и ξ связаны

функциональной зависимостью.

Эти соображения подводят нас к определению множественного коэффициента корреляции Rη , под которым понимают величину

том детерминации.

Покажем, что Rη есть коэффициент корреляции между η и f (ξ) (тем самым оправдаем его название). Имеем

cov(η, f (ξ)) = M[(η −Mη)(f (ξ) −Mη)] =

=M[(f (ξ) −Mη)2 +(η − f (ξ))(f (ξ) −Mη)] =

=M(f (ξ) −Mη)2 +M[(η − f (ξ))(f (ξ) −Mη)] = σf2 ,

поскольку

M[(η − f (ξ))(f (ξ) −Mη)] = 0 .

Далее,

Отметим свойства показателя Rη , которые непосредственно вытекают из соотношения (5.31), справедливого и в многомерном случае.

1) 0 ≤Rη ≤1 .

2) Rη = 0 соответствует σf2 = Df (ξ) = 0 . В частности, функция регрессии f не зависит от значений ее аргументов x : f (x ) = const .