Учебное пособие по ТВ и МС

Задача научного исследования состоит в отыскании причинных зависимостей. Только знание истинных причин явлений позволяет правильно истолковывать наблюдаемые закономерности.

Однако корреляция как формальное статистическое понятие сама по себе не вскрывает причинного характера связи. Поэтому, при логических переходах от корреляционной связи между переменными к их причинной взаимообусловленности необходимо глубокое проникновение в сущность анализируемых явлений.

11.3. Анализ парных статистических связей между количественными переменными

Рассмотрим зависимость случайной величины Y от одной случайной (или неслучайной) величины X.

11.3.1. Диаграмма рассеяния. Эмпирическая линия регрессии

Двумерная статистическая зависимость может быть наглядно представлена диаграммой рассеяния (рис. 11.3).

Рис. 11.3. Диаграмма рассеяния для сгруппированных данных

Наблюдениями являются парные данные (xi, yi), образующие выборку. Множества значений xi и yi разбиваются на интервалы группировки, границы которых определяют координатную cетку. Каждая пара признаков (xi, yi) изображается в виде точки в соответствующей ячейке. Если в каждом

интервале изменения X вычислить средние значения yi , i = 1,5 и соединить

соответствующие точки (xi , yi ) , где xi – середины интервалов, то получим

ломаную линию – эмпирическую линию регрессии, которая в первом приближении характеризует форму связи. По ней можно судить, как в среднем меняется y в зависимости от изменения x. На рисунке связь между X и Y – положительная. Расположение точек относительно линии регрессии характеризует тесноту статистической связи.

161

Рассмотрим две диаграммы рассеяния 1 и 2, изображенные на рис. 11.4.

Рис. 11.4. Диаграммы рассеяния, отличающиеся теснотой связи между X и Y

Линии регрессии y по x расположены одинаково, однако точки на диаграмме 2 расположены гораздо ближе к линии регрессии, чем точки на диаграмме 1. Если бы y полностью определялся переменной x, то все точки лежали бы на линии регрессии. При этом каждому возможному значению x было бы поставлено в соответствие определенное значение y, характеризуемое функциональной зависимостью y=f(x). Чем сильнее влияние прочих факторов, тем дальше точки отстоят от линии регрессии. В случае 2 влияние прочих факторов меньше и зависимость между y и x является более тесной.

Если y(x) = const = ay , т.е. линия регрессии – горизонтальная прямая (см.

рис. 11.5), проходящая через центр распределения, то переменная Y не коррелирована с X.

Рис. 11.5. Некоррелированные, независимые случайные величины

Как было показано в § 4.4, некоррелированность не следует смешивать с независимостью; y функционально не зависит от x, если y=const при изменении x (всякое изменение y есть проявление зависимости от x). Случайные величины X и Y независимы, если P( X < x,Y < y) = P( X < x)P(Y < y) .

Независимые случайные величины всегда не коррелированны. Обратное, в общем случае, неверно: переменная Y может зависеть от X, но так, что центры условных распределений не меняются, а изменяются условные дисперсии (на рис. 11.5, диаграмма слева).

162

Еще один пример зависимости Y от X, представленный на рисунке, – так называемый «сезонный тренд» (на рис. 11.6, диаграмма справа).

Рис. 11.6. Некоррелированные, зависимые случайные величины

Известно, что дисперсия суммы двух независимых величин равна сумме дисперсий этих величин. Поэтому если для двух случайных величин X и Y окажется, что D[X +Y ] ≠ D[X ] + D[Y ] , то это служит верным признаком наличия зависимости между X и Y.

11.3.2. Измерение тесноты парной связи. Коэффициент корреляции

Измерение тесноты связи между переменными позволяет убедиться в ее наличии. Если связь несущественна, то дальнейшие усилия по поиску вида модели зависимости и ее параметров неоправданны.

Рассмотрим важный для практики случай, когда связь между X и Y линейна: y(x) = b0 + b1 x . Мерой силы линейной связи признаков X и Y является

коэффициент корреляции Пирсона ρ(X,Y), определенный по формуле (2.7).

Как следует из предложения 2.9 и упражнения 2.6, ковариация Cov(X,Y), а, следовательно, и коэффициент корреляции ρ(X,Y) для независимых случайных величин равны нулю. Однако равенство Cov(X,Y)=0 не означает в общем случае независимости X и Y, т.е. является необходимым, но не достаточным условием для независимости признаков.

Величина ковариации зависит от единиц измерения. Поэтому на практике чаще используют коэффициент корреляции, являющийся безразмерной величиной.

Предложение 11.1. (Свойства коэффициента корреляции). Для коэффициента корреляции ρ(X,Y) двух случайных величин X и Y справедливо:

1) Модуль ρxy не меняется от прибавления к X и Y постоянных слагаемых и от

умножения X и Y на положительные числа, т.е. не зависит от выбора начала отсчета и единиц измерения.

2) Если одну из случайных величин умножить на −1, то коэффициент корреляции поменяет знак.

163

3)−1 ≤ ρ(X,Y) ≤ 1.

4)При ρ(X,Y) = ±1 имеет место линейная функциональная зависимость.

5)Для двумерной нормально распределенной случайной величины из равенства

ρ(X,Y) = 0 следует стохастическая независимость X и Y. #

Замечание 11.1. Величина ρ(X,Y), близкая к ±1, указывает, что зависимость случайных величин почти линейная. Значения ρ(X,Y), близкие к 0, означают, что связь между случайными величинами либо слаба, либо не носит линейного характера, например, является параболической (рис. 11.7). Таким образом, коэффициент корреляции характеризует степень приближения зависимости между случайными величинами к линейной функциональной зависимости.

Рис. 11.7. Параболическая связь

При вычислении выборочного (эмпирического) коэффициента корреляции теоретические величины заменяются их оценками:

Если распределение величин X и Y близко к нормальному, то корреляция между ними является линейной и выборочный коэффициент корреляции rxy является надежной оценкой генерального (теоретического) коэффициента ρ(X,Y). При rxy>0 связь между переменными положительная (прямая), величины X и Y с точностью до случайных погрешностей одновременно возрастают или убывают. Если rxy<0, то связь отрицательная (обратная), с возрастанием одной величины другая имеет тенденцию к убыванию.

Замечание 11.2. Оценка наличия корреляции (11.2) между рядами измеренных наблюдений является параметрической, поскольку подразумевает наличие бинормальной генеральной совокупности с параметром ρ, оцениваемым с помощью r.

164

Рис. 11.8. Диаграммы рассеяния для пар компонентов:

а) (U,Z); б) (Y,Z)

Судя по диаграммам рассеяния можно предположить наличие между признаками U и Z сильной положительной связи (возможно нелинейной), а между Y и Z − сильной отрицательной связи. Результаты расчета по формуле (11.2) коэффициентов ruz и ryz подтверждают это: ruz = 0,888, ryz = −0,988.

11.3.3. Проверка наличия корреляции. Интервальная оценка rxy

При оценивании достоверности линейной связи между переменными X и Y величина коэффициента корреляции проверяется на статистически значимое отличие от нуля. Иными словами, на уровне значимости α проверяется нулевая гипотеза H0: ρ = 0 при альтернативе H1: ρ ≠ 0.

Для больших выборок (n>25) критическая статистика критерия имеет вид

нормальному закону распределения N(0,1). Если для вычисленного по выборке значения r выполняется неравенство uрасч > u1−α , то гипотеза H0 отклоняется и

коэффициент корреляции можно считать существенным, а связь между случайными величинами X и Y достоверной. В противном случае гипотеза

166

принимается и коэффициент корреляции можно считать незначимо отличным от нуля.

Для малых выборок критическая статистика критерия имеет вид

выполнении данного неравенства гипотеза H0 отклоняется, и коэффициент корреляции можно считать существенно отличным от нуля.

Замечание 11.3. Следует отметить, что для пары признаков (X,Y), имеющих совместное нормальное распределение, условие ρ = 0 (некоррелированность признаков) влечет за собой статистическую независимость X и Y. Поэтому проверка гипотезы о независимости признаков, совместное распределение которых является нормальным, сводится к проверке гипотезы H0: ρ = 0.

Пример 11.3. Для данных примера 11.2 проверить достоверность линейной статистической связи между стоимостью квартиры (Z) и ее удаленностью от областного центра (Y) при уровне значимости α = 0,05.

Решение. Имеем две гипотезы: H0: ρ(Y,Z) = 0, H1: ρ(Y,Z) ≠ 0. Поскольку n<25, то критическая статистика имеет вид

t = ryz n − 2 .

1 − ryz2

Находим из таблицы критическую границу tα (n − 2) = t0,05 (16) = 2,12 . Расчетное значение критической статистики равно:

корреляции можно считать существенно отличным от нуля.

имеющую достаточно близкое к нормальному закону распределение даже при малых n, построил доверительный интервал для истинного значения коэффициента корреляции в виде

167

от аргумента z.

Пример 11.4. Для данных примера 11.2 получить интервальную оценку для истинного значения коэффициента корреляции ρ(Y,Z) при уровне значимости α

= 0,05.

Решение. Из (11.3), вычисленной оценки ryz = −0,988 и того, что

откуда zн = −3,028, zв = −2,016.

Воспользовавшись статистической таблицей z−преобразования Фишера, или непосредственно вычислив thzн и thzв, получим: thzн = −0,995, thzв = −0,965.

Следовательно, −0,995 < ρ(Y,Z) < −0,965.

11.3.4. Оценка тесноты нелинейной связи

Введенный выше коэффициент корреляции, как уже отмечено, является полноценным показателем тесноты связи лишь в случае линейной зависимости между переменными. Однако, часто возникает необходимость в достоверном измерении степени тесноты связи для любой формы зависимости (линейной или нелинейной) и для признаков, не имеющих совместного нормального распределения.

Формально соответствующие показатели определяются с помощью соотношения для общей (полной) дисперсии σ y2 признака Y относительно его

наблюдения, которая характеризует разницу между эмпирическими значениями yi и расчетными значениями ϕ (xi).

Определение 11.3. Показатель Ryx, определяемый по формуле

называется теоретическим корреляционным отношением или индексом корреляции Y по X.

168

Вместо Ryx часто используют коэффициент детерминации

R2 =1 − σε2 .

yx σ 2 y

Его величина показывает, какая доля общей дисперсии признака Y объясняется дисперсией функции регрессии. Этот коэффициент подробно будет рассмотрен в § 12.2.

Подобно Ryx вводится индекс корреляции X по Y

характеризует разницу между значениями xi и расчетными значениями ψ (yi).

Замечание 11.4. Оценивание тесноты связи между переменными по (11.4), (11.5) затруднено следующим обстоятельством. Мы должны заранее знать вид нелинейной (в данном случае) модели (11.1). Иными словами, априорно должна быть известна с точностью до постоянных коэффициентов форма функции регрессии ϕ (x) или, соответственно, ψ(y).

Если форма функции регрессии нам неизвестна, то вместо Ryx определяют

эмпирическое корреляционное отношение ηyx. При этом характер выборочных данных (количество, плотность расположения на диаграмме рассеяния) должен допускать:

-их группирование относительно объясняющей переменной;

-возможность подсчета средних значений объясняемой переменной внутри каждого интервала группирования.

Рассмотрим далее методику вычисления ηyx. Пусть имеет место выборка (xi, yi), i = 1, …, n. Сгруппируем данные по объясняющей переменной на L интервалов.

Определим далее общую s2y , остаточную (среднюю групповых дисперсий) sост2 и межгрупповую δ y2 дисперсии переменной y по формулам:

169

Межгрупповая дисперсия выражает ту часть вариации Y, которая обусловлена изменчивостью X. Остаточная дисперсия характеризует ту часть вариации Y, которая возникает из-за изменчивости неучтенных факторов, не зависящих от X.

Используя правило (10.3) сложения дисперсий, имеющее в данном случае

Эмпирическое корреляционное отношение является показателем разброса точек диаграммы рассеяния относительно эмпирической линии регрессии.

Замечание 11.5. Поскольку при нахождении η не делалось никаких допущений о форме корреляционной связи, то η служит мерой тесноты связи любой, в том числе и линейной формы.

Величину ηyx2 называют эмпирическим коэффициентом детерминации.

Она показывает, какая часть общей вариации Y обусловлена вариацией X.

Укажем основные свойства теоретического и эмпирического корреляционных отношений:

1.0 ≤ ηyx ≤ 1.

2.Если ηyx = 0, то корреляционная связь между Y и X отсутствует.

3.Если ηyx = 1, то между переменными существует функциональная зависимость.

4.ηyx ≠ ηxy, т.е. в отличие от коэффициента корреляции r (для которого ryx = rxy) при вычислении корреляционного отношения существенно, какую переменную считать объясняющей (независимой), а какую – объясняемой (зависимой).

Корреляционные отношения η и R связаны с коэффициентом корреляции r следующим образом:

0 ≤ r ≤ R ≤ η ≤ 1.

170