Математическая статистика и анализ данных. Учебное пособие

Если cos a,b 0 , то угол между векторами будет острым; если cos a,b 0 , то угол будет тупым; если cos a,b 0 , то два направления ортогональны.

Пусть теперь эти векторы задают две пары наблюдений (a1, a2) и (b1, b2). Рассмотрим вместо исходных данных без-

отметим, что a b 1 (проверьте это самостоятельно).

Для единичных векторов косинус угла будет совпадать со значением скалярного произведения. Измерим статистическую связь между векторами наблюдений через «сходство» между векторами по формуле косинуса угла:

Таким образом, по своей сути коэффициент корреляции задает косинус угла между векторами наблюдений после их нормировки, т.е. служит мерой их сходства.

131

При этом становится понятным, что для rXY > 0 связь будет обнаруживать синхронность, а для rXY < 0 связь в разных направлениях. На рис. 9.1, а и в направление связи положительное и rXY > 0, а на рис. 9.1, б и г – отрицательное и rXY < 0.

Определение 3. Если rXY 0, то говорят, что величины коррелируют. При этом: если rXY > 0, то говорят, что величины положительно коррелируют; если rXY < 0, то говорят, что величины отрицательно коррелируют.

Основные свойства коэффициента корреляции.

1 Служит мерой линейной связи между величинами.

2 –1 < rXY < 1.

3 rXY = 0 при отсутствии линейной связи между признаками.

4 rXY = 1 при линейной положительной связи. 5 rXY = – 1 при линейной отрицательной связи.

6 Если случайные величины независимы, то rXY = 0 (обратное неверно).

Свойства 1 – 5 следуют из геометрического смысла коэффициента корреляции, а 6 следует из свойств ковариации (см. приложение 2).

Замечание.

y

x

Рис. 9.3

132

1. Отсутствие корреляционной зависимости (rXY = 0) не всегда означает независимость величин. Например, на рис. 9.3 видна параболическая связь между признаками, притом линейный коэффициент корреляции rXY близок

кнулю.

2.Если случайные величины коррелируют (rXY 0), то это не говорит о наличии причинно-следственной связи.

В случае когда такая причинно-следственная связь не имеет смысла (к примеру, вызвана действием третьего фактора, вызывающим одновременный рост двух изучаемых признаков), то говорят о ложной корреляции1.

При изучении статистических связей случаи rXY = ±1 не встречаются, так как исследуемые признаки подвержены

воздействию множества случайных факторов.

Дадим итоговую характеристику коэффициенту корреляции на диаграммах рассеяния, изображенных на рис. 9.1:

а) rXY 1, б) rXY – 1, в) rXY 0, положительный, г) rXY 0, отрицательный.

(*1) Примером ложной корреляции служит связь между числом преступлений в городе и числом обучающихся студентов. Но и тот, и другой признак связаны с численностью населения города, которая напрямую влияет как на число студентов этого города, так и на количество преступлений. Таким образом, в больших городах, как правило, будет и большее число студентов, и число преступлений, а в малых – наоборот.

Если получено значение коэффициента корреляции rXY 0, то возникает вопрос о том, что считать большим значением для интерпретации, а что – нет. Для ответа на этот вопрос можно воспользоваться разработанной Чеддоком шкалой (табл. 9.1).

1 Некоторые интересные примеры ложных корреляций можно посмотреть в монографии: Благовещенский Ю.Н. Тайны корреляционных связи в статистике. М.: Научная книга, 2009. 158 с. («Библиотека Солев»).

133

Коэффициент корреляции чувствителен не только к самим данным, но и их количеству. Поэтому иногда rXY = 0,4 может оказаться для одного набора данных значимым, а для другого набора rXY = 0,7 может оказаться незначимым. Значимость коэффициента корреляции можно проверить по критерию Стьюдента при условии, что выборка сделана из нормально распределенной совокупности данных.

Алгоритм проверки значимости коэффициента линейной корреляции r1.

Пусть произведена выборка из нормально распределенных данных.

1.Проверяется гипотеза H0: r = 0 против H1: r 0.

2.Выбирается уровень значимости .

объем выборки. Рассчитаем по выборке эту величину tрасч =

= r n 2 .

1 r2

1 Для простоты записей часто коэффициент корреляции rXY обозначают через r.

134

семена с нормальным изменением размеров, которые регрессировали от распределения их родителей.

Пусть наблюдаются n пар значений (x1, y1), (x2, y2), …, (xn, yn) случайных величин X, Y. Результаты этой выборки могут служить источником информации о форме связи между X и Y. Исследуется зависимость случайной величины Y от случайной величины X. Будем искать зависимость в виде

yˆ = bx + a,

где yˆ – регрессионное значение зависимой переменной; x – независимая переменная (регрессор).

y

İn

Рис. 9.5

Проведем оценку коэффициентов регрессии. Для этого, как правило, используется метод наименьших квадратов

(МНК). МНК получил широкое распространение при статистических исследованиях, так как он не требует знания закона распределения выборочных данных и достаточно просто поддается расчетам. В качестве оценок параметров b и a уравнения принимаются такие значения, которые минимизируют сумму квадратов отклонений 2i наблюдаемых значений yi от прямой yˆ = bx + a, где i yi yˆ i (рис. 9.5):

136

Необходимым условием минимума функции двух переменных a, b служит равенство ее частных производных нулю:

Разделим каждое уравнение на n:

xy bx2 ax;

y bx a.

Решение системы дает искомые оценки коэффициентов линейной регрессии:

Замечая, что в знаменателе коэффициента bˆ стоит расчетная формула дисперсии, использование формулы коэффициента корреляции (9.1) выводим более удобные для расчетов формулы:

137

Полученное уравнение yˆ = bˆ x + aˆ называется уравнением регрессии. Известно, что при выполнении дополнительных условий1 МНК-оценки являются несмещенными, и среди всех несмещенных имеют наименьшую дисперсию.

(*2) Имеются результаты выборки среди 22 студентов с измерениями длины рук и ног (табл. 9.2).

Рассчитать коэффициент корреляции Пирсона, проверить его значимость на уровне = 0,05 в предположении выборок из нормального распределения. Построить линейную регрессию зависимости длины ног (y) от длины рук (x).

Решение удобно оформить в виде табл. 9.2 для дальнейших расчетов по формулам (9.1)–(9.3).

1 Случайные ошибки наблюдений i и j ( i j ) некоррелированы, их математическое ожидание M( i) равно нулю, и они имеют одну и ту же дисперсию (см. теорему Гаусса – Маркова, например, в пособии Кобзарь А.И. Прикладная математическая статистика). М.: ФИЗМАТЛИТ, 2012.

138

Окончание табл. 9.2

f x t-ɪɚɫɩɪɟɞɟɥɟɧɢɟ

Рис. 9.7

139

Проверим значимость коэффициента корреляции.

1.Проверяется гипотеза H0: r = 0 против H1: r 0.

2.Уровень значимости = 0,01.

3.Статистика Стьюдента:

4.Критическая область W0 двусторонняя.

5.Для величины 2 = 0,005 в таблице распределения

Стьюдента для (n – 2) = 20 степеней свободы находим tкр: tкр =

= 3,15. Так как |tрасч| > tкр, то основная гипотеза H0 отвергается в пользу альтернативной гипотезы H1.

Коэффициент корреляции значим на уровне = 0,01. Построим линейную регрессию, используя данные табл. 9.2:

aˆ y bˆ x = 87,06 – 0,72 · 70,21 = 36,51;

yˆ 0,72x 36,51 .

Ответ: для данной выборки длина ноги положительно и значимо коррелирует с длиной руки, r = 0,9; зависимость в среднем длины ноги от длины руки для представленных данных можно описать уравнением yˆ 0,72x 36,51 .

Контрольные вопросы

1.Какие задачи решает корреляционный анализ?

2.Что показывает знак ковариации между величинами?

140