4сем / Лекции _4_сем pdf / 13_14_Корр_и_регр_анализ

Лекции 13-14 СТАТИСТИЧЕСКОЕ ИССЛЕДОВАНИЕ

ЗАВИСИМОСТЕЙ. КОРРЕЛЯЦИОННЫЙ

ИРЕГРЕССИОННЫЙ АНАЛИЗ

13.Основы корреляционного анализа

13.1.Основные понятия

13.2.Элементы теории корреляции. Анализ парных связей

13.3.Оценка показателя связи по выборочным данным. Корреляционное поле

13.4.Анализ коэффициента корреляции

13.4.1.Точечная оценка коэффициента корреляции

13.4.2.Интервальная оценка коэффициента корреляции

ипроверка значимости

14.Основы регрессионного анализа

14.1.Условные средние. Выборочные уравнения регрессии

14.2.Корреляционная таблица. Выборочные линии регрессии

14.3.Линейная регрессия. Выборочный коэффициент корреляции

13.Основы корреляционного анализа

13.1. Основные понятия

При решении многих задач требуется установить и оценить зависимость между переменными величинами, которые могут быть и случайными. Рассмотрим несколько примеров.

Пример:

Двое играют в кости. X1 – число очков у первого игрока, X 2 – у второго, Y

– сумма, которую получает (или платит) первый игрок.

Пример:

Y – величина износа (в мм) протектора шина на автомобилях определенного типа после 10000 км пробега, X1 – величина нагрузки (в кг) на колесо авто-

мобиля, X 2 – тип протектора (используется три типа протекторов). Если установить степень влияния X1 и X 2 на Y , то можно дать рекомендации по продлению долговечности шины.

X3 , то можно подобрать оптимальный технологический режим (при котором,

например, при допустимом проценте брака производительность будет максимальной или при заданной производительности минимальным будет процент брака).

Пример:

Пусть Y – успеваемость студентов по некоторой дисциплине (измеряемая, например, средним баллом на экзамене). Ректорат проводит обследование студентов данного вуза с целью установления наиболее значимых факторов, влияющих на Y . В результате предварительного анализа сделано предполо-

жение о том, что этими факторами могут быть: X1 – время, затрачиваемое студентом на самостоятельную работу, X 2 – количество пропущенных занятий, X3 – величина стипендии. Существует ли взаимосвязь между факторами X1 , X 2 , X3 ? В какой мере они оказывают влияние на успеваемость?

Приведенные примеры не исчерпывают все возможные постановки задач рассматриваемого типа, но позволяют отметить некоторые закономерности.

1.Случайные величины могут быть связаны строгой функциональной зависимостью (пример 1: хотя Y и случайна, но однозначно зависит от X1 и X 2 ).

2.Зависимое переменное Y может быть случайной величиной, даже если переменные X1 , X 2 , …, X k таковыми не являются, так как значение Y определя-

ется не только значениями X1 , X 2 , …, X k , которые исследователь выделил (по

его мнению, они являются определяющими), но и многими другими неучтенными факторами, а также ошибками измерений. Это означает, что связь между Y и X1 , X 2 , …, X k является не функциональной, а стохастической – измене-

ние переменных X1 , X 2 , …, X k влияет на значения переменного Y через изменение закона распределения случайной величины Y . Если изменение X1 , X 2 , …, X k приводит к изменению среднего значения Y , связь называется корре-

ляционной.

3.Некоторые переменные могут иметь количественный характер, а некоторые – качественный (пример 2).

4.Нас может интересовать либо зависимость переменного Y от переменных X1 , X 2 , …, X k , либо взаимозависимость между переменными (необяза-

136 Лекции 13–14

тельно между всеми). Так, в примере 4 может существовать взаимозависимость между переменными X1 , X 2 и X3 .

Перечисленные особенности приводят к различным постановкам задач статистического исследования зависимостей, которые упрощенно можно классифицировать следующим образом:

1)задачи корреляционного анализа – задачи исследования наличия взаимосвязей между отдельными группами переменных;

2)задачи регрессионного анализа – задачи, связанные с проверкой гипотезы о наличии приближенной количественной зависимости между переменным Y и одним или несколькими переменными X1 , X 2 , …, X k , которые носят ко-

личественный характер.

и устанавливается степень их влияния на переменное Y .

13.2. Элементы теории корреляции. Анализ парных связей

Рассмотрим задачу о выборе показателя стохастической связи между дву-

также является плотностью нормального распределения с параметрами mY x (условное математическое ожидание) и σY2 x (условная дисперсия) при значении

X = x , которые связаны с параметрами исходного распределения следующим образом:

Если закон распределения системы (X ,Y ) отличен от нормального, то характер изменения условного математического ожидания M (Y X = x)= f (x)

может быть и нелинейным. Напомним, что эта функция называется функцией регрессии.

Рассмотрим отклонение возможных значений с.в. Y от ее среднего, my .

Его можно разбить на два слагаемых:

y −my = (f (x)−my )+(y − f (x)),

отклонение функции регрессии f (x) в точке x от математического ожидания my и отклонение возможного значения y от значения функции регрессии в точке x .

Покажем, что рассеяние σy2 случайной величины Y относительно ее мате-

матического ожидания есть сумма двух слагаемых: математического ожидания квадрата отклонения Y от ее условного математического ожидания f (X ) и

математического ожидания квадрата отклонения f (X ) от my .

M (f (X ))= M (M (Y X ))= M (Y )= my ,

D(Y )=σy 2 = M ((Y −my )2 )= M (((f (X )−my )+(Y − f (X )))2 )=[0,1]

=M ((Y − f (X ))2 )+2M ((f (X )−my )(Y − f (X )))+ M ((f (X )−my )2 )=

=M ((Y − f (X ))2 )+ M ((f (X )−my )2 ),

так как M ((f (X )−my )(Y − f (X )))= 0 .

Докажем последнее равенство для непрерывных случайных величин X и Y , предполагая, что их совместная плотность распределения p (x, y )≠ 0:

Если ввести обозначения

σ2f = D (f (X ))= M ((f (X )−my )2 ), σ2y = M ((Y − f (X ))2 ),

то полученный результат можно представить в виде

2

σy2 =σ2f +σ y .

Из этого равенства следует, что связь между X и Y тем теснее, чем больший вклад в дисперсию σy2 вносит слагаемое σ2f , порожденное функцией рег-

рессии f (x)= M (Y X = x). В качестве такой характеристики принимается отношение

Xпо переменному Y .

!Для выяснения степени тесноты связи необходимо рассматривать оба корреляционных отношения, I XY2 и IYX2 . Пусть переменные X и Y связаны функциональной зависимостью, Y = X 2 , и X принимает значения -1, 0, 1 с вероятностями 1/3 каждое. В этом случае IYX2 =1, I XY2 = 0 (в силу симметричности параболы относительно оси значений y и симметричности рас-

пределения X ). Если ограничиться только вычислением I XY2 , то может возникнуть ложное впечатление, что X и Y независимы.

Ранее при рассмотрении систем случайных величин вводился коэффициент корреляции

rXY = M ((X −mx )(Y −my )).

Для системы нормально распределенных величин X и Y

I XY2 = IYX2 = rXY2 .

Действительно, для нормально распределенной пары (X ,Y ) условная дисперсия

D (Y X = x)=σY2 x =σy 2 (1−rXY2 )= M ((Y − M (Y X = x))2 X = x)=

= M ((Y − f (X ))2 X = x)= M ((Y − f (X ))2 )=σ2y ,

сти, а некоторая нелинейная кривая регрессии приближает зависимость лучше, чем любая прямая линия.

Итак, в качестве показателя стохастической связи между двумя случайными количественными переменными X и Y следует выбрать корреляционное

отношение I XY2 (или IYX2 ), если закон распределения системы (X ,Y ) неизвестен; если есть основания считать, что система (X ,Y ) имеет нормальный закон распределения, то вместо корреляционного отношения следует использовать коэффициент корреляции rXY .

13.3. Оценка показателя связи по выборочным данным. Корреляционное поле

После выбора показателя стохастической связи задача корреляционного анализа состоит в нахождении его оценки (точечной и интервальной), а также в проверке статистической гипотезы о значимом отличии его от нуля на основе экспериментальных данных.

Пусть в результате эксперимента для системы (X ,Y ) получена выборка значений (xi , yi ), =1,2,...,n .

При изучении корреляционной зависимости двух случайных величин (X ,Y ) по выборке

(xi , yi ) общую картину их взаимной изменчивости можно получить, изобразив на координат-

ной плоскости все точки. Это изображение называют корреляционным полем. Уже по виду корреляционного поля часто можно сделать вывод о наличии и характере связи между случайными величинами Y и X . Так, на первом ри-

сунке выборочные точки лежат внутри некоторого эллипса (эллипса рассеяния) с осями, параллельными координатным. Следовательно, с изменением, например, X величина Y не будет менять своего

условного распределения, т.е. X и Y , повидимому, некоррелированы.

Напротив, на втором рисунке видно, что условное математическое ожидание

M (Y x)= f (x) имеет линейный характер изменения, и, значит, следует ожидать, что коэффициент корреляции rXY близок к еди-

нице.

На третьем рисунке расположение точек (xi , yi ) говорит о наличии нелинейного ха-

рактера изменения f (x), и, следовательно, коэффициент корреляции rXY может оказаться близким к нулю, а корреляционное отношение I XY – близким к единице.

13.4. Анализ коэффициента корреляции

13.4.1. Точечная оценка коэффициента корреляции

Пусть экспериментальные данные представлены в несгруппированном виде. Тогда в качестве точечной оценки коэффициента корреляции rXY берут его выборочное значение rXY* :

Пример:

Найдем выборочное значение коэффициента корреляции для пары случайных величин (X ,Y ), где X – рост (в см), а Y – масса тела (в кг) выбранного наугад студента. Выборка объема n =15 представлена в таблице (столбцы 2 и 5).

∑15 (xi − X )(yi −Y )= 293,3

i=1

ивычисляем выборочный коэффициент корреляции:

13.4.2. Интервальная оценка коэффициента корреляции и проверка значимости

При построении доверительного интервала для коэффициента корреляции и проверки его значимости будем предполагать, что генеральная совокупность имеет двумерный нормальный закон распределения. В этом случае

оценка коэффициента корреляции r* (xi , y j ) имеет асимптотически нормальный

закон распределения с математическим ожиданием M r* (xi , y j ) ≈ r − r (1−r2 )

2n

и дисперсией D r* (xi , y j ) ≈ (1 −r2 )2 . n

Используя общий метод построения доверительного интервала, основанный на нормальном законе распределения соответствующей оценки при доверительной вероятности γ =1−α , можно получить следующие значения для

нижней и верхней границ интервальной оценки:

но больших объемах выборки (не менее 500). При малых объемах выборки можно использовать построение доверительного интервала для rXY , основанное на преобразовании Р.Фишера:

больших значениях n приблизительно распределена по нормальному закону с параметрами

Пример:

В предыдущем примере была найдена точечная оценка коэффициента корреляции r* = 0,313 . Определим нижнюю и верхнюю границы доверительного интервала при γ = 0,9 и проверим гипотезу H0 : rXY = 0 на уровне значимости

α = 0,1.

Используем первый вариант получения интервальной оценки. По таблице

Поскольку 1,19 <1,77 нет оснований отклонить гипотезу H0 , т.е., на уровне значимости α = 0,1 X и Y можно считать независимыми.

Аналогично производится анализ корреляционного отношения: получение точечной и интервальной оценок и проверка значимости оценки.