Математическая статистика и анализ данных. Учебное пособие

8.3. Критерий согласия Пирсона 2

(хи-квадрат)

Определение 1. Критерии проверки гипотезы о предполагаемом виде закона распределения случайной величины называются критериями согласия.

Следует понимать, что проверяется не то, что случайная величина действительно имеет определенный закон распределения (например, нормальный), а проверяется лишь, достаточно ли хорошо наблюдаемые данные согласуются

снекоторым законом распределения, чтобы можно было использовать этот закон для прогнозирования поведения данной случайной величины.

Наиболее часто испо льзуется критерий согласия Пирсона 2. Критерий 2 отвечает на вопрос, с одинаковой ли часто-

той встречаются разные значения признака в эмпирическом и теоретическом распределениях. Пусть имеются исходы xi

счастотами mi, где i 1,r . Необходимо проверить, согласуются ли эти опытные данные с неким законом, т.е. вероят-

ности p1, p2, …, pr исходов x1, x2, …, xr будут соответствовать выборочным частотам m1, m2, …, mr. При этом нежелательно выдвигать гипотезу, когда нет никаких оснований считать

ее верной.

Теорема Пирсона. Если основная гипотеза верна, то рас-

пределение 2-статистики

2 r mi npi 2

i 1 npi

при n стремится к распределению с (r – 1) степенями свободы.

Замечание. Если вероятности p1, p2, …, pr получаются после предварительной оценки k параметров распределения, то число степеней свободы будет уменьшено на k, т.е. станет (r – k – 1).

Алгоритм применения критерия согласия 2.

121

H0: данные согласуются с законом, имеющим функцию распределения F.

1.Из генеральной совокупности производим выборку объема n (n > 50).

2.Составляем сгруппированный статистический ряд.

3.Весь диапазон значений разбиваем на r частичных разрядов (в каждом из которых должно быть как минимум 5–8 наблюдений; если при равной разбивке получаются интервалы с меньшим количеством наблюдений, то интерва-

лы объединяются; хорошие результаты получаются при npi 10).

4.На основании предполагаемой функции распределения вычисляем вероятности попадания случайной величины

в частичные интервалы.

5.Умножая полученные вероятности pi на объем выборки n, получаем теоретические частоты npi, т.е. средние числа попаданий в промежутки, которых следует ожидать, если

нулевая гипотеза справедлива.

6.Вычисляем расчетное значение статистики 2:

Ȥ2-ɪɚɫɩɪɟɞɟɥɟɧɢɟ

f x

Į

Рис. 8.7

7. По таблице критических точек распределения хиквадрат по заданному уровню значимости и числу степе-

122

ней свободы (r – k – 1), где r – число интервалов, на которые разбит весь диапазон наблюдаемых значений, k – число неизвестных параметров, от которых зависит проверяемый закон.

8.Критическая область правосторонняя (рис. 8.7).

9.Сравнивая наблюдаемое значение статистики 2 с критическим значением 2 r k 1 , принимаем одно из двух решений:

r k 1 , то нулевая гипотеза отвергает-а) если 2 2расч

ся в пользу альтернативной, т.е. считается, что проверяемая функция распределения не согласуется с опытными данными;

б) если 2расч 2 r k 1 , то нет основания для отклонения нулевой гипотезы, т.е. считается, что проверяемая

функция распределения согласуется с опытными данными на выбранном уровне значимости .

(*2) По закону Менделя растение гороха должно давать потомство с белыми, розовыми и красными цветами в пропорции 25, 50, 25 %. Выборка из 1000 образцов показала пропорцию 21, 52, 27 %. Можно ли на уровне значимости 0,05 принять гипотезу Менделя?

1. Имеем закон распределения ДСВ:

H0: распределение соответствует гипотезе Менделя, H1: не соответствует.

2. Выборка из n = 1000 образцов дает следующий вариационный ряд.

123

3. Составим таблицу критерия 2 для расчета статистики

(объединения разрядов r не требуется, так как в каждом разряде число наблюдений превосходит 5).

f x Ȥ2-ɪɚɫɩɪɟɞɟɥɟɧɢɟ

Рис. 8.8

4. Так как для распределения не производилась оценка параметров, то в числе степеней свободы k = 0, число разрядов соответствует числу цветов признака r = 3. Тогда

2кр 2 r k 1 20,05 2 = 6.

Так как 2расч 2 r k 1 , то данные по этому виду гороха не согласуются с гипотезой Менделя о распределении

цветов.

124

Контрольные вопросы

1.Приведите пример, когда возникает потребность проверить параметрическую гипотезу для двух выборок.

2.С какого шага следует начать проверку параметрических гипотез для двух выборок, изъятых из нормальной генеральной совокупности с неизвестными параметрами?

3.В каком случае при проверке гипотезы о равенстве математических ожиданий применяется закон Стьюдента, нормальный закон?

4.Верно ли, что F-статистика может принимать как положительные, так и отрицательные значения?

5.Как можно поступить в случае, если критическое значение статистики совпадет с расчетным при проверке параметрической гипотезы для двух выборок?

6.Если гипотеза о равенстве математических ожиданий принимается при = 0,05, то будет ли она принята на уровне

= 0,01, на уровне = 0,1?

7.Если гипотеза о равенстве математических ожиданий отвергается при = 0,05, то будет ли она принята на уровне

= 0,01, на уровне = 0,1?

8.Какой статистический критерий называется критерием согласия?

9.Верно ли, что критерий согласия устанавливает закон распределения случайной величины?

10.Если с помощью критерия 2 проверяется закон распределения, не требующий предварительной оценки параметров, то как будет рассчитываться число степеней свободы статистики критерия?

11.Если выборочные данные согласуются с нормальным законом распределения, то могут ли они согласовываться с другим законом, например Фишера? Ответ поясните.

125

РАЗДЕЛ 9 ОСНОВЫ КОРРЕЛЯЦИОННО-

РЕГРЕССИОННОГО АНАЛИЗА

Дайте мне одну кость, и я восстановлю животное.

Ж. Кювье1

1.Если нужно выяснить, есть ли связь между какими-то явлениями, то применяются методы корреляционно-регрес- сионного анализа. При этом корреляционный анализ позволяет оценить силу такой связи, а методами регрессионного анализа можно подобрать ее математическую форму и оценить качество такой модели.

2.Связь между величинами оценивается с помощью коэффициента корреляции Пирсона, который служит мерой линейной связи и характеризует не только ее тесноту, но и направленность.

3.Корреляция величин не выявляет наличие причинноследственной связи. Бывают случаи, приводящие к ложной корреляции.

5.В случае, когда коэффициент корреляции значимо отличен от нуля, можно построить линейную регрессионную модель и оценить ее качество. Коэффициенты модели выводятся методом наименьших квадратов, минимизирующим сумму квадратов отклонений точек от линии регрессии.

5.При изучении зависимости между величинами предпочтение по возможности отдают линейной модели как самой простой из всех.

9.1. Что изучает корреляционнорегрессионный анализ

Корреляционно-регрессионный анализ служит разделом, в котором сплетаются важнейшие элементы тео-

1 Жорж Кювье – французский естествоиспытатель, основатель палеонтологии, обсуждал корреляцию форм живых существ. Он одним из первых применил термин «корреляция».

126

рии математической статистики и практики анализа данных.

Корреляционно-регрессионный анализ содержит две составляющие части – корреляционный анализ и регрессионный анализ. Корреляционный анализ – это количественный метод определения тесноты (силы) и направления взаимосвязи между выборочными переменными.

Регрессионный анализ – это количественный метод определения вида математической функции в причинно-след- ственной зависимости между переменными величинами.

9.2. Корреляционный анализ

Какая связь между количеством съедаемых в день плюшек и весом, между оценками и знаниями по предмету, между возрастом и заработной платой, между заболеваниями кровеносной системы и питанием человека, между температурой воздуха и объемами продажи кваса? Ответы на подобные вопросы дает корреляционный анализ, изучающий статистическую взаимосвязь между признаками. Надо сказать, что связь между признаками может быть и функциональной: например, связь корней с коэффициентами квадратного уравнения в теореме Виета. Такие связи не служат объектом изучения раздела корреляционного анализа.

Впервые термин «корреляция» ввел французский палеонтолог Жорж Кювье в XVIII в. Этот термин он использовал, чтобы охарактеризовать «связь как синхронность». Он разработал «закон корреляции» частей и органов живых существ. Глубокие познания в анатомии животных позволили Жоржу Кювье восстанавливать облик вымерших существ по их сохранившимся костям1. Кювье убедился, что все орга-

1Один из его учеников захотел пошутить над ним. Он нарядился

вшкуру дикого барана, ночью вошел в спальню Кювье и, став возле его кровати, диким голосом закричал: «Кювье, Кювье, я тебя съем!» Великий натуралист проснулся, протянул руку, нащупал рога и, рассмотрев в полутьме копыта, спокойно ответил: «Копыта, рога – травоядное; ты меня

127

ны животного тесно связаны друг с другом, что каждый орган нужен для жизни всего организма. В статистике слово «корреляция» первым стал использовать английский статистик Фрэнсис Гальтон1 в конце XIX в. Одной из взаимосвязей, найденных Гальтоном, служит пример, что длина ноги у пропорционально сложенного человека коррелирует с длиной руки2.

не можешь съесть! А за то, что не знаешь законов корреляции, получишь за экзамен два!»

1 Помимо открытий в статистике Фрэнсис Гальтон был основателем дактилоскопии, составил первые карты погоды и открыл новую область исследований – евгенику, изучающую возможности улучшения человеческого вида: http://galton.org/.

2 В 1882 г. состоялась лондонская международная выставка, на которой был павильон, в котором каждый посетитель мог измерить и оценить свои физические возможности. Так Фрэнсис Гальтон собирал данные для своих дальнейших исследований взаимосвязей признаков. В 1888 г. он сделал доклад на заседании Королевского общества о корреляции длин рук и ног человека.

128

Корреляция характеризует направление и тесноту связи между признаками. На рис. 9.1 представлены диаграммы рассеяния, точки на которых соответствуют значениям для двух признаков и отражают их взаимосвязь. Наблюдаемая на диаграммах связь тем сильней, чем меньше разброс точек вокруг прямой, которая проведена «на глазок». На рис. 9.1, а, б связь тесная, а на 9.1, в, г – слабая.

В приложении 2 отмечено, что для характеристики зависимости случайных величин X и Y используют ковариацию:

cov X, Y M X mX Y mY .

Определение 1. Выборочная ковариация для n парных наблюдений случайных величин X, Y задается формулой

В правой части формулы стоит средняя величина произведений отклонений значений случайных величин от их средних.

На практике удобно пользоваться следующей расчетной формулой:

cov(X, Y) = xy x y.

Пусть случайная величина X задает температуру приземного воздуха, а Y – уровень давления. Тогда величина ковариации будет зависеть от того, в каких единицах, к примеру, будет измеряться температура – в градусах Цельсия или кельвинах. Любой статистический инструмент, отражающий связь между парными наблюдениями, не должен зависеть от выбора шкал измерения самих признаков. Более того, размерность ковариации есть произведение размерностей случайных величин 1, 2, что затрудняет ее интерпретацию для практических задач. Поэтому был введен коэффициент, который свободен от этих недостатков.

129

Определение 2. Линейным коэффициентом корреляции1

величин X и Y называется

Замечание.

Для нахождения необходимого значения rXY в Excel необходимо ввести в строку формул

=КОРРЕЛ(данные xi; данные yi)

Вкоэффициенте корреляции присутствует случайность, так как его находят по данным, в которых также заложена случайность. Поэтому к нему нельзя относиться как к постоянной величине.

Геометрическая интерпретация коэффициента корреляции. Пусть на плоскости указано два направления a a1,a2 и b b1,b2 . Из основ аналитической геометрии можно найти угол между векторами:

1 Данный коэффициент разработал в 1890-х гг. Карл Пирсон, поэтому часто его называют коэффициентом корреляции Пирсона (или просто коэффициентом корреляции).

130