КАФЕДРА ТЕОРИИ ВЕРОЯТНОСТЕЙ И ПРИКЛАДНОЙ МАТЕМАТИКИ

Лекция № 16

Статистические критерии согласия о виде распределения: Критерии Колмогорова, 2 Пирсона

для проверки простой гипотезы и 2 Фишера для проверки

сложной гипотезы

Пусть нам неизвестен законраспределения, изкоторого производится выборка. В этом случае формулируется только одна основная гипотеза H0 . Обычно рассматриваются следующие постановки задач, которые часто встречаются на практике:

1.Имеется выборка, и нас интересует вопрос, является ли она выборкой из заданного закона распределения. В этом случае основную гипотезу H0 называют гипотезой о виде распределения.

2.Имеются две выборки, и возникает вопрос, являются ли они наблюдением над одной случайной величиной или разными. В

этом случае говорят о гипотезе однородности.

3.Имеется выборка из двумерной случайной величины 1, 2 , и мы

пытаемся определить, независимы ли случайные величины 1 и 2 .

В этом случае H0 - гипотеза независимости.

Во всех этих трех случаях формулируется только одна гипотеза - H0 , и требуется проверить, согласуются ли имеющиеся статистические данные с этой гипотезой, или они ее опровергают. Соответствующие критерии именуются критериями согласия. Аналогично предыдущей

теме формулируются понятия простой и сложной гипотезы: если H0 однозначно определяет распределение наблюдаемой случайной величины, то ее называют простой, в противном случае – сложной. Из приведенных выше трех постановок задачи только в первом случае H0 может быть простой. К примеру, если основная гипотеза H0 формулируется следующим образом: «случайная величина, из которой производится выборка, имеет стандартное нормальное распределение: N 0,1 ». Если же H0 формулируется, например, как

«случайная величина, из которой производится выборка, имеет нормальное распределение», то она сложная.

Критерий согласия хи-квадрат

Пусть случайная величина , из которой производят выборку, обладает неизвестной функцией распределения: F x . Имеется выборка из нее x1,..., xn .

Пусть основная гипотеза H0 формулируется следующим образом: случайная величина имеет некоторое фиксированное распределение с функцией распределения F0 x :

H0 : F x F0 x .

Наша задача – проверить, согласуется ли выборка с гипотезой H0 . Рассмотрим три случая.

1). Пусть случайная величина принимает конечное число значений:

H0 : p p0 .

Рассмотрим статистику хи-квадрат (статистику 2 ):

-если статистика 2 C , то принимаем гипотезу H0 ;

-если статистика 2 C , то отвергаем гипотезу H0 (принимаем H0 ).

Критерий 2 характеризуется уровнем значимости, т. е. вероятностью ошибки первого рода , состоящей в том, что гипотеза H0 отвергается при условии, что она верна:

P H0 | H0 .

Для нахождения вероятности ошибки первого рода критерия 2 используется следующая теорема:

Теорема (Пирсона – без доказательства). Если верна гипотеза H0 , то

2 D 2 ,

n N 1

где 2N 1 - случайная величина, имеющая распределение хи-квадрат с N 1 степенью свободы.

Отсюда, при больших значениях n получаем следующую приближенную формулу для вычисления вероятности ошибки первого рода критерия 2 :

P H0 | H0 P 2 C | H0 1 P 2 C | H0 1 F 2N 1 (C),

где F 2N 1 (x) - функция распределения случайной величины, имеющей хи-квадрат распределение с N 1 степенью свободы.

При заданной по этой формуле, меняя приближенное равенство на обычное, вычисляют конкретное значение C :

C 2N 1;1 ,

т. е. C - квантиль хи-квадрат распределения с N 1 степенями свободы уровня 1 ,

Отметим, что так как H0 - сложная гипотеза, то вычислить ошибку второго рода P H0 | H0 очень трудно.

2). Пусть x1,..., xn – выборка из дискретной случайной величины, принимающей счетное число значений:

Основная гипотеза имеет вид:

H0 : p1,..., pN 1, pN ,... p10 ,..., pN0 1, pN0 ,... .

Данныйслучайсводяткпредыдущемуспомощьюследующегоприема. Будем считать, что x1,..., xn – выборка из полиномиальной случайной величины следующего вида:

k 0

Тогда H0 имеет вид

H0 : p' p1' ,..., pN' 1, pN' p0' ( p1(0)' ,..., pN(0)'1, pN(0)' ),

где для всех j 1, N 1 выполняется p(0)'j p(0)j , а pN(0)' pN(0)k .

k 0

3). Пусть – абсолютно непрерывная случайная величина с функцией распределения F x .

К примеру, N 0,1 .

Основная гипотеза имеет в этом случае вид:

H0 : F (x) F0 (x),

где F0 x - некоторая фиксированная функция распределения.

Разобьем область значений случайной величины на N непересекающихся подмножеств S1,...,SN . Если xi Sk , то говорят, что произошло событие Ek , для всех k 1, N .

И мы сводим ситуацию опять к первому случаю.

Метод, который мы применили во втором и в третьем случае, можно назвать методом группировки данных.

Пример. При n 4040 бросаниях монеты Бюффон получил h1 2048 выпадений герба и h2 n h1 1992 выпадений решетки. Проверим, используя критерий 2 , совместимы ли эти данные с гипотезой H0 о том, что монета была симметрична, т. е. что вероятность выпадения герба p 1/ 2. Здесь

N 2,

Пусть уровень значимости критерия 0,05.

Тогда C 2N 1;1 1;0,952 3,841.

Сравним значение статистики 2 и величину C . Так как X 2 C , то данные не противоречат гипотезе.

Критерий однородности хи-квадрат

Одной из важных прикладных задач математической статистики является задача проверки однородности статистического материала. Пусть имеются две независимые выборки, описывающие один и тот же процесс, явление и так далее, но полученные в разное время или, вообще говоря, в разных условиях. Требуется установить, являются ли они выборками из одного и того же распределения, или же закон распределения от выборки к выборке меняется. Такая задача может возникнуть, к примеру, при контроле качества некоторой продукции, когда по контрольным выборкам из различных партий требуется установить, не менялось ли ее качество от смены к смене или в результате изменения технологического процесса и так далее.

В таком виде задачу можно сформулировать следующим образом:

величины с некоторой функцией распределения F (x).

Требуется проверить гипотезу однородности:

H0 :F (x) F (x).

Часто применяемым в такой ситуации критерием является критерий однородности хи-квадрат 2 или критерий 2 Фишера. Его

используют для проверки однородности данных, имеющих конечную дискретную структуру. Но к этому виду можно свести любую другую модель, как мы показали выше, применяя предварительно метод группировки данных. Поэтому метод 2 применим, на самом деле, к анализу любых данных, т. е. является в этом смысле универсальным. Кроме того, с помощью этого метода можно анализировать любое конечное число выборок.

Предположим, что существует S последовательных серий независимых наблюдений x1,1,..., xn1 ,1 , …, x1,S ,..., xnS ,S , состоящих из n1, ,nS наблюдений соответственно. При этом в каждом из них наблюдалась

k 1

Если бы мы использовали ту же статистику, что и в предыдущей подтеме, то мы получили бы для каждой выборки статистику

Но здесь возникает проблема: мы не знаем pj,i pj - они нам не даны изначально. Значит, вместо них следует использовать какие-то оценки.

Теорема (без доказательства). Если верна гипотеза H0 , то

т. е. статистика 2* сходится по распределению к хи-квадрат распределению, число степеней свободы которого равно NS N S 1.

Сформулируем критерий однородности выборок хи-квадрат:

-если статистика 2* C , то принимаем гипотезу H0 ;

-если статистика 2* C , то отвергаем гипотезу H0 (принимаем H0 ).

Уровень значимости , также как и в случае критерия согласия хиквадрат, задает конкретное значение C :

P H0 | H0 P 2* C | H0 1 P 2* C | H0 1 F 2N 1 S 1 C .

Отсюда принимаем C 2

N 1 S 1 ;1

Критерий независимости хи-квадрат

Пусть в эксперименте наблюдается двумерная случайная величина1, 2 с неизвестной функцией распределения F 1, 2 (x, y), и имеется

основание предполагать, что компоненты 1 и 2 независимы. В этом случае надо проверить гипотезу независимости

H0 : F 1 , 2 x, y F 1 x F 2 y ,

двумерной случайной величины 1, 2 , где случайная величина 1 принимает конечное число - S - некоторых значений a1,...,aS , а 2 - N значений b1,...,bN . Эти значения обычно называют признаками. Обозначим через

число появлений в выборке пары признаков ai ,bj .

S N

Очевидно, что hi, j n, где n - объем выборки.

i 1 j 1

Результаты наблюдений удобно располагать в виде таблицы сопряженности двух признаков:

Обозначим:

pi, j - вероятность появления пары признаков ai ,bj , pi,0 - вероятность появления признака ai ,

p0, j - вероятность появления признака bj .

Основная гипотеза имеет в этом случае вид: H0 : pi, j pi,0 p0, j для всех j 1, N и для всех i 1,S .

Как и в предыдущей подтеме, при построении статистики воспользуемся вместо неизвестных вероятностей их оценками.

Рассмотрим статистику:

Сформулируем критерий независимости признаков хи-квадрат:

Также, как и в случае предыдущих критериев, ошибка первого рода, или уровень значимости , задает конкретное значение C :

Поэтому принимаем:

C2

N 1 S 1 ;1

Пусть уровень значимости 0,001.

N 1 S 1 6,

Следовательно, гипотезуо независимости этих двух признаков следует отклонить, вероятность ошибки при этом значительно меньше 0,001.

Пусть x1,..., xn1 и y1,..., yn2 вариационные ряды, составленные из элементов первой и второй выборок соответственно. Требуется проверить гипотезу H0 о совпадении законов распределения. Определим

эмпирические функции распределения F1(n1 ) и F2(n2 ) . Для проверки гипотезы вводятся следующие статистики:

является область больших значений, т. е. гипотеза об однородности

где

0, 0

1 2 2 2 , 0

S( )

0, 0

Предельное распределение для статистики nDn в точности совпадает с S( ) .

Замечание: При использовании данного критерия не требуется предварительного разбиения на интервалы и группирования.