Добавил:

WarmongeR Опубликованный материал нарушает ваши авторские права? Сообщите нам.

Вуз:

Новосибирский государственный университет

Предмет:

Теория вероятностей и математическая статистика

Файл:

Лекции / Чернова Н.И. Лекции по математической статистике

.pdf

Скачиваний:

149

Добавлен:

07.09.2014

Размер:

1.29 Mб

Скачать

☆

<<< < Предыдущая 1 2 3 4 5 6 7 8 9 10 11 12 13 1415 / 1815 16 17 18 > Следующая >>>

Оглавление

На стр. ... из 180

Во весь экран

Уйти

Стр. 141

Функция ρ(X) удовлетворяет условию K1(б). Действительно,

Упражнение. Вспомнить закон больших чисел и доказать, что если H10 неверна, то найдется j {1, . . . , k} такое, что

(	ν − np	)2		n	ν	2	.
(	j npj j		= pj		nj − pj	−p	.
						→ ∞

Осталось построить критерий в соответствии с K2.

Пусть случайная величина χ2k−1 имеет распределение Hk−1. По таблице распределения Hk−1 найдем C равное квантили уровня 1 − ε этого распределения. Тогда ε = P (χ2k−1 > C) и критерий согласия χ2 выглядит как все критерии согласия:

H10 ,			если	ρ(X) < C,
δ(X) =	0		если	ρ(X)	>
H		,				C.
	2

Замечание 19. На самом деле критерий χ2 применяют и для решения первоначальной задачи о проверке гипотезы H1 = {F = F1}. Необходимо только помнить, что этот критерий не состоятелен для альтернатив с теми же вероятностями попадания в интервалы разбиения, что и у F1. Поэтому берут большое число интервалов разбиения

— чем больше, тем лучше, чтобы «уменьшить» число альтернатив, неразличимых с предполагаемым распределением.

В н и м а н и е ! О п а с н о с т ь !

Оглавление

На стр. ... из 180

Во весь экран

Уйти

Стр. 142

Замечание 20. Сходимость по распределению ρ(X) Hk−1 обеспечивается ЦПТ, поэтому разница допредельной и предельной вероятностей имеет тот же порядок, что и погрешность нормального приближения

	P (ρ(X) > C) − P (χk2	−1	> C)	6 примерно! max		b


\|			\|		q
						npj(1 − pj)

(см. неравенство Берри — Эссеена для погрешности в ЦПТ), где b – некоторая постоянная. Маленькие значения npj в знаменателе приведут к тому, что распределение ρ(X) будет существенно отличаться от Hk−1. Тогда и реальная вероятность P (ρ > C)

— точный размер полученного критерия — будет сильно отличаться от ε. Поэтому для выборки объема n число интервалов разбиения выбирают так, чтобы обеспечить нужную точность при замене распределения ρ(X) на Hk−1.

Обычно требуют, чтобы np1 = . . . = npk были не менее 5-6.

Оглавление

На стр. ... из 180

Во весь экран

Уйти

Стр. 143

8.3.Критерий χ2 Пирсона для проверки параметрической гипотезы

Критерий χ2 часто применяют для проверки гипотезы о виде распределения, т. е. о принадлежности распределения выборки некоторому параметрическому семейству.

	Имеется выборка X = (X1, . . . , Xn) из неизвестного распределения F. Проверяется
сложная гипотеза					H1 = F {Fθ} ,
где	θ	Θ	IR	l		l	— его
					— неизвестный параметр (скалярный или векторный),

размерность.

Пусть IR разбито на k > l интервалов группировки A1 · · · Ak, и νj — число элементов выборки, попавших в Aj. Но вероятность pj = PH1 (X1 Aj) = pj(θ) теперь зависит от неизвестного параметра θ.

Функция отклонения (23) также зависит от неизвестного параметра θ, и использовать ее в критерии Пирсона нельзя — мы не можем вычислить ее значение:

k	(νj − npj(θ))2
Xj 1			(24)
ρ(X, θ) =		.	(24)
=	npj(θ)
=

Пусть	^ ^	— значение параметра θ, доставляющее минимум функции ρ(X, θ)
Пусть	θ = θ(X)
					^
при данной выборке X. Подставив вместо истинных вероятностей pj их оценки pj(θ),
получим функцию отклонения
		k	^ 2
		Xj 1	(νj − npj(θ))		(25)
		^		.
		ρ(X, θ) =	^	.
		=	npj(θ)
		=

Условие K1(a) (при выполнении некоторых условий относительно гладкости pj(θ)o) обеспечивается теоремой (R. Fisher, 1924), которую мы доказывать не будем:

	Теорема 8. Если верна гипотеза H1, и dim(θ) = l — размерность параметра (вектора)
Оглавление	θ, то при фиксированном k и при n → ∞
	θ, то при фиксированном k и при n → ∞

		k	k	^	2
		^		(νj − npj(θ))		Hk−1−l,
		ρ(X, θ) =		^		Hk−1−l,
JJ	II	Xj 1	Xj 1	npj(θ)
		=	=
J	I	где Hk−1−l есть χ2-распределение с k − 1 − l степенями свободы.

На стр. ... из 180
На стр. ... из 180		Условие (K1(б)) выполнено, если, скажем, рассматривать альтернативные распреде-


Назад
	ления F2 такие, что ни при каких θ набор вероятностей PF2(X1 A1), . . . , PF2(X1 Ak)
Во весь экран
	не совпадает с p1(θ), . . . , pk(θ).
	не совпадает с p1(θ), . . . , pk(θ).
		Построим критерий χ2.
		Пусть случайная величина χk2		−1−l		имеет распределение Hk−1−l. По заданному ε
	найдем C такое, что ε = P (χk2		−1−l > C).
Уйти	найдем C такое, что ε = P (χk2		−1−l > C).
		Критерий согласия χ2 имеет такой же вид, как все критерии согласия:

					H1,	если	^
					H1,	если	ρ(X, θ) < C,
		δ(X) = H2,				если	ρ(X, θ^) > C.
Стр. 144

		o Все ∂2pj(θ)/∂θi∂θl непрерывны по θ; ранг матрицы k∂pj(θ)/∂θik равен l.

Оглавление

На стр. ... из 180

Во весь экран

Уйти

Стр. 145

Замечания 19, 20 о количестве интервалов разбиения остаются в силе.

Замечание 21. Оценку ^, минимизирующую функцию X , нельзя заменить

θ ρ( , θ)

на оценку максимального правдоподобия для θ, построенную по выборке X1, . . . , Xn. При такой замене предельное распределение величины ρ(X, θ)

а) уже не равно Hk−1−l, а совпадает с распределением величины

ξ21 + . . . + ξ2k−1−l+a1(θ)ξ2k−l + . . . + al(θ)ξ2k−1,

где все ξi независимы и имеют распределение N0,1, а коэффициенты ai(θ), вообще говоря, отличны от 0 и 1 (H.Chernoff, E.Lehmann, 1954);

б) зависит от θ.

Почувствуйте разницу:
Замечание 22. Оценку	^
Замечание 22. Оценку	θ, минимизирующую функцию ρ(X, θ), можно получить

как оценку максимального правдоподобия для θ, построенную по вектору ν1, . . . , νk из полиномиального распределения. Функция правдоподобия имеет вид

ν1

νk , где

f(ν; θ) =

p1(θ)

· . . . ·

pk(θ)

pi(θ) = 1 и

νi = n.

ν1

! . . . νk!

Xi 1

Вычисление точки максимума по θ такой функции в общем случае возможно лишь численно, равно как и вычисление точки минимума функции ρ(X, θ).

Оглавление

На стр. ... из 180

Во весь экран

Уйти

Стр. 146

8.4.Проверка гипотезы однородности: критерий Колмогорова — Смирнова

Даны две выборки X = (X1, . . . , Xn) и Y = (Y1, . . . , Ym) из неизвестных распределений F и G соответственно. Проверяется сложная гипотеза H1 = {F = G} против (еще более сложной) альтернативы H2 = {H1 неверна}.

Критерий Колмогорова — Смирнова используют, если F и G имеют непрерывные функции распределения.

Пусть Fn(y) и Gm(y) — эмпирические функции распределения, построенные по выборкам X и Y,

	r	m + n		y	n		m
ρ(X, Y) =			mn	sup	F	(y) − G		(y)	.

Теорема 9. Если гипотеза H1 верна, то ρ(X, Y) η при n, m → ∞, где η имеет распределение с функцией распределения Колмогорова.

Упражнение. Доказать, что ρ(X, Y) −→ ∞ при n, m → ∞, если H2 верна.

И снова: в таблице распределения Колмогорова по заданному ε найдем C такое,

что ε = P (η > C), и построим критерий согласия Колмогорова — Смирнова:

H1, если ρ(X) < C,

δ(X) =

H2, если ρ(X) > C.

Замечание 23. Если есть более двух выборок, и требуется проверить гипотезу однородности, часто пользуются одним из вариантов критерия χ2 Пирсона. Этот критерий (и ряд других критериев) рекомендую посмотреть в §3.4.2, с. 124 книги Г. И. Ивченко, Ю. И. Медведев. Математическая статистика. Москва, 1984, 248 с.

Оглавление

На стр. ... из 180

Во весь экран

Уйти

Стр. 147

8.5.Проверка гипотезы независимости: критерий χ2 Пирсона

Есть выборка (X, Y) =

(X1, Y1), . . . , (Xn, Yn) значений двух наблюдаемых сов-

местно случайных величин X и Y в n независимых экспериментах. Проверяется гипо-

теза H1 = {X и Y независимы}.

Введем

k интервалов

группировки

1, . . . ,

k для значений

и m интервалов

группировки r1, . . . , rm для значений Y.

r2 . . .

Посчитаем эмпирические частоты:

= {

число пар

, Y

попавших в

i×rj

ν1,1

ν1,2 . . .

ν1,m

ν1,·

i,j

. . .

= {число Yl,

попавших в rj},

ν·,j

νk,1

νk,2 . . .

νk,m

νk,·

νi,·

= {число Xl,

попавших в

i}.

ν·,1

ν·,2

. . . ν·,m

Если гипотеза H1

верна, то теоретические вероятности попадания пары (X, Y) в

любую из областей

i × rj

равны произведению вероятностей: для всех i и j

pi,j = P (X, Y)

i × rj = P X

i · P Y rj = pix · pjy.

Именно эту гипотезу (назовем ее H10 ) мы в действительности и проверяем. По ЗБЧ

νi,·

ν·,j

νi,j

−

pi,j.

→

oПоэтому значительная разница между

i,j

i,·

·,j

(или между νi,j и

i,·

·,j

) может служить

основанием для отклонения гипотезы независимости.

Оглавление

На стр. ... из 180

Во весь экран

Уйти

Стр. 148

Пусть

k	m	ν	i,j −	(ν	ν			)/n	2
ρ(X, Y) = n	Xj 1		i,j −	νi,i,ν·			,j·,j			.	(26)
ρ(X, Y) = n				νi,i,ν·		·	,j·,j			.	(26)
Xi 1				·		·
=	=

Теорема 10. Если гипотеза H1 верна, то ρ(X, Y) H(k−1)(m−1) при n → ∞.

Критерий согласия асимптотического уровня ε строится обычным образом.

Упражнение. Чтобы функция ρ и теорема 10 не падали с неба, убедитесь, что гипотеза H10

есть гипотеза о принадлежности распределения выборки параметрическому семейству распределений с вектором неизвестных параметров (px1, . . . , pxk−1, py1 , . . . , pym−1) размерности l=k+m−2. Подставив ОМП νi,·/n для pxi и ν·,j/n для pyj в функцию

X	x	y 2
	npi pj
i,j
ρ =	νi,j − npi pj		(см. (24)),
	x y

получим (26). Всего есть k·m интервалов, и по теореме 8 при верной H10 предельное χ2-распределение имеет k·m−1−(k+m−2) = (k−1)(m−1) степеней свободы.

Замечания 19 и 20 по поводу числа k · m интервалов группировки остаются в силе.

	8.6. Совпадение дисперсий двух нормальных выборок
	Есть две независимые выборки из нормальных распределений: X = (X1, . . . , Xn)
	из Na1	,σ2 и Y = (Y1, . . . , Ym) из Na2,σ2 , средние которых, вообще говоря, неизвестны.
		1			2		= {σ2 = σ2}.
	Критерий Фишера предназначен для проверки гипотезы H1						= {σ2 = σ2}.
Оглавление							1	2
	Обозначим через S2			(X) и S2(Y) несмещенные выборочные дисперсии:
			0		0
		1		n	1	m
		1			1		(Yi − Y)2
		S02(X) =			(Xi − X)2, S02(Y) =		(Yi − Y)2
JJ	II	n − 1		=	m − 1	=
				=		=		S2	(X)
			Xi 1			Xi 1		S2	(X)
	и зададим функцию отклонения ρ(X, Y) как их отношение ρ(X, Y) =							0	.
J								S02	.
J	I							S02	(Y)

На стр. ... из 180

Теорема 11. Если гипотеза H1 верна, то случайная величина ρ(X, Y) имеет распреде-

ление Фишера Fn−1,m−1 с

n−1, m−1 степенями свободы.

Доказательство. По лемме Фишера, независимые случайные величины

Во весь экран

(n−1) S2

(X)

(m−1) S2(Y)

ξn2 −1 =

ξm2 −1 =

σ2

имеют распределения Hm−1 и Hn−1 соответственно. При σ12 = σ22 отношение

Уйти

ξn2 −1/(n−1)

S02(X)

6σ22

= ρ(X, Y)

ξ2

σ2

· S2(Y)

m−1/(m−1)

Стр. 149

имеет распределение Фишера с n−1, m−1 степенями свободы по определению 18 и

совпадает с ρ(X, Y).

Оглавление

На стр. ... из 180

Во весь экран

Уйти

Стр. 150

С условием K1(б) дело обстоит сложнее.

Упражнение. Доказать, что для любой альтернативы σ21 6= σ22

ρ(X, Y)	p	σ12	= 1 при n, m		.	(27)
	−→	σ22		→ ∞
			6

Построим критерий Фишера и убедимся, что (27) обеспечивает его состоятельность. Возьмем квантили fε/2 и f1−ε/2 распределения Фишера Fn−1,m−1. Критерием Фишера называют критерий

H1	,	если f			ρ(X, Y)		f		,
δ(X, Y) = H2		иначе.	ε/2	6		6		1−ε/2

Доказательство состоятельности критерия Фишера.

Покажем, что последовательность квантилей fδ = fδ(n, m) любого уровня 0 < δ < 1 распределения Fn,m сходится к 1 при n, m . Возьмем величину fn,m с этим распределением. По определению, P (fn,m < fδ) = δ, P (fn,m > fδ) = 1− δ при всех n, m.

−

По свойству 2 распределения Фишера, fn,m→p∞1. Поэтому для любого > 0 обе веро-

ятности P (fn,m < 1− ) и P (fn,m > 1+ ) стремятся к нулю при n, m

, становясь

рано или поздно меньше как

, так и

1−δ

Следовательно, при достаточно больших

→

→ ∞

n, m выполнено 1 − < fδ < 1 + .

Для доказательства состоятельности осталось предположить, что гипотеза H1 не

верна, взять равное, например, половине расстояния от 1 до σ2

/σ2

и использовать

сходимость (27). Пусть, скажем, при достаточно больших n и m

σ2

+ = 1 − < fε/2.

σ2

<<< < Предыдущая 1 2 3 4 5 6 7 8 9 10 11 12 13 1415 / 1815 16 17 18 > Следующая >>>

Соседние файлы в папке Лекции

#
07.09.201424.6 Mб37Лекции матстат от Миши.compressed.pdf
#
07.09.20141.29 Mб149Чернова Н.И. Лекции по математической статистике.pdf
#
07.09.20141.14 Mб220Чернова Н.И. Теория вероятностей.pdf