Добавил:

Upload Опубликованный материал нарушает ваши авторские права? Сообщите нам.

Вуз:

Санкт-Петербургский государственный университет

Предмет:

[НЕСОРТИРОВАННОЕ]

Файл:

ms_2006

.pdf

Скачиваний:

112

Добавлен:

21.03.2016

Размер:

1.33 Mб

Скачать

☆

<<< < Предыдущая 1 2 3 4 56 / 186 7 8 9 10 11 12 13 14 15 16 17 18 > Следующая >>>

Оглавление

JJ II

J I

На стр. ... из 179

Во весь экран

Уйти

Стр. 51

Но оценка θ принадлежит Kb, то есть она не лучше, например, эффективной оцен-

ки θ1. Поэтому

Eθ (θ − θ)2 > Eθ (θ1 − θ)2.

Сравнивая это неравенство с равенством (7), видим, что

Eθ		θ	1	− θ	2	2	1		Eθ (θ1 − θ2)2 6 0	и, следовательно,	Eθ (θ1 − θ2)2 = 0.
						=

				2			4
Тогда
	почему?				Pθ (θ			= θ ) = 1, что и требовалось доказать.
						1			2

Для примера рассмотрим сравнение двух оценок. Разумеется, сравнивая оценки попарно между собой, наилучшей оценки в целом классе не найти, но выбрать лучшую из двух тоже полезно. А способами поиска наилучшей в целом классе мы тоже скоро займемся.

Пример 11. Пусть X1, . . . , Xn — выборка объема n из равномерного распределе-

ния U0,θ, где θ > 0. В примерах 4 и 9 мы нашли ОМП

θ = X(n) = max{X1, . . . , Xn}

. Сравним их в среднеквадратичном.

и ОММ по первому моменту θ = 2X

несмещенная, поэтому

Оценка θ = 2X

θ2

Eθ (θ − θ)2 = Dθ θ = Dθ 2X = 4Dθ X = 4

= 4

12n

Для θ = X(n) = max{X1, . . . , Xn} имеем

Eθ (θ − θ) = Eθ θ

− 2θEθ θ + θ

Оглавление

JJ II

J I

На стр. ... из 179

Во весь экран

Уйти

Стр. 52

Посчитаем первый и второй момент случайной величины

Найдем (по-

θ = X(n).

лезно вспомнить, как это делалось в прошлом семестре!)

функцию распределения и

плотность θ:

y < 0,

< y) = P

< y)n =

, y

[

0, θ ,

(n)

θn

]

y > θ,

(y) = 0,yn−1

fX(n)

если y 6[0, θ],

если y [0, θ].

θn

n−1

Eθ X(n) = Z yn

θ, Eθ X(2n) = Z y2n

dy =

θ2.

θn

n + 1

θn

n + 2

Поэтому

Eθ (X(n) − θ)2 =

θ2

− 2

θ2 + θ2 =

θ2.

n + 1

(n + 1)(n + 2)

n + 2

При n = 1, 2 квадратические отклонения равны, а при n > 2

2θ2

θ2

Eθ (X(n) − θ)2 =

= Eθ (2X − θ)2,

(n + 1)(n + 2)

то есть X(n) лучше, чем 2X. При этом Eθ (X(n) − θ)2 стремится к нулю со скоростью n−2, тогда как Eθ (2X − θ)2 — со скоростью n−1.

Оглавление

JJ II

J I

На стр. ... из 179

Во весь экран

Уйти

Стр. 53

Упражнение.

1.Доказать, что X(n) Kb, где b(θ) = − n +θ 1.

2.Доказать, что n n+ 1X(n) K0 (несмещенная).

3.Сравнить оценки n n+ 1X(n) и X(n) в среднеквадратичном.

3.3.Асимптотически нормальные оценки (АНО)

Для того, чтобы уметь сравнивать оценки вида θk = k (k + 1)Xk (см. пример 4), среднеквадратического подхода недостаточно: второй момент такой случайной величины посчитать вряд ли удастся. Оценки такого вида (функции от сумм) удается сравнивать с помощью асимптотического подхода. Более точно, этот подход применим к так называемым «асимптотически нормальным» оценкам.

Пусть X1, . . . , Xn — выборка объема n из параметрического семейства распределений Fθ, θ Θ.

Определение 11. Оценка θ называется асимптотически нормальной оценкой параметра θ с коэффициентом σ2(θ), если

		√		(θ − θ)
			n
√n(θ − θ) N0,σ2(θ),	или		n		N0,1.
√n(θ − θ) N0,σ2(θ),	или			σ(θ)	N0,1.

Оглавление

JJ II

J I

На стр. ... из 179

Во весь экран

Уйти

Стр. 54

Пример 12.

Пусть X1, . . . , Xn — выборка объема n из равномерного распре-

деления U0,θ, где θ > 0.

Проверим,

являются

ли

оценки θ

θ^ = X(n)

= 2X

асимптотически нормальными (АНО). По ЦПТ,

√

i=1 Xi

i=1 2Xi − nθ

√n(θ − θ) = n(2X − θ) = n

− θ

√n

2Xi − nEθ 2X1

N0,Dθ 2X1 = N0,4Dθ X1 .

= iP1

√n

То есть оценка

асимптотически нормальна с

коэффициентом

= 2X

σ2(θ) = 4Dθ X1 = 4θ2/12 = θ2/3.

Для оценки θ = X(n) имеем:

√

(θ^ − θ) = √

(X(n) − θ) < 0 с вероятностью 1.

(8)

По определению, ξn

F, если для любой точки x, являющейся точкой непрерывности

функции распределения F, имеет место сходимость Fξn (x) = P (ξn < x)

F(x).

Но

θ (√

(n)

, тогда как для нормального распределения

0,σ

(θ)

(

− θ) < 0) = 1

(θ)(0) =→

функция распределения всюду непрерывна, и в нуле равна Φ0,σ

. Но

не

, поэтому слабая сходимость √

0.5

сходится к 0.5 при n

(X(n) − θ) к N0,σ2(θ) места

не имеет.

Таким образом,

оценка

асимптотически нормальной не является. Оста-

θ = X

(n)

→ ∞

лось ответить на напрашивающиеся вопросы:

Оглавление

JJ II

J I

На стр. ... из 179

Во весь экран

Уйти

Стр. 55

√

1) Куда все же сходится по распределению n(X(n) − θ)?

√

Упражнение. Доказать, что n(X(n) − θ) 0.

Порядок действий: Выписать определение слабой сходимости. Нарисовать функцию рас-

√

пределения нуля. Найти по определению функцию распределения n(X(n) − θ). Убедиться, что она сходится к функции распределения нуля во всех точках непрерывности последней. Не забудьте о существовании замечательных пределов, логарифмов и ряда Тейлора.

√

2)Если n(X(n) − θ) 0, то на какую степень n нужно попробовать умножить X(n) − θ, чтобы получить сходимость к величине, отличной от 0 и ∞?

Упражнение. Доказать, что −n(X(n) − θ) η, где случайная величина η имеет показательное распределение E1/θ.

Порядок действий: прежний.

3)Для оценки n n+ 1X(n) свойство (8) не выполнено. Может ли эта оценка быть АНО?

Упражнение. Модифицировать рассуждения и доказать, что эта оценка тоже не является асимптотически нормальной.

^	не асимптотически нормальна? Может быть, сходимость
4) Плохо ли, что оценка θ = X(n)	не асимптотически нормальна? Может быть, сходимость
n(X(n) − θ) −η еще лучше?

Попробуем ответить на последний вопрос.

3.4.«Скорость» сходимости оценки к параметру

Теорема 6. Если θ — асимптотически нормальная оценка для θ, то θ состоятельна.

Оглавление

JJ II

J I

На стр. ... из 179

Во весь экран

Уйти

Стр. 56

Доказательство теоремы 6. Вспомним свойство слабой сходимости: произведение двух последовательностей, одна из которых сходится (по вероятности) к постоянной, а другая слабо сходится к некоторой случайной величине, слабо сходится к произведению пределов. Поэтому

θ − θ =

√

(θ − θ) 0

ξ = 0,

√n ·

где

имеет нормальное распределение

(θ).

Но слабая сходимость к нулю влечет

0,σ

сходимость к нулю по вероятности.

Упражнение. Верно ли утверждение теоремы 6, если предельная величина ξ имеет

распределение, отличное от нормального?

Таким образом, если θ асимптотически нормальна, то θ −p

θ, или θ − θ −p 0.

нормальности показывает, в частности, что скорость этой

Свойство асимптотической

→

1 →

сходимости имеет порядок

√

, т. е. расстояние между θ и θ ведет себя как

√

θ − θ

0, но

√

(θ

− θ)

0,σ

(θ)

−→

Взглянем с этой точки зрения на оценку ^

θ = X(n)

тех, кто справился с упражнениями)

n(X(n) − θ) ξ,

в примере 12. Для нее (и для

(9)

^			и θ ведет
где ξ — некоторая случайная величина. Иначе говоря, расстояние между θ
себя как	1	.

n
Упражнение. Лучше это или хуже?

Оглавление

JJ II

J I

На стр. ... из 179

Во весь экран

Уйти

Стр. 57

3.5.Асимптотическая нормальность ОММ

Впримере 12 мы видели, что для оценок типа 2X свойство асимптотической нормальности сразу следует из ЦПТ.

Установим асимптотическую нормальность оценок более сложного вида, какими

обычно оказываются оценки метода моментов.

Свойство 5.

Пусть функция g(y) такова, что 0 6= Dθ g(X1) < .

g(X

)

нормальной оценкой

g(X) =

Тогда статистика

является асимптотически

∞

для

g(X

)

коэффициентом σ2(θ) = D

g(X

√

− Eθ g(X1)

g(X)

N0,1.

Dθ g(X1)

Упражнение. Вспомнить ЦПТ и доказать свойство 5.

Следующая теорема утверждает асимптотическую нормальность оценок вида

			n g	X	i)	! .

θ = H g(X) = H		P1 n(

Такие оценки получаются обычно	найти примеры!		при использовании метода моментов,
при этом всегда θ = H (Eθ g(X1)).

Оглавление

JJ II

J I

На стр. ... из 179

Во весь экран

Уйти

Стр. 58

Теорема 7. Пусть функция g(y) такова, что 0 6= Dθ g(X1) < ∞, а функция H(y) непрерывно дифференцируема в точке a = Eθ g(X1) и H0(a) = H0(y) y=a6= 0.

Тогда оценка θ = H g(X) является асимптотически нормальной оценкой для θ = H (Eθ g(X1)) = H(a) с коэффициентом σ2(θ) = (H0(a))2 · Dθ g(X1).

Доказательство теоремы 7.

Согласно ЗБЧ последовательность g(X) стремится к a = Eθ g(X1) по вероятности

с ростом n. Функция

H y) − H(a)

(

, y 6= a,

G(y) =

y − a

H0(a),

y = a

по условию непрерывна в точке a. Поскольку сходимость по вероятности сохраняется

под действием непрерывной функции, получим, что G(

g(X)) −p G(a) = H0(a).

Заметим

также,

что

по

свойству 5 величина √

слабо сходится к

g(X) − a

→

нормальному

распределению

0,Dθ g(X1). Пусть

—

случайная величина из этого

распределения. Тогда

√

ξ · H0(a).

n H g(X) − H(a) = n g(X) − a · G g(X)

↓

H0(a)

Мы использовали свойство слабой сходимости: если ξn

ξ и ηn −p c = const,

то

cξ

. Но

) как раз и имеет распределение

0, (H0

(a)) ·D→θ g(X1).

Оглавление

JJ II

J I

На стр. ... из 179

Во весь экран

Уйти

Стр. 59

Пример 13. Пусть X1, . . . , Xn — выборка объема n из равномерного распределе-

ния U0,θ, где θ > 0. Проверим, являются ли оценки θk = k (k + 1)Xk, k = 1, 2, . . . , полученные методом моментов в примере 4, асимптотически нормальными.

Пусть g(y) = (k + 1)yk, H(y) = √y. Тогда

θk = k (k + 1)Xk = s

g(Xi) .

(k + 1)Xi = H

P n

При этом

s(k + 1)

θ = H (Eθ g(X1)) = k Eθ (k + 1)X1k =

θk

k + 1

Впрочем, иначе быть не могло по определению метода моментов.

верно?

Проверим

другие условия теоремы 7:

θk

a = Eθ g(X1) = (k + 1)

= θk,

k + 1

дисперсия Dθ g(X1) = Eθ (k+1)2X12k−a2 = (k+1)2

θ2k

−θ2k

θ2k

2k + 1

конечна и отлична от нуля. Функция H(y) непрерывно дифференцируема в точке a:

1−k

(y) =

y k

, и H0(a) = H0(θk) =

θ1−k

непрерывна при θ > 0.

По теореме 7, оценка θk — АНО для θ с коэффициентом

θ2

σk2(θ) = H0

(a) 2 Dθ g(X1) =

θ2−2k ·

θ2k =

2k + 1

θ2

В том числе для θ = 2X имеем коэффициент σ2(θ) =

(см. пример 12).

Оглавление

JJ II

J I

На стр. ... из 179

Во весь экран

Уйти

Стр. 60

Осталось понять, при чем тут сравнение оценок и что показывает коэффициент асимптотической нормальности.

3.6. Асимптотический подход к сравнению оценок

Возьмем две случайные величины: ξ из нормального распределения N0,1 и 10 ξ из нормального распределения N0,100. Если для ξ, например, 0, 9973.. = P (|ξ| < 3), то для 10 ξ уже 0, 9973.. = P (|ξ| < 30). Разброс значений величины 10 ξ гораздо больший, и дисперсия (показатель рассеяния) соответственно больше.

Что показывает коэффициент асимптотической нормальности? Возьмем две АНО с коэффициентами 1 и 100:

√

(θ1 − θ )

N0,1 и

√

(θ2 − θ )

N0,100.

При больших

разброс

значений величины √

(θ

− θ ) около нуля гораздо боль-

√

ше, чем у величины n(θ1 − θ ), поскольку больше предельная дисперсия (она же коэффициент асимптотической нормальности).

Но чем меньше отклонение оценки от параметра, тем лучше. Отсюда — естественный способ сравнения асимптотически нормальных оценок:

Определение 12. Пусть θ1 — АНО с коэффициентом σ21(θ), θ2 — АНО с коэффициентом σ22(θ). Говорят, что θ1 лучше, чем θ2 в смысле асимптотического подхода,

если для любого θ Θ

σ21(θ) 6 σ22(θ),

и хотя бы при одном θ это неравенство строгое.

<<< < Предыдущая 1 2 3 4 56 / 186 7 8 9 10 11 12 13 14 15 16 17 18 > Следующая >>>

Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]

#
28.08.20191.24 Mб121MOYa_KURSOVAYa.doc
#
21.03.2016462.75 Кб454MPI_otvety.docx
#
06.05.2019519.17 Кб105MR_dlya_PZ_i_SZ_AFO_f.doc
#
16.08.2019504.83 Кб103MR_poittovt.doc
#
21.11.201985.5 Кб96MR_Preddipl_pr_BD_MBI.doc
#
21.03.20161.33 Mб112ms_2006.pdf
#
22.11.201973.37 Кб9Muhammad Ali.docx
#
16.08.2019632.83 Кб20muhurta.doc
#
15.04.2015512.51 Кб16Munitsipalnoe_pravo_2013.doc
#
15.11.20181.33 Mб256Murphy.DOC
#
21.03.20161.27 Mб14Murtazina.A.R._.2014.pdf