Добавил:

ivanov666 Опубликованный материал нарушает ваши авторские права? Сообщите нам.

Вуз:

Башкирский Государственный Аграрный Университет

Предмет:

[НЕСОРТИРОВАННОЕ]

Файл:

Математическая статистика. Учебное пособие

.pdf

Скачиваний:

Добавлен:

12.08.2026

Размер:

1 Мб

Скачать

☆

<<< < Предыдущая 1 2 3 4 5 67 / 277 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 > Следующая >>>

Глава 3. Метод максимального правдоподобия

ЗАДАЧИ ДЛЯ САМОСТОЯТЕЛЬНОГО РЕШЕНИЯ

Задача 3.17. Найти оценку максимального правдоподобия дисперсии σ2 нормального распределения, если математическое ожидание известно.

Задача 3.18. Найти оценку максимального правдоподобия параметра θ > 0, если распределение выборки имеет нормальную плотность с математическим ожиданием θ и дисперсией:

а) 2θ; б) θ2.

Задача 3.19. Найти оценку максимального правдоподобия двумерного параметра ( , ) для равномерного распределения на отрезке [ , ].

Задача 3.20. Найти оценку максимального правдоподобия параметра сдвига µ R распределения Лапласа с плотностью

µ( ) = 12 −| −µ|.

Задача 3.21. Пусть дана выборка из двухпараметрического распределения Лапласа с плотностью

µ,σ( ) = 1 −| −µ|/σ,

2σ

где µ R и σ > 0. Найти оценку максимального правдоподобия двумерного параметра (µ, σ).

Задача 3.22. Распределение Кэптейна определяется плотностью

( ) =	′( )	−(θ− ( ))2/2,

θ	√2π

где — неубывающая дифференцируемая функция. Найти оценку максимального правдоподобия параметра θ.

62	Глава 3. Метод максимального правдоподобия

Задача 3.23. Найти оценки максимального правдоподобия параметра θ > 0, если распределение выборки имеет плотность:

а) θ θ−1 при [0, 1];			г) θ (lnθ−1 )/ при [1, ];
б) 2 /θ2 при [0, θ];			д) −\| \|/2(1 − −θ) при \| \| θ.
в) θ −θ2/2 /√		при 0;
	2π 3

Задача 3.24. Пусть дана выборка из распределения Коши с параметром сдвига θ. Построить оценку максимального правдоподобия параметра θ по выборке:

а) объёма 1;

б) объёма 2.

Задача 3.25. На плоской фольге в неизвестной точке находится источник радиоактивного излучения, посылающий лучи равномерно по всем направлениям пространства. Параллельно фольге на расстоянии 1 имеется экран, на котором наблюдаются вспышки, вызываемые радиоактивным излучением. Требуется по местам вспышек на экране определить положение источника излучения на фольге.

Указание: плоскость экрана принять за координатную плоскость0 , ось 0 направить к фольге и рассмотреть оценку какой-нибудь одной координаты точки; используя метод максимального правдоподобия, выписать уравнение правдоподобия и рассмотреть случай

= 2.

Задача 3.26. Пусть дана выборка из биномиального распределения с параметрами и (0, 1). Найти оценку максимального правдоподобия параметра:

Глава 3. Метод максимального правдоподобия

а) , если значение параметра известно; б) по выборке объёма = 1, если значение известно.

Задача 3.27. Найти оценку максимального правдоподобия параметра (0, 1) геометрического распределения.

Задача 3.28. Пусть дана выборка из усечённого на заданном уровне 1 геометрического распределения с параметром

(0, 1):

P( 1 = )	=	(1 − ) , = 0, 1, . . . , − 1,
P( 1 = )	=	1 − P( 1 − 1) = (1 − ) .

Найти оценку максимального правдоподобия для .

Задача 3.29. Найти оценку максимального правдоподобия параметра θ равномерного распределения на конечном множестве {1, . . . , θ}, θ — целый положительный параметр.

Задача 3.30. Пусть дана выборка из показательного распределения с параметром α, где α может принимать лишь значения 1, 2 и 3. Построить оценку максимального правдоподобия параметра α.

Задача 3.31. Пусть распределение выборки имеет плотностьθ( ) = ( − θ), где функция имеет единственный максимум в точке = 0. Построить оценку максимального правдоподобия θ*1 параметра сдвига θ по одному наблюдению 1.

Задача 3.32. Пусть в условиях предыдущей задачи функция убывает с ростом | |. Доказать, что оценка максимального правдоподобия θ* , построенная по выборке объёма , лежит в интервале

[ (1), ( )].

Г Л А В А 4

Несмещённость и состоятельность оценок

В этой главе мы познакомимся с базовыми свойствами оценок неизвестного параметра, их взаимосвязями и основными алгоритмами их проверки.

Пусть { θ, θ Θ} — некоторое параметрическое семейство распределений. Пусть 1, . . . , — выборка из распределения θ и θ* = θ* ( 1, . . . , ) — некоторая оценка параметра θ, построенная по данной выборке.

Оценка θ* называется состоятельной оценкой параметра θ, если при любом θ Θ величина θ* сходится по вероятности к θ при

→ ∞.

Оценка θ* называется сильно состоятельной оценкой параметра

θ, если при любом θ Θ величина θ* почти наверное (п. н.) сходится к θ при → ∞.

Смещением оценки θ* называется величина (θ) = Eθ* − θ.

Оценка θ* называется несмещённой оценкой параметра θ, если

(θ) = 0 при любом θ Θ.

Оценка θ* называется асимптотически несмещённой оценкой параметра θ, если при любом θ Θ величина (θ) → 0 при → ∞.

Очевидно, из сильной состоятельности следует состоятельность.

Глава 4. Несмещённость и состоятельность

Два важнейших асимптотических свойства — состоятельность и асимптотическая несмещённость — не вытекают одно из другого. Из курса теории вероятностей известно, какое условие нужно добавить к сходимости по вероятности, чтобы получить и сходимость математических ожиданий. Это условие равномерной интегрируемости:

→∞ 1	(\|ξ \|	I(	\|ξ \|	)
lim sup E		I(		) = 0.

Имеет место следующее утверждение.

	p
Теорема 3. Пусть ξ → ξ при → ∞ и E\|ξ \| < ∞ для всех 1.
Тогда	при → ∞ и E\|ξ\| < ∞
E\|ξ − ξ\| → 0

тогда и только тогда, когда последовательность случайных величин {ξ } 1 равномерно интегрируема.

Так как |Eξ − Eξ| E|ξ − ξ|, то из теоремы следует, что последовательность состоятельных оценок, удовлетворяющая условию равномерной интегрируемости, будет также и асимптотически несмещённой.

Существование интегрируемой мажоранты или равномерная ограниченность моментов порядка больше единицы являются простыми достаточными условиями равномерной интегрируемости.

Теорема 4. Пусть последовательность случайных величин {ξ } 1 удовлетворяет одному из следующих условий:

1.|ξ | ξ почти наверное для всех 1 и Eξ < ∞.

2.sup E|ξ |1+ε < ∞ для некоторого ε > 0.

Тогда последовательность {ξ } 1 равномерно интегрируема.

Что касается обратной взаимосвязи состоятельных и асимптотическая несмещённых оценок, то с помощью неравенства Чебышёва легко получить следующее утверждение.

Теорема 5. Пусть θ* — асимптотически несмещённая оценка параметра θ и пусть Dθ* → 0 при → ∞ для любого θ Θ. Тогда оценка θ* является состоятельной.

66	Глава 4. Несмещённость и состоятельность

Для доказательства состоятельности и сильной состоятельности часто оказывается полезной так называемая теорема непрерывности.

Теорема 6. Пусть — непрерывная функция. Тогда если ξ → ξ

при → ∞, то (ξ ) → (ξ) при → ∞.

Последняя теорема останется верной, если в ней сходимость по вероятности заменить на сходимость почти наверное или слабую сходимость.

ПРИМЕРЫ РЕШЕНИЯ ЗАДАЧ

Задача 4.1. Для выборки из равномерного распределения на отрезке [0, θ] проверить состоятельность и несмещённость оценки( ) параметра θ.

Решение
Математическое ожидание E ( ) мы уже нашли в задаче			:

E ( ) =		θ.
E ( ) =		θ.
	+ 1

Следовательно, смещение оценки ( ) равно E ( ) −θ = −θ/( +1) и она является смещённой, но асимптотически несмещённой.

Проверим состоятельность. Для любого фиксированного ε (0, θ)

P( θ

−

ε) = P(

( )

−

ε) =

θ − ε

)

→

0 при

→ ∞

( )|

(

При ε > θ

P(|θ − ( )| ε) = 0.

Следовательно, оценка ( ) состоятельная.

Более того, она сильно состоятельна, так как из вышеприведённых оценок следует, что для любого ε > 0

∞

∑

P(|θ − ( )| ε) < ∞.

Глава 4. Несмещённость и состоятельность

Отсюда следует (в силу леммы Бореля — Кантелли), что ( ) → θ п. н. при → ∞.

Задача 4.2. Пусть 1, . . . , — выборка из равномерного распределения на отрезке [0, θ]. Проверить состоятельность и несмещённость следующих оценок параметра θ:

а)

(1)

( )

;

б) +1

;

в) ( +1)

(1)

( )

Решение

а) Воспользуемся результатами задачи

(1)

( )

) = E + E

( )

+ θ = θ.

(1)

+ 1

Следовательно, оценка (1) + ( ) является несмещённой.

В задаче

мы доказали, что ( )

при → ∞. Аналогично

→ θ

при

→ ∞. Действительно, так как

проверяется, что (1) → 0

P(| (1)| ε) = P( (1) ε) =

ε/θ ,

если 0 < ε < θ,

{0, −

)

если ε

θ,

(

то P(| (1)| ε) → 0 при → ∞ для любого ε > 0. Значит, (1) → 0

при → ∞.

при → ∞, т. е. оценка (1) +

Таким образом, (1) + ( ) → θ

+ ( ) является состоятельной.

б) Так как E

= θ/( +1), то оценка

( )

является несме-

щённой.

( )

Так как

( + 1)/ → 1

при

→ ∞p

и, как показано в задаче ,

( ) → θ

при → ∞, то +1 ( )

→ θ при → ∞, т. е. оценка

( )

состоятельна.

в) Так как E (1)

= θ/( + 1), то оценка ( + 1) (1)

является

несмещённой.

Глава 4. Несмещённость и состоятельность

Найдём слабый предел последовательности ( + 1) (1). Так как

в силу задачи

P(( + 1) (1) < ) = 1 − (1 − ( /( + 1)) и

( ) =

/ ,

если 0 <

если

то

если > θ,

P(( +1) (1)

/θ

если 0,

< ) = 1

−

( + 1)

если 0 < ( + 1)θ,

(

)

если > ( + 1)θ.

для всех

при

Тогда, очевидно,

→ ∞

если 0,

P(( + 1) (1)

< ) → {1 − − /θ,

если > 0.

Предельная функция является функцией показательного распределения с параметром 1/θ. Значит, слабый предел последовательности ( + 1) (1) невырожден, а оценка ( + 1) (1) не является состоятельной.

Задача 4.3. Проверить несмещённость и состоятельность оценки максимального правдоподобия векторного параметра ( , σ2) нормального распределения.

Решение

В задаче

мы нашли оценку максимального правдоподобия па-

раметра ( , σ

): ^ = , σ =

−( )

. Проверим состоятель-

ность. В силу усиленного закона больших чисел → E 1 = п. н. и2 → E 12 = 2 +σ2 п. н. при → ∞, откуда следует (в силу элементарных свойств сходимости почти наверное), что 2 → σ2 п. н. при→ ∞. Таким образом, обе координаты нашей векторной оценки являются сильно состоятельными.

Глава 4. Несмещённость и состоятельность	69
Теперь проверим несмещённость. Как мы знаем (см. задачу	),

E = , E 2 = ( − 1)σ2/ .

Следовательно, ^ = — несмещённая оценка, а оценка σ^2 = 2 имеет ненулевое смещение −σ2/ , являясь лишь асимптотически несмещённой. Несмещённой оценкой для дисперсии нормального распределения σ2 будет, очевидно, 02 = 2/( − 1).

Задача 4.4. Проверить состоятельность и несмещённость оценки α* = 1/ параметра α показательного распределения.

Решение

В силу усиленного закона больших чисел → E 1 = 1/α п. н. при → ∞. Так как функция ( ) = 1/ является непрерывной в области > 0, то α* → α п. н. при → ∞, что означает сильную состоятельность оценки.

Для проверки несмещённости вычислим

E 1/ = E(			)−1.
		=1
(	)	∑

Воспользуемся устойчивостью гамма-распределения по суммированию (показательное распределение с параметром α есть гамма-

распределение с параметрами α и 1), из которой следует, что ∑

имеет гамма-распределение с параметрами α и с плотностью

γα, ( ) = α −1 −α /Γ( ),

Глава 4. Несмещённость и состоятельность

а значит,

−

∞

· γα, ( ) = Z

Γ( ) −2 −α =

(

∑

)

∞

α −1

−2 −α =

− 1

Γ( − 1)

∞

=	α	Z0 γα, −1( ) =				α	,
=	− 1	Z0 γα, −1( ) =				− 1	,
откуда				α
				α
	E(1/ )		=		.
	E(1/ )		=	− 1	.

Таким образом, оценка α* является смещённой, но асимптотически несмещённой оценкой параметра α.

Задача 4.5. Привести пример оценки, которая является несмещённой, но не является состоятельной.

Решение

Рассмотрим распределение Пуассона с параметром λ. Пусть λ* = = 1. Эта оценка является несмещённой для параметра λ, но не является состоятельной (так как её слабый предел при → ∞ совпадает с 1 и, следовательно, невырожден).

Вместо распределения Пуассона можно рассмотреть любое невырожденное распределение с конечным математическим ожиданием, в качестве параметра взять θ = E 1 и θ* = 1 в качестве оценки. Эта оценка является несмещённой для θ, но не является состоятельной.

Задача 4.6. Пусть элементы выборки 1, . . . , объёма 5 имеют распределение Пуассона с параметром λ > 0. Для какого параметра θ = θ(λ) оценка

θ* = 1 · 2 · . . . · 5

<<< < Предыдущая 1 2 3 4 5 67 / 277 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 > Следующая >>>

Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]

	p
Теорема 3. Пусть ξ → ξ при → ∞ и E\|ξ \| < ∞ для всех 1.
Тогда	при → ∞ и E\|ξ\| < ∞
E\|ξ − ξ\| → 0