Математическая статистика. Учебное пособие

т. е. оценки метода моментов α* и β* состоятельны.

Покажем, что (1) p β при . Обозначим = ( β)/α,

→ → ∞ −

= 1, 2, . . . , . Из формулы для плотности линейного преобразова-

Это означает, что 1, . . . , — выборка из показательного распре-

при → ∞. Отсюда следует, что при → ∞

p

(1) = α (1) + β → β.

Теперь мы можем убедиться в состоятельности оценок максимального правдоподобия:

при → ∞.

Задача 4.16. Проверить состоятельность оценок метода момен-

тов

√

β* = 1 + 1 + ( )2/ 2 и θ* = (1 − 1/β*)

параметров β > 2 и θ > 0 распределения Парето.

Решение

Первый и второй моменты распределения Парето мы нашли в задаче :

Следовательно, оценки метода моментов состоятельны: при → ∞

ЗАДАЧИ ДЛЯ САМОСТОЯТЕЛЬНОГО РЕШЕНИЯ

Задача 4.17. Пусть элементы выборки 1, . . . , имеют биномиальное распределение с параметрами 2 и , где 0 < < 1. Найти оценку метода моментов (по первому моменту) для параметра θ = = EI( 1 = 0). Проверить её несмещённость и состоятельность.

Задача 4.18. Пусть элементы выборки 1, . . . , объёма 2 имеют геометрическое распределение с параметром , где 0 < < 1. Для какого параметра θ = θ( ) оценка

θ* = I( 1 = 1) · I( 2 = 2)

будет несмещённой оценкой? Является ли эта оценка состоятельной оценкой для того же параметра θ?

Задача 4.19. Пусть 1, . . . , — выборка из равномерного распределения на отрезке [0, θ]. С помощью неравенства Чебышёва доказать состоятельность следующих оценок параметра θ:

а) 2 ; б) ( ).

Задача 4.20. Пусть 1, . . . , — выборка из равномерного распределения на отрезке [−θ, θ]. Является ли оценка максимального правдоподобия несмещённой оценкой параметра θ? Состоятельной?

Задача 4.21. Пусть 1, . . . , — выборка из равномерного распределения на отрезке [−3θ, θ]. Является ли оценка θ* = 4 ( )+ (1)

несмещённой оценкой параметра θ?

Задача 4.22. Пусть 1, . . . , — выборка из некоторого распределения с конечным математическим ожиданием. Доказать, что является несмещённой и состоятельной (сильно состоятельной) оценкой параметра θ = E 1.

Задача 4.23. Пусть элементы выборки 1, . . . , имеют распределение Пуассона с параметром √2λ + 6, где λ > −3. Найти оценку метода моментов λ* параметра λ, используя первый момент. Является ли оценка λ* состоятельной? Является ли оценка λ* несмещённой?

Задача 4.24. Пусть 1, . . . , — выборка из некоторого распределения с конечным моментом -го порядка θ = E 1 . Является ли выборочный момент порядка несмещённой и состоятельной (сильно состоятельной) оценкой параметра θ ?

Задача 4.25. Пусть 1, . . . , — выборка из некоторого распределения с конечной дисперсией. Доказать, что статистика

2 = 1 ∑( − )2

=1

является состоятельной (сильно состоятельной) оценкой параметра σ2 = D 1. Является ли 2 несмещённой оценкой дисперсии σ2? Построить оценку, являющуюся одновременно сильно состоятельной и несмещённой оценкой параметра σ2.

Задача 4.26. Пусть 1, . . . , — выборка из распределения с конечным вторым моментом и значение = E 1 известно. Проверить на несмещённость и состоятельность следующие оценки неизвестной дисперсии:

Задача 4.27. Пусть 1, . . . , — выборка из нормального распределения с известным средним значением и с неизвестной дис- персией σ2. Проверить, является ли оценка σ* = √π/2 · | − | несмещённой и состоятельной оценкой неизвестного параметра σ.

Задача 4.28. Пусть 1, . . . , 2 — выборка объёма 2 из некоторого распределения с конечным вторым моментом. Проверить на несмещённость и состоятельность оценку дисперсии σ2

(σ2)* = 21 ∑( 2 − 2 −1)2.

=1

Задача 4.29. Пусть ( 1, 1), . . . , ( , ) — выборка, соответствующая случайному вектору (ξ, η), т. е. P( 1 < , 1 < ) =

= P(ξ < , η < ). Доказать, что величина

является несмещённой и состоятельной оценкой cov(ξ, η).

Задача 4.30. Производится измерений неизвестного диаметра круга. В первом приближении считается, что измерения = = + ξ производятся с независимыми случайными ошибками ξ , имеющими одинаковое нормальное распределение с нулевым средним и неизвестной дисперсией σ2. Проверить несмещённость и состоятельность следующей оценки площади круга:

* = 4π (( )2 − 02/ ).

Задача 4.31. Производится измерений неизвестной длины диагонали квадрата. В первом приближении считается, что измерения= + ξ производятся с независимыми случайными ошибками ξ , имеющими одинаковое нормальное распределение с нулевым средним и неизвестной дисперсией σ2. Проверить несмещённость и состоятельность следующей оценки площади квадрата:

* = (( )2 − 02/ )/2.

Задача 4.32. Пусть 1, . . . , 3 — выборка объёма 3 из нормального распределения со средним и единичной дисперсией. Проверить несмещённость и состоятельность следующих оценок параметра :

Задача 4.33. Пусть 1, . . . , — выборка из показательного распределения с параметром α. Для какого параметра θ = θ(α) стати-

стика θ* = будет состоятельной оценкой? Является ли θ* несмещённой оценкой того же параметра?

Задача 4.34. Пусть 1, . . . , — выборка из показательного распределения с параметром 1/√α. Является ли оценка α* = ( )2 несмещённой оценкой параметра α? Состоятельной?

Задача 4.35. Пусть 1, . . . , — выборка из показательного распределения с параметром α. Проверить оценки метода моментов

√

α* = !/ , = 1, 2, . . . ,

на несмещённость. Будут ли эти оценки состоятельными?

Задача 4.36. В партии из изделий оказалось бракованных. Неизвестная вероятность появления бракованного изделия оценивается величиной / . Проверить состоятельность и несмещённость этой оценки.

Задача 4.37. Пусть 1, . . . , — выборка из распределения Бернулли с параметром √ . Является ли статистика * = ( )2 несмещённой оценкой параметра ? Состоятельной?

Задача 4.38. Пусть 1, . . . , — выборка из распределения Бернулли с параметром . Рассматривается класс оценок вида

Вычислить смещение и среднеквадратическую ошибку оценки * . Показать, что при α = √ /2 и β = √ ошибка не зависит от .

Задача 4.39. Пусть 1, . . . , — выборка из биномиального распределения с параметрами 2 и . Для какого параметра θ = θ( )

статистика θ* = будет состоятельной оценкой? Является ли θ* несмещённой оценкой того же параметра?

Задача 4.40. Пусть 1, . . . , — выборка из распределения Пуассона с параметром λ. Проверить, что статистики ( 1 + )/2, I( = ) и являются несмещёнными оценками для λ, λ −λ/ ! и λ соответственно. Являются ли эти оценки состоятельными?

Задача 4.41. Пусть 1, . . . , — выборка из распределения Пуассона с параметром λ. Для какого параметра θ = θ(λ) статистика θ* = I( = 1) будет состоятельной оценкой? Является ли θ* несмещённой оценкой того же параметра?

Задача 4.42. Пусть 1, . . . , — выборка из распределения Пуассона с параметром ln λ. Является ли оценка λ* = несме-

щённой оценкой параметра λ? Состоятельной?

Задача 4.43. Имеется одно наблюдение 1 с усечённым снизу распределением Пуассона:

Доказать, что единственная несмещённая оценка параметра θ = = 1 − −λ имеет вид

Задача 4.44. Пусть 1, . . . , — выборка из равномерного распределения на конечном множестве {1, . . . , θ}, где θ — целый положительный параметр. Проверить оценку максимального правдоподобия параметра θ на несмещённость и состоятельность.

Задача 4.45. Пусть 1, . . . , — выборка из геометрического распределения с параметром . Будет ли оценка * = 1/(1 + ) несмещённой? Состоятельной?

Задача 4.46. Пусть дана выборка из распределения ,

(0, 1/2):

Пусть ν — число элементов выборки, равных 1. Является ли оценка * = √5 ν / несмещённой оценкой параметра ? Состоятельной?

Задача 4.47. Привести пример, когда оценка: а) метода моментов является смещённой;

б) максимального правдоподобия является несмещённой; в) является несмещённой и не состоятельной; г) является смещённой и состоятельной.

Задача 4.48. Доказать, что при любом фиксированном значение эмпирической функции распределения *( ) является (сильно) состоятельной и несмещённой оценкой значения функции распределения выборки ( ).

Задача 4.49. Пусть 1, . . . , — выборка с непрерывно дифференцируемой функцией распределения , причём производная′( ) всюду положительна. Доказать, что выборочная квантиль ζ*δ уровня δ (0, 1) является сильно состоятельной оценкой истинной квантили ζδ = −1(δ).

Г Л А В А 5

Асимптотическая нормальность оценок

Пусть { θ, θ Θ} — некоторое параметрическое семейство распределений. Пусть 1, . . . , — выборка из распределения θ и θ* = θ* ( 1, . . . , ) — некоторая оценка параметра θ, построенная по данной выборке.

Статистика θ* называется асимптотически нормальной оценкой параметра θ с коэффициентом σ2(θ) > 0, если при любом θ Θ

распределение случайной величины √ (θ* − θ) слабо сходится при→ ∞ к нормальному закону с нулевым средним и дисперсией

σ2(θ).

Коэффициент асимптотической нормальности также называется коэффициентом рассеивания.

Асимптотически нормальная оценка сходится к оцениваемому параметру со скоростью порядка −1/2. Отсутствие у оценки этого свойства само по себе не означает, что оценка «плохая» — она может сближаться с параметром ещё быстрее.

ПРИМЕРЫ РЕШЕНИЯ ЗАДАЧ

Задача 5.1. Пусть дана выборка из распределения с конечной и ненулевой дисперсией. Доказать, что статистика является асимптотически нормальной оценкой параметра θ = E 1. Найти коэффициент асимптотической нормальности.

Решение

Так как

то по центральной предельной теореме

√

( − θ) η,

где η имеет нормальное распределение с параметрами 0 и D 1. Следовательно, статистика является асимптотически нормальной оценкой параметра θ = E 1 с коэффициентом асимптотической нормальности σ2(θ) = D 1.

Задача 5.2. Доказать, что выборочная дисперсия 2 при условии конечности E 14 является асимптотически нормальной оценкой дисперсии. Вычислить коэффициент асимптотической нормальности.

Решение

Положим = E 1 и σ2 = D 1. Представим выборочную дисперсию 2 в следующем виде:

=1 ∑( − )2 − 2 ( − ) ∑( − ) + ( − )2 =

=1 =1

= ( − )2 − 2( − )2 + ( − )2 = ( − )2 − ( − )2.

Найдём предельное распределение последовательности

√ √ √

( 2 − σ2) = (( − )2 − σ2) − ( − )2.