Математическая статистика. Учебное пособие

Как показано в задаче , статистика является асимптотически нормальной оценкой параметра = E 1, т. е. √ ( − ) η, где η имеет нормальное распределение с параметрами 0 и D 1 = = σ2. По теореме отсюда следует, что

√

( ( − ))2 η2.

Далее воспользуемся следующим свойством слабой сходимости: произведение двух последовательностей, одна из которых сходится по вероятности к константе, а другая слабо сходится к некоторой случайной величине, слабо сходится к произведению пределов. Поэтому

где случайная величина ξ имеет нормальное распределение с нулевым средним и дисперсией, равной D( 1 − )2. Сложив слабо сходящуюся последовательность с последовательностью, сходящейся по вероятности к нулю, получим слабую сходимость

√ √ √

( 2 − σ2) = (( − )2 − σ2) − ( − )2 ξ.

Таким образом, 2 — асимптотически нормальная оценка параметра σ2 с коэффициентом D( 1 − )2 = E( 1 − )4 − σ4.

Задача 5.3. Доказать, что любая асимптотически нормальная оценка является состоятельной.

Решение

Воспользуемся упомянутым в предыдущей задаче свойством сла-

при → ∞, где η имеет нормальное распределение с параметрами 0 и σ2(θ). Следовательно,

Задача 5.4. Пусть θ* — асимптотически нормальная оценка параметра θ с коэффициентом σ2. Пусть θ ̸= 0. Доказать, что (θ* )2 — асимптотически нормальная оценка параметра θ2. Найти коэффициент асимптотической нормальности.

√√

((θ* )2 − θ2) = (θ* − θ)(θ* + θ) 2θ · ξ,

где ξ имеет нормальное распределение с параметрами 0 и σ2. Но случайная величина 2θξ имеет нормальное распределение с нулевым средним и дисперсией 4θ2σ2, поэтому оценка (θ* )2 является асимптотически нормальной оценкой параметра θ2 с коэффициентом 4θ2σ2.

Задача 5.5. Пусть θ* — асимптотически нормальная оценка параметра θ с коэффициентом σ2, причём E(θ* − θ)4 / 2 для любого θ, всех 1 и некоторой положительной постоянной . Доказать, что при → ∞ имеет место соотношение

E(θ* − θ)2 = σ2 (1 + (1)).

при → ∞.

Асимптотическая нормальность оценки θ* означает, что ξ слабо сходится к случайной величине η, имеющей нормальное распределение с параметрами 0 и σ2, а значит, в силу теоремы ξ2 слабо сходится к η2. Кроме того, по условию для всех θ и всех 1 имеет место соотношение

Eξ4 ,

откуда следует равномерная интегрируемость последовательности

{ζ } 1 равномерно интегрируема и ζ слабо сходится к случайной величине ζ, то E|ζ| < ∞ и Eζ → Eζ при → ∞. Полагая в этом утверждении ζ = ξ2 , получим сходимость соответствующих математических ожиданий

Eξ2 → Eη2 = σ2,

что и требовалось доказать.

Задача 5.6. Пусть E 2( 1) < ∞. Доказать, что статистика ( ) является асимптотически нормальной оценкой параметра θ = E ( 1). Найти коэффициент асимптотической нормальности.

Решение

По центральной предельной теореме

слабо сходится к нормальному закону с параметрами 0 и D ( 1).

Так как η имеет нормальное распределение с параметрами 0 и σ2(θ), то случайная величина ′(θ)η имеет нормальное распределение с параметрами 0 и ( ′(θ))2σ2(θ). Это означает, что (θ* ) является асимптотически нормальной оценкой параметра (θ) с коэффициентом

̃σ2(θ) = ( ′(θ))2σ2(θ).

Задача 5.8. Доказать, что оценка максимального правдоподобия параметра α показательного распределения является асимптотически нормальной. Найти коэффициент асимптотической нормальности.

ся асимптотически нормальной оценкой параметра θ = E 1 = 1/α c коэффициентом σ2 = D 1 = 1/α2. Функция ( ) = 1/ дифференцируема на положительной полуоси, а функция ′( ) = −1/ 2 отлична от нуля при всех > 0. Таким образом, выполнены условия теоремы суперпозиции (задача ), и, следовательно, оценка α^ = (θ* ) = ( ) является асимптотически нормальной оценкой параметра (θ) = α с коэффициентом асимптотической нормальности

̃σ2 = ( ′(E 1))2σ2(θ) = ( − 1/α−2)2 · α−2 = α2.

Задача 5.9. Пусть 1, . . . , — выборка из равномерного распределения на отрезке [0, θ] и 1. Доказать асимптотическую

√

нормальность оценки θ*, = ( + 1) параметра θ и найти коэффициент асимптотической нормальности.

Задача 5.10. Пусть 1, . . . , — выборка из распределения Бер-

нулли с параметром . Для какого параметра θ = θ( ) статистика

√

θ* = arcsin будет асимптотически нормальной оценкой? Найти коэффициент асимптотической нормальности.

√

ски нормальной оценкой параметра θ = (E 1) = arcsin E 1 = = arcsin √ с коэффициентом

σ2( ) = ( ′(E 1))2 · D 1 = 1 · (1 − ) = 1/4. 4 (1 − )

Задача 5.11. Пусть дана выборка из распределения Вейбулла с известным параметром α и с неизвестным параметром θ > 0. Является ли асимптотически нормальной оценка 1/ α неизвестного значения θ > 0?

асимптотически нормальной оценкой параметра θ с коэффициентом асимптотической нормальности σ2 = θ2.

Задача 5.12. Проверить, является ли оценка максимального правдоподобия параметра θ равномерного распределения на отрезке [0, θ] асимптотически нормальной. Если да, найти коэффициент асимптотической нормальности.

Решение

Решения всех предыдущих задач были связаны с оценками, являющимися функциями от аддитивных статистик, и опирались на

Таким образом, предельное распределение вырождено в точке 0 и не является нормальным. Значит, оценка максимального правдоподобия ( ) не является асимптотически нормальной. Заметим, что её скорость сходимости к θ выше, чем у любой асимптотически нор-

мальной оценки — даже при умножении на √ разность ^ − всё

θ θ

ещё сходится по вероятности к нулю. Нужна более сильная нормировка, чтобы предельное распределение стало собственным и отличным от нуля. На самом деле, как следует из результата задачи , подходящая нормировка имеет порядок .

Как уже было сказано, в ситуациях, когда носитель распределения выборки зависит от параметра, в частности для равномерных распределений, как правило, оценка максимального правдоподобия находится графическим методом и представляет собой функцию от порядковых статистик. В этих ситуациях следует ожидать отсутствия асимптотической нормальности оценок максимального правдоподобия. Но если нам просто нужно показать, что оценка не является асимптотически нормальной, то это можно сделать проще.

Предположим противное: пусть P(√ ( ( ) − θ) < ) для любогоR сходится к Φ0,σ2 ( ) при → ∞. В том числе это выполнено и для = 0, т. е.

что приводит к противоречию, так как при всех 1 выполняется P( ( ) < θ) = 1. Таким образом, предположение об асимптотической нормальности ( ) неверно.

Задача 5.13. Пусть элементы выборки 1, 2, . . . , имеют равномерное распределение на отрезке [ , ], где < . Проверить, является ли оценка θ* = ( ) − (1) асимптотически нормальной оценкой параметра θ = − .

Решение

Ни о какой асимптотической нормальности не может быть и речи, хотя бы потому, что θ* = ( ) − (1) < − = θ почти наверное.

Действительно, по определению слабой сходимости, если θ* — асимптотически нормальная оценка параметра θ, то функция распределения

√

( ) = P( (θ* − θ) < )

сходится к функции распределения Φ0,σ2(θ)( ) какого-то нормального закона с нулевым математическим ожиданием, причём эта сходимость имеет место для всех , поскольку функция распределения нормального закона всюду непрерывна.

Возьмём, например, = 0 и убедимся в том, что в этой точке

Итак, θ* не является асимптотически нормальной оценкой параметра θ.

Задача 5.14. Пусть 1, . . . , — выборка из смещённого показательного распределения с плотностью

Проверить, являются ли асимптотически нормальными следующие оценки параметра сдвига β:

а) (1); б) − 1?

Если да, найти коэффициент асимптотической нормальности.

Решение

а) Как и в предыдущих двух задачах, оценка (1) не является

асимптотически нормальной, так как P(√ ( (1) − β) < 0) = 0 при всех и не сходится к Φ0,σ2(β)(0) = 1/2.

б) Из решения задачи следует, что случайные величины −β,= 1, . . . , , имеют показательное распределение с параметром 1. Значит, E 1 = β + 1 и D 1 = 1. Тогда по центральной предельной

где η имеет нормальное распределение с параметрами 0 и D 1 = 1. Следовательно, оценка − 1 является асимптотически нормальной оценкой параметра β с коэффициентом асимптотической нормальности σ2(β) = 1.

Задача 5.15. Пусть 1, . . . , — выборка из равномерного распределения на отрезке [0, 2θ]. Доказать, что выборочная медиана ζ* — асимптотически нормальная оценка параметра θ. Найти коэффициент асимптотической нормальности.

Решение

Пусть сначала выборка имеет нечётный объём = 2 − 1. Тогда ζ* = ( ). Исследуем асимптотическую нормальность по определе-

нию, т. е. найдём предельное распределение для последовательности √ ( ( ) − θ).

Для любых R и 1 введём новые независимые случайные

величины ξ = I( < θ + /√ ), = 1, . . . , . Обозначим их сумму

через . Заметим, что — это число элементов выборки, которые попали левее θ + /√ и

√ √

P( ( ( ) − θ) < ) = P( ( ) < θ + / ) = P( ).

Именно к этой сумме независимых случайных величин из распределения Бернулли мы применим центральную предельную теорему. Заметим, что