Математическая статистика. Учебное пособие

Это означает, что ни оценка максимального правдоподобия ^ =

θ

= ( ), ни какая-либо другая оценка параметра θ не могут быть

-эффективными. Это, однако, не является недостатком. Легко проверить, что среднеквадратическое отклонение оценки ( ) от параметра θ убывает с ростом на порядок быстрее, чем допускает неравенство Рао — Крамера для регулярных семейств распределений (см. задачу ). Такие оценки (построение которых возможно лишь при нарушении условий регулярности) иногда называют супер-

эффективными.

Задача 9.11. Пусть 1, . . . , — выборка из нормального распределения со средним и единичной дисперсией. Улучшить оценку* = 1 усреднением при фиксированном значении достаточной статистики . Найти распределение, математическое ожидание, смещение и дисперсию улучшенной оценки. Является ли улучшенная оценка эффективной?

E( 1 | ) = .

Так как эта оценка является несмещённой, полной и достаточной (см. задачу ), то она является эффективной. Как известно (задача ), она имеет нормальное распределение с параметрами и σ2/ .

Задача 9.12. Пусть 1, . . . , — выборка из нормального распределения с параметрами и σ2, где R, σ > 0. Проверить, является ли -эффективной несмещённая оценка * = параметра .

Решение

Найдём информацию Фишера относительно параметра (считая, что имеется один неизвестный параметр ). Выпишем плотность распределения и её логарифм:

Найдя второй момент этого выражения при = 1, получим информацию Фишера

Сравнивая левую и правую части в неравенстве Рао — Крамера, получаем равенство

Итак, оценка * = является -эффективной оценкой.

Задача 9.13. Найти эффективную несмещённую оценку для параметра α показательного распределения по выборке объёма 2.

Решение

Мы будем использовать полную и достаточную статистику (читатель должен был убедиться в этом, решив задачу ). Усредним

Здесь мы воспользовались результатом задачи .

Задача 9.14. Пусть 1, . . . , — выборка из показательного распределения с параметром α, 2. Будет ли -эффективной оценка

α* = − 1?

Решение

Проверим регулярность этого семейства. Плотность этого распределения имеет вид

Условие (RR) проверим непосредственным вычислением (α):

Итак, информация Фишера (α) = 1/α2 существует, положительна и непрерывна по α при всех α > 0, т. е. условие (RR) выполнено.

мального правдоподобия параметра α:

Следовательно, α* — несмещённая оценка:

Eα* = − 1 E(1/ ) = α.

Итак, оценка α* принадлежит классу 0. Информацию Фишера относительно параметра α мы вычислили: (α) = 1/α2. Найдём второй момент и дисперсию оценки α* . Так как сумма независимых случайных величин, имеющих показательное распределение с параметром α, имеет гамма-распределение с параметрами α и , то

Подставив дисперсию и информацию Фишера в неравенство Рао — Крамера, получим, что при любом 2 есть строгое неравенство

фективной оценки в данном классе никакая другая оценка не может быть -эффективной, иначе мы бы имели две различных несмещённых эффективных оценки. А это, в свою очередь, означает, что для α вообще не существует -эффективных несмещённых оценок. Такой же факт имел место, как мы видели, и для равномерного распределения, но здесь ситуация качественно иная, так как параметрическое семейство распределений является регулярным.

Ψ (α) = α −α .

Из этого представления функции правдоподобия видно, что -эффек- тивной оценкой для параметра α является оценка , но эта оценка

лежит в очень «плохом» классе оценок со смещением (α) = 1 −α,

α

которое может принимать сколь угодно большие значения; более того, эта оценка не является даже состоятельной оценкой параметра α.

Задача 9.15. Пусть 1, . . . , — выборка из смещённого показательного распределения с плотностью

ной и достаточной, а значит, и эффективной в классе со смещением,

Задача 9.16. Пусть 1, . . . , — выборка из распределения Пуассона с параметром λ. В качестве оценки параметра θ = −λ = = P( 1 = 0) рассматривается θ* = I( 1 = 0). Вычислить смещение(θ) = Eθ* − θ этой оценки и построить эффективную оценку в классе оценок со смещением (θ) усреднением по полной и достаточной для параметра θ статистике.

Решение

Смещение оценки θ* , очевидно, равно нулю:

(θ) = EI( 1 = 0) − P( 1 = 0) = 0.

Статистика является полной и достаточной (см. задачи

и). Заметим, что θ* принимает значения 0 и 1. Поэтому

E(θ* | = ) = (1 − 1/ ) .

Следовательно, оценка θ** = (1 − 1/ ) эффективна в классе несмещённых оценок.

Задача 9.17. Пусть 1, . . . , — выборка из биномиального распределения с параметрами 5 и , где 0 < < 1. Проверить, выполнены ли условия неравенства Рао — Крамера, и доказать, что оценка

* = + 1 неизвестного параметра эффективна в некотором

5

классе. В каком именно?

Решение

Для биномиального распределения плотность относительно считающей меры (она же вероятность попасть в точку ) имеет вид

( ) = P( 1 = ) = 5 (1 − )5− при = 0, 1, 2, 3, 4, 5.

Теперь найдём E(ζ* − )2.

Распределение Коши симметрично относительно . Значит, является медианой распределения Коши. Тогда, как показано в задаче , выборочная медиана ζ* является асимптотически нормальной оценкой для параметра с коэффициентом асимптотической нормальности (2 ( ))−2 = π2/4, т. е. √ (ζ* − ) η при → ∞, где η имеет нормальное распределение с параметрами 0 и π2/4. Тогда(ζ* − )2 η2 при → ∞ по теореме . Далее воспользуемся следующим вариантом леммы Фату: если последовательность неотрицательных случайных величин {ξ } 1 слабо сходится к случайной величине ξ, то

Eξ lim inf Eξ .

→∞