Математическая статистика. Учебное пособие

Здесь через η обозначена стандартная нормальная случайная величина.

Таким образом, √ ( ( ) − θ) θη, т. е. оценка ( ) является асимптотически нормальной с коэффициентом θ2.

Заметим, что распределение случайных величин ξ зависит от , а значит, необходимо ссылаться на центральную предельную теорему для схемы серий или же самостоятельно заново доказать с помощью характеристических функций центральную предельную теорему для данной (весьма частной) ситуации (ξ имеют распреде-

ление B , → при → ∞).

Обсудим теперь случай чётного объёма выборки = 2 , в кото-

Следуя схеме, приведённой выше, легко показать, что и верхняя, и нижняя оценки (и, следовательно, исходная вероятность) сходятся

Задача 5.16. Пусть 1, . . . , — выборка из распределения , имеющего плотность ( ), непрерывную в окрестности истинной медианы θ ( (θ) = 1/2). Доказать, что выборочная медиана ζ* — асимптотически нормальная оценка параметра θ. Найти коэффициент асимптотической нормальности.

Пусть = 2 − 1. Тогда ζ* = ( ). Для всех R и 1 определим независимые случайные величины ξ = I( < θ + /√ ),

= 1, . . . , , = ξ1 + . . . + ξ . Применяя формулу Тейлора с остаточным членом в форме Пеано, получаем

ЗАДАЧИ ДЛЯ САМОСТОЯТЕЛЬНОГО РЕШЕНИЯ

Задача 5.17. Пусть θ* — асимптотически нормальная оценка для θ. Будет ли |θ*| асимптотически нормальной оценкой для |θ|?

Задача 5.18. Пусть 1, . . . , — выборка со средним E 1 = и дисперсией D 1 = σ2 > 0. Пусть функция ( ) дважды непрерывно дифференцируема в точке = и ′( ) = 0.

а) Показать, что последовательность √ ( ( ) − ( )) сходится к нулю по вероятности при → ∞.

б) Найти предельное при → ∞ распределение последовательности ( ( ) − ( )).

Задача 5.19. Пусть 1, . . . , — выборка из нормального распределения с параметрами и σ2, причём значение параметра известно. Является ли асимптотически нормальной для параметра σ оценка σ* = √π/2 · | − |?

Задача 5.20. Пусть 1, . . . , 2 — выборка объёма 2 из нормального распределения. Является ли оценка

1 ∑( 2 − 2 −1)2

2

=1

асимптотически нормальной оценкой неизвестной дисперсии σ2?

Задача 5.21. Пусть 1, . . . , — выборка из равномерного распределения на отрезке [0, θ]. Является ли статистика +1 ( ) асимптотически нормальной оценкой параметра θ?

Задача 5.22. Пусть 1, . . . , — выборка из равномерного распределения на отрезке [θ/2, θ]. Показать, что статистика ln(4 /3) является асимптотически нормальной оценкой параметра τ = ln θ. Найти коэффициент асимптотической нормальности.

Задача 5.23. Пусть 1, . . . , — выборка из равномерного распределения на отрезке [0, ]. Для какого параметра θ = θ( ) статистика θ* = ln будет асимптотически нормальной оценкой? Найти коэффициент асимптотической нормальности.

Задача 5.24. Пусть 1, . . . , — выборка из показательного распределения с параметром α. Доказать, что для любого натурального

√

статистика ! является асимптотически нормальной оценкой параметра α. Найти коэффициент асимптотической нормальности.

Задача 5.25. Пусть 1, . . . , — выборка из показательного распределения с параметром α. Показать, что статистика − ln является асимптотически нормальной оценкой параметра τ = ln α. Найти коэффициент асимптотической нормальности.

Задача 5.26. Пусть 1, . . . , — выборка из показательного распределения с параметром α. Для какого параметра θ = θ(α) стати-

стика θ* = − 2 будет асимптотически нормальной оценкой? Найти коэффициент асимптотической нормальности.

Задача 5.27. Пусть 1, . . . , — выборка из двухпараметрического показательного распределения с плотностью

Если да, найти коэффициенты асимптотической нормальности.

Задача 5.28. Пусть дана выборка из распределения Парето с параметрами β и θ. Являются ли асимптотически нормальными оценки

максимального правдоподобия β* = 1/(ln − ln (1)) и θ* = (1) параметров β и θ? Если да, найти коэффициенты асимптотической

нормальности.

Задача 5.29. Пусть 1, . . . , — выборка из распределения Бернулли с параметром . Показать, что τ* = arcsin(2 − 1) является асимптотически нормальной оценкой параметра τ = arcsin(2 − 1). Найти коэффициент асимптотической нормальности.

Задача 5.30. Пусть 1, . . . , — выборка из биномиального распределения с параметрами и . Для какого параметра θ = θ( , )

статистика θ* = будет асимптотически нормальной оценкой? Найти коэффициент асимптотической нормальности.

эффициент асимптотической нормальности.

Задача 5.32. Пусть 1, . . . , — выборка из распределения Пуассона с параметром λ, λ ̸= 1. Для какого параметра θ = θ(λ)

статистика θ* = − будет асимптотически нормальной оценкой? Найти коэффициент асимптотической нормальности.

Задача 5.33. Пусть 1, . . . , — выборка из геометрического распределения с параметром . Доказать, что статистика 1/(1 + ) является асимптотически нормальной оценкой параметра . Найти коэффициент асимптотической нормальности.

Задача 5.34. Пусть 1, . . . , — выборка из распределения со

средним E 1 = 1 и дисперсией D 1 = σ2 > 0; обозначим = 1+ + . . . + . Найти слабый предел при → ∞ последовательности

106 Глава 5. Асимптотическая нормальность

распределений случайных величин

√

ψ = 3/ 5/2 − .

Задача 5.35. Доказать, что для случайной величины χ2 , имею-

щей распределение хи-квадрат с степенями свободы, справедлива

√

аппроксимация Фишера: распределение разности √2χ2 − 2 слабо сходится к стандартному нормальному закону при → ∞.

Задача 5.36. Пусть 1, . . . , — выборка с функцией распределения . Доказать, что при любом фиксированном таком, что 0 < ( ) < 1, значение эмпирической функции распределения*( ) является асимптотически нормальной оценкой значения общей функции распределения выборки ( ). Найти коэффициент асимптотической нормальности.

Задача 5.37. Пусть 1, . . . , — выборка с абсолютно непрерывной функцией распределения , причём плотность ( ) всюду непрерывно дифференцируема. Доказать, что выборочная квантиль ζ*δ уровня δ (0, 1) является асимптотически нормальной оценкой истинной квантили ζδ = −1(δ), и найти коэффициент асимптотической нормальности.

Г Л А В А 6

Байесовские оценки

Пусть { θ, θ Θ} — некоторое параметрическое семейство распределений. Пусть выполнено условие доминирования относительно некоторой меры µ на R, т. е. это параметрическое семейство состоит из распределений, абсолютно непрерывных относительно µ. Как обычно, обозначим через θ плотность распределения θ относительно меры µ.

Байесовская постановка в задачах точечного оценивания принципиально отличается от классической постановки, в которой параметр θ неслучаен. В байесовском подходе параметр θ является случайной величиной с известным распределением. В этой ситуации оценки строятся специальным образом.

Пусть параметр θ является случайной величиной с плотностью( ) относительно некоторой меры λ.

Байесовской оценкой параметра θ, построенной по выборке

1, . . . , , называется оценка

Z

θ* = E(θ | ) = ( | 1, . . . , ) λ( ),

Θ

где апостериорная плотность ( | 1, . . . , ) параметра θ вычисляется по формуле

а Ψ ( ) — функция правдоподобия, вычисленная в точке θ = .

ПРИМЕРЫ РЕШЕНИЯ ЗАДАЧ

Задача 6.1. Пусть дана выборка из нормального распределения со средним и единичной дисперсией, причём параметр имеет нормальное распределение с нулевым средним и известной дисперсией σ2. Построить байесовскую оценку параметра .

Решение

Так как

то плотность ( | 1, . . . , ) пропорциональна (как функция от ) произведению ( )Ψ ( ) или, что то же, пропорциональна

следует, что плотность ( | 1, . . . , ) отвечает нормальному распределению со средним σ2/(1 + σ2) и дисперсией σ2/(1 + σ2). Поэтому искомая оценка имеет вид

Задача 6.2. Пусть дана выборка из показательного распределения с параметром α, причём α имеет показательное распределение с параметром β. Построить байесовскую оценку параметра α.

Решение

Функция правдоподобия имеет вид (см. задачу )

∑

Ψ ( ) = − =1 I( > 0).

Априорная плотность параметра относительно одномерной меры Лебега имеет вид

( ) = β −β I( > 0).

Апостериорная плотность параметра вычисляется следующим образом:

Вычислим знаменатель, получая под интегралом плотность гаммараспределения:

=+ 1 .

β+

Задача 6.3. Пусть дана выборка из равномерного распределения на отрезке [0, θ], причём θ принимает значения 1 и 2 с равными вероятностями. Построить байесовскую оценку параметра θ.

Ψ ( ) = − · I( > ( )).

Априорная плотность параметра относительно считающей меры λ, определённой на множестве {1, 2}, имеет вид

Заметим, что определение байесовской оценки можно записать в следующем виде:

* = E(θΨ (θ)), θ EΨ (θ)