Математическая статистика. Учебное пособие
.pdf
|
|
Глава 9. Эффективность и -эффективность |
171 |
|||||||||||||
|
Решение |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Оценку максимального правдоподобия мы нашли в задаче |
: |
||||||||||||||
|
|
|
|
|
|
^θ = |
1 − I( = 3). |
|
|
|||||||
|
|
|
|
|
|
|
|
|
|
3 |
|
|
|
|
|
|
|
Так как плотность θ( ) может быть записана в виде |
|
|
|||||||||||||
|
|
|
( ) = |
2 , |
|
|
если = 2, |
|
|
|||||||
|
|
|
θ |
|
|
|
|
θ, |
|
|
|
если = 1, |
|
|
||
|
|
|
|
|
|
|
θ |
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 − 3θ, |
|
|
если = 3, |
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
регулярности |
|
|
|
для этого семейства выпол- |
|||||||
то, очевидно, условия |
|
|
|
|
|
|
( ) |
|
|
|
||||||
нены. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Вычислим информацию Фишера: |
|
|
|
|
|
||||||||||
( ) = |
E |
∂ |
( ) |
= |
|
|
|
|
|
|
|
|||||
θ |
|
(∂θ ln θ |
|
|
) |
2 |
|
|
|
|
|
|
|
|
|
|
|
2 |
1 |
|
∂ |
|
|
2 |
|
∂ |
|
2 |
|||||
|
|
θ( |
∂ |
|
|
|
|
|
|
|
|
− 3θ)) |
|
|||
|
= |
∂θ ln θ) |
+ 2θ(∂θ ln 2θ) |
|
+ (1 − 3θ)(∂θ ln(1 |
= |
||||||||||
|
|
|
3 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
= |
θ(1 − 3θ). |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Дисперсия несмещённой (проверьте!) оценки θ равна Dθ = |
|||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
^ |
^ |
|
= 3θ(1 − 3θ)/9 . Таким образом, в неравенстве Рао — Крамера до-
стигается равенство. Поэтому оценка ^ является -эффективной и,
θ
следовательно, эффективной.
Задача 9.20. Проверить, является ли -эффективной: а) оценка максимального правдоподобия; б) оценка 02
дисперсии σ2 нормального распределения с нулевым средним.
Решение |
|
|
|
|
|
|
|
|
|
|
|
|
|
||
а) Воспользуемся критерием -эффективности (теорема |
). Функ- |
||||||||||||||
ция правдоподобия равна (см. задачу |
) |
|
|
|
|
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
− |
2 |
/2σ2 |
|
|
|
|
|
ln(2πσ2)/2 |
|
Ψ (σ |
2 |
) = (2πσ |
2 |
)− |
/2 |
= − |
2 |
/2σ2 |
− |
. |
|||||
|
|
|
|
∑ |
|
|
|
|
|
||||||
|
|
|
|
|
|
|
=1 |
|
|
|
|
|
|
|
|
172 |
Глава 9. Эффективность и -эффективность |
Из этого представления видно, что оценка 2 является -эффектив- ной. Её смещение равно нулю:
E 2 = 1 |
|
E 2 = E 12 = σ2. |
|
∑ |
|
|
=1 |
|
Значит, в силу теоремы |
она является оценкой максимального |
|
правдоподобия. |
|
|
Установить, что именно 2 является оценкой максимального правдоподобия, можно и привычным способом. Продифференцируем логарифмическую функцию правдоподобия:
∂ (σ2) |
∂ |
− ln(2πσ2)/2) = 2/2σ4 − /2σ2. |
∂σ2 |
= ∂σ2 ( − 2/2σ2 |
|
Отсюда элементарно получаем, что σ^2 = 2. |
||
б) Напомним (см. задачу |
), что оценка 02 имеет нулевое смеще- |
|
ние. Допустим, что она -эффективна. Тогда она является единствен- ной несмещённой эффективной оценкой, а значит, совпадает с 2. Но это не так, следовательно, предположение о -эффективности02 неверно.
Задача 9.21. Пусть 1, . . . , 3 — выборка объёма 3 из нормального распределения со средним и единичной дисперсией. Являются ли -эффективными (эффективными) следующие оценки параметра :
а) 1 |
2 |
; |
б) 1 |
|
3 ; |
в) 1 |
|
? |
|||
|
|
∑ |
|
|
|
∑ |
|
|
|
∑ |
|
|
|
|
|
|
|
|
|
||||
|
= +1 |
|
=1 |
|
|
=1 |
|
||||
|
|
|
|
|
|
|
|
|
|||
Решение
в) Рассмотрим выборочное среднее. Среднеквадратическое отклонение этой несмещённой оценки равно
E( − )2 = D = σ2 , 3
Глава 9. Эффективность и -эффективность |
173 |
тогда как среднеквадратическое отклонение нашей оценки равно
E( |
1 |
− ) |
2 |
1 |
= |
σ2 |
σ2 |
|
=1 |
= D( |
=1 ) |
> |
3 = E( − )2. |
||||
|
∑ |
|
|
∑ |
|
|
|
|
Обе оценки несмещённые, следовательно, оценка |
1 ∑ не мо- |
|||||||
=1
жет быть лучшей в среднеквадратическом смысле в классе 0. Таким образом, она не является эффективной и тем более -эффективной.
Отметим, что в этой задаче единственной -эффективной, а значит, и эффективной, является оценка максимального правдоподобия
1 |
3 |
= |
(см. задачу ). |
|
∑ |
3 |
|
|
=1 |
ЗАДАЧИ ДЛЯ САМОСТОЯТЕЛЬНОГО РЕШЕНИЯ
Задача 9.22. Пусть 1, . . . , — выборка из двухпараметрического показательного распределения с плотностью
α−1 −( −β)/α, |
если β, |
α,β( ) = {0, |
если < β, |
где α > 0, β R. Найти эффективную несмещённую оценку для: а) параметра β, если значение α известно; б) параметра α, если значение β известно; в) двумерного параметра θ = (α, β).
Задача 9.23. Пусть 1, . . . , — выборка из распределения Парето с параметрами β и θ, причём значение β известно. Найти эффективную несмещённую оценку параметра θ.
Задача 9.24. Пусть 1, . . . , — выборка из распределения Вейбулла с параметрами α и θ, причём значение α известно. Проверить, что α является полной и достаточной статистикой для параметра θ. Построить эффективную оценку параметра τ(θ) = 1/θ.
174 |
Глава 9. Эффективность и -эффективность |
Задача 9.25. Распределение Кэптейна определяется плотностью
( ) = ′( ) −(θ− ( ))2/2σ2 , |
|
θ |
σ√2π |
где ( ) — неубывающая дифференцируемая функция. Найти эффективную несмещённую оценку для:
а) параметра θ, если значение σ известно; б) параметра σ2, если значение θ известно.
Задача 9.26. Пусть 1, . . . , — выборка из распределения с плотностью θ θ−1 при [0, 1], где θ > 0. Найти эффективную несмещённую оценку параметра τ(θ) = 1/θ.
Задача 9.27. Пусть 1, . . . , — выборка из биномиального распределения с параметрами и при известном . Найти смещение и дисперсию оценки:
а) * = 1; |
б) * = 1/ |
неизвестного параметра . Улучшить эту оценку усреднением при фиксированном значении достаточной статистики . Найти смещение и дисперсию улучшенной оценки. Является ли улучшенная оценка эффективной?
Задача 9.28. Пусть 1, . . . , , 2, — выборка из геометрического распределения с параметром (0, 1).
а) Доказать, что статистика = имеет распределение
|
|
|
, |
= 0, 1, . . . |
P( = ) = + −1 |
(1 − ) |
|||
б) Доказать, что статистика = является достаточной и полной статистикой.
в) Найти смещение оценки * = I( 1 = 0). Используя пп. а и б, построить эффективную оценку в классе с таким смещением.
Глава 9. Эффективность и -эффективность |
175 |
Задача 9.29. Пусть 1, . . . , — выборка из равномерного распределения на конечном множестве {1, . . . , θ}, где θ — целый положительный параметр. Доказать, что статистика
+1 − ( ( ) − 1) +1 ( )
( ) − ( ( ) − 1)
является эффективной оценкой параметра θ в классе несмещённых оценок.
Задача 9.30. Объяснить на качественном уровне присутствие выражения (1 + ′(θ))2 в общей форме неравенства Рао — Крамера. В процессе этого:
а) объяснить, почему появляется ′(·), а не (·); б) объяснить, почему граница должна обращаться в нуль, когда
′(·) = −1; в) объяснить, почему упомянутое выше выражение возводится в
квадрат, а не в первую степень.
Задача 9.31. Пусть 1, . . . , — выборка из распределения θ, θ Θ. Доказать, что если оценка θ* является -эффективной оценкой для θ в классе оценок со смещением (θ) = θ/ , то она состоятельна. Построить эффективную оценку в классе несмещённых оценок.
Задача 9.32. Выполнены ли условия регулярности для следующих семейств распределений, зависящих от параметра θ:
а) нормальное со средним θ и дисперсией θ2, θ > 0; б) равномерное на отрезке [θ, θ + 1]; в) равномерное на отрезке [−θ, 0], θ > 0; г) с плотностью θ −θ при > 0; д) с плотностью θ+ при < −θ;
е) биномиальное с параметрами 5 и θ, 0 < θ < 1; ж) Пуассона с параметром θ, θ > 0;
176 |
Глава 9. Эффективность и -эффективность |
з) с функцией распределения θ( ) = 1 − θ/ при θ, θ > 1; и) с плотностью 4(θ − )3/θ4 на отрезке [0, θ]?
Задача 9.33. Пусть 1, . . . , — выборка из распределения, являющегося смесью двух нормальных распределений, а именно, 92% составляет нормальное распределение со средним и дисперсией 1, 8% составляет нормальное распределение с тем же средним и дисперсией 16. Является ли выборочное среднее -эффективной оценкой параметра ?
Задача 9.34. Пусть 1, . . . , — выборка из двухпараметрического показательного распределения с плотностью
α−1 −( −β)/α, |
если β, |
α,β( ) = {0, |
если < β, |
где α > 0, β R. Пусть β известно. Является ли -эффективной оценка метода моментов для параметра α? Эффективной?
Задача 9.35. Пусть 1, . . . , — выборка из распределения с плотностью из задачи . Пусть α известно. Является ли -эффек- тивной оценка метода моментов для параметра β? Эффективной? Является ли -эффективной оценка максимального правдоподобия для параметра β? Эффективной?
Задача 9.36. Пусть 1, . . . , — выборка из равномерного распределения на отрезке [0, θ]. Будет ли -эффективной оценка
θ* = + 1 ( )?
Будет ли эта оценка эффективной?
Задача 9.37. Пусть 1, . . . , — выборка из равномерного распределения на отрезке [θ, θ + 1]. Будет ли -эффективной оценка
θ* = (1) − +1 1?
Глава 9. Эффективность и -эффективность |
177 |
Задача 9.38. Пусть 1, . . . , — выборка из логистического распределения, плотность которого имеет вид
|
θ− |
R. |
θ( ) = |
(1 + θ− )2 , |
а) Проверить, что — несмещённая оценка параметра θ.
б) Найти среднеквадратическое отклонение оценки от параметра θ.
Указание: использовать равенство
∞ |
|
|
π2 |
|
Z0 |
|
= |
|
. |
1 + |
12 |
|||
в) Найти информацию Фишера.
г) Проверить -эффективность оценки .
Задача 9.39. Пусть 1, . . . , — выборка из распределения с плотностью θ θ−1 при [0, 1], где θ > 0. Доказать, что оценка −ln является -эффективной для параметра τ = 1/θ в классе несмещённых оценок.
Задача 9.40. Пусть 1, . . . , — выборка из распределения Вейбулла с параметрами α и θ, причём значение α известно. Доказать, что оценка α является -эффективной для параметра τ = 1/θ в классе несмещённых оценок.
Задача 9.41. Пусть — распределение с нулевым математическим ожиданием и плотностью ( ). Пусть ( ) — дифференцируемая чётная функция. Рассматривается распределение θ с плотностьюθ( ) = ( −θ), θ R. Доказать, что выборочная медиана не может быть -эффективной оценкой параметра сдвига θ.
178 |
Глава 9. Эффективность и -эффективность |
Задача 9.42. Проверить, является ли -эффективной оценка максимального правдоподобия параметра биномиального распределения с параметрами и , если значение известно.
Задача 9.43. Пусть 1, . . . , — выборка из распределения Пуассона с параметром λ. В качестве оценки параметра θ = −λ рассматривается статистика θ* = I( = 0). Вычислить смещение
(θ) = Eθ* −θ этой оценки и проверить, является ли она -эффективной.
Задача 9.44. Пусть 1, . . . , — выборка из геометрического распределения с параметром . Является ли -эффективной оценка τ* = 1 + параметра τ = 1/ ?
Задача 9.45. Семейство распределений {θ, θ Θ} называется экспоненциальным, если функция правдоподобия Ψ (θ) допускает представление
Ψ (θ) = (θ) ( 1,..., )+ (θ) ( 1, . . . , ).
Являются ли экспоненциальными семейства:
а) нормальных распределений с параметрами и σ2, если значение σ2 известно;
б) нормальных распределений с параметрами и σ2, если значение известно;
в) гамма-распределений с параметрами α и λ, если значение λ известно;
г) гамма-распределений с параметрами α и λ, если значение α известно;
д) распределений Бернулли с параметром ; е) распределений Пуассона с параметром λ;
ж) равномерных распределений на отрезке [ , ]?
Г Л А В А 10
Доверительные интервалы
Пусть {θ, θ Θ} — некоторое параметрическое семейство распределений, θ R, и 1, . . . , — выборка из распределения θ.
Пусть θ− = θ−( 1, . . . , ) и θ+ = θ+( 1, . . . , ) — некоторые статистики. Случайный интервал (θ−, θ+) называется доверительным
интервалом уровня 1 − ε, если для всех θ Θ
P(θ (θ−, θ+)) 1 − ε.
Случайный интервал (θ−, θ+) называется точным доверительным интервалом уровня 1 − ε, если для всех θ Θ
P(θ (θ−, θ+)) = 1 − ε.
Для построения точного доверительного интервала обычно используется следующий подход. Выбирается функция ( 1, . . . , , θ) такая, что распределение P( ( 1, . . . , , θ) ·) не зависит от параметра θ (распределение свободно от параметра θ). Как правило, функция представляет из себя подходящее преобразование какойнибудь (желательно эффективной) оценки параметра θ. Функция должна быть монотонной и обратимой функцией аргумента θ при любых фиксированных значениях выборки 1, . . . , . Пусть для определённости функция возрастает. Обозначим через ( 1, . . . , , ) функцию, обратную к функции ( 1, . . . , , θ) по параметру θ. Тогда доверительный интервал уровня 1 − ε имеет вид
( ( 1, . . . , , −), ( 1, . . . , , +)),
180 |
Глава 10. Доверительные интервалы |
где числа − и + находятся (вообще говоря, неоднозначно) из уравнения
P( − < ( 1, . . . , , θ) < +) = 1 − ε.
Случайный интервал (θ−, θ+) называется асимптотическим доверительным интервалом уровня 1 − ε, если при всех θ
lim inf P(θ |
|
(θ−, θ+)) |
|
1 |
− |
ε. |
|
|
→∞ |
|
|
|
|||
|
|
|
|
|
|
|
|
Случайный интервал (θ−, θ+) называется асимптотически точным доверительным интервалом уровня 1 − ε, если при всех θ
lim P(θ |
|
(θ−, θ+)) = 1 |
− |
ε. |
|
|
→∞ |
|
|
||
|
|
|
|
|
|
Асимптотические доверительные интервалы строятся таким же способом, при этом возникают квантили распределения, являющегося предельным для распределения при → ∞.
ПРИМЕРЫ РЕШЕНИЯ ЗАДАЧ
Задача 10.1. С помощью статистики 1 по выборке объёма 1 из равномерного распределения на отрезке [0, θ] построить точный доверительный интервал уровня 1 − ε для параметра θ.
Решение
В силу свойств равномерного распределения случайная величина ( , θ) = 1/θ имеет равномерное на отрезке [0, 1] распределение.
Найдём ψ (0, 1) такое, что P(ψ < < 1) = 1 − ε. Имеем 1 − ψ = 1 − ε и, соответственно, ψ = ε.
Искомый доверительный интервал равен ( 1, 1/ε).
Задача 10.2. Пусть 1, . . . , — выборка из нормального распределения со средним и дисперсией σ2, причём значение σ2 известно. Построить точный доверительный интервал для .
