Математическая статистика. Учебное пособие
.pdf
Глава 10. Доверительные интервалы |
181 |
Решение
Мы знаем (см. задачу ), что как линейная комбинации независимых нормальных случайных величин имеет нормальное распределение, причём
E = , D = σ2/ .
Центрируя и нормируя эту случайную величину, положим
( , , σ) = √ − .
σ
Статистика имеет, очевидно, стандартное нормальное распределение.
Пусть τ1−ε/2 — квантиль стандартного нормального распределения уровня 1 − ε/2, т. е. Φ(τ1−ε/2) = 1 − ε/2. Тогда
P(−τ1−ε/2 < √ − < τ1−ε/2) = 1 − ε.
σ
Решая линейные неравенства, имеем
P(−τ1−ε/2 < √ − < τ1−ε/2) =
σ
|
|
|
σ |
|
|
|
σ |
|
||||
|
|
|
|
|||||||||
= P( − |
√ |
|
τ1−ε/2 |
< < + |
√ |
|
τ1−ε/2) = 1 |
− ε. |
||||
|
|
|||||||||||
Итак, искомый доверительный интервал имеет вид
( − √ |
τ1−ε/2 |
, + √ τ1−ε/2) |
, |
||||||
|
|
|
σ |
|
|
|
|
σ |
|
где τ1−ε/2 — квантиль уровня 1 − ε/2 стандартного нормального распределения.
Здесь мы выбрали числа − = −τ1−ε/2, + = τ1−ε/2 равными по модулю, пользуясь симметричностью стандартного нормального распределения. Проверьте, что выбор именно такой пары чисел из
182 |
Глава 10. Доверительные интервалы |
всех возможных решений уравнения P( − < < +) = 1 − ε обеспечивает минимальную длину точного доверительного интервала.
Задача 10.3. По выборке из нормального распределения со средним θ > 0 и дисперсией θ2 построить точный доверительный интервал для параметра θ уровня доверия 1 − ε.
Решение
Величина √ | |/θ распределена как |ξ|, где ξ имеет нормальное распределение со средним √ и единичной дисперсией. Пусть
τδ — квантиль уровня δ распределения случайной величины |ξ|, т. е. |
|
P(|ξ| < τδ) = δ. Тогда искомый доверительный интервал равен |
|
√ |
√ |
( | |/τ1−ε/2, |
| |/τε/2). |
Задача 10.4. Пусть 1, . . . , — выборка из равномерного распределения на отрезке [0, θ]. С помощью статистики ( ) построить точный доверительный интервал уровня 1 − ε для параметра θ.
Решение
Пусть = /θ, = 1, . . . , , — элементы выборки объёма из равномерного распределения на отрезке [0, 1]. Распределение
случайной величины ( ) = ( )/θ не зависит от θ. Очевидно, что случайная величина ( ) почти наверное меньше 1, при этом близка к 1 при больших . Представляется естественным «зажать» её узким интервалом, правый конец которого равен единице.
Найдём ψ (0, 1) такое, что P(ψ < ( ) < 1) = 1 − ε. Функция распределения максимальной порядковой статистики ( ) рав-
на |
( ) = |
для |
0 < |
< 1 (см. задачу |
). Поэтому 1 |
−ψ |
= 1 |
−ε |
||
и, соответственно, ψ = |
|
|
|
|
|
|||||
√ε. |
|
|
|
|
||||||
Доверительный интервал для θ получим из соотношений
1 − ε = P(ψ < ( )/θ < 1) = P( ( ) < θ < ( )/ψ).
√
Искомый доверительный интервал равен ( ( ), ( )/ ε).
Читателю предлагается проверить, что выбор именно такой пары
√
чисел ( − = ε и + = 1) из всех возможных решений уравнения P( − < ( )/θ < +) = 1 − ε обеспечивает минимальную длину
Глава 10. Доверительные интервалы |
183 |
точного доверительного интервала.
Задача 10.5. С помощью статистики построить асимптотический доверительный интервал уровня 1 − ε для параметра λ распределения Пуассона.
Решение
Согласно центральной предельной теореме
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
( , λ) = |
1 + . . . + − E 1 |
|
√ |
|
|
− λ |
|
|
η, |
|||||
= |
|
|
||||||||||||
|
|
|
|
|
|
|
||||||||
|
√ D 1 |
|
|
|
√λ |
|
|
|||||||
где случайная величина η имеет стандартное нормальное распределение. Пусть = τ1−ε/2 — квантиль уровня 1 − ε/2 стандартного нормального распределения. По определению слабой сходимости при → ∞
P( − < √ √− λ < ) → P(− < η < ) = 1 − ε.
λ
Но разрешить неравенство под знаком вероятности относительно λ непросто: мешает корень в знаменателе. Попробуем от него избавиться. Не испортится ли сходимость, если мы заменим √λ, на-
пример, на √ , т. е. умножим функцию ( , λ) на √λ и поделим на
√
?
Воспользуемся следующим свойством слабой сходимости: если ξ сходится по вероятности к 1 и η η, то ξ · η η. Оценка λ* = состоятельна, поэтому
|
|
|
√ |
|
|
→ 1 |
при → ∞. |
|
|
|||||||||||||||
|
|
|
|
|
|
λ |
|
p |
|
|
|
|
|
|
|
|
|
|
||||||
Тогда |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
√ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
· |
|
|
|
|
|
|
√λ |
|
|
|
√ |
|
|
||||||||||
|
|
λ |
|
√ |
|
|
− λ |
= √ |
|
|
− λ |
|
|
η, |
||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||
|
|
|
|
|
|
|
||||||||||||||||||
184 Глава 10. Доверительные интервалы
где η имеет стандартное нормальное распределение. Поэтому при
= τ1−ε/2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
(− |
|
|
|
|
|
|
|
) → |
|
− |
|
− |
|
|||
|
|
|
√ |
|
|
|
|
|||||||||
P < |
√ |
|
|
− λ |
< |
|
P( |
|
< η < ) = 1 |
|
ε. |
|||||
|
|
|
|
|
|
|
|
|
|
|||||||
Разрешив неравенство под знаком вероятности относительно λ, получим
P ( − |
√ |
|
|
< λ < + |
|
√ |
|
|
) |
→ 1 − ε при |
|
||||||
|
|
|
|
√ |
|
|
→ ∞. |
||||||||||
√ |
|
||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Итак, искомый асимптотический доверительный интервал уровня 1 − ε имеет вид
√√
( − |
1−ε√ |
|
, + |
−ε√ |
|
). |
||||
|
|
τ |
/2 |
|
|
|
τ1 |
/2 |
|
|
Задача 10.6. С помощью оценки построить асимптотический доверительный интервал уровня 1 − ε для неизвестного параметрараспределения Бернулли.
Решение
По центральной предельной теореме распределение случайной величины
∑
−
=1
( , ) = √
(1 − )
√
( − ) = √
(1 − )
слабо сходится к стандартному нормальному закону, а сходится по вероятности к в силу закона больших чисел. Но наличие параметра в знаменателе дроби затрудняет решение неравенств при обращении функции по параметру. Поэтому мы заменим параметр в знаменатели дроби на состоятельную оценку для него:
|
|
|
|
|
|
− |
|
|
= |
|
|
|
|
− ) |
· |
√ |
|
|
− |
|
|
||
|
√ ( |
) |
|
|
(1 |
) |
|||||||||||||||||
|
|
|
√ ( |
) |
|
(1 |
|
||||||||||||||||
|
√ |
|
|
|
|
√ |
|
|
|
|
√ |
|
|
|
|
||||||||
|
|
|
|
|
|
|
− |
|
|
(1 |
|
|
|
||||||||||
|
(1 − ) |
|
|
|
− ) |
||||||||||||||||||
Глава 10. Доверительные интервалы |
185 |
также слабо сходится к стандартному нормальному закону. Следовательно, случайный интервал
( |
|
− |
τ1−ε/2 |
√ (1 − ) |
, + |
τ1−ε/2 |
√ (1 − ) |
) |
|
|
√ |
|
|
√ |
является асимптотическим доверительным интервалом уровня 1 − ε, если τ1−ε/2 — квантиль уровня 1 − ε/2 стандартного нормального распределения.
Задача 10.7. Пусть θ* — асимптотически нормальная оценка параметра θ с коэффициентом σ2(θ), где σ(θ) — непрерывная по θ функция. С помощью оценки θ* построить асимптотический доверительный интервал для θ уровня 1 − ε.
Решение
τ1 |
/2σ(θ*) |
τ |
/2σ(θ*) |
) |
|
Оказывается, (θ* − |
−ε√ |
, θ* + |
1−ε√ |
есть точный |
асимптотический доверительный интервал для θ уровня 1 − ε, где τ1−ε/2 есть квантиль стандартного нормального распределения уровня 1 − ε/2. Как в этом убедиться?
1. В силу того, что оценка θ* является асимптотически нормальной, она тем более является состоятельной оценкой (см. задачу ): θ* — состоятельная оценка параметра θ.
2.Используя свойство сходимости по вероятности, гласящее, что применение непрерывной функции не портит сходимость по вероятности (теорема ), получаем, что σ(θ*) — состоятельная оценка параметра σ(θ).
3.Тогда, заменяя в определении асимптотической нормально-
сти коэффициент асимптотической нормальности на состоятельную
√
оценку для него, получим, что |
|
|
|
(θ* −θ) слабо сходится к случай- |
||||||||||||
|
|
|
|
|||||||||||||
σ(θ*) |
||||||||||||||||
ной величине η со стандартным нормальным распределением. |
||||||||||||||||
Тогда верно следующее предельное соотношение: |
|
|
||||||||||||||
|
|
|
|
|
√ |
|
|
(θ* |
|
|
|
|
|
|
||
lim P( |
τ |
1−ε/2 |
< |
|
− |
θ) < τ |
1−ε/2 |
) = 1 |
− |
ε. |
||||||
|
|
|
|
|
||||||||||||
→∞ |
− |
|
σ(θ*) |
|
|
|
||||||||||
186 |
Глава 10. Доверительные интервалы |
|
4. Действуя так же, как в задаче |
, разрешаем неравенства, |
|
стоящие под знаком вероятности в вышеприведённом соотношении, и получаем, что
τ1 |
/2σ(θ*) |
τ |
/2σ(θ*) |
) |
(θ* − |
−ε√ |
, θ* + |
1−ε√ |
есть точный асимптотический доверительный интервал для θ уровня
1 − ε.
Задача 10.8. Пусть 1, . . . , — выборка из равномерного распределения на отрезке [0, θ]. Построить асимптотический доверительный интервал для θ с помощью оценки ( ).
Решение |
|
В задаче |
мы нашли предельное распределение для после- |
довательности случайных величин ( , θ) = (θ − ( ))/θ:
( , θ) = (θ − ( ))/θ ξ, |
= |
ξ E1. |
Найдём число ψ > 0 такое, что
lim P(0 < (θ − ( ))/θ < ψ) = 1 − ε.
→∞
Для этого решим уравнение (ψ) = 1−ε, где ( ) = 1− − — функция распределения показательного распределения с параметром 1. Это уравнение имеет единственное решение ψ = − ln ε.
Теперь мы можем разрешить двойное неравенство:
lim P(0 < (θ − ( ))/θ < ψ) =
→∞
= lim P( ( ) < θ < ( )/( + ln ε)) = 1 − ε.
→∞
Итак, искомый доверительный интервал имеет вид
( ( ), ( )/( + ln ε)).
Глава 10. Доверительные интервалы |
187 |
ЗАДАЧИ ДЛЯ САМОСТОЯТЕЛЬНОГО РЕШЕНИЯ
Задача 10.9. Пусть 1, . . . , — выборка из равномерного распределения на отрезке [0, θ], где θ (0, 1]. Используя неравенство Чебышёва, построить доверительный интервал для θ с помощью:
а) оценки 2 ; б) оценки ( ).
Задача 10.10. Пусть 1, . . . , — выборка из равномерного распределения на отрезке [0, θ]. Показать, что в качестве точного доверительного интервала уровня 1 − ε можно взять интервал
( ( −1), ( −1)/ψ),
где ψ находится из уравнения
ψ −1( − ( − 1)ψ) = ε.
Задача 10.11. С помощью оценки (1) построить точный доверительный интервал для параметра θ по выборке объёма из:
а) равномерного распределения на отрезке [θ, θ + 1]; б) равномерного распределения на отрезке [θ, 2θ].
Задача 10.12. С помощью оценки (1) по выборке объёма из смещённого показательного распределения с параметром сдвига β построить точный доверительный интервал для параметра β.
Задача 10.13. Пусть 1, . . . , — выборка из показательного распределения с параметром α. Построить точные доверительные интервалы для параметра α, используя статистики 1( ) = 1 и
2( ) = (1).
Задача 10.14. С помощью оценки построить асимптотический доверительный интервал уровня 1 − ε для неизвестного параметра
188 |
Глава 10. Доверительные интервалы |
биномиального распределения (значение параметра известно).
Задача 10.15. С помощью статистики построить асимптотический доверительный интервал уровня 1 − ε для параметра геометрического распределения.
Задача 10.16. Пусть 1, . . . , — выборка из распределения
θ с конечной дисперсией, E 1 = θ и D 1 = σ2(θ), где σ(θ) — непрерывная по θ функция. С помощью оценки построить асимп-
тотический доверительный интервал для θ уровня 1 − ε.
Задача 10.17. Пусть 1, . . . , — выборка из равномерного распределения на отрезке [0, θ]. С помощью асимптотически нормаль-
ных оценок θ1* = 2 и θ2* = |
|
3 2 построить асимптотические |
|||||
|
параметра |
|
уровня |
|
− ε |
и показать, |
|
доверительные интервалы для |
√ |
|
θ |
|
1 |
|
|
что второй интервал асимптотически короче первого.
Задача 10.18. Пусть 1, . . . , — выборка из показательного распределения с параметром α. С помощью асимптотически нор-
мальных оценок α1* = 1/ и α2* |
= |
2/ 2 построить асимптоти- |
|||||
|
для параметра |
|
уровня |
|
− ε |
и |
|
ческие доверительные интервалы |
√ |
|
α |
|
1 |
|
|
показать, что первый интервал асимптотически короче второго.
Задача 10.19. Пусть 1, . . . , — выборка из смещённого показательного распределения с параметром сдвига β. С помощью статистики построить асимптотический доверительный интервал для параметра β уровня 1 − ε. Сравнить его с точным доверительным интервалом из задачи . Какой из интервалов следует предпочесть?
Задача 10.20. Пусть дана выборка из распределения Парето с параметрами β и θ. Построить асимптотический доверительный интервал для β.
Глава 10. Доверительные интервалы |
189 |
Задача 10.21. Пусть 1, . . . , — выборка из распределения Коши с параметром сдвига . Построить асимптотический доверительный интервал для , используя выборочную медиану.
Г Л А В А 11
Доверительное оценивание параметров нормального распределения
В предыдущей главе мы построили доверительный интервал заданного уровня для математического ожидания нормального распределения в случае, когда дисперсия известна (задача ). Чтобы построить доверительный интервал для дисперсии при известном среднем, а также доверительные интервалы для параметров нормального распределения в случае, когда оба параметра неизвестны, необходимо познакомиться с двумя важнейшими статистическими распределениями и их связью с нормальными выборками.
Распределение суммы квадратов независимых случайных величин со стандартным нормальным распределением называется распределением хи-квадрат (или χ2) с степенями свободы,
Обозначим через и функцию распределения и плотность распределения хи-квадрат с степенями свободы соответственно.
Это распределение также называется распределением Пирсона и совпадает с гамма-распределением с параметрами 1/2 и /2:
( ) = γ1/2, /2( ).
Говорят, что случайная величина ζ имеет распределение Стьюдента с степенями свободы, если она распределена так же, как
