Лекции / Чернова Н.И. Лекции по математической статистике
.pdfОглавление
JJ |
II |
J |
I |
На стр. ... из 180
Назад
Во весь экран
Уйти
Стр. 81
5. Интервальное оценивание
Пусть, как обычно, имеется выборка X = (X1, . . . , Xn) из распределения Fθ с неизвестным параметром θ Θ IR. До сих пор мы занимались «точечным оцениванием» неизвестного параметра — находили число («оценку»), способную, в некотором смысле, заменить параметр.
Существует другой подход к оцениванию, при котором мы указываем интервал, накрывающий параметр с заданной наперед вероятностью. Такой подход называется «интервальным оцениванием». Сразу заметим: чем больше уверенность в том, что параметр лежит в интервале, тем шире интервал. Так что мечтать найти диапазон, в котором θ лежит с вероятностью 1, бессмысленно — это вся область Θ.
Определение 13. Пусть 0<ε<1. Интервал (θ−, θ+) = (θ−(X, ε), θ+(X, ε))
называется доверительным интервалом для параметра θ уровня доверия 1 − ε, если
для любого θ Θ
Pθ θ− < θ < θ+ > 1 − ε.
Определение 14. Пусть 0<ε<1. Интервал (θ−, θ+) = (θ−(X, ε), θ+(X, ε))
называется асимптотическим доверительным интервалом для параметра θ (асимптотического) уровня доверия 1 − ε, если для любого θ Θ
lim inf Pθ θ− < θ < θ+ > 1 − ε.
n→∞
Оглавление
JJ |
II |
J |
I |
На стр. ... из 180
Назад
Во весь экран
Уйти
Стр. 82
На самом деле в определении 14 речь идет, конечно, не об одном интервале, но о последовательности интервалов, зависящих от объема выборки n.
Замечание 11. Случайны здесь границы интервала (θ−, θ+), поэтому читают формулу Pθ (θ− < θ < θ+) как «интервал (θ−, θ+) накрывает параметр θ», а не как «θ лежит в интервале...».
Замечание 12. Знак «>» 1 − ε обычно соответствует дискретным распределениям, когда нельзя обязаться добиться равенства: например, для ξ B1/2 при любом x равенство P (ξ < x) = 0,25 невозможно, а неравенство имеет смысл:
P (ξ < x) > 0,25 для x > 0.
Если вероятность доверительному интервалу накрывать параметр в точности равна 1−ε (или стремится к 1 − ε), интервал называют точным (или асимптотически точным) доверительным интервалом уровня доверия 1 − ε.
Прежде чем рассматривать какие-то регулярные способы построения точных и асимптотических ДИ (доверительных интервалов), разберем два примера, предлагающих очень похожие способы. Далее мы попробуем извлечь из этих примеров некоторую общую философию построения точных и асимптотически точных доверительных интервалов. Начнем с нормального распределения как с наиболее важного и часто встречающегося.
Оглавление
JJ |
II |
J |
I |
На стр. ... из 180
Назад
Во весь экран
Уйти
Стр. 83
Пример 23. Пусть X1, . . . , Xn — выборка объема n из нормального распределения Na,σ2 , где a IR — неизвестный параметр, а σ > 0 известно. Требуется построить точный ДИ для параметра a уровня доверия 1 − ε.
Вспомним, что нормальное распределение устойчиво по суммированию: доказать бы!
Свойство 6. Пусть ξ1 имеет нормальное распределение Na1,σ21 , ξ2 имеет нормальное распределение Na2,σ22 , и эти случайные величины независимы. Тогда η = bξ1 + cξ2 + d имеет нормальное распределение с параметрами
E η = b a |
1 |
+ c a |
2 |
+ d, |
D η = b2σ2 |
+ c2σ2. |
|
|
|
1 |
2 |
Поэтому
Xn
|
|
Xi имеет распределение |
Nna,nσ2 , |
||||||||
1 |
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
X1 nXi − na имеет |
|
распределение N0,nσ2 , |
|||||||||
|
P1 |
X − na |
|
|
|
X − a |
|
||||
|
√ |
i |
|
= √n |
|
|
имеет распределение N0,1. |
||||
|
σ |
||||||||||
|
nσ |
Итак, величина η = √nX −σ a имеет стандартное нормальное распределение. По заданному ε (0, 1) найдем число c > 0 такое, что P (−c < η < c) = 1 − ε.
Оглавление
JJ |
II |
J |
I |
На стр. ... из 180
Назад
Во весь экран
Уйти
Стр. 84
Число c — квантиль уровня 1 − ε/2 стандартного нормального распределения: |
||
P (−c < η < c) = Φ0,1(c) − Φ0,1(−c) = |
|
|
= Φ0,1(c) − (1 − Φ0,1(c)) = 2Φ0,1(c) − 1 = 1 − ε, |
||
или Φ0,1(c) = 1 − ε . |
|
|
2 |
|
|
Напоминание: |
|
|
Определение 15. Пусть распределение F с функцией распределения F абсолютно непре- |
||
рывно. Число τδ называется квантилью уровня δ распределения F, если F(τδ) = δ. |
||
Если функция F монотонна, квантиль определяется единственным образом. |
||
Итак, c = τ1−ε/2, или −c = τε/2 (квантили стандартного нормального распределения). |
||
1 − ε |
|
|
ε/2 |
|
ε/2 |
−c |
c |
y |
Рис. 7: Плотность стандартного нормального распределения и квантили. |
Оглавление
JJ |
II |
J |
I |
На стр. ... из 180
Назад
Во весь экран
Уйти
Стр. 85
Разрешив неравенство −c < η < c относительно a, получим точный доверительный интервал
1 − ε = Pa(−c < η < c) = Pa |
−c < |
√n |
|
σ |
|
< c! = |
|
|
|
|
|
|
|
|||||||||||||
|
|
|
|
|
|
|
|
|
X − a |
|
|
cσ |
|
|
|
cσ |
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
= Pa X − |
|
. |
(13) |
||||||||||||||||
|
|
|
|
|
|
|
√ |
|
< a < X + |
√ |
|
|||||||||||||||
|
|
|
|
|
|
n |
n |
|||||||||||||||||||
Можно подставить c = τ1−ε/2: |
|
|
|
|
|
|
|
|
1√n |
|
= 1 − ε. |
|
|
|||||||||||||
Pa X − |
√n |
< a < X + |
|
|
|
|||||||||||||||||||||
|
|
|
τ1−ε/2 |
σ |
|
|
|
|
|
|
τ −ε/2 |
σ |
|
|
|
|
|
|
|
|
|
|
Итак, искомый точный доверительный интервал уровня доверия 1 − ε имеет вид
X − |
1√n |
, X + |
√n |
|
. |
||||
|
|
|
τ −ε/2 |
σ |
|
|
τ1−ε/2 |
σ |
|
Вопросы, на которые стоит себе ответить.
1.Зачем мы брали симметричные квантили? Почему не брать границы для η
вида P (τε/3 < η < τ1−2ε/3) = 1 − ε? Изобразить эти квантили на графике плотности. Как изменилось расстояние между квантилями? Как изменится длина ДИ?
2.Какой из двух ДИ одного уровня доверия и разной длины следует предпочесть?
3.Какова середина полученного в примере 23 ДИ? Какова его длина? Что происходит с границами ДИ при n → ∞?
Пример 24. Пусть X1, . . . , Xn — выборка объема n из показательного распределения Eα, где α > 0. Требуется построить асимптотический (асимптотически точный) ДИ для параметра α уровня доверия 1 − ε.
Вспомним ЦПТ:
Оглавление |
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
P1 |
Xi − n EαX1 |
|
√ |
|
|
|
|
= √ |
|
|
|
|
|
|
||
|
|
|
|
|
X − 1/α |
|
|
|
|
|||||||||
|
|
|
|
|
= |
n |
|
n |
αX − 1 |
η, |
||||||||
|
|
|
|
|
|
|||||||||||||
|
|
|
√n DαX1 |
|
|
|
|
|
1/α |
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
JJ |
II |
где случайная величина η имеет стандартное нормальное распределение. По определе- |
||||
|
|
|||||
J |
I |
нию слабой |
сходимости, при n |
→ ∞ |
||
√ |
|
|
||||
|
|
|
|
|
На стр. ... из 180 |
Pα −c < n αX − 1 |
|
< c |
|
→ |
Pα(−c < η < c) = 1 − ε при c = τ |
1−ε/2 |
. |
|
|||||||||||||||||||||||||||
|
То есть |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
Назад |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
|
Pα −τ1−ε/2 < √ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
Во весь экран |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||
n |
αX |
− 1 < τ1−ε/2 = |
+ √n X ! |
|
|
при n |
|
|
|
|||||||||||||||||||||||||||
|
= Pα X |
− √n X < α < X |
|
1 − ε |
|
|
. |
|||||||||||||||||||||||||||||
|
1 |
|
|
|
τ1−ε/2 |
|
|
1 |
|
|
|
τ1−ε/2 |
→ |
|
|
|
→ ∞ |
|
||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
Уйти |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
Итак, искомый асимптотический ДИ уровня доверия 1 − ε имеет вид |
|
|
|
|
|
||||||||||||||||||||||||||||||
|
|
|
|
|
|
|||||||||||||||||||||||||||||||
|
|
|
|
|
|
X − √n X , |
X + √n X ! . |
|
|
|
|
|
|
|
||||||||||||||||||||||
|
|
|
|
|
|
1 |
|
|
τ1−ε/2 |
1 |
|
|
|
|
τ1−ε/2 |
|
|
|
|
|
|
|
||||||||||||||
Стр. 86 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Оглавление
JJ |
II |
J |
I |
На стр. ... из 180
Назад
Во весь экран
Уйти
Стр. 87
Сформулируем общий принцип построения точных ДИ:
1.Найти функцию G(X, θ), распределение которой G не зависит от параметра θ. Необходимо, чтобы G(X, θ) была обратима по θ при любом фиксированном X.
2.Пусть числа g1 и g2 — квантили распределения G такие, что
1 − ε = Pθ (g1 < G(X, θ) < g2).
3.Разрешив неравенство g1 < G(X, θ) < g2 относительно θ (если это возможно), получим точный ДИ.
Совершенно аналогично выглядит общий принцип построения асимптотических ДИ:
1.Найти функцию G(X, θ), слабо сходящуюся к распределению G, не зависящему от параметра θ. Необходимо, чтобы G(X, θ) была обратима по θ при любом фиксированном X.
2.Пусть g1 и g2 — квантили распределения G такие, что
Pθ (g1 < G(X, θ) < g2) → Pθ (g1 < η < g2) = 1 − ε.
3.Разрешив неравенство g1 < G(X, θ) < g2 относительно θ, получим асимптотический ДИ.
Оглавление
JJ |
II |
J |
I |
На стр. ... из 180
Назад
Во весь экран
Уйти
Стр. 88
Замечание 13. Часто в качестве g1 и g2 берут квантили уровня ε/2 и 1 − ε/2 распределения G. Но, вообще говоря, квантили следует выбирать так, чтобы получить наиболее короткий ДИ.
Пример 25. Попробуем, пользуясь приведенной выше схемой, построить точный доверительный интервал для параметра θ > 0 равномерного на [θ, 2θ] распределения.
Мы знаем, что если Xi имеют распределение Uθ,2θ, то Yi = Xθi − 1 имеют распределение U0,1. Тогда величина
X(n) − 1 = G(X, θ)
θ
распределена так же, как максимум из n независимых равномерно распределенных на [0, 1] случайных величин, то есть имеет не зависящую от параметра θ функцию распределения
|
|
|
|
|
0, |
y < 0 |
||
F |
Y(n) |
(y) = P |
(η < y) = |
yn, y |
|
[0, 1] |
||
|
θ |
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Для любых положительных g1 и g2 |
|
1, |
y > 1. |
|||||
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
Pθ (g1 < G(X, θ) < g2) = Pθ g1 < |
X(n) |
− 1 < g2 = |
|
|
|
|
||
θ |
< θ < g1 + 1 |
|
. (14) |
|||||
|
|
= Pθ |
g2 + 1 |
|||||
|
|
|
|
X(n) |
|
X(n) |
|
|
Оглавление
JJ |
II |
J |
I |
На стр. ... из 180
Назад
Во весь экран
Уйти
Стр. 89
Длина доверительного интервала равна X |
|
(g |
|
−g |
|
)/ (g |
|
+1)(g |
|
+1) |
и уменьшается |
с ростом g1 и g2 и с их сближением. |
(n) · |
|
2 |
|
1 |
|
1 |
|
2 |
|
|
Плотность распределения Y(n) на отрезке [0, 1] равна nyn−1 и монотонно возрастает. Поэтому самые большие значения квантилей g1 и g2 при самом маленьком расстоянии между ними и при фиксированной площади под графиком плотности достигается выбором g2 = 1, а g1 такого, чтобы 1 − ε = Pθ(g1 < Y(n) < 1).
Pθ(g1 < Y(n) < 1) = FY(n) (1) − FY(n) (g1) = 1 − gn1 = 1 − ε, т. е.
Подставим найденные квантили в (14):
|
|
|
|
|
|
|
|
2 |
1 + |
√ε |
|
|
|
n |
|
|
|
X(n) |
|
X(n) |
|||
1 − ε = Pθ |
|
√ε < Y |
(n) |
< 1 = Pθ |
|
|
< θ < |
|
n |
||
|
|
|
|
|
|
|
|
|
|
√
g1 = n ε.
.
Упражнение. Можно ли, пользуясь схемой примера 23, построить точный ДИ для σ при известном a, если разрешить неравенство −c < η < c в (13) относитель-
но σ? Можно предположить, например, что X−a > 0. Чем плох интервал бесконечной длины? А получился ли у Вас интервал бесконечной длины?
Из упражнения видно, что функция G вида √n X − a не годится для построения
σ
точного ДИ для σ при известном a, а тем более при неизвестном a. В следующей главе мы займемся поиском подходящих функций. Следующий пример (как и пример 24) показывает, что ЦПТ дает универсальный вид функции G для построения асимптотических ДИ.
Оглавление
JJ |
II |
J |
I |
На стр. ... из 180
Назад
Во весь экран
Уйти
Стр. 90
Пример 26. Пусть X1, . . . , Xn — выборка объема n из распределения Пуассона Пλ, где λ > 0. Требуется построить асимптотический ДИ для параметра λ уровня доверия 1 − ε.
Вспомним ЦПТ:
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
P1 |
Xi − nEλX1 |
= √ |
|
|
|
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
|
X − λ |
|
|
|
||||||||||||
|
|
|
|
|
|
|
|
|
|
|
n |
|
η, |
||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||
|
|
|
|
|
|
|
|
|
√nDλX1 |
По |
|||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
√λ |
|
|
|||||||||
где η имеет стандартное нормальное распределение. |
|
|
|
определению слабой сходимо- |
|||||||||||||||||||
сти, при n → ∞ |
|
|
|
|
|
|
|
< c! |
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
X − λ |
|
Pλ(−c < η < c) = 1 − ε при c = τ1−ε/2. |
|||||||||||||||||||
Pλ −c < √n |
|
√λ |
→ |
||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Но разрешить неравенство под знаком вероятности относительно λ не просто — получа-
ется квадратное неравенство из-за корня в знаменателе. Не испортится ли сходимость, |
||||||||||||||||||||||||||||||||
если мы заменим √ |
|
на √ |
|
|
|
? |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
λ |
X |
|
|
|
|
|
|
|
|
p |
|
|
|
|
|
|
|
|
|
|
|
|||||||||||
По свойствам слабой сходимости, если ξ |
|
1 и η |
|
|
η, то ξ |
n |
η |
|
η. Оценка |
|||||||||||||||||||||||
λ = |
|
состоятельна, поэтому |
|
|
|
|
|
|
p n −→ |
|
|
|
|
n |
|
|
n |
|
||||||||||||||
X |
|
|
|
λ |
|
|
|
|
|
|
|
|
||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
−→ 1. |
|
|
|
|
|
|
|
|
|
|
|
|||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||
Тогда |
|
|
|
X |
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||
|
|
|
|
s |
|
|
|
· √n |
|
|
|
|
|
= |
√n |
|
|
|
|
|
|
η. |
|
|
|
|
|
|||||
|
|
|
|
X |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||
|
|
|
|
|
√ |
|
√ |
|
|
|
|
|
|
|||||||||||||||||||
|
|
|
|
|
|
|
λ |
|
X − λ |
|
|
|
|
X − λ |
|
|
|
|
|
|
|
|||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
λ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
X |
|
|
|
|
|
|