Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Методы математической статистики. Учебное пособие
.pdf
n
1
если для параметра m
= M(Xk) рассмотреть оценку Xk=
k
k
X
, то она
l
n
l=1
будет (сильно) состоятельной, это следует из (усиленного) закона больших
чисел.
Рассмотрим два известных метода получения точечных оценок — метод
моментов и метод максимального правдоподобия.
1.3.1. Метод моментов.
Он основан на требовании равенств: для θ = θ
k
= X
k
k
,
= M
m
где Xk— k-й выборочный момент, а m
генеральной совокупности.
Получение оценки методом моментов складывается из следующих трех
этапов:
∗
k
X
— момент k-го порядка
1) записать (или вычислить) выражение
m
= mk(θ) = M
k
2) выразить θ через M
3) заменить θ на θ∗,аM
Заметим, что если функция m
k
X
;
k
X
на Xk.
(ϑ) непрерывна и строго монотонна, то
k
k
X
;
оценка, полученная методоммоментов будет состоятельной. Это следует из
закона больших чисел и теоремы о непрерывности обратной функции.
1.7 Известно, что X ⊂= N
2
a, σ
. Найти оценки параметров распреде-
ления a, σ2по методу моментов.
РЕШЕНИЕ. Параметров распределения — два. Выпишем два уравнения
для этих двух неизвестных:
1)
2)
⎧
⎨
m
⎩
m
2
a, σ
a, σ
= M(X) = a;
2
= M(X2) =
⎧
⎨
a = M(X);
2
⎩
σ
= M
(
X
11
M(X
2
−
2
+ D(X) = a2+ σ
))
2
(M(X))
.
2
.
1
2
3)
⎧
∗
⎨
a
= X;
∗
2
⎩
σ
= X2− X2= DВ(X).
Задачи для самостоятельного решения.
1.8 Применить метод моментов и найти оценку θ для равномерного рас-
пределения X ⊂= U(0, θ
1.9 Применить метод моментов и найти оценки θ
распределения X ⊂= U(θ
1.10 Применить метод моментов и найти оценку θ для показательного рас-
пределения с плотностью f (x) =
1.11 Для выборки
(Распределение Пуассона: p
1.12 Для выборки
θ.
1.13 Для выборки
.
)
, θ
для равномерного
1
2
, θ
.
)
1
2
⎧
−θx
⎨
θe
, x0;
⎩
= e−θ·
n
0, x < 0.
n
θ
, n = 0, 1, 2,...)
n!
→
X ⊂= Π(θ) применить метод моментов и найти оценку θ.
→
X ⊂= N
→
X ⊂= N
θ, 1)применить метод моментов и найти оценку
(
0, θ)применить метод моментов и найти оценку
(
θ.
1.3.2. Метод максимального правдоподобия.
— это
θ,
→
X,
→
X
Он основан на том соображении, что если была реализована выборка
то параметр θ должен быть таким, чтобы вероятность этого события была
максимальной. Если Πθ,
вию экстремума производная этой функции по переменной θ равна 0. Если
θ =(θ
, θ2,...
1
, то все частные производные
)
называется функциейправдоподобия, соответствующейвыборке
реме умножения вероятностей Πθ,
→
∂Π
θ,
X
= 0 технически более удобными являются равносильные уравне-
∂θ
i
ния
Систему этих уравнений и решают для определения параметров распределения. Если θ
→
∗
X
— решение этой системы, то говорят, что θ
→
X
— эта вероятность, то по необходимомуусло-
→
∂Π
θ,
X
= 0. Функция Π
∂θ
i
n
→
X
=
P
θ, X
. Вместо уравнений
(
)
l
∂ ln Π
→
θ,
X
= 0, i = 1, 2,...
∂θ
i
l=1
→
X. По тео-
→
∗
X
12
оценки параметров распределенияθ, полученные по методу максимального
правдоподобия.
Изложенное выше справедливо для случая дискретного распределения
генеральной совокупности X . Аналогично для распределения, имеющего
плотность f (θ,x), функцией правдоподобия, соответствующей выборке
называют Π
θ,
X
ления решают ту же систему уравнений
Решение этой системы θ
n
→
=
f
θ, X
и для определения параметров распреде-
(
)
∂ ln Π
∗
l
→
θ,
X
= 0, i = 1, 2,...
∂θ
i
→
X
— это оценки параметров распределения θ,
l=1
→
X,
полученные по методу максимального правдоподобия.
1.14 Известно, что закон распределения генеральной совокупности X
имеет вид
X x1x
P p 1 − p
делить параметр p по методу максимального правдоподобия.
РЕШЕНИЕ. Пусть в выборке
m — значения x
Уравнение
m
p =
n
∂ ln Π
. Таким образом, p
2
. Тогда
2
Πθ,
X
ln Πθ,
p,→X
= 0 равносильно
∂p
,гдеx1и x2— известные числа. Требуется опре-
→
X содержится m значений x
n
→
=
Pp, X
l=1
→
X
= m ln p + (n − m) ln(1 − p).
→
∗
=
X
= pm(1 − p)
l
m
n −m
−
p
m
— оценка максимального правдоподо-
n
1 − p
n−m
= 0, или m = np, откуда
, остальные n−
1
,
бия параметра p.
1.15 Произведена выборка объема n из генеральной совокупности X ⊂
= N
2
a, σ
. Построить оценки параметров a, σ
2
по методу максимального
правдоподобия.
РЕШЕНИЕ. Вычислим функцию правдоподобия
Π
a, σ,→X
n
=
f(a, σ, X
l=1
n
=
)
l
l=1
σ√2π
2
X
− a
l
−
1
2
2σ
e
.
Определим значения параметров, при которых имеет максимум эта функция, или, что равносильно, функция
ln Π
a, σ,→X
1
= −
ln(2π) − n ln σ −
2
l=1
n
2
X
− a
l
=
2
2σ
13
1
= −
ln(2π) − n ln σ −
Если паре
или
Окончательный вид оценки максимального правдоподобия:
⎧
⎨
⎩
a, σ
(
∗
a
= X;
∗
2
σ
= X2− X2= D
соответствует максимум этой функции, то
)
⎧
⎨
X −a = 0;
1
⎩
−
σ
X.
в
⎧
⎪⎪⎪
⎨
⎪⎪⎪
⎩
1
3
σ
2
a, σ,→X
∂a
a, σ,→X
∂σ
2
− 2aX + a
= 0;
= 0;
2
= 0.
∂ ln Π
∂ ln Π
X
Заметим, что для нормального распределе-
n
2
2σ
2
X
− 2aX + a
2
ния эти оценки совпали с полученными по методу моментов.
Задачи для самостоятельного решения.
1.16 Применить метод максимальногоправдоподобия и найти оценку θ для
равномерного распределения X ⊂= U(0, θ
1.17 Применить метод максимального правдоподобия и найти оценки θ
для равномерного распределения X ⊂= U(θ
.
)
, θ
1
, θ
.
)
1
2
1.18 Применить метод максимальногоправдоподобия и найти оценку θ для
показательного распределения с плотностью
f (x) =
1.19 Для выборки
добия и найти оценку θ. (Распределение Пуассона: p
0, 1, 2,...)
1.20 Для выборки
подобия и найти оценку θ.
1.21 Для выборки
⎧
−θx
⎨
θe
⎩
0, x < 0.
, x0;
→
X ⊂= Π(θ) применить метод максимального правдопо-
= e−θ·
n
→
X ⊂= N
→
X ⊂= N
θ, 1)применить метод максимального правдо-
(
0, θ)применить метод максимального правдо-
(
n
θ
, n =
n!
подобия и найти оценку θ.
.
2
1.4. Интервальные оценки параметров распределения
Пусть распределениегенеральной совокупности содержит неизвестный
параметр θ. Говорят, что построенный по выборке
θ
, θ
(
тия θ ∈
накрывает параметр θ с надежностью γ, если вероятность собы-
)
−
+
θ
, θ
(
стремится кγ при стремленииn к бесконечности. В этом
)
−
+
14
→
X объема n интервал
случае интервал(θ
, θ
называют доверительным интервалом для θ; по-
)
−
+
строение такого интервала — получение интервальной оценки для θ; число
γ ∈ (0, 1) — доверительная вероятность, или уровень доверия оценки; числа
θ−и θ+— нижняя и верхняя доверительные границы.
В случае, когда при любом n вероятность P(θ ∈(θ
, θ
= γ, довери-
))
−
+
тельный интервал называют точным.
Рассмотрим несколько случаев построения доверительного интервала
для параметров нормально распределенной генеральной совокупности. В
рассуждениях будем опираться на лемму Фишера:
Если произведена выборка объема n из X ⊂= N
Y√n
1)
2) случайная величина
⊂= N
0, 1);
σ
(
n
1
X
(
2
σ
n=1
n
− a
2
= χ
)
2
a, σ
,иY = a − X,то
2
, то есть имеет распределение,
n
называемое «хи-квадрат с n степенями свободы»;
2
3)
4)
nS
Y√n −1
2
= χ
;
n−1
2
σ
⊂= T
S
, то есть имеет распределение, которое называется рас-
n−1
пределением Стьюдента с n − 1 степенями свободы.
Заметим, что распределения Хи-квадрат и Стюдента «известны», то есть
хорошо изучены, значения их функций распределения составлены в подробные таблицы и могут быть вычислены с практически любой наперед
заданной точностью.
Примеры.
1. X имеет нормальный закон распределения: X ⊂= N
a, σ
2
, значение
параметра σ известно, значением γ задаёмся, а для a строим доверительный
интервал, который указывает на положение a на числовой оси по возможности наиболее точно, то есть имеет наименьшую длину.
При построении доверительных интервалов последнее требование не
всегда удаётся выполнить, но в рассматриваемом случае помогают геометрические соображения. Вероятность события a ∈
a
− X,a+− X⇐⇒
−
личина
ние, и вероятность события
Y√n
Y√n
по лемме Фишера имеет стандартное нормальное распределе-
σ
∈
a
− X·
σ
−
√
σ
Y√n
σ
n
,a
∈
− X·
+
a
−
√
− X·
n
,a
+
σ
√
n
равна площади под кривой Гаусса
σ
(
− X·
a−,a
⇐⇒ a − X ∈
)
+
√
n
. Случайная ве-
σ
15
над интервалом
Длина промежутка
a−,a
(
a
− X
−
)
+
a
−
√
·
σ
или, что равносильно
√
·
− X
σ
√
+
+
− X
− X
n
·
.
σ
√
n
·
σ
n
,a
n
,a
для заданной площади γ будет наименьшей, если этот промежуток симметричен относительно нуля: a
− X = δ; a−− X = −δ.
+
f
Y
x
−δ O δ 2δ 3δ
Рис. 7
Число δ, точность оценки отвечает равенству P(−δ < Y < δ) = γ
√
δ
n
P
−
Y√n
<
σ
σ
то точность оценки δ = t
Такимобразом,
√
δ
n
<
= γ 2Φ
σ
P
σ
√
,и
n
√
δ
−
σ
0
n
Y√n
<
σ
= P(−δ < a − X < δ) = P
X −δ, X +δ
— искомый доверительный интервал для ма-
√
δ
n
= γ . Если обозначить
σ
√
δ
n
<
= γ =
σ
X −δ < a < X + δ.
√
δ
n
= t,
σ
тематического ожидания a.
1.22 Найти доверительный интервал для оценкис надежностью 0,95 неиз-
вестного математическогоожидания a нормально распределенной генеральной совокупности, если даны генеральное среднее квадратическое отклонение σ = 5 и выборочное среднее X = 13. Объем выборки 16.
РЕШЕНИЕ. Найдем точность оценки δ из уравнения 2Φ
равносильно Φ
или δ = 2, 45. Доверительный интервал
X −δ < a < X + δ
4δ
= 0, 475. Из таблицы 4 Приложения имеем:
0
5
=(10, 55; 15, 45).
√
δ
n
σ
= γ, что
4δ
= 1, 96
5
0
16
2. X имеет нормальный закон распределения: X ⊂= N
a, σ
2
, значение
параметра σ НЕизвестно, значением γ задаёмся, а для a строим доверительный интервал, который указывает на положение a на числовой оси по возможности наиболее точно, то есть имеет наименьшую длину.
В рассматриваемом случае будем рассуждать аналогично тому, как рас-
суждали в предыдущем примере. Вероятность события
a ∈(a−,a
Y√n −1
⇐⇒
S
Случайная величина
дента с n −1 степенями свободы. Вероятность события
Y√n −1
S
)
+
∈
Y√n −1
S
∈
a
⇐⇒ a − X ∈
a
− X·
−
по лемме Фишера имеет распределение Стю-
− X·
−
√
a
− X,a+− X⇐⇒
−
√
n −1
,a
S
n −1
,a
+
S
− X·
+
− X·
√
√
n −1
n −1
S
.
S
равна площади под графиком плотности распределения Стюдента над интервалом
Длина промежутка
(
a
−
a−,a
√
− X·
+
a
n −1
,a
+
S
или, что равносильно
)
− X·
−
√
n
,a
+
S
0
− X·
− X·
√
√
S
n −1
S
n
0
.
для заданной площади γ будет наименьшей (как и для нормального закона), если промежуток
симметричен относительно нуля: a
Число δ — точность оценки— отвечает равенству
P(−δ < Y < δ) = γP
В этом равенстве FT— функция распределения распределения Стьюдента,
а F
= 1 − F
T
T
и
Такимобразом,
a
− X
−
√
n −1
·
−δ ·
√
n −1
S
F
T
δ
<
√
Y√n −1
= γ
. Если обозначить
P
−δ ·
= P(−δ < a − X < δ) = P
X −δ, X +δ
— искомый доверительный интервал для ма-
√
n −1
− X
<
Y√n −1
1 −γ
=
√
n −1
·
S
< δ ·
S
.
2
= γ =
S
,a
+
S
− X = δ; a−− X = −δ.
+
√
n −1
S
√
δ
n −1
S
n −1
= t, то точность оценки δ = t
S
< δ ·
S
X −δ < a < X + δ.
√
n −1
S
=
√
S
n −1
тематического ожидания a.
17
,
1.23 Найти доверительный интервал для оценкис надежностью 0,95 неиз-
вестного математическогоожидания a нормально распределенной генеральной совокупности, если даны выборочное среднее квадратическое отклонение S = 5 и выборочное среднее X = 13. Объем выборки 17.
РЕШЕНИЕ. Найдем точность оценки δ из уравнения F
что равносильно F
или δ = 2, 65. Доверительный интервал
X −δ < a < X + δ
= 0, 025. Из таблицы 5 Приложения имеем:
T
=(10, 35; 15, 65).
3. X имеет нормальный закон распределения: X ⊂= N
T
√
δ
a, σ
n −1
S
2
1 −γ
=
4δ
= 2, 12
5
, значение
,
2
параметров a, σ2НЕизвестны, значением γ задаёмся. Построить доверительный интервал для σ2.
Отметим сразу, что как и всегда при построении доверительного интервала, если решение задачи существует, то таких решений бесконечно много. Приведем только одну конструкцию — простую, хотя и заведомо не оптимальную в том смысле, что строящийся интервал не является самым коротким из возможных.
Для решения задачи заметим, что по лемме Фишера случайная величи-
2
nS
на
будем искать значения x1и x2, для которых вероятность
Px
P
По равенствам F
распределена как χ
2
σ
2
nS
<
1
nS
2
σ
< x
2
σ
2
x
= F
1
= γ. Для однозначности потребуем, чтобы
2
2
(x1) =
χ
2
(x1) =
χ
лице значений функции распределения F
что неравенство x
2
nS
2
,аσ
=
+
x
2
1.24 Найти доверительный интервал для оценкис надежностью 0,9 неиз-
nS
x
2
,тоσ
1
1
2
. Обозначим F
n−1
= P
и F
2
равносильно
2
nS
2
χ
σ
(x2) =
1 −γ
2
1 −γ
2
nS
<
< x
2
σ
2
2
, σ
— нужный доверительный интервал.
−
+
2
2
2
ее функцию распределения и
χ
x
= 1 − F
2
1 +γ
2
2
(см. приложение). Очевидно,
χ
2
nS
x
2
2
(x2).
χ
эти x1и x2найдем по таб-
2
< σ2<
nS
x
1
и, если σ
2
−
=
вестной дисперсии σ2нормально распределенной генеральной совокупности, если даны выборочная дисперсия S
РЕШЕНИЕ. По равенствам F
то есть F
2
(x1) = 0, 05 иF
χ
χ
лицы 6 Приложения найдем: x
вал
σ
2
−
, σ
nS
2
=
+
x
=
2
2
nS
,
x
2
1
10 ·4
2
(x1) =
χ
2
(x2) = 0, 95 причисле степеней свободы 9 из таб-
= 3, 33 и x2= 16, 9. Доверительный интер-
1
10 ·4
,
16, 9
3, 33
4. X имеет нормальный закон распределения: X ⊂= N
2
= 4 и объем выборки 10.
1 −γ
2
и F
2
(x2) =
χ
= (2, 367; 12, 012)
1 +γ
2
a, σ
,
2
, значение
18
параметра a известно, σ2НЕизвестно, значением γ задаёмся. Построить
доверительный интервал для σ2.
Этот случай отличается от предыдущего только тем, что число степеней
свободы для распределения χ2полагают равным не n −1,аn — на единицу
больше.
Задачи для самостоятельного решения.
1.25 По выборке объема n = 25 из нормально распределенной гене-
ральной совокупности X с дисперсией D(X) = 25 вычисленное среднее
X = 14. Построить доверительный интервал для неизвестного математиче-
ского ожидания, если требуемая надежность оценки а)γ = 0, 95; б) γ = 0, 9.
1.26 По выборке объема n = 16 из нормально распределенной гене-
ральной совокупности X с дисперсией D(X) = 25 вычисленное среднее
X = 14. Построить доверительный интервал для неизвестного математи-
ческого ожидания, если требуемая надежность оценки γ = 0, 95. Сравните
результат с ответом задачи 25(а).
1.27 По выборке объема n = 25 из нормально распределенной гене-
ральной совокупности X с дисперсией D(X) = 9 вычисленное среднее X =
14. Построить доверительный интервал для неизвестного математического
ожидания, если требуемая надежность оценки γ = 0, 95. Сравните результат
с ответом задачи 25(а).
1.28 По выборке объема n = 26 из нормально распределенной гене-
ральной совокупности X с выборочной дисперсией S
2
= 25 вычисленное
среднее X = 14. Построить доверительный интервал для неизвестного математического ожидания, если требуемая надежность оценки а) γ = 0, 95
(сравните результат с ответом задачи 25(а)); б)γ = 0, 9.
1.29 По выборке объема n = 17 из нормально распределеннойгенераль-
2
ной совокупности X с выборочной дисперсией S
= 25 вычисленное сред-
нее X = 14. Построить доверительный интервал для неизвестного математического ожидания, если требуемая надежность оценки γ = 0, 95. Сравните результат с ответом задачи 28(а).
1.30 По выборке объема n = 26 из нормально распределеннойгенераль-
ной совокупности X с выборочной дисперсией S
2
= 9 вычисленное среднее
X = 14. Построить доверительный интервал для неизвестного математи-
ческого ожидания, если требуемая надежность оценки γ = 0, 95. Сравните
результат с ответом задачи 28(а).
1.31 По выборке объема n = 25 из нормально распределеннойгенераль-
ной совокупности X вычисленное среднее X = 14. Построить доверительный интервал для неизвестного математического ожидания, если требуемая надежность оценки γ = 0, 95 и S
2
= 25. Сравните результат с ответом
задачи 25(а).
19
1.32 По выборке объема n = 26 из нормально распределеннойгенераль-
ной совокупности X с выборочной дисперсией S
2
= 25 построить довери-
тельный интервал для неизвестной дисперсии, если требуемая надежность
оценки а) γ = 0, 95; б) γ = 0, 9.
ОТВЕТЫ.
1.25 а) (12,04;15,96); б) (12,355;15,645). 1.26 (11,55;16,45).
1.27 (12,824;15,176). 1.28 а) (11,94;16,06); б) (11,29;16,71).
1.29 (11,825;16,175). 1.30 (12,764;15,236). 1.31 (11,9;16,1).
1.32 а) (15,51;46,97); б) (16,71; 42,26).
1.5. Асимптотические доверительные интервалы
Как говорилось выше, доверительный интервал(θ
числяемых по выборке (X
что P(θ ∈(θ
, θ
→ γ при n → ∞; число γ ∈ (0, 1) называют уровнем дове-
))
−
+
рия. Если не выполняется равенство P(θ ∈(θ
,...,X
1
) оценок неизвестного параметра θ такая,
n
−
, θ
, θ
— это пара вы-
)
−
+
= γ, то доверительный
))
+
интервал называют асимптотическим.
Асимптотические доверительные интервалы обычно строят с помощью
центральной предельной теоремы, которая в терминах выборочного среднего формулируетсятак: пусть (X
,...,X
1
) — выборка из распределения,из-
n
вестного с точностью до параметра ϑ; элементы выборки имеют математическое ожидание MX
2
σ
(ϑ). Тогда
= m(ϑ) и конечную ненулевую дисперсию DX1=
1
P(√n(X −m(ϑ))/σ(ϑ) < t) → Φ(t)
при n → ∞ для любого t. Здесь Φ(t) = Φ
(t)+1/2 — функция распределения
0
стандартного нормального закона.
Есть два основных подходак построению асимптотических доверительных интервалов.
Первый подход состоит в решении двойного неравенства
−A <
√
n(X − m(ϑ))
σ(ϑ)
< A
относительно неизвестного параметра ϑ.
Второй подход состоит в использовании состоятельной оценки σ пара-
метра σ(ϑ): в этом случае есть сходимость
P(√n(X −m(ϑ))/σ < t) → Φ(t)
при n → ∞ для любого t, и двойное неравенство принимает вид
−A <
√
n(X − m(ϑ))
σ
< A.
20
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]