Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Специальные разделы высшей математики. Практикум по математической статистике. Учебно-методическое пособие.pdf
3.1. Коротко о главном 71
nM— частота модального интервала;
n
n
— частота интервала, который предшествует модальному;
M−1
— частота интервала, который следует за модальным.
M+1
3.1.3 Методы нахождения оценок
Метод моментов. Пусть(x1,x2, . . . ,x
ральной совокупности X с функцией распределения F(x,θ), зависящей от
неизвестного параметра θ ∈ Θ. Выберем некоторую функцию g(x)такую,
чтобы существовал момент
Mg(X)= h(θ
и к тому же, чтобы существовала функция h−1, обратная к функции h(θ)в
области Θ. В качестве оценки θ*метода моментов для истинного значения
)
— выборка объема n из гене-
n
)
неизвестного параметра θ возьмем решение уравнения
*
)
, (3.10)
где g(X)=
g(X)= h(θ
P
n
1
i=1
n
g(x
)
, т. е. в качестве оценки мы выбираем такое число,
i
чтобы теоретический момент совпадал с выборочным при данной реализации выборки.
Чаще всего в качестве функции g(x)выбирают g(x)= xk, то есть начальные теоретические моменты приравниваются к соответствующим выборочным. Понятно, что, если параметр одномерный, то достаточно одного
уравнения. Если же параметр n–мерный, то необходимо решить систему n
уравнений.
В том случае, если корень уравнения θ*= h
как θ ∈ Θ, то оценку необходимо откорректировать. Для этого в качестве
оценки метода моментов берут ближайшую к h
−1
−1
g(x
g(x
)
/∈ Θ, в то время
)
точку из Θ или
его замыкания.
Теорема 3.1. Пусть˜θ = h
−1
g(X
)
— оценка метода моментов
неизвестного параметра, причем функция h
θ*состоятельна.
−1
(θ)
непрерывна. Тогда
72 Глава 3. СТАТИСТИЧЕСКИЕ ОЦЕНКИ
Оценки, получаемые по методу моментов являются:
X состоятельными (при весьма общих предположениях);
X не всегда несмещенными;
X вообще говоря, неэффективными;
X асимптотически нормальными, т. е. при соответствующей нормировке
закон распределения оценки метода моментов является нормальным
(что очень важно для нахождения вероятностей отклонения их от истинных значений параметров).
Достоинство метода моментов заключается в том, что системы уравнений для нахождения оценок решаются довольно просто. Однако, оценки
методом моментов определяются неоднозначно. Кроме того метод вообще
неприменим, если моментов необходимого порядка не существует.
Метод максимального правдоподобия Согласно методу максимального правдоподобия в качестве оценок выбираются те значения параметров,
при которых данные результаты наблюдения «наиболее вероятны».
Итак, пусть(x1,x2, . . . ,x
)
— выборка из генеральной совокупности X,
n
имеющей функцию распределения F(x,θ), которая зависит от неизвестного
параметра θ ∈ Θ.
Определение 3.16. Если закон распределения наблюдаемой случай-
ной величины X является непрерывным, т.е. существует плотность
вероятностей f(x,θ), то функция
L(x1,x2, . . . ,xn,θ)= f(x1,θ)· f(x2,θ)· . . . · f(xn,θ), (3.11)
рассматриваемая как функция параметра θ, называется функцией
правдоподобия.
Если наблюдаемая случайная величина X имеет дискретный за-
кон распределения, задаваемый вероятностями P(X = y
)
= p(yj,θ),
j
j = 1,2, . . ., то функция правдоподобия определяется равенством
L(x1,x2, . . . ,xn,θ)= p(x1,θ)· p(x2,θ)· . . . · p(xn,θ). (3.12)
3.1. Коротко о главном 73
Определение 3.17. Оценкой максимального правдоподобия θ*неиз-
вестного параметра θ называется то значение θ*, при котором функ-
ция правдоподобия достигает своего максимума, т. е. решение урав-
нения правдоподобия
*
L(x1,x2, . . . ,xn,θ
)
=
max
L(x1,x2, . . . ,xn,θ). (3.13)
θ∈Θ
Решая уравнение правдоподобия (3.13), необходимо отбросить все корни, которые имеют вид θ*≡ const, т. е. не зависят от выборки(x1,x2, . . . ,x
)
n
Так как положительная функция достигает своего максимума в той же
точке, что и ее логарифм, то на практике для анализа часто используют
натуральный логарифм функции правдоподобия.
Определение 3.18. Случайную функцию
l(x1,x2, . . . ,xn,θ)=lnL(x1,x2, . . . ,xn,θ
)
называют логарифмической функцией правдоподобия.
Оценки максимального правдоподобия являются:
X состоятельными;
.
X асимптотически эффективными;
X не всегда несмещенными;
X асимптотически нормальными, т. е. при соответствующей нормировке
закон распределения оценки максимального правдоподобия является
нормальным (что очень важно для нахождения вероятностей отклонения их от истинных значений параметров).
Однако, уравнения (системы уравнений) для нахождения оценок максимального правдоподобия могут решаться довольно сложно.
74 Глава 3. СТАТИСТИЧЕСКИЕ ОЦЕНКИ
3.1.4 Доверительные интервалы
Пусть Xn=(x1,x2, . . . ,x
)
— выборка из генеральной совокупности X с
n
функцией распределения F(x,θ), которая зависит от неизвестного параметра θ, где θ ∈ Θ.
Предположим, что θ
1
(x)
и θ
(x)
— две действительные функции со зна-
2
чениями в R1, не зависящие от неизвестных параметров распределения вектора X, причем θ
1
(x)
< θ
2
(x)
, x ∈ Rn.
Определение 3.19. Если
P{θ
X
1
то случайный интервал(θ
)
< θ < θ
n
(
X
1
)
n
; θ
(
)}
X
2
(
X
2
≥ γ, θ ∈ Θ,
n
))
называется γ–доверительным
n
(
интервалом, число γ(0 < γ < 1)— доверительной вероятностью,
(
X
)
n
θ
1
, θ
(
)
X
2
— нижней и верхней доверительными границами.
n
Иногда представляют интерес верхние (нижние) доверительные интервалы, в этом случае полагается θ
2
(x)
= +∞(θ
1
(x)
= −∞).
Доверительные интервалы для параметров нормального закона
Доверительный интервал для математического ожидания с известной дисперсией. Пусть X — нормально распределенная случайная
величина с неизвестным математическим ожиданием M(X)= mxи известной дисперсией D(X)= σ
2
, т. е. X∼N(mx,σ
x
этой случайной величины(x1,x2, . . . ,x
n
2
), и имеется выборка значений
x
)
объема n.
В этом случае доверительный интервал для mxс доверительной вероятностью γ будет иметь вид:
Pm
*
x
− z
1+γ
2
σ
x
√
< mx< m
n
*
x
+ z
1+γ
2
σ
√
x
n
= γ, (3.14)
где z
(
1+γ
ня
(1+γ)
— квантиль стандартного нормального распределения уров-
/2
)
/2 (см. таблицу А.2).
3.1. Коротко о главном 75
Доверительный интервал для математического ожидания при
неизвестной дисперсии. Если дисперсия не известна, то γ–доверительный
интервал примет вид
Pm
S
−
√
x
n
t
1+γ
(
n − 1)< mx< m
2
*
x
S
+
√
x
n
t
1+γ
2
(
n − 1
)
= γ. (3.15)
*
x
где t
(
ня
(1+γ)
1+γ
(
n − 1)— квантиль t-распределения с n−1 степенью свободы уров-
/2
)
/2 (см. таблицу Б.1).
При больших n (практически при n ≥ 30) распределение Стьюдента приближается к стандартному нормальному распределению, поэтому в
этом случае t
(1+γ)
(
n − 1)≈ z
/2
(1+γ)
/2
.
Доверительный интервал для дисперсии при неизвестном математическом ожидании. Обозначив h1= h
(1−γ)
(
n − 1)и h2= h
/2
(1+γ)
/2
(
n − 1
квантили χ2–распределения (см. таблицу Г.1). с n − 1 степенями свободы
(
)
(
соответственно уровней
1−γ
/2 и
)
1+γ
/2, получим γ–доверительный интервал
для дисперсии:
P
(
n − 1)S
h
2
2
x
< σ
(
2
x
n − 1)S
<
h
2
x
= γ. (3.16)
1
)
При больших значениях n (n ≥ 30) для квантилей χ2–распределения
имеют место приближенные равенства
h1= h
h2= h
(1−γ)
(1+γ)
(
n − 1)≈
/2
(
n − 1)≈
/2
1
2(n − 1)− 1 + z
2
1
2(n − 1)− 1 + z
2
(1−γ)
(1+γ)
/2
/2
2
,
2
(3.17)
.
Доверительный интервал для вероятности события Пусть произведено n независимых испытаний, в которых событие A произошло ровно k раз.
Тогда вероятность события A можно оценить с помощью его относительной
частоты, т.е.
k
p*=
(3.18)
n
Здесь случайная величина k, распределена по биномиальному закону. При построении доверительного интервала чаще всего использую три
76 Глава 3. СТАТИСТИЧЕСКИЕ ОЦЕНКИ
асимптотических способа, каждый из которых предполагает аппроксимацию биномиального распределения нормальным. Следовательно n должно
быть достаточно большим.
1. При первом подходе доверительный интервал может оказаться как
шире так и уже настоящего доверительного интервала. А сам доверительный интервал определяется формулой
Pp*− z
1+γ
2
p*q
n
*
< p < p*+ z
1+γ
2
p*q
n
*
= γ, q*= 1 − p*. (3.19)
2. Второй подход предполагает построение доверительного интервала
максимальной длины. В данном случае доверительный интервал имеет вид
Pp*− z
1+γ
2
0,5
√
< p < p*+ z
n
1+γ
2
0,5
√
= γ. (3.20)
n
3. Третий способ предполагает точное определение границ интервала.
/2
)
= γ, (3.21)
2
4np
2
(1+γ)
*
/2
(
1 − p
*
)
+ z
2
(1+γ)
/2
, (3.22)
где
p1=
2np*+ z
P(p1< p < p
2
(1+γ)
/2
− z
(1+γ)
2n + z
p2=
2np*+ z
2
(1+γ)
/2
+ z
(1+γ)
/2
2n + z
4np
2
(1+γ)
*
/2
(
1 − p
*
)
+ z
2
(1+γ)
/2
. (3.23)
При больших значениях n все три способа дают практически одинако-
вые результаты.
3.2 Вопросы для самоконтроля
1. Как вычисляются эмпирические числовые характеристики случайных
величин?
2. Какие оценки называют точечными оценками параметров?
3. Какие оценки называются несмещёнными?
3.3. Примеры типовых задач с решением 77
4. Какие оценки называются состоятельными?
5. Какие оценки называются эффективными?
6. Какие методы получения оценок вы знаете? Поясните их смысл.
7. Как построить оценку математического ожидания случайной величины по её наблюдениям?
8. Как построить оценку дисперсии случайной величины по её наблюдениям?
9. Как построить несмещённую оценку дисперсии случайной величины?
10. Что такое доверительный интервал и что такое доверительная вероятность?
11. Какие законы распределения применяются при построении доверительных интервалов для параметров нормально распределённой случайной величины?
3.3 Примеры типовых задач с решением
Пример 3.1. Задан дискретный вариационный ряд
xi0,2 0,4 0,8 0,9 1 1,1 1,2 1,3 1,5 1,8
n
Вычислить следующие эмпирические характеристики:
5 7 12 15 18 20 13 5 3 2
i
а) выборочное среднее m
б) медиану Me
*
, в) моду Mo
X
д) среднее квадратическое отклонение σ
е) несмещённую дисперсию S
*
,
X
*
, г) дисперсию D
X
*
,
X
2
,
X
ж) исправленное среднее квадратическое отклонение SX,
з) коэффициент вариации, и) коэффициентом асимметрии,
к) коэффициентом эксцесса.
*
,
X
78 Глава 3. СТАТИСТИЧЕСКИЕ ОЦЕНКИ
Решение. Дополним исходный вариационный ряд строкой накопленных
частот
xi0,2 0,4 0,8 0,9 1 1,1 1,2 1,3 1,5 1,8
n
5 7 12 15 18 20 13 5 3 2
i
5 12 24 39 57 77 90 95 98 100
Для вычисления требуемых в задаче характеристик заполним вспомогательную таблицу
Таблица 3.1 – Промежуточные вычисления
xi ni xinixi− m
*
(xi− m
X
*
)2ni(xi− m
X
*
)3ni(xi− m
X
*
X
)4n
i
0,2 5 1,0 -0,8 2,9722 -2,2916 1,7668
0,4 7 2,8 -0,6 2,2823 -1,3032 0,7441
0,8 12 9,6 -0,2 0,3509 -0,0600 0,0103
0,9 15 13,5 -0,1 0,0756 -0,0054 0,0004
1,0 18 18,0 0,0 0,0151 0,0004 0,0000
1,1 20 22,0 0,1 0,3328 0,0429 0,0055
1,2 13 15,6 0,2 0,6817 0,1561 0,0357
1,3 5 6,5 0,3 0,5412 0,1781 0,0586
1,5 3 4,5 0,5 0,8395 0,4441 0,2349
1,8 2 3,6 0,8 1,3745 1,1395 0,9446
Сумма 97,1 9,4658 -1,6991 3,8009
Среднее 0,971 0,0947 -0,017 0,038
а) Вычислим выборочное среднее согласно формуле (3.1):
r
X
m
*
X
= ν
1
*
=
1
n
xini=
i=1
1
· 97,1 = 0,971.
100
б) Используя определение 3.14, т. к. накопленная частота впервые пре-
вышает порогn/2 = 50 у варианты x5= 1:
n1+ n2+ n3+ n4+ n5= 5 + 7 + 12 + 15 + 18 = 59,
то медиана равна Me
*
X
= 1.
3.3. Примеры типовых задач с решением 79
в) Согласно определению 3.15, т. к. варианта x6= 1,1 имеет наибольшую
частоту n6= 20, то выборочная мода также равна Mo
*
= 1,1.
X
г) Выборочную дисперсию вычислим следуя определению 3.8 по фор-
муле (3.2):
r
X
D
*
x
= µ
1
*
=
2
n
i=1
(
xi− ν
*
1
)
2
ni=
1
9,4658 = 0,0947,
100
д) Согласно определению 3.8 среднее квадратическое отклонение равно:
σ
*
x
=D
*
=√0,0947 ≈ 0,3077.
x
е) Вычислим по формуле 3.4 определения 3.9 несмещённую дисперсию
2
S
X
=
n
n − 1
D
*
x
2
S
x
=
100 − 1
100
· 0,0947 ≈ 0,0957.
ж) Согласно определению 3.10 исправленное среднее квадратическое
отклонение равно
Sx=S
2
≈√0,0957 ≈ 0,3094
x
з) Используя формулу (3.5) выборочный коэффициент вариации V*;
*
V*=
σ
m
x
*
X
· 100%≈
0,3077
· 100%≈ 31,69%.
0,971
и) Согласно формуле (3.2) вычислим третий и четвертый центральные
моменты:
m
X
µ
1
*
=
3
n
*
µ
=
4
i=1
1
n
˜
(
xi− ν
m
X
i=1
˜
(
xi− ν
*
1
3
)
ni=
4
*
)
1
100
ni=
1
· (−1,6991) = −0,0017
1
· 3,8009 = 0,0380.
100
Вычислим коэффициент асимметрии по формуле (3.6)
As*=
*
µ
3
=
3
(
)
σ
x
*
µ
3
(
)
σ
x
=
3
−0,0017
(0,3077)
≈ −0,5835.
3
к) Вычислим коэффициент эксцесса по формуле (3.7)
*
Ex*=
µ
4
− 3 =
4
(
)
σ
x
0,038
(0,09477)
− 3 ≈ 1,2372.
2
80 Глава 3. СТАТИСТИЧЕСКИЕ ОЦЕНКИ
Пример 3.2. По интервальному вариационному ряду
(
α
i−1
n
; α
i
](
0,4; 0,8](0,8; 1,2](1,2; 1,6](1,6; 2,0](2,0; 2,4](2,4; 2,8](2,8; 3,2](3,2; 3,6
i
5 6 9 16 18 7 5 4
Вычислить эмпирические характеристики:
а) выборочное среднее m
б) медиану Me
*
, в) моду Mo
X
д) среднее квадратическое отклонение σ
е) несмещённую дисперсию S
*
,
X
*
, г) дисперсию D
X
*
,
X
2
,
X
*
,
X
ж) исправленное среднее квадратическое отклонение SX,
з) коэффициент вариации, и) коэффициент асимметрии,
к) коэффициент эксцесса.
Решение. Дополним исходный вариационный ряд строкой накопленных
]
частот
(
α
i−1
n
; α
i
](
0,4; 0,8](0,8; 1,2](1,2; 1,6](1,6; 2,0](2,0; 2,4](2,4; 2,8](2,8; 3,2](3,2; 3,6
i
5 6 9 16 18 7 5 4
]
5 11 20 36 54 61 66 70
Для вычисления требуемых в задаче характеристик заполним вспомо-
гательную таблицу 3.2.
а) Вычислим выборочное среднее согласно определению 3.7 и формуле
(3.1):
m
X
m
*
x
= ν
1
*
=
1
n
i=1
˜
x
k
ni=
i
1
· 136,8 = 1,9543.
70
б) При нахождении медианы сначала определим медианный интер-
вал, т. е. интервал накопленная частота которого впервые превышает
n
/2 =70/2 = 35. Это четвертый интервал, в таблице выделенный серым
цветом:(1,6; 2,0].
А затем — значение медианы по формуле (3.8). В которой
X нижняя граница медианного интервала: αM= 1,6 ;