Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Прикладная математическая статистика. Учебное пособие
.pdf
21
(1)
ˆ
m
ˆ
m
Θ=Θ
( , ,..., )
n
X x x x
=
F
θ
k
R
x f x dx если x непрерывная величина
x p x если x дискретная величина
( , )
f x
θ
( , )
θ
( ) ( , ,..., )
i i k
µ θ = µ θ θ θ
i
i n j
m x x x x
∑
ɵɵɵ
( ,..., )
k
θ = θ θ
ɵ
ɵ
1 1
2 2
( ,..., ) ,
( ,..., ) ,
............................
( ,..., ) .
k k
mmm
ɵɵɵ
( ,..., )
k
θ = θ θ
I
( )
n
1
Θ
ˆ
!2) (1)
ˆ ˆ
Θ = Θ + Θ
В общем случае, если найдено
∂
ln
(1)
∂Θ
- е приближение, то следующее находится по
L
формуле
I
( )
n m
1
ˆ
Θ
ˆ ˆ
Θ = Θ + Θ
1
m m
+
∂
∂Θ
ln
L
( )
,
являющееся обобщением (2.15).
2.2.4. Оценка параметров методом моментов
Идея этого метода заключается в приравнивании теоретических и эмпирических
моментов.
Пусть
1 2
неизвестного параметра
θ = θ θ θ ∈Θ ⊂
– независимая выборка из распределения
( , ,..., )
1 2
k
функция
i
µ θ θ = =
( ,..., ) [ ]
1
i k
E x
i
∫
∑
j
θ θ
( , ,..., ) ,
1
k
i
j j k
θ θ
( , ,..., ),
1
( )
(2.12)
Θ=Θ
, зависящего от
. Моментом i -го порядка называется
где
– плотность распределения непрерывной случайной величины x,
p x
–
j
вероятность дискретной случайной величины. Теоретический момент является функцией
неизвестных параметров
1 2
.
Выборочным (эмпирическим) моментом i-го порядка называется величина
n
( , ,..., )
1 2
1
=
n
.
1
j
=
Отметим, что по своему определению эмпирические моменты являются функциями от
выборки.
Для нахождения неизвестных параметров (будем обозначать их
1
составим систему уравнений
µ θ θ =
1
ɵ ɵ
µ θ θ =
1
k
k
)
ɵ ɵ
µ θ θ =
Далее решаем систему относительно параметров
1
k
1
. В результате получим
22
ɵ
ɵ
( ,..., ),
( ,..., ),
.........................,
( ,..., ).
n
n
x x
x x
x x
( , ,..., )
n
x x x x
=
( )
y x
x
1
x
2
x
...
n
x
y
1
y
2
y
...
n
y
( ,..., ; )
f x
θ θ
( )
y x
( ,..., ; )
f x
θ θ
( ) ( ,..., ; )
y x f x
≈ θ θ
,...,
k
θ θ
( ,..., ; )
f x
θ θ
2
( ,..., ) ( ,..., ; )
0, 1,..., .
i k
θ θ
ɵɵɵ
( ,..., )
k
θ = θ θ
( , ,..., )
n
x x x x
=
F
θ
min max
[ , ]
x x
2
1,2,...,
m
+
ɶ ɶ
θ = θ
1 1
ɵ ɵ
θ = θ
2 2
ɵ ɵ
θ = θ
k k
1
1
1
n
Найденные параметры зависят от выборки
2.2.5. Оценка параметров методом наименьших квадратов
Пусть дана табличная функция
Необходимо аппроксимировать эти данные некоторой параметрической функцией
1
Параметры
функции с функцией
k
1
, т.е. заменить функцию
k
1
.
будем подбирать таким образом, чтобы расхождение табличной
1
было минимальным. Для этого построим функционал
k
1 2
функцией
.
1
:
k
n
F y f x
θ θ = − θ θ
1 1
минимума имеет вид
Решаем эту систему уравнений и получаем значения параметров
Пример 2.5.
Разобьем весь диапазон данных
Обозначим середины интервалов
k i k j
Пусть дана независимая выборка
( )
∑
1
=
j
dF
( ,..., )
x
i
и найдем его минимум. Необходимое условие
1
d
= =
k
= =
θ
i
1 2
на m интервалов и построим гистограмму.
x
x
1
i i
−
,
i
. Тогда плотность частоты
1
из распределения
.
.
23
, 1,2,...,
y i m
=
ɶ
x
ɶ
1
x
ɶ
2
x
...
ɶ
n
x
ρ
1
ρ
2
ρ
...
n
ρ
( ,..., ; )
f x
θ θ
( , )
f x
θ
2
( , )
µ σ
0;
R
σ > µ ∈
( ) , ( , )
= ∈ −∞ ∞
2
( )
−µ
( , ; ) ( , ; )
0, 0
= =
i
x x
∑
2
s x x x x
= − = −
( )
= µ
2
n
σ
30
n
<
2
s x x x nx
λ
∈Π
λ
Π
ωω
i
=
ρ
i
=
∆
i
i
(высоты столбиков гистограммы) будут значениями табличной функции
~~
−
xxx
1
−
ii
i
. Здесь nnii/=
ω
– относительные частоты.
Таким образом, мы получили табличную функцию
Поставим следующую задачу. Подобрать параметры известного закона непрерывного
распределения
1
так, чтобы расхождение между гистограммой и функцией
k
было минимально. В результате мы приходим к методу наименьших квадратов. ►
2.3. Точечная оценка параметров нормального распределения
Пусть случайная величина X имеет нормальное распределение
. Плотность распределения имеет вид:
( )
x
−µ
−
f x e x
1
2
σ π
Решение. Запишем функцию правдоподобия
2
σ
2
N
2
, где
.
n
x
n
j
−
∑
2
σ
2
=
i
1
.
, получим следующие
e eL x
( )
−
n
2
( , ;2)
µ σ = =
∏
1 1
σ π σ π
j
1
dL x dL x
Из условия максимума
2
x
−=µ
j
σ
2
µ σ µ σ
d d
2
2
2 2
µ σ
оценки среднего и дисперсии
n
1
=
n
1
i
=
2 2 2
,
n n
1 1
( )
∑ ∑
n n
i i
= =
i i
1 1
.
Оценка среднего – состоятельная, несмещенная, эффективная, достаточная и распределена
как случайная величина тоже нормально со средним
M x
и дисперсией
( )D x
=
Оценка дисперсии – состоятельная, эффективная, достаточная, но смещенная. При
рекомендуется использовать несмещенную оценку
n n
1 1
2 2 2
= − = −
n n
− −
( )
∑ ∑
1 1
i i
= =
i i
1 1
.
.
2.4. Точечная оценка параметров показательного закона распределения
Пусть
X
, где
– показательный закон распределения с параметром
24
λ
( ) , [0, )
= λ ∈ ∞
*
λ
j
x
∑
0
d
λ
=
0
λ − λ =
1
j
x
∑
*
λ
1
µ λ = = ⋅ λ =
λ
j
m x
∑
1 1
j
x
∑
,
X U
α β
∈
,
U
α β
,
α β
α
ɵ
β
2
α + β
2 2
β + αβ + α
2
.
3
m
α + β
ɵ
3 3
β = + − = + σ
3
α = − σ
2 2
2 1
m m
σ = −
x
с плотностью распределения
f x e x
−λ
методом максимального правдоподобия.
Запишем функцию правдоподобия
n
n
( , )
L x e e
λ = λ = λ
∏
=
j
1
следующее уравнение:
−α
x
j j
n n
−
n e x e
−λ
n
1
=
. Из условия максимума
n n
x x
−λ −λ
j j
∑ ∑
1
1 1
= =
j j
n
∑
j
1
=
j
. Найти оценку параметра
( ; )
dL x
получим
λ
. Отсюда следует
*
λ =
1
n
.
n
1
j
=
Найдем теперь оценку параметра
методом моментов.
( ) [ ]
1
*
λ = =
E x x e dx
m
1
∞
∫
0
n
1
n
1
j
=
−λ
x
. Приравниваем к
1
. Таким образом, оценки параметра λ, полученные методом
n
1
=
n
. Отсюда получим:
1
j
=
максимального правдоподобия и методом моментов, совпали.
2.5. Точечная оценка параметров равномерного закона распределения
Пусть
Найдем оценки параметров
( , ) [ ]
m E x xdx
α β = = =
1
, где
1
β − α
– равномерный закон распределения с параметрами
и
методом моментов.
β
( , ) [ ]
,
m E x x dx
α β = = =
∫
α
2
2 2
β − α
β
1
∫
α
.
.
3
Получим систему
,
m
=
2
2 2
β + αβ + α
1
=
Решение системы:
– дисперсия выборочного распределения. ►
2.6. Точечная оценка параметров биномиального закона распределения
m m m m
1 2 1 1
2
,
m
1
. Здесь
25
n
p
, ,...,
n
x x x
, 1, 2,...,
x i n
Y
i
x x
∑
, ,...,
n
x x x
n
( ; , ) , 0,1,...,
f x n p p q k n
!
( )! !
n x x
p
i n i
F x n p p q
−
= ⋅ ⋅
[ ]
E x np
=
[ ]
D x npq
=
n
m
n
=
0
=
2
σ
Биномиальное распределение — распределение количества «успехов» в
последовательности из
«успеха» в каждом из них постоянна и равна
Определение.
величин с распределением Бернулли, то есть
Пусть
независимых случайных экспериментов, таких что вероятность
1 2
— конечная последовательность независимых случайных
.
1
= =
i
0 1
Построим случайную величину
n
=
1
i
=
Тогда x – число единиц (успехов) в последовательности
распределение с
вероятностей задаётся формулой:
n
где
x
Здесь x – количество появлений события в серии из n испытаний, при условии, что в
единичном испытании вероятность его появления равна
Функция распределения биномиального распределения может быть записана в виде суммы:
Среднее значение равно
=
p
q p
= −
n
−
:
1 2
степенями свободы и вероятностью «успеха» p. Распределения
n
= ⋅ ⋅ =
x
— биномиальный коэффициент
( ; , )
, а дисперсия –
x n x
x
∑
0
i
=
−
.
n
,
i
.
, имеет биномиальное
,
Биномиальное распределение зависит от одного параметра p.
Если имеется реализация из
несмещенной точечной оценкой максимального правдоподобия параметра p является
величина
p
n
. Это следует из решения уравнения
2.7. Планирование экспериментов для оценки параметров распределений
2.7.1. Нормальное распределение
Оценка среднего при известной дисперсии
Объем выборки, необходимый для оценки среднего µ с заданной предельной абсолютной
ошибкой ε и доверительной вероятностью α при известной дисперсии
соотношением
испытаний, в которых событие наблюдалось m раз, то
( ; , )
df x n p
dp
x m
=
.
определяется
26
2
σ
0,14 0,14
4,91[ (1 ) ]
2
50
σ =
20
ε =
0,95
α =
24,108 0,95 (1 0,95) 17
= − − =
≥
17
n
≥
( )
t n s
x x
ε
δ = = ⋅
( )
t n
v n
=
δ
( )
t n
n
x
ε
δ =
s
x
=
s
ε
= δ =
n
0,4
δ =
0,95
α =
1
w
=
/ 0,4
0,95
α =
26
n
=
и
t
u
α
=
n
.
ε
Для α- квантили стандартного нормального распределения можно использовать
аппроксимацию
u
= α − − α
α
24,108 (1 )
n
= α − − α
. Тогда имеем
σ
0,14 0,14
.
ε
Пример 2.6.
стандартным, отклонением
значение напряжения зажигания с предельной абсолютной ошибкой
доверительной вероятности
Решение. Имеем
желаемая точность оценки с вероятностью
Оценка среднего при неизвестной дисперсии
Необходимый объем выборки определяется из соотношения
Напряжение зажигания газоразрядного прибора распределено нормально со
В. Найти объем выборки, позволяющий оценить среднее
.
2
. Следовательно,
.►
50
n
20
0,14 0,14
0,95 достигается при объеме выборки
α
,
n
В при
где
выборочные оценки соответственно стандартного отклонения и среднего значения. Здесь
– относительная погрешность среднего.
Значения
Определение объема выборки происходит в следующей последовательности. Сначала по
заданным величинам
табл. 3 находим значение
– α-квантиль распределения Стьюдента при
α
α
приведены в табл. 4 (см. статистические таблицы).
и α и предполагаемому коэффициенту вариации
( )
t n
α
/
w
и по нему определяем искомое значение n.
степенях свободы; s и x –
w
по
n
Если для найденного объема выборки
предполагавшегося, то эксперимент должен быть продолжен.
Пример 2.7.
предельной относительной ошибкой
если предполагаемое значение коэффициента вариации равно
Решение. Имеем
Определить необходимый объем выборки для оценки среднего значения с
t
0,95
w
= δ =
выборочное значение s окажется больше
при доверительной вероятности
.
. Тогда из табл. 3 для
непосредственно
,
n
находим
2.7.2. Экспоненциальное распределение
.►
Предположим, что в течение некоторого времени
испытаниях обнаруживается r отказов. Необходимо определить значения n и r,
испытывается n приборов и при
27
0
λ
( , )
t a r
λ α
( , )
a r
α
r
1
1
+ δ
( , )
b r
α
r
( , )
b r
α
( , )
b r
α
r
( , )
a r
α
и
t
0
λ
0
( , )
t T
0
T
1000
=
0,2
δ =
3
10
−
0,95
α =
0,833
( , ) 0,833
b r
α =
0,95
α =
80
r
=
80
r
=
0,95
α =
( , ) 0,84
a r
α =
95
= =
0
p
0
p p
≤
0
ln(1 )
ln(1 )
p
− α
0
p p
≤
0,90
α =
0,05
=
45
− α
= = =
обеспечивающие оценку интенсивности отказов
предельной ошибкой δ при доверительной вероятности α.
При испытаниях невосстанавливаемых приборов требуемый объем выборки равен
с заданной относительной
r
n
=
0
и
Значения коэффициента
таблицы).
Значения
зависящий от
определяем
находим
значение
случае испытаний восстанавливаемых приборов может быть получена оценка необходимого
времени испытаний
. Далее, для найденного значения r и заданного α по табл. 5 определяем
находятся из соотношения
и α (см. табл. 6, статистические таблицы). По заданным α и δ сначала
, затем по заданному значению α и вычисленному
, и по заданному
приведены в табл. 3 [1] (см. табл. 5, статистические
b r
и
вычисляем требуемый объем выборки n. В
( , )
α =
.
, где
– коэффициент,
из табл. 6
r
=
и
a r
где
Пример 2.8
невосстанавливаемого прибора, если заданы время испытаний
– ожидаемое время наработки на отказ.
. Найти требуемый объем испытаний для оценки интенсивности отказов
α
,
t
и
ч., предельная
относительная ошибка
доверительная вероятность
, предполагаемое значение интенсивности отказов
.
λ =
1 1
Решение. Находим
находим
. Из табл. 5 для
= =
1 1 0, 2
+ δ +
. Из табл. 6 для
и
находим
и
. Тогда искомый
80
объем выборки
2.7.3 Биномиальное распределение
Предположим, что задано некоторое значение параметра биномиального
распределения –
подтвердить с вероятностью α, что
n
3
−
10 1000 0,84
⋅ ⋅
. Тогда, наименьший объем выборки, необходимый для того, чтобы
n
=
. ►
равен
.
−
Если среди n испытанных приборов не будет ни одного отказа, то с
вероятностью α можно утверждать, что
.
0
,
Пример 2.9
что доля дефектных изделий в партии не превышает заданную величину
Решение. Имеем
. Найти объем выборки, позволяющий с достоверностью
ln(1 ) ln 0,1
n
ln(1 ) ln 0,95
p
−
0
. ►
установить,
p
0
.
28
0
p
0
p
0
p
1
−
2
0,90
α =
0,05
=
45
− α
= = =
0,1
=
200
N
=
0,95
α =
0
p
0,2
l
=
1,96
= =
9
= + =
Рассмотрим еще одну практическую задачу. Имеем совокупность из N приборов с r
дефектными приборами (доля дефектных приборов равна
предполагаемой величины доли дефектных приборов
который с заданной достоверностью α обеспечивает заданную длину доверительного
интервала l для оценки
2
= +
n
u p p N
Для квантили нормального распределения можно использовать аппроксимацию
2
u
= −
+α
1
2
Пример 2.10
установить, что доля дефектных изделий в партии не превышает заданную величину
p
0
l
2
+α
1 0 0
2
24,108
−
(1 )
1 1
. Найти объем выборки, позволяющий с достоверностью
.
+ α − α
. Необходимый объем выборки n в этом случае равен
1
.
0,14 0,14
2 2
.
найти объем выборки n.
). Необходимо для
ln(1 ) ln 0,1
n
Решение. Имеем
Пример 2.11
дефектных приборов
получен доверительный интервал для оценки
Решение. Имеем
Оценка неизвестных параметров закона распределения.
1.
2. Что означают понятия точечные и интервальные оценки?
3. Понятие состоятельности, несмещенности и эффективности оценки.
4. Функция правдоподобия и оценка максимального правдоподобия.
5. Приближенное решение уравнения правдоподобия.
6. Приведите примеры применения метода максимума правдоподобия.
7. Метод моментов. Оценки математического ожидания и дисперсии случайной величины.
Их свойства.
8. Метод наименьших квадратов оценки параметров.
9. Точечные оценки параметров нормального распределения.
10. Точечные оценки параметров экспоненциального распределения.
11. Точечные оценки параметров равномерного распределения.
Точечные оценки и параметров биномиального распределения.
12.
13. Какой объем выборки необходим для оценки среднего µ при неизвестной дисперсии
для нормальной случайной величины?
. Необходимо найти объем выборки, при котором для заданной доли
ln(1 ) ln 0,95
p
0
u u
1 0,95
+α
2
p
−
0
в партии из
n
и
. ►
приборов будет с вероятностью
0,04 1
2
1,96 0,1 0,9 200
⋅ ⋅
Вопросы для самопроверки
длиной
.
1
−
.►
29
14. Какой объем выборки необходим для оценки среднего µ при известной дисперсии для
нормальной случайной величины?
15.
Какой объем выборки необходим для оценки параметра экспоненциального
распределения?
Какой объем выборки необходим для оценки параметра биномиального распределения?
16.
30
x
2
( , )
µ σ
0
σ >
R
µ∈
( ) , ( , )
= ∈ −∞ ∞
2
σ
α
n n
σ σ
u
γ
2
+ α
γ = α
2,0637 ln 0,16 1,5774, 0,5 0,999
s s
n n
t
γ
1
v n
= −
2
+ α
γ = α
( ) , 30
= ≤
2
σ
2 2 2 2
( ) ( ) , ( ) ( )
s x x s x x
Тема 3. Интервальные оценки параметров распределений
3.1. Оценка параметров нормального распределения
Пусть случайная величина
с плотностью
f x e x
σ π
Оценка µ при известной дисперсии
Интервальные оценки с доверительной вероятностью
имеет нормальное распределение
2
( )
x
−µ
−
1
2
σ
2
.
2
имеют вид:
н в
( ) , ( )
µ α = − µ α = +
x u x u
γ γ
N
, где
,
,
1
где
оценки,
нормального распределения. На практике удобно использовать аппроксимацию квантилей
стандартного нормального распределения вида
u p
В этом случае интервальная оценка с доверительной вероятностью α имеет вид:
– γ-квантиль стандартного нормального распределения;
для односторонней оценки.
В табл. 1 (см. статистические таблицы) приведены квантили стандартного
= − − ≤ ≤
p
Оценка µ при неизвестной дисперсии
1
p
−
1
0,4274
γ =
для двусторонней
н в
( ) , ( )
µ α = − µ α = +
x t x t
γ γ
,
1
где
двусторонней оценки,
В работе [1] на стр. 52 приведены критические точки распределения Стьюдента.
Аппроксимации для расчетов квантилей имеют вид
Интервальные оценки при доверительной вероятностью α равны
– γ-квантиль распределения Стьюдента с
для односторонней оценки.
>
, 30;
u v
p
t v v
p
u
p
Оценка дисперсии
2 4 2 6 4 2
u u u u u u
1 5 16 3 3 19 17 15
+ + + + + +
p p p p p p
1
+ + +
4 96 384
v v v
н в
= − = −
χ χ
2 3
n n
1 1
∑ ∑
2 2
′ ′′
γ γ
i i
1 1
= =
i i
степенями свободы;
γ =
,
для
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]