Ekz_progr_po_TViMS_dlya_IE (1)
.pdfОценка называется эффективной, если она имеет наименьшую дисперсию среди всех оценок, построенных по данной серии наблюдений
Замечание:
Если ² несмещенная оценка, то для ее состоятельности достаточно, чтобы:
4 ²( ,, -, … , ")5 = 0
"→:
19.3 Оценки для математического ожидания и дисперсии
Пусть имеет неизвестные математическое ожидание и дисперсию, причем ( ) < ∞. Если ,, -, … , " – результаты независимых наблюдений случайной величины, то в качестве оценке для математического ожидания можно предложить среднее арифметическое наблюдаемых значений
|
|
|
|
|
¦ |
∑12," 1 |
|
|
|
|
|
|
|
|
|
|
=следует из: |
|
|
|
|
||
Несмещенность такой оценки |
|
|
( ) |
|
|||||||
¦ |
∑12," |
1 |
– = |
∑12," ( 1) |
= |
= ( ) |
|||||
|
|
|
|
|
|||||||
( ) = • |
|
||||||||||
¦ |
|
∑12," |
1 |
|
∑12," ( 1) |
|
( ) |
( ) |
|||
|
|
|
|
– = |
|
- |
= |
|
- |
= |
|
( ) = • |
|
|
|
|
При ( ) < ∞, состоятельность следует из:
¦ |
( ) "→: |
|
— ™ 0 |
||
( ) = |
Так как ( ) [ − ( )]-, то в качестве оценки можно взять:
"
´( ) = 1 J12,( 1 − ¦)-
"
´( ) = 1 J12,( 1 − 7 + 7 − ¦)- =
= |
1 " |
( |
− |
) |
- |
− |
2 " |
( − |
)( − |
) + |
1 " |
( − |
) |
- |
= |
||
J12, |
|
J12, |
J12, |
|
|||||||||||||
|
|
1 |
7 |
|
|
|
|
1 7 |
¦ |
7 |
|
|
¦ |
7 |
|
|
|
|
1 |
" |
|
|
- |
|
2 |
" |
|
|
|
|
¦ |
7 |
) |
- |
= |
|
( |
− |
) |
− |
|
( − |
)( − |
) + |
( − |
= |
|||||
J12, |
J12, |
|
|
|
||||||||||||
|
|
|
1 |
7 |
|
|
|
|
1 7 |
¦ |
7 |
|
|
|
|
|
"
= 1 J12,( 1 − 7)- − ( ¦ − 7)-
Проверим несмещенность оценки:
‡ ( )ˆ = |
1 " |
( |
− |
) |
- |
− ( − |
- |
= |
1 " |
( |
− |
) |
- |
− |
( ) |
||||
J12, |
|
) |
J12, |
|
|
||||||||||||||
´ |
|
1 |
1 |
7 |
|
|
|
¦ |
|
7 |
|
|
|
1 |
7 |
|
|
|
|
|
|
= |
( ) − |
( ) |
= |
− 1 |
( ) |
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
Данная оценка является смещенной асимптотически, поэтому введем поправку "&," и обозначим полученную оценку -
´ |
|
∑ |
" |
( − ) |
- |
1 |
" |
¦ |
|
|
|
|
12, |
|
1 |
- |
|
- |
|||||||
− 1 = |
− 1 |
|
1 |
¦ |
= |
− 1 J12,( − ) |
= |
|||||
|
|
|
|
|
|
-– несмещенная и состоятельная оценка дисперсии
20.Принцип наибольшего правдоподобия в оценке параметров распределений.
20.1Принцип наибольшего правдоподобия в оценке параметров распределений
Принцип: в качестве оценки для неизвестной характеристики случайной величины выбирают то ее значение, при котором полученный результат
наблюдений наиболее вероятен. |
|
|
случайной величины зависит от |
||
Пусть закон |
распределения |
||||
неизвестного значения параметра |
|
. |
|||
= ( ,, -, … , ", ) = ± |
|
|
( ,, ) ( -, ) … ( ", ) |
||
Это функция |
|
( = , ), ( = , ) … ( = , ) |
|||
|
правдоподобия для,дискретной и-непрерывной случайной" |
величины Данный принцип предлагает в качестве оценки значения параметра
выбрать такое = ̅, при котором принимает наибольшее значение. Величина ̅, будучи функцией от результатов наблюдений ,, -, … , ", называется оценкой наибольшего правдоподобия.
В многих случаях, когда дифференцируема, оценка наибольшего правдоподобия находится как решение уравнения
= 0
Которое следует из необходимого условия экстремума. Поскольку
достигает максимума при том же значении , что и , то можно решать относительно эквивалентное уравнение
= 0
Это уравнение называют уравнением правдоподобия. Оценку, получаемую в результате поиска максимума функции правдоподобия, называют еще оценкой максимального правдоподобия.
Оценки максимального правдоподобия всегда состоятельны, но бывают смещены, но не асимптотически
21. Понятие о доверительном интервале. Доверительный интервал для математического ожидания (случай большой выборки).
21.1 Понятие о доверительном интервале
Пусть случайная величина имеет неизвестную характеристику . По результатам наблюдений ,, -, … , " определяют две величины =
( ,, -, … , ") и ̅= ̅( ,, -, … , "), такие, что 4 < < 5 = , где –
наперед заданная вероятность. Величины и ̅называют соответственно нижней и верхней доверительными границами, а интервал 4 , ̅5 –
доверительным интервалом для , соответствующим уровню надежности Замечание:
Доверительный интервал можно построить исходя из точечной оценки характеристики
Пусть для известна точечная оценка ¹. Подберем N такое, чтобы выполнялось равенство
|
|
|
|
|
4® − ® < 5 = |
|
|
|
|
|
|||||
Где |
|
– выбранная заранее¹вероятностьN |
|
|
4 − , + 5 |
|
|||||||||
Тогда |
4 − < < + 5 = |
, |
и |
можно |
|||||||||||
|
|
|
|
N |
|
N |
|
|
|
|
¹ |
N |
¹ |
N |
|
|
|
|
доверительный интервал для |
|
|
|
|
||||||||
рассматривать как¹ |
|
¹ |
|
|
|
|
|
|
|
|
|||||
|
выбирают близким к единице, |
настолько, чтобы его можно было |
|||||||||||||
|
|
|
|
|
|
|
|
|
|
считать вероятностью практически достоверного события, тогда соответствующий доверительный интервал можно считать практически возможным значением или интервалом значений , которые согласуются с опытными данными
21.2Доверительный интервал для математического ожидания (случай большой выборки)
Пусть случайная величина имеет неизвестные ( ) и ( ), причем
( ) < ∞. ,, -, … , " – результаты независимых наблюдений
¦ |
, + - + + " |
, |
- |
" |
|
|
= + + + |
||||
= |
Если число наблюдений достаточно велико, то по ЦПТ можно утверждать, что
|
|
|
|
¦ |
( |
) ( ) |
|
|
|
|
|
|
|
~ … |
распределения, † |
имеет вид |
|||
Запись формулы для этого закона |
|
|
|
||||||
|
|
|
¦ |
|
< ) = 2Φ |
|
= |
||
|
|
(| − ( )| |
Ÿ ( ) |
||||||
|
H |
= N |
|
= NŸ |
2Φ4 N5 = |
|
|
||
Если |
, то |
J(?) |
|
|
|
|
|||
|
O*(,)# |
|
" |
|
|
|
|
Подставив в исходное неравенство, получим:
º ¦ − N» ( ) < ( ) < ¦ + N» ( )¼ =
Если дисперсия известна, то данное выражение решает задачу Если дисперсия неизвестно, то можно взять
"
( ) ≈ - = −1 1 J12,( 1 − ¦)-
Тогда получаем следующий доверительный интервал
… ¦ − N √ < ( ) < ¦ + N √ † =
22. Понятие о доверительном интервале. Доверительный интервал для математического ожидания (случай малой выборки).
22.1 Понятие о доверительном интервале
Пусть случайная величина имеет неизвестную характеристику . По результатам наблюдений ,, -, … , " определяют две величины =
( ,, -, … , ") и ̅= ̅( ,, -, … , "), такие, что 4 < < 5 = , где –
наперед заданная вероятность. Величины и ̅называют соответственно нижней и верхней доверительными границами, а интервал 4 , ̅5 –
доверительным интервалом для , соответствующим уровню надежности Замечание:
Доверительный интервал можно построить исходя из точечной оценки характеристики
Пусть для известна точечная оценка ¹. Подберем N такое, чтобы выполнялось равенство
|
|
|
|
|
4® − ® < 5 = |
|
|
|
|
|
|||||
Где |
|
– выбранная заранее¹вероятностьN |
|
|
4 − , + 5 |
|
|||||||||
Тогда |
4 − < < + 5 = |
, |
и |
можно |
|||||||||||
|
|
|
|
N |
|
N |
|
|
|
|
¹ |
N |
¹ |
N |
|
|
|
|
доверительный интервал для |
|
|
|
|
||||||||
рассматривать как¹ |
|
¹ |
|
|
|
|
|
|
|
|
|||||
|
выбирают близким к единице, |
настолько, чтобы его можно было |
|||||||||||||
|
|
|
|
|
|
|
|
|
|
считать вероятностью практически достоверного события, тогда соответствующий доверительный интервал можно считать практически возможным значением или интервалом значений , которые согласуются с опытными данными
22.2Доверительный интервал для математического ожидания (случай малой выборки).
Вэтом случае необходима информация о законе распределения. Рассмотрим ~ ( ; -) и - неизвестны
Можно воспользоваться свойством устойчивости нормального закона распределения, т.е. сумма независимых нормально распределенных случайных величин, также имеет нормальный закон распределения
Тогда ¦~ ‡ ( ), J(?)" ˆ и, если известна ( ) = -, то задачу решает формула:
º ¦ − N» ( ) < ( ) < ¦ + N» ( )¼ =
Если ( ) = - – неизвестно, то использовать ее оценку - очень ненадёжно
Английский статистик Стьюдент (У. Госсет) доказал, что если~ ( ; -), где и - неизвестны, то
= √ ( ¦ − )
Имеет закон распределения, который независим от и , а зависит только от числа − 1, которое принято называть числом степеней свободы.
Стьюдент нашел функцию плотности вероятности "&,( ). С ее помощью были вычислены вероятности и результаты сведены в таблицу.
A.
4| | < N5 = g "&,( ) =
&A.
При заданном |
уровне |
надежности |
|
по таблице распределения |
||||
Стьюдента для |
|
степени свободы |
можно найти соответствующее . |
|||||
|
|
|
|
N |
||||
Подстановка N |
дает равенство |
|
|
|
|
|
||
− 1 |
|
|
¦ |
|
|
|
||
|
|
•¥ |
√ ( − ) |
¥ < N– = |
|
|||
|
|
|
|
|
Или
… ¦ − N √ < ( ) < ¦ + N √ † =
Вэтой формуле N находится по таблице распределения Стьюдента
23. Статистическая гипотеза. Статистический критерий. Критерий “хиквадрат”.
23.1 Статистическая гипотеза
Статистической гипотезой называют любое утверждение о законе распределения случайной, величины, его параметрах, о числовых характеристиках и т.д., которое может быть проверено на основе опытных данных
23.2 Статистический критерий
Статистическим критерием называется правило, которое указывает, когда гипотезу следует принять, а когда отвергнуть
Построение статистического критерия сводится к выбору в выборочном пространстве критической области 9, при попадании выборки в которую гипотеза отвергается. Обычно в критическую область включают самые маловероятные при данной гипотезе выборки
Пусть , – результат одного наблюдения( , 9) = – вероятность отвергнуть правильную гипотезу
Эту вероятность называют уровнем значимости критерия Критерии для проверки гипотезы о законе распределения случайной
величины обычно называют критерием согласия.
В общем случае выборочное пространство делят на две части:
9 – включает все самые маловероятные выборки при данной гипотезе. Если выборка = { ,, -, … , "} попадает в 9, то гипотезу отвергаем, при этом вероятность ошибиться, когда гипотеза на самом деле верна, равна
Если выборка не попадает в критическую область, то ее принимаем
23.3 Критерий “хи-квадрат”. (К. Пирсон)
Пусть результаты наблюдений случайной величины заданы статистическим рядом:
Интервалы |
( ,, -) |
( -, .) |
… |
( 4, 4>,) |
Частоты |
||||
|
, |
- |
… |
" |
|
|
|
|
Пусть выдвигается гипотеза, что случайная величина имеет распределение ( ), то
?%/!
( 1, 1>,) = ( 1>,) − ( 1) = g ( ) = 1
?%
Предположим, что гипотеза верна и выпишем вероятности попадания в каждый из интервалов ( – достаточно велико)
Если гипотеза верна, то P"% ≈ 1
Величина
|
|
|
|
|
|
|
|
|
|
|
|
" |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
J 1 ‡ 1 − 1ˆ- |
|
|
|
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
12, |
верной гипотезе |
|
|
|
|||||||||
Должна оказаться малой при |
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||
Если гипотеза ложная, то P% |
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||
Если |
1 |
= D% |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
" |
, то величина " ≠ 1 |
" |
( 1 − 1)- |
|
- |
|||||||||||||||||||
|
|
|
|
|
" |
|
1 |
|
|
|
|
- |
|
|
= |
||||||||||
|
|
|
|
|
J |
|
1 ‡ |
|
− 1ˆ = J |
|
|
1 |
|
|
|
||||||||||
Английский |
статистик12, |
Пирсон показал,12, |
что при выборе коэффициентов |
||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
" случайная величина |
|
|
- имеет распределение, которое не зависит от |
||||||||||||||||||||||
1 = D% |
|
|
|
|
|
|
определяется функцией плотности вероятности |
||||||||||||||||||
выдвинутой гипотезы и |
|
|
|
|
|
|
1 |
|
|
|
) |
|
|
Q |
|
|
|
||||||||
|
|
|
|
|
Ψ)( ) = |
|
|
|
|
|
|
|
|
|
|
, ≥ 0 |
|||||||||
|
|
|
|
|
|
) |
|
: |
|
|
-&, |
&- |
|||||||||||||
|
|
|
|
|
|
|
|
) |
|
&A |
|
|
|
||||||||||||
|
- зависит |
|
|
|
|
|
|
- |
9 |
|
- |
|
|
|
|
|
|
|
|
||||||
|
|
только |
от числа, |
которое |
называется числом степеней |
||||||||||||||||||||
|
|
|
|
|
|
2 |
|
|
∫ |
|
|
|
|
|
|
|
свободны:
= −
– число связей, наложенных на величины 1
Связью называется всякое равенство, в котором учувствует 1