Математическая статистика. Ч.2. Учебное пособие
.pdf~
Если это равенство не выполняется, то оценка , полученная
по разным выборкам, будет в среднем либо завышать значение
~ ~
(если M ), либо занижать его (если M ). Таким образом, требование несмещенности гарантирует отсутствие систематических ошибок при оценивании.
Замечание
На первый взгляд, приведенное выше определение любой оценки, как всякой функции результатов наблюдений, было бы
более естественным и не таким расплывчатым, если бы в нем
~
содержалось условие M . К сожалению, этого сделать нельзя, так как практически важные оценки оказываются смещенными, хотя и слабо.
|
|
|
|
|
n |
~ |
|
|
Если |
при конечном объеме |
выборки |
M , |
|
т.е. |
|||
|
|
~ |
~ |
|
|
~ |
|
|
смещение |
оценки |
b M 0 , но |
lim b 0 |
, |
то |
|||
|
~ |
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
такая оценка называется асимптотически несмещенной. |
|
|
||||||
|
|
|
~ |
|
|
называется |
||
Определение. |
Оценка |
|
параметра |
|
||||
состоятельной, если она удовлетворяет закону больших чисел,
т.е. |
сходится по вероятности к оцениваемому параметру: |
||||
~ |
P |
||||
, т. е. для любого 0 выполнено требование |
|||||
|
n |
||||
|
lim P |
|
~ |
|
1. |
|
|
|
|||
|
|
|
|
||
|
n |
|
|
|
|
В случае использования состоятельных оценок оправдывается увеличение объема выборки, так как при этом становятся маловероятными значительные ошибки при оценивании. Поэтому практический смысл имеют только состоятельные оценки. Если
оценка состоятельна, то практически достоверно, что при
~
n .
11
|
~ |
параметра |
|
|
|
Если оценка |
|
является несмещенной, |
а ее |
||
~ |
|
|
|
~ |
|
дисперсия D 0 при n , то оценка |
является и |
||||
состоятельной. |
|
|
|
|
|
|
|
|
~ |
|
|
Определение. |
|
Несмещенная |
оценка |
параметра |
|
называется эффективной, если она имеет наименьшую дисперсию
среди всех возможных несмещенных оценок параметра |
, |
||||||||||||
вычисленных по выборкам одного и того же объема n . |
|
||||||||||||
|
|
|
|
|
|
|
|
|
|
~ |
2 |
|
|
Так |
|
как |
для |
несмещенной |
оценки M |
есть |
ее |
||||||
|
|
|
|
|
|
|
~ |
, то эффективность является решающим |
|||||
дисперсия |
|
D |
|||||||||||
свойством, определяющим качество оценки. |
|
|
|
||||||||||
|
|
|
|
|
|
|
|
|
~ |
|
|
|
|
Эффективность оценки определяют отношением: |
|
||||||||||||
|
|
э |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
~ |
|
|
|
|
|
|
|
|
|
e |
|
|
|
, |
|
|
|
|
|
|
|||
|
|
2 |
~ |
|
|
|
|
|
|
|
|||
2 |
~ |
|
и |
2 |
|
~ |
|
|
|
|
|||
где э |
|
– соответственно дисперсии эффективной и |
|||||||||||
данной оценок. |
|
|
|
|
|
|
|
|
|||||
Чем ближе e к 1, тем эффективнее оценка. Если e 1 при |
|||||||||||||
n , |
|
то |
|
|
такая оценка |
называется асимптотически |
|||||||
эффективной.
Эффективную оценку в ряде случаев можно найти, используя
неравенство Рао-Крамера-Фреше:
~ |
1 |
|
|
D |
|
|
, |
n I |
|||
где I – количество информации Фишера о параметре ,
содержащееся в единичном наблюдении и определяемое в дискретном случае формулой:
|
|
2 |
|
I M |
|
|
ln p ; |
|
|||
|
|
|
|
|
|
|
|
m |
|
|
xi ; |
2 |
|
|
|
p |
|
p xi ; , |
|||
p xi ; |
||||||
i 1 |
|
|
|
|||
12
где p x; P x ,
а в непрерывном случае – формулой
|
|
|
|
2 |
|
|
|
|
2 |
|
|
|
|
|
|
|
|||
|
|
|
|
f x; |
|
|
|||
I M |
|
|
ln f ; |
|
|
|
|
|
f x; dx , |
|
|
|
|||||||
|
|
|
|
|
f x; |
|
|||
|
|
|
|
|
|
|
|
||
где f x; – плотность распределения случайной величины .
Замечание
В качестве статистических оценок параметров генеральной совокупности желательно использовать оценки, удовлетворяющие одновременно требованиям несмещенности, состоятельности и эффективности. Однако достичь этого удается не всегда. Может оказаться, что для простоты расчетов целесообразно использовать незначительно смещенные оценки или оценки, обладающие большей дисперсией по сравнению с эффективными оценками, и т.п.
2.2. Точечные оценки
Различают точечные и интервальные оценки неизвестных параметров.
Определение. Точечной оценкой называется оценка, которая определяется одним числом.
Рассмотрим наиболее важные точечные оценки – оценки математического ожидания и дисперсии случайной величины.
Пусть имеется случайная величина с математическим ожиданием a M и дисперсией D D . Оба параметра
неизвестны. Требуется на основании опытных данных найти состоятельные и несмещенные оценки этих параметров.
Генеральной средней xг называется среднее арифметическое значений признака генеральной совокупности.
Если все значения х1 , х2 ,...,хN признака генеральной совокупности объема N различны, то
13
x |
г |
|
x1 x2 |
... xN |
. |
|
|
|
(2.1) |
|
|
|
|
|
|
||||||
|
|
|
|
N |
|
|
|
|
||
|
|
|
|
|
|
|
|
|
||
Если |
же |
значения |
признака |
х1 , х2 ,...,хk |
имеют |
|||||
соответственно |
частоты |
N1 , N2 , |
..., Nk , |
причем |
||||||
N1 N2 |
... Nk N , то |
|
|
|
|
|||||
x |
г |
|
x1N1 x2 N2 ... xk Nk |
. |
|
(2.2) |
||||
|
|
|||||||||
|
|
|
|
N |
|
|
|
|
||
|
|
|
|
|
|
|
|
|
||
Для характеристики рассеяния значений признака генеральной совокупности вокруг своего среднего значения вводят генеральную дисперсию и генеральное среднее квадратическое отклонение.
Генеральной дисперсией Dг называется среднее арифметическое квадратов отклонений значений признака генеральной совокупности от их среднего значения xг .
Если |
все значения |
х1 , х2 ,...,хN |
признака генеральной |
|||
совокупности объема N различны, то |
|
|||||
|
|
N |
|
|
|
|
|
|
xi |
xг 2 |
|
|
|
D |
i 1 |
|
. |
|
(2.3) |
|
|
|
|
||||
г |
N |
|
|
|
||
|
|
|
|
|
||
Если |
же |
значения |
признака |
х1 , х2 ,...,хk имеют |
||
соответственно частоты N1 , N2 ,..., Nk , причем |
||||||
N1 N2 ... Nk |
N , то |
|
||||
|
|
k |
xi xг 2 |
|
|
|
|
|
Ni |
|
|
||
D |
|
i 1 |
|
|
. |
(2.4) |
|
|
|
|
|||
г |
|
N |
|
|
|
|
|
|
|
|
|
|
|
14
Генеральным средним квадратическим отклонением г называется квадратный корень из генеральной дисперсии:
|
|
|
|
г Dг . |
(2.5) |
||
Пусть произведено n опытов, результатом которых является выборка х1 , х2 ,...,хп значений случайной величины . Величины
х1 , х2 ,...,хп можно рассматривать как n независимых случайных величин, каждая их которых распределена по такому же закону,
что и . В частности Мх a и Dx D 2 |
(i 1,2,...,n) . |
||||||||||||||
|
|
|
|
|
|
|
i |
|
|
|
i |
|
|
|
|
Выборочной средней xв вариационного ряда называется |
|||||||||||||||
среднее арифметическое значений вариант: |
|
|
|||||||||||||
x |
x1 |
|
x2 |
... xn |
|
. |
|
|
|
|
(2.6) |
||||
|
|
|
|
|
|
|
|
|
|
|
|
||||
в |
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
Эта оценка является состоятельной и несмещенной. |
|||||||||||||||
Действительно, согласно закону больших чисел имеем: |
|
||||||||||||||
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
xi |
|
|
|
0 . |
|
|
|
|
|
||
lim P |
|
i 1 |
a |
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
n |
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
x |
|
|
|
|
|
|
|
|
|
||
Это значит, что оценка xв |
является состоятельной оценкой, так |
||||||||||||||
P |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
как x a . Проверим, является ли эта оценка несмещенной. Для |
|||||||||||||||
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
этого вычислим ее математическое ожидание: |
|
|
|||||||||||||
|
1 |
|
Mx Mx ... Mx |
|
1 |
|
|
|
|||||||
Mx |
|
|
|
|
a a ... a a . |
||||||||||
|
|
|
|
||||||||||||
|
|
n |
1 |
2 |
|
|
n |
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
n |
n |
|
|||
Таким образом, математическое ожидание оценки |
xв равно |
||||||||||||||
оцениваемому параметру |
|
a , а |
значит, оценка xв |
является |
|||||||||||
несмещенной. |
|
|
|
|
|
|
|
|
|
|
|||||
15
Замечания
1) Если все значения вариант х1, х2 ,...,хп выборки объема n различны, то
хв |
х1 х2 ... хn |
. |
|
|
|
|
|
|
|
||||
|
|
n |
|
|
||
2) Если значения вариант х1 , х2 ,...,хk |
имеют соответственно |
|||||
частоты m1, m2 ,...,mk , причем m1 m2 |
... mk |
n , то |
||||
хв |
|
х1m1 х2m2 ... хk mk |
. |
|
(2.7) |
|
|
|
|
||||
|
|
n |
|
|
||
Выборочная средняя характеризует среднее значение вариационного ряда.
Допустим, что все значения признака совокупности
(генеральной или выборочной) разбиты на несколько групп. Рассматривая каждую группу как самостоятельную совокупность, можно найти ее среднюю арифметическую.
Групповой средней xгр называется среднее арифметическое значений признака, принадлежащих группе.
Общей средней x называется среднее арифметическое значений признака, принадлежащих всей совокупности.
Перейдем к оценке для дисперсии.
~ 2 |
|
Выборочной дисперсией Dв (или s |
) вариационного ряда |
называется среднее арифметическое квадратов отклонения наблюдаемых значений вариант от их среднего значения xв , т.е.
|
1 |
|
n |
|
|
Dв |
xi xв 2 . |
(2.8) |
|||
|
|||||
|
n |
1 |
|
||
|
|
i |
|
||
Доказано, |
что математическое ожидание |
Dв не равно |
|||
оцениваемому параметру D . Следовательно, Dв – смещенная оценка.
16
Однако эта оценка является состоятельной, (согласно закону больших чисел в форме теоремы Чебышева)
В качестве несмещенной оценки генеральной дисперсии
выберем оценку |
|
|
|
|
|
||||||||
s2 |
|
n |
|
D |
, |
|
|
|
(2.9) |
||||
|
|
|
|
n 1 |
|
в |
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
||
которая называется исправленной выборочной дисперсией. |
|||||||||||||
Замечания |
|
|
|
|
|
|
|
|
|
||||
1) Если все значения х1 , х2 ,...,хп |
вариант выборки объема n |
||||||||||||
различны, то |
|
|
|
|
|
|
|
|
|
||||
|
|
|
1 |
|
n |
|
|
|
|
|
|||
s2 |
|
|
xi |
xв 2 |
|
(2.10) |
|||||||
|
|
|
|
||||||||||
|
|
|
|
n 1 i 1 |
|
|
|
|
|
||||
или |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
1 |
1 |
n |
2 |
2 |
|
|
||||
s |
|
|
|
|
|
|
|
xi |
xв |
. |
(2.11) |
||
|
n 1 |
|
|||||||||||
|
|
|
n i 1 |
|
|
|
|
||||||
2) Если значения вариант х1 , х2 ,...,хп |
имеют соответственно |
||||||||||
частоты m , m ,...,m , причем m m ... m n , то |
|||||||||||
|
|
|
1 |
2 |
|
|
n |
|
1 |
2 |
n |
|
2 |
|
1 |
n |
|
|
2 |
|
|
|
|
s |
|
mi xi |
|
|
|
||||||
|
|
xв |
|
|
(2.12) |
||||||
|
|
|
n 1 |
i 1 |
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
||
или |
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
1 |
1 |
n |
2 |
2 |
|
|
|
|
s |
|
|
|
|
|
xi |
mi xв |
. |
|
(2.13) |
|
|
|
|
|
||||||||
|
|
|
n 1 n i 1 |
|
|
|
|
|
|||
17
Пример 2.1 |
|
|
|
|
|
|
|
|
|
|
|
|
Из генеральной |
совокупности |
извлечена |
выборка |
объема |
||||||
n 50: |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Варианта |
xi |
|
2 |
|
5 |
|
7 |
|
10 |
|
|
Частота |
ni |
|
16 |
|
12 |
|
8 |
|
14 |
|
Найти несмещенную оценку генеральной средней.
Решение
Несмещенной оценкой генеральной средней является выборочная средняя (2.7):
|
|
|
|
|
|
ni |
xi |
|
|
|
|
|
|
|
i |
|
|
X |
г |
x |
в |
|
(16 2 12 5 8 7 14 10) / 50 5,76. |
|||
n |
|
|||||||
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
▲ |
Пример 2.2
Найти выборочную дисперсию и несмещенную оценку генеральной дисперсии по выборке объема n 50:
Варианта |
xi |
0,1 |
0,5 |
0,6 |
0,8 |
Частота |
ni |
5 |
15 |
20 |
10 |
Решение
Выборочную дисперсию найдем по формуле:
Dв 1 ni xi2 (xв )2 n i
(5 0,12 15 0,52 20 0,62 10 0,82 ) / 50 0,562
0,348 0,3136 0,0344
Здесь выборочная средняя равна
ni xi
x |
i |
|
(5 0,1 15 0,5 20 0,6 10 0,8) / 50 0,56 . |
|
|
||
в |
n |
||
|
|
||
18
Несмещенной оценкой генеральной дисперсии является исправленная выборочная дисперсия (2.9):
D s2 |
|
n |
D |
50 |
|
0,0344 0,035102 . |
|
|
|
|
|
||||
г |
|
n 1 |
в |
50 1 |
|
||
▲
2.3. Интервальные оценки
~
Точечная оценка является лишь приближенным значением неизвестного параметра даже в том случае, если она несмещенная (в среднем совпадает с ), состоятельная (стремится к с ростом n ) и эффективная (обладает наименьшей степенью случайных отклонений от ) и для выборки небольшого объема может существенно отличаться от .
Чтобы получить |
представление о точности и надежности |
~ |
, используют интервальную оценку. |
оценки параметра |
Определение. Интервальной оценкой называется интервал,
который определяется по выборке так, чтобы он содержал оцениваемый параметр с достаточно высокой вероятностью.
Пусть имеется конкретная выборка генеральной совокупности |
|||||||||
, по которой получена точечная |
~ |
|
|||||||
оценка |
неизвестного |
||||||||
неслучайного параметра генеральной совокупности. |
|||||||||
Очевидно, что, чем меньше |
|
~ |
|
, |
тем точнее приближенное |
||||
|
|
||||||||
|
|
|
|||||||
~ |
|
|
|
|
|
|
|
|
|
равенство . |
|
|
|
|
|
|
|
|
|
Определение. Наименьшее |
|
число 0 , |
для которого |
||||||
выполняется неравенство |
|
~ |
|
|
называется точностью |
||||
|
|
||||||||
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
оценки.
Однако гарантировать выполнение последнего неравенства
~
невозможно из-за случайного характера . Можно говорить лишь о вероятности его выполнения.
19
|
Определение. Вероятность |
Р |
|
~ |
|
|
называется |
||||||
|
|
|
|||||||||||
|
|
|
|
||||||||||
доверительной |
вероятностью |
или надежностью оценки |
|||||||||||
|
|
|
|
|
|
~ |
|
|
|
|
|
|
|
параметра величиной . |
|
|
|
|
|
|
|
||||||
|
Преобразуем выражение для доверительной вероятности: |
||||||||||||
|
Р |
|
~ |
|
|
|
~ |
|
|
|
|
||
|
|
|
|
|
|
|
|
||||||
|
|
|
Р |
|
|||||||||
|
~ |
|
|
|
~ |
|
|
|
|
|
. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
P( ) |
|
|
||||||||||
|
В силу неслучайного характера неизвестного оцениваемого |
||||||||||||
параметра |
|
и случайного |
характера |
концов |
интервала |
||||||||
~ |
~ |
|
|
|
вероятность |
|
|
|
|
|
|
|
|
; |
трактуется |
как вероятность, с |
|||||||||||
которой этот интервал заключает в себе (накрывает) точку ,
а не как вероятность попадания в него (рис. 1).
|
Рисунок 1 |
~ |
|
|
|
|
~ |
|
|
Определение. |
Интервал |
I ; , |
в котором с |
|
вероятностью |
содержится |
истинное |
значение |
неизвестного |
параметра , называется доверительным интервалом,
соответствующим точности и надежности .
~
Наибольшее отклонение оценки от оцениваемого
параметра , в частности выборочной средней от генеральной средней, которое возможно с заданной доверительной вероятностью , называется предельной ошибкой выборки.
Ошибка является ошибкой репрезентативности
(представительства) выборки. Она возникает только вследствие того, что исследуется не вся генеральная совокупность, а лишь ее
20
