Тема 2. Точечное оценивание вероятностей и моментов. Линейная оценка среднего с наименьшей дисперсией.

1. Состоятельность оценок.

Состоятельность является важным свойством оценок, но установление свойства состоятельности непосредственно из определения (доказательство сходимости по вероятности) в некоторых случаях оказывается затруднительным, поэтому часто прибегают к использованию предельных теорем (теорема Бернулли, теорема Гливенко, теорема Хинчина, теорема Чебышева), «арифметических» свойств сходимости по вероятности и вспомогательных утверждений.

Теорема (Бернулли)

Пусть – количество появлений события в независимых испытаниях, тогда последовательность относительных частот сходится по вероятности к вероятности события , при :

, при .

Теорема (Хинчин)

Пусть , , … – последовательность взаимно независимых случайных величин, имеющих одинаковую функцию распределения с конечным математическим ожиданием , тогда последовательность случайных величин сходится по вероятности к , при :

, при .

Утверждение (неравенство Чебышева)

Пусть случайная величина имеет конечную дисперсию, , тогда:

.

Теорема (закон больших чисел в форме Чебышева)

Пусть , , … – последовательность взаимно независимых случайных величин, имеющих конечные математические ожидания , , … и конечные дисперсии , , … соответственно.

Если,

,

Тогда последовательность арифметических средних случайных величин сходится по вероятности к арифметическому среднему математических ожиданий при :

, при .

Утверждение 2.1.

Пусть – наблюдения, и статистика является несмещенной оценкой величины , причем дисперсии конечны и стремятся к нулю с ростом :

,

,

,

тогда является состоятельной оценкой .

Доказательство:

При любом в силу для статистики справедливо неравенство Чебышева:

,

откуда,

.

Для произвольных и всегда можно выбрать такое, что и поскольку и , то для всегда можно найти такое, что для всех , , тогда:

,

что в точности по определению означает сходимость по вероятности статистики к при :

, при .

По условию статистика является несмещенной оценкой , то есть , тогда сходится по вероятности к :

, при ,

что по определению означает, что является состоятельной.

Утверждение доказано.

2. Точечное оценивание вероятности события.

Пусть проводится независимых испытаний, в каждом из которых может произойти некоторое событие , имеющее вероятность , которая не известна. Требуется построить оценку неизвестной вероятности .

Пусть – выборка, в которой каждая случайная величина принимает значение равное единице, если в -ом испытании произошло событие , и значение равное нулю, если в -ом испытании событие не произошло:

Случайная величина количества появлений события в испытаниях равна сумме :

.

Возьмем в качестве оценки неизвестной вероятности случайную величину относительной частоты:

.

Легко видеть, что является несмещенной оценкой , действительно:

.

Согласно теореме Бернулли имеет место сходимость по вероятности случайной величины к вероятности , отсюда следует, что оценка является состоятельной.