8.3.1. Требования "хороших оценок"

1. Несмещённость.

Во-первых, желательно, чтобы математическое ожидание оценки равнялось оцениваемому параметру:

(8.12)

Здесь оценка параметра . Если свойство (8.12) имеет место, то оценка называется несмещённой.

2. Эффективность.

Во-вторых, желательно, чтобы среднеквадратическая ошибка данной оценки была наименьшей среди всех возможных оценок, то есть:

. (8.13)

Где исследуемая оценка, а любая другая оценка. Если это свойство имеет место, то оценка называется эффективной.

3. Состоятельность.

В-третьих, желательно, чтобы оценка сходилась к оцениваемому параметру с вероятностью, стремящейся к единице по мере увеличения размера выборки, то есть для любого

. (8.14)

Если выполнено условие (8.14), то оценка называется состоятельной. Из неравенства Чебышева следует, что достаточным для выполнения (8.14) является условие:

(8.15)

В качестве примера "хорошей оценки" рассмотрим оценку среднего значения (8.6). Математическое ожидание выборочного среднего равно:

(8.16)

Следовательно, согласно (8.12), оценка несмещённая.

Среднеквадратическая ошибка выборочного среднего равна:

(8.17)

Поскольку наблюдения независимы, то математическое ожидание членов, содержащих смешанные произведения, равны нулю. Поэтому из (8.17) получим:

(8.18)

Таким образом, согласно (8.15) оценка состоятельная. Можно показать, что эта оценка эффективна.

Рассмотрим оценку дисперсии по формуле (8.7).

(8.19)

Однако

(8.20)

Поскольку и , то, подставив в (8.20), получим:

(8.21)

Следовательно, оценка смещённая.

Хотя оценка (выборочная дисперсия) и является смещённой оценкой, эта оценка состоятельна и эффективна. Из (8.21) понятно, что для получения несмещённой оценки следует взять несколько видоизмененную выборочную дисперсию (8.8).

Глава 9. Интервальное оценивание

Ранее мы обсудили использование выборочных значений в качестве оценок параметров случайных величин. Однако такие процедуры дают только точечные оценки интересующих нас параметров и не позволяют судить о степени близости выборочных значений к оцениваемому параметру. Более предпочтительная процедура – построения интервала, который накрывает оцениваемый параметр с известной степенью достоверности. Такой подход называется "интервальным оцениванием". Сразу отметим следующее: чем больше уверенность в том, что оцениваемый параметр лежит в интервале, тем шире интервал. Так что искать интервал, накрывающий параметр с вероятностью равной единице, бессмысленно. Это вся область то есть .

Пусть для параметра получена несмещённая оценка . Мы хотим оценить возможную при этом ошибку. Назначим некоторую достаточно большую вероятность (например: ), такую, что событие с вероятностью можно считать практически достоверным и найдем такое значение , для которого выполняется соотношение

(9.1)

Тогда диапазон практически возможных значений ошибки, возникающей при замене на , будет равен . Ошибки, бóльшие по абсолютной величине будут появляться с малой вероятностью . Запишем (9.1) в другом виде:

(9.2)

То есть неизвестное значение параметра с вероятностью попадает в интервал

(9.3)

Ранее (в теории вероятностей) мы рассматривали вероятность попадания случайной величины на некоторый интервал. У нас же не случайная величина, а интервал – случаен, здесь корректно говорить о вероятности накрыть точку .

Вероятность принято называть доверительной вероятностью, а интервал доверительным интервалом.

Рассмотрим задачу нахождения доверительных границ и параметра , имеющего несмещенную оценку . Если бы нам был известен закон распределения величины , то из выражения (9.1) нахождение при заданной не представляло бы затруднений. Однако, как правило, мы не знаем закон распределения случайной величины .

Пусть теперь распределение случайной величины отлично от нормального. Применяя центральную предельную теорему, получаем следующий результат.

С увеличением объема выборки выборочное распределение выборочного среднего стремится к нормальному распределению независимо от вида распределения исходной случайной величины.

Практически во многих случаях выборочное можно считать нормальным уже при , а при приближение будет хорошим.

В качестве примера рассмотрим задачу нахождения доверительного интервала математического ожидания. Пусть произведено независимых опытов над случайной величины с неизвестными . Для этих параметров выберем оценки:

(9.4)

Необходимо построить доверительный интервал , соответствующий доверительной вероятности :

(9.5)