3.2. Точечная оценка математического ожидания

Математическое ожидание генеральной совокупности назовем генеральной средней , т.е.

.

Теорема 3.1. Выборочное среднее есть состоятельная и несмещенная оценка генеральной средней .

Доказательство. Вначале покажем, что есть состоятельная оценка для , т.е.

.

По следствию из теоремы Чебышева для одинаково распределенных случайных величин имеем

.

Так как , то, используя свойства математического ожидания, получим

Теорема доказана.

Теорема 3.2. Пусть случайная величина имеет нормальное распределение , где – математическое ожидание, – дисперсия случайной величины . Тогда выборочное среднее является эффективной несмещенной оценкой для .

Доказательство. Необходимо показать, что дисперсия совпадает с минимальной дисперсией, равной в случае нормального распределения , а ее математическое ожидание равно .

Найдем дисперсию :

. (3.9)

Мы проверили при доказательстве теоремы 3.1, что . Так как дисперсия равна минимальному значению, то выборочное среднее является эффективной несмещенной оценкой.

Теорема доказана.

Таким образом, показано, что выборочное среднее имеет все три свойства "хорошей" оценки. Этим и объясняется ее широкое использование в качестве оценки математического ожидания генеральной совокупности.

Напомним, что по конкретной выборке вычисляется (см. (2.10)–(2.12)) "конкретное" значение , являющееся одним из множества возможных значений случайной величины .

3.3. Точечные оценки дисперсии

Дисперсию генеральной совокупности будем называть генеральной дисперсией , т.е.

. (3.10)

Теорема 3.3. Выборочная дисперсия является состоятельной, но смещенной оценкой генеральной дисперсии .

Доказательство. Получим сначала формулу для вычисления . Согласно определению

.

С другой стороны,

Тогда из определения дисперсии следует

.

Воспользовавшись теперь следствием из теоремы Чебышева для одинаково распределенных случайных величин и свойствами предела по вероятности, получаем

и, значит,

.

Следовательно, выборочная дисперсия является состоятельной оценкой для генеральной дисперсии. Вычислим математическое ожидание и убедимся, что . Имеем

,

где означает сумму произведений величин и для всех значений и от 1 до , но не равных между собой. Так как и независимы при , то

.

Поэтому, продолжая вычисления , получаем

Множитель объясняется тем, что по правилу произведения количество различных пар ( при равно . Итак, мы получили, что

, 3.11)

следовательно, D_в – смещенная оценка для генеральной дисперсии.

Теорема доказана.

Полученная формула (3.11) для вычисления математического ожидания выборочной дисперсии позволяет указать состоятельную и несмещенную оценку для генеральной дисперсии. Для этого рассмотрим случайную величину

, (3.12)

называемую исправленной дисперсией. Понятно, что

,

так как при . С другой стороны,

.

Тем самым доказана

Теорема 3.4. Исправленная дисперсия является состоятельной и несмещенной оценкой для генеральной дисперсии .

Заметим, что для выборок большого объема множитель близок к 1, поэтому случайные величины и мало отличаются друг от друга. Однако для выборок малого объема это отличие может быть существенным.

Возникает вопрос: будет ли несмещенная оценка эффективной?

Предположим, что случайная величина подчиняется нормальному распределению , а величины , как обычно, – независимых экземпляров независимой величины Х. Тогда минимальная дисперсия несмещенной оценки для дисперсий равна

. (3.13)

В п. 4.1 будет показано, что величина представима в виде

, (3.14)

где – случайная величина, имеющая ²-распределение с степенями свободы. Поэтому

, (3.15)

из этого следует

. (3.16)

Следовательно, , будучи несмещенной оценкой дисперсии , не является эффективной оценкой. Однако при достаточно больших увеличение по сравнению с пренебрежимо мало.

Заметим, что несмещенная эффективная оценка дисперсии нормально распределенной величины имеет вид:

.

Однако в эту формулу входит математическое ожидание , которое, как правило, заранее неизвестно.