Конспект лекций Глазова / 12.2. Метод моментов

12.2. Метод моментов.

Метод моментов - самый «старый» и самый простой из регулярных методов оценивания параметров. Фактически он использовался еще в 19 веке. Согласно этому методу, оценки параметров так же выражаются через статистические моменты выборки, как параметры - через моменты генеральной совокупности. Более конкретно, пусть модель включает класс распределений с вектором параметров а=(a₁, a₂,..., a_m), включающим m оцениваемых параметров. Эти параметры связаны с моментами (например, начальными) равенствами

где - какие-то функции, - моменты генеральной СВ. Тогда оценки параметров находятся по формулам

где (см. п. 6.3)

- статистический момент k-го порядка. Разумеется, можно выражать оцениваемые параметры через центральные моменты или, смешанно, через начальные и центральные.

Пример 1. Класс распределений

,

с одним параметром . Выражение параметра через момент: =1/=1/m_x, следовательно, оценка по методу моментов

.

Пример 2. Тот же класс распределений с другим параметром:

.

Выражение параметра через момент: , следовательно, оценка по методу моментов

.

Пример 3. Класс , - нормальное распределение с двумя оцениваемыми параметрами: имеет смысл математического ожидания, имеет смысл с. к. о. Выражения параметров через моменты:

следовательно, оценки по методу моментов

Пример 4. Класс нормальных распределений с одним оцениваемым параметром ( известно), имеющим смысл математического ожидания. Выражение параметра через момент: , оценка по методу моментов

.

Сравнивая с примером 3, видим, что известность или неизвестность не влияет на оценку математического ожидания по методу моментов.

Пример 5. Класс нормальных распределений с одним параметром (m_x известно), имеющим смысл с. к. о. Выражение параметра через момент: , оценка по методу моментов

.

Сравнивая с примером 3, видим, что оценка с. к. о. по методу моментов зависит от того, известно m_x, или нет.

Свойства оценок по методу моментов (ММ-оценок).

1) Метод прост, при его реализации как правило не возникает каких-либо математических проблем.

2) При довольно общих условиях ММ-оценки асимптотически нормальны, что облегчает построение интервальных оценок (см. п. 13) и испытание гипотез о параметрах распределений.

3) В общем случае ММ-оценки имеют смещение, порядок относительного смещения при больших n:

, с=сonst.

Часто (но не всегда) смещение этих оценок можно устранить с помощью простых поправок, т. е. образовать новые оценки (уже не ММ-оценки), не имеющие смещения (примеры устранения смещения приведены ниже).

4) Порядок дисперсии ММ-оценки при больших n:

.

5) ММ-оценки состоятельны.

6) Р. Фишер в 1921 г. показал, что ММ-оценки чаще всего не эффективны, и даже асимптотически не эффективны. Он рассмотрел большое число практически используемых распределений и показал, что нормальное распределение в этом смысле исключение: его ММ-оценки эффективны или асимптотически эффективны, а ММ-оценки параметров подавляющего большинства других распределений имеют эффективность и асимптотическую эффективность значительно меньшие единицы.

Смещение и эффективность ММ-оценок на примерах.

Пример 1. Оценивание математического ожидания. Пусть единственным неизвестным параметром распределения является математическое ожидание m_х. ММ-оценка этого параметра

.

Как неоднократно показано выше, эта оценка состоятельна и несмещенна. Ее эффективность зависит от класса распределений генеральной СВ, например, как показано выше, она эффективна для нормального, экспоненциального, биномиального, пуассоновского распределений.

Пример 2. Оценивание дисперсии при известном математическом ожидании. Пусть единственным неизвестным параметром распределения является дисперсия D_x , математическое ожидание m_x известно, остальные параметры или отсутствуют, или известны. ММ-оценка дисперсии

;

(12.2.1)

ее математическое ожидание

,

следовательно, она несмещенная; ее эффективность зависит от класса распределений генеральной СВ.

Пример 3. Одновременное оценивание математического ожидания и дисперсии. Пусть оценке подлежат m_x , D_x , остальные параметры отсутствуют или известны. ММ-оценки

Оценка несмещенная; покажем, что оценка смещенная.

В соответствии с (6.3.4) можно записать:

,

поэтому

.

(12.2.2)

Найдем каждый член в правой части по отдельности. Имеем:

,

или

.

(12.2.3)

Далее находим:

.

(12.2.4)

Т. к. x_k и x_s при независимы, а при равны, то

Подставляя это в (12.2.4), получаем

.

Подставляя этот результат и (12.2.3) в выражение (12.2.2), получаем

.

(12.2.5)

Т. о. оценка смещенная, ее относительное смещение

при ,

т.е. она асимптотически несмещенная.

Из (12.2.5) видно, что из легко сделать несмещенную оценку (уже не ММ-оценку), умножив ее на обратный фактор n/(n-1); действительно, оценка

,

(12.2.6)

имеет математическое ожидание

,

и, значит, несмещенная.

Мы получили важное практическое правило: если требуется построить несмещенную оценку дисперсии, то при известном математическом ожидании m_x следует брать оценку (12.2.1), а при одновременно оцениваемом m_x - брать оценку (12.2.6). Разница между этими оценками исчезает с увеличением n.