Глава 3. Статистические оценки параметров распределения

3.1. Понятие оценки параметров

Оценкой параметра называют всякую функцию результатов наблюдений над случайной величиной Х (иначе - статистику), с помощью которой судят о значении параметра :

Поскольку х₁, х₂, …, х_n – случайные величины, то и оценка является случайной величиной, зависящей от закона распределения случайной величины Х и числа n.

О качестве оценки следует судить не по индивидуальным ее значениям, а лишь по распределению ее значений в большой серии испытаний, т.е. по выборочному распределению оценки.

Свойства оценок

1. Оценка параметра называется несмещенной, если ее математическое ожидание равно оцениваемому параметру, т.е.

М( )=

В противном случае оценка называется смещенной.

2. Оценка параметра называется состоятельной, если она удовлетворяет закону больших чисел, т.е. сходится по вероятности к оцениваемому параметру.

3. Несмещенная оценка параметра называется эффективной, если она имеет наименьшую дисперсию среди всех возможных несмещенных оценок параметра , вычисленных по выборкам одного и того же объема n.

В качестве статистических оценок параметров генеральной совокупности желательно использовать оценки, удовлетворяющие одновременно требованиям несмещенности, состоятельности и эффективности.

3.2. Точечные статистические оценки параметров распределения

Статистическая оценка, определяемая одним числом, называется точечной.

Утверждение 1. Несмещенной оценкой генеральной средней (математического ожидания) служит выборочная средняя

=

Утверждение 2. Смещенной оценкой генеральной дисперсии служит выборочная дисперсия

Утверждение 3. Несмещенной оценкой генеральной дисперсии служит исправленная дисперсия

При достаточно больших значениях объема выборки (n≥30) выборочная и исправленная дисперсии различаются мало. При малых выборках (n<30) выборочная дисперсия имеет систематическую ошибку, приводящую к ее уменьшению. Чтобы это устранить, вводят поправку, умножая выборочную дисперсию на В результате получают исправленную, несмещенную дисперсию.

Метод моментов точечной оценки неизвестного параметра распределения

Этот метод впервые был использован К. Пирсоном в 1894 г.

Метод моментов точечной оценки параметров заданного распределения состоит в приравнивании теоретических моментов соответствующим эмпирическим моментам того же порядка.

Если распределение определяется одним параметром, то для его отыскания приравнивают один теоретический момент одному эмпирическому моменту того же порядка. Например, можно приравнять начальный теоретический момент первого порядка к начальному эмпирическому моменту того же порядка:

М(х)= .

Если распределение определяется двумя параметрами, то приравнивают два теоретических момента двум соответствующим эмпирическим моментам того же порядка

.

Оценки методом моментов обычно состоятельны, однако по эффективности они не являются «наилучшими», их эффективности часто значительно меньше единицы. Тем не менее, метод моментов часто используется на практике, так как приводит к сравнительно простым вычислениям.

Метод наибольшего правдоподобия точечной оценки неизвестных параметров распределения

Этот метод был предложен Р. Фишером.

Основу метода составляет функция правдоподобия L. Согласно методу максимального правдоподобия в качестве оценки неизвестного параметра принимается такое значение , которое максимизирует функцию L. Нахождение оценки упрощается, если максимизировать не саму функцию L, а lnL, поскольку максимум обеих функций достигается при одном и том же значении . Поэтому для отыскания оценки параметра надо решить уравнение (или систему уравнений, в случае двух или более параметров распределения).

Функцией правдоподобия дискретной случайной величины называется функция, выражающая вероятность совместного появления результатов выборки х₁, х₂, …, х_n:

L(x₁,x₂,…,x_n; )= p(x₁, )· p(x₂, )·…·p(x_n, ).

Функцией правдоподобия непрерывной случайной величины называют функцию, выражающую плотность вероятности совместного появления результатов выборки х₁, х₂,…, х_n:

L(x₁,x₂,…,x_n; )= f(x₁, )· f(x₂, )·…·f(x_n, ).