Оценка для математического ожидания и дисперсии

Пусть величина x имеет математическое ожидание M[x]=m и дисперсию причем оба параметра неизвестны, требуется найти состоятельные и несмещенные оценки этих параметров по результатам n-независимых испытаний, в которых величина x приняла значения x₁,x₂,…x_n.

Составим функцию (оценку) как :

(2)

покажем, что эта оценка несмещенная, т.е. мы найдем по (1) свойству :

;

- несмещенная оценка.

Оценка состоятельная:

lim ;

n

lim ;

n

lim ;

n

lim ;

n

Эта оценка является состоятельной в силу закона больших чисел, т.е.

lim ;

n

Равенство (2) называется выборочной средней, если

x₁,x₂,…x_n

n₁,n₂,…n_m, тогда

(2)- выборочная средняя.

Положим, что функция :

(3)

где находится по формуле (2).

Чтобы найти состоятельную и несмещенную оценку:

;

Теперь возведем в квадрат и преобразуем:

устремим m ,(x_i-m) к обычной дисперсии,

;

Т.е. это говорит о состоятельности оценки.

.

- значит, оценка смещенная.

Найдем несмещенную оценку. Умножим на коэффициент , обратный данному.

- называется исправленной статистической дисперсией или выборочной дисперсией.

Оценивание параметров распределения

На практике встречается задача, когда закон распределения исследуемой случайной величины считается известным с точностью до 1-го или нескольких неизвестных параметров этого распределения. Возникает проблема оценивания этих параметров по выборке.

Неизвестные параметры распределения случайной величины x с помощью статистик , т.е. сделаем точные оценки , для которых можно говорить об общих свойствах таких оценок, т.е. состоятельности, несмещенности и эффективности.

1. Метод моментов

Пусть закон распределения исследуемой случайной величины зависит от параметров , численные значения которых подлежат оценки. Метод моментов заключается в следующем.

1. Методом теории вероятности первый k теоретических моментов начальных или центральных через параметры распределения.

Разрешим полученную таким образом систему уравнений относительно параметров, получим новую систему.

Получим требуемые оценки , подставляя вместо неизвестных теоретических моментов , их соответствующие статистические оценки .

Если система, полученная на первом этапе не разрешается аналитически , то она решается численно после замены на .Если функции непрерывные, то из их состоятельности выборочных моментов следует состоятельность полученных оценок параметров .

2. Метод максимального правдоподобия .

Более точным с точки зрения эффективности является данный метод, но на практике приводит к решению более сложных задач вычислительного характера.

Пусть функция f( )-есть плотность распределения исследуемой случайной величины, тогда функцией правдоподобия называется статистика

L(x₁,x₂,…x_n; )= .

Выборочные значения x_i независимы, поэтому функция правдоподобия является плотностью совместного распределения выборки. Метод максимального правдоподобия заключается в отыскании максимума функции правдоподобия . На практике удобнее максимизировать не саму функцию правдоподобия , а ее логарифм.

Продифференцируем по параметрам k-раз, мы получим частные производные

Решая эту систему из k-уравнений, получаем искомые оценки , т.е. система решается аналитически и численно , в последнем случае вместо выборочных значений x_i подставляют перед решением наблюдаемые выборочные значения и в результате численного решения получаем наблюдаемые значения, интересующих нас параметров.

Пример: Рассмотрим нормальное распределение , закон Гаусса.

Найдем для данной функции функцию правдоподобия.

Найти функцию правдоподобия

Пусть в результате испытаний величина x приняла n-значений

;

Дифференцируем

;

; .

Мы получили оценки математического ожидания и дисперсии, ими являются выборочные средние и дисперсия.