10.Методы получения точечных оценок параметров распределения

Постановка задачи: будем рассм-ть скалярные случ. величины.

пусть имеется выборка x₁,…,x_n из некаторого распределения, известного сточностью до =

Векторного параметра:

Требуется найти оценку этого векторного параметра. Т.е. будет векторной случайной величиной .

Для решения этой задачи существуют методы:

1. метод моментов

2. максимума правдоподобия

3. максимума апостериорной плотности вер-ти

4. байесовский метод

Метод моментов

Метод моментов основан на исп-нии выборочного метода. Состоит в след.:

а) находятся m теоретических (генеральных) моментов , .

Эти моменты явл-ся функциями неизвестных пар-ров, т.к. плотность вер-ти генеральной совокупности известна с точностью до пар-ра;

б) находим m выборочных начальных моментов , ;

Приравниваем к теоретическим и выборочным моментам, в рез-те получаем систему уравнений: , относительно параметров . Решение этой системы даст нам оценки по методу моментов.

Св-ва получ. оценок иссл-ют отдельно. Метод рекомендуется для получения не более 2-3-х оценок.

Достоинства: простота.

Недостатки: не доказано, что полученные оценки обладают хорошими св-вами. Вопрос св-в полученных оценок решается отдельно.

Пример

Найти оценки параметров a и нормального распределения методом моментов.

Решение: m=2

=>

Если учесть, что =, то = =>

Оценка параметра: - несмещенная, - смещенная.

Оценки моментов совпадают с выборочными.

Метод максимума правдоподобия

Функцией правдоподобия называется совестная плотность вероятности выборочных зн-ний , рассматриваемых как независимые случайные величины.

Обычно ф-цию правдоподобия считают зависящей только от неизвестных параметров и записывают ее в виде:

или коротко

метод max правдоподобия:

оценка векторного параметра отыскивается из условия максимума ф-ции правдоподобия, т.е. как решение следующей аптимизационной задачи -> max

Оценки , полученные по этому методу наз-ся максимально правдоподобными или МП оценками. МП оценки находятся как решение системы ур-ий , (1)

Т.к. любая функция и ее логарифм достигает экстремума на одних и тех же значениях аргумента, то вместо максимизации функции правдоподобия можно максимизировать логарифмическую функцию правдоподобия:

Эффект укращения основан на том, что ф-ция правдоподобия имеет вид произведения, а ln произв-ния = сумме ln слагаемых. При использовании логарифм. Ф-ции правдоподобия нам необх. Решать след. Систему ур-ний:

,

Достоинства: метод МП дает оценки асимптотически несмещенные, состоятельные, ассимтотически эффективные.

Недостаток: система уравнений этого метода может оказаться нелинейной, что не позволит получить выр-ние оценок в конечном виде.

Пример1:

Пример: Найти МП оценку параметров нормального распределения.

Найти:

Решение:

;

->

получили те же оценки, что и методом моментов.

Структура оценки : =; видно, что -линейная ф-ция выборочных зн-ний . Любые выборочные значения умножаются на коэффициент 1/n – весовой коэффициент – и результаты суммируются.