26.Оценки параметров. Состоятельность оценки.

Оценкой неизв. пар-ра θ наз-ся измерим. ф-ция наблюд, знач. которой приним-ся в качестве истин. знач.

Оценка T_n наз-ся состоятельной, если T_n[по p]-> θ

Теорема 1: Достаточное условие состоят-сти оценки: Если E(T_n- θ)²->0, то T_n – состоятельная оценка.

Д-во: Следует из нер-ва Чеб: P(|T_n- θ|> ε)≤ E(T_n- θ)²/ε²

Теорема 2: Пусть T_n - сост. оценка θ, Ψ(θ) - непрер. ф-ция θ. Тогда Ψ(T_n) – сост. оценка Ψ(θ)

Д-во:для люб. ε>0 найдется σ>0 такое,что | Ψ(T_n) - Ψ(θ)| ≤ ε

как только |T_n- θ| будет ≤σ. Возьмем вероятност от обеих частей: P_θ(| Ψ(T_n) - Ψ(θ)| ≤ ε) ≥P(|T_n- θ|≤σ)1, следовательно, P_θ(| Ψ(T_n) - Ψ(θ)| ≤ ε)1, т.е. Ψ(T_n)  Ψ(θ) по вероятность, т.е. T_n – состоятельная оценка Ψ(θ)

27.Оценка параметров.Несмещенные оценки. Примеры

Оценка θ^(x₁,х₂,…,х_n) – несмещенная оценка пара-ров θ, если ее Е(θ^(x₁,х₂,…,х_n))= θ для любого θ из Θ.

Оценкой неизв. пар-ра θ наз-ся измерим. ф-ция наблюд, знач. которой приним-ся в качестве истин. знач.

Несмещенной оценкой ф-ции от θ называется такая оценка, для которой имеет место нер-во:

Е(θ^(x₁,х₂,…,х_n))= g(θ), для любого θ из Θ.

пример 1: х принадл. N(a,σ²). Рассмотрим

т.е. несмещ. оценка.

пример 2: т.е. получаем смещение

n/(n-1)*E(S²)= σ² E(n/(n-1)*S²)=σ²

S₁² – немещенная оценка

28.Методы получения оценок: метод моментов, метод м

1)метод моментов

θ=(θ₁,…,θ_k)

Составим аналог начальных моментов:

Метод моментов состоит в прирав-и теор.мом. к эмпирич.

Решаем систему относительно θ и получаем θ^:

2)Метод максимального правдоподобия

Х=(x₁,х₂,…,х_n), р_i зависят от θ: P(X=x;θ)

Найдем совместную вероятность:

Подберем θ так, чтобы эта совм. вер. была бы наиб.:

L_x(θ)=П(X_i=x_i;θ) – функция правдоподобия

θ^ - оценка максимального правдоподобия, если:

L_x(θ^)=max L_x(θ) еси x_i – дискр. величина

L_x(θ^)=Пf(x;θ) – если x_i – непрер.

29. Оценки.Эффективность оценок. Неравенство Краме

Оценкой неизв. пар-ра θ наз-ся измерим. ф-ция наблюд, знач. которой приним-ся в качестве истин. знач.

Теорема Крамера-Рао: Если θ^ - несмещ. оценка, то D(θ^)≥1/(nI(θ)), т.е. не сущ. θ с D меньше, чем 1/(nI(θ))

Д-во: Пусть T_n – несмещ.оценка. Тогда Е(T_n)= θ. В интегр.:

От обеих частей возьмем произв. по θ:

Вместо T_n в (*) подставим 1:

Возьмем производную по θ:

Сложим с (**) и возв. в квадрат. По нер-ву Коши-Буняк.:

т.к. одинаковое распределение:

Оценка наз-ся эфф-ой, если вып-ся нер-во Крамера-Рао

30.Схема Гаусса-Маркова.Оценивание по методу наим

X имеет N(θ;σ²)

ОМП: →max

,т.е. x_i= θ+ε. Пусть θ имеет сложную структуру.

т.е. необходимо (1)

(2)

Если отказаться от норм-сти, тогда:

(2) – схема Гауса-Маркова

(1)-метод наименьших квадратов.

Перепишем в матричном виде:

Тогда:

Х=Вθ+ε, и (2):

(1):

Решить относительно θ: Пусть det (B^TB)≠0, тогда сущ. обр:

B^TB-B^TBθ=0; B^TX=B^TBθ; θ^=(B^TB)^-1B^TX

S_xb=1/n*Σ(b_ix_i-xb); SSE= Σ(x_i-x)²

Св-ва:

1)Несмещенность подст. в θ^ Х=Вθ+ε, и см. ожидание. (должно быть= θ)

2)Является наилучшей в смысле положит. определенности.