Savelova_Metod_Monte-Karlo_2011

следовательно,

t

– несмещенная оценка величины η

θ

. Нахо-

3

x

дим

1

d

Dt1 Dt2 2r t1,t2 Dt1Dt2

1 r d ,

Dt3 (x)

4

2

следовательно,

r t1,t2 1, здесь r t1,t2 –

коэффициент корреля-

ции величин t1(x)

и t2 (x) . Отсюда следует, что P t1 t2 1.

Теорема доказана.

Пусть выполнены предположения:

1)

существуют непрерывные

L x,θ

и θ ,

θ ;

θ

2)

если L x,θ0 0 , θ0 , то L x,θ 0 при всех θ .

Теорема 1.2 (неравенство Рао–Крамера)

– несмещенная оценка

Пусть выполнены условия 1, 2. Если t(x)

для величины η θ , то выполнено неравенство

η θ 2

.

(1.3)

Dt(x)

2

ln L x,θ

M

θ

Доказательство. Имеем два тождества для всех θ :

L x,θ dx 1 ,

(1.4)

Rn

t x

L x,θ dx η θ .

(1.5)

t(x) была эффективной оценкой для величины η θ , необходимо и

достаточно, чтобы выполнялось уравнение

ln L x,θ

A θ t(x) η θ ,

(1.13)

θ

где A(θ) 0

– некоторая функция параметров θ .

t x η θ L x,θ

и

ln L x,θ

L x,θ

θ

пропорциональны между собой:

1

ln L

η

θ

Dt(x)

t η 2 Ldx

t η 2

Ldx

.

θ

Rn

A Rn

A

Таким образом, получаем для эффективной оценки

η θ

.

(1.14)

Dt(x)

A

Теорема доказана.

Пример 1.3.

Пусть

функция

распределения

имеет вид

F x,θ x1 θ , 0 x 1,

0 θ , здесь

θ –

неизвестный

1

x

1

1 .

p x,θ

θ

θ

Функция правдоподобия (1.1) имеет вид

1

1

1

L x,θ

x1 x2 ... xn θ

,

θn

откуда находим

1

n

ln L n ln θ

1 ln xi ,

θ

i 1

ln L

n

1

n

n

1 n

ln x

ln x θ .

θ2

θ2

n

θ

θ

i

i

i 1

i 1

Из последнего уравнения получаем

1

n

1

t(x)

ln

,

n

x

i

1

i

есть эффективная оценка параметра θ , так как

1

1

1 1

1

1

n x ln

Mt(x)

xθ

dx θ ,

n

x θ

0

ln L A

θ

t

η

θ

A

θ

t

2

η

2

θ

.

θ

1

1

x

1

2

x

Отсюда получаем

A

θ

A

θ

t

2

(x)

1

t (x) η

2

θ

η

θ

1

,

A2 θ

1

1

A2

θ

т.е.

t2 (x) B1t1(x) B2 ,

где

B

A1 θ

,

B η

2

θ

η

θ

A1

θ

.

1

A2 θ

2

1

A2 θ

Теорема доказана.

Обозначим

оценку

величины

при объеме

выборки

tn (x)

θ

n n0 .

Определение 1.4. Оценка

для параметра θ

называется со-

tn (x)

p

n

стоятельной, если tn (x) θ при

, т.е. оценка

tn (x)

схо-

дится к величине θ

по вероятности при неограниченном увеличе-

нии объема выборки.

p

Свойство

состоятельной

оценки.

Если

tn (x) θ

при

n , то

η tn

p

n для любой непрерывной

η θ

при

функции η θ .

Доказательство. Из свойства непрерывности функции

η θ

имеем: для

любого

h 0

существует

δ=δ(h)

такая,

что

если

tn θ

δ ,

то

η tn η θ

h .

Следовательно,

событие

25

θ

δ (влечет за собой событие)

η θ

h .

tn (x)

η tn x

Тогда выполнено

P

δ P

h ,

tn (x)

θ

η tn (x) η θ

P

h 1

откуда

получаем

η tn (x) η θ

при

n ,

т.е.

( p)

η tn (x) η θ при n . Свойство доказано.

Обозначим

αn Mtn (x) θ

смещение оценки

параметра θ .

tn (x)

Теорема 1.5. Если αn 0 и Dtn (x)

0 при n , то tn (x) –

состоятельная оценка.

Доказательство. Пусть h 0 произвольно и

n n0 таково, что

αn

h . Очевидно неравенство

tn

tn (x) θ

(x) θ αn αn

tn (x) θ αn

αn

.

Следовательно, выполнено условие

P

tn θ

h P

αn

.

tn (x) θ

h

αn

P

tn θ

h 1

Dtn

1

при n .

h

αn

2

Следовательно,

P

tn θ

p

h 1 при n или tn θ при n .

Теорема доказана.

26

ˆ

параметра θ

называется ко-

Определение 1.5. Оценкой ММП θ

рень уравнения

ˆ

L x,θ max L x,θ

θ

или

ˆ

(1.15)

θ arg max L x,θ .

θ

27

Здесь

L x,θ –

функция правдоподобия, x – выборка, отве-

чающая значениям случайной величины ξ

с плотностью p x,θ ,

содержащей неизвестные параметры θ .

ˆ

ˆ

для выборки объема n :

Свойства оценки ММП θ θn

1)

ˆ

– состоятельная оценка;

θn

2)

ˆ

асимптотически эффективна, т.е.

θn

2

ˆ

ln L x,θ

1

при n ;

Dθ

M

θ

n

ˆ

ˆ

θn

3)

асимптотически нормальна, т.е

θn

ˆ

ˆ

z

x2

θn Mθn

1

e

P

z

2

dx при n .

ˆ

2π

Dθn

L x,θ

0

θ

может быть заменено уравнением

ln L x,θ

0 .

θ

ln L x,θ

A(θ) t(x) θ 0 ,

θ

ˆ

откуда θ t(x) .

Теорема доказана.

Если существует эффективная оценка

для η θ , аналогич-

t(x)

но получим

ˆ

ˆ

1

1

– обратная функ-

t(x) (θ) , т.е.

θ η

t(x) , где η

ция для η θ .

В случае если случайная величина ξ

содержит p 1 неизвест-

ln L x,θ1,...,θ p

0

, i 1,..., p .

θi

раметров θ1,...,θ p распределения случайной величины ξ