книги из ГПНТБ / Лавренченко, А. С. Лекции по математической статистике и теории случайных процессов учебное пособие

часто удается предсказать вид ее плотности вероятности

f(x-

в и . . . , в к).

(12)

При этом по

выборке (1)

остается лишь оценить неизвестные

параметры в,,...,

0 ft. Для этого обычно используют метод наиболь­

шего правдоподобия, который состоит в следующем.

Выборку (1)

априорно можно понимать как «-мерную

случай­

L {хх,

х

п\ 0 „ . . . , 0*) = П/(*,;

0 ц , 0*)

(13)

;-л

функцией

этой величины

как

функция от 0 ь ..., 0 /;

называется

правдоподобия.

Но функция правдоподобия

(13)

и ее логарифм

InL(xu . . . ,

хп\

0 „ . . .

, 0 ft)

(14)

достигают максимума

при

одних и

тех

же значениях

0 ь .

0 ь .

Поэтому если

функция

(14)

дифференцируема

но

0 Ь.

0к у

то оценки

01 (*1, . ••)

•*•I 0 * (-^15 ■ ■ •> Х„)

(15)

параметров

0*

можно

найти

из

необходимого условия

максимума функции (14)

д

In L(xu ----- х„; 0 Х, . . . ,

0/,) = 0;

( Ш )

д

lnL(jc,,

0 ,

, 0*) = о,

(Щ

при котором

функция

(14)

выбрав то решение (15) системы (16),

P ,( 0 1 ,..., 0ft) P(X =

Xl).

(17)

Только здесь функция правдоподобия

определяется

так:

в выборке

(1),

которые в действительности и получены.

Пример 1. Оценим вероятность р события А по числу т появ­

лений события А в п независимых опытах.

Вероятность

р

есть

параметр распределения

X

|

0

1

р

\

1 - Р

Р

числа X появлений события А в одном опыте.

Согласно (18)

имеем

L(P) =

0 - Р У '

и система

(16)

дает

д

In L (р) =

п — т

т

—

1

Р

-н -------— == 0,

др

р

откуда

гп

•

р = —

п

асимптотически

эффективные

и асимптотически нормальные,

т. е. те, которые

при /г—>-оо сходятся к несмещенным, эффектив­

ным и нормальным оценкам.

Система (16)

часто сложна. В этих случаях применяют метод

моментов, который состоит в том,

что параметры 0 ),..., в* распре­

деления (12) или

(17) выбирают так, чтобы k первых важнейших

моментов

1

"

п

1

Но

V X, — /77,

(-1

поэтому

171

Р =

--- •

П

Значком /ч помечены оценки,

полученные по методам наиболь­

ных (/и = 0 ,

aXk = 1)

случайных величин Хк

(к — 1,...,

п).

Закон распределения случайной величины

хл2

называется рас­

пределением

х2.

или

распределением

Пирсона,

с п

степенями

свободы.

1.

Случайная величина

х«2 имеет плотность вероят­

Т е о р е м а

ности

т

(2)

Г"(х) == j yx~le-»dy.

(3 )

оо

1

I'

V 2

1

V

g(t) = j f {v)eitvdv

------

е

2 eitvdv.

—ос

пЛ

о

2 2 Г

2 /

Сделаем подстановку

z — | —

it | V. О

V <

оо .

(4)

Тогда

&'(0

( 1 — 2//)

2 f z 2

'e~zdz,

(5)

где интеграл берется по лучу

(4) комплексной плоскости г.

Можно показать, что значение интеграла

(5)

не изменится,

если

g(t) =

{ \ - 2 t i f J?.

(6)

Найдем теперь характеристическую функцию величины

(1). Для

слагаемого

X 2(k — 1,..., п)

величины

(1) имеем

л-2

g^(t)

М [eitx-l\ = ] eu*k — =■ е ~ dxk.

Сделаем

подстановку

1 огда

z = xk у Т — 2«, —

< Xk < оо .

(?)

ё4

^ )==

2**)~"* J e ~ T *fe>

Можно показать, что этот интеграл равен У 2л.

Тогда

gx2(t) = ( \ - 2 t i ) ~ ^ .

(8)

k

равна произведению

характеристических

функций слагаемых.

Поэтому в силу (8) для

(1) получим

г , а ( 0 = ( 1 - 2 « ) " Т

(9)

КП

Из (9) по известной формуле

найдем

v* =

4 s

<*, <0)

Ч, zn ft,

v, =

ft* + 2п.

ния Хп

получим

m t>s s v, = ft,

D/2

[х2 =

v2 — vj2 = 2ft.

Т е о р е м а

2.

Сумма любого числа т независимых случайных

величин, имеющих распределения х2 с.о степенями свободы пи ....

п т,

также имеет распределение х2 со степенью свободы п — п\-\-... +

•

Доказательство. По условию слагаемые случайные величины

независимы и имеют характеристические функции

ёг2 (*) = (1 —

"к

k = 1,.

, m.

2«)

2

,

"k

Поэтому для их суммы имеем характеристическую функцию

ё,г (0

m

Ш

_Л±

- —

= П ^ /2 (0

= П ( 1 - 2 ^ )

2

= ( 1 - 2 ti)

2 , n = n t + . . . + n m,

»

k~\ "к

к 1

которая соответствует плотности вероятности (2).

Теорема доказана.

Т е о р е м а

3.

Пусть случайная величина %2

представлена в виде

1

V

2

где — оо<^и<^оо, о

0.

Отсюда для величины Т найдем функцию распределения

F(t) = P ( T < t )

= P ( U < a W ) = Я /« (u)fv (v) du dv =

оо

п ~

1

a

vx*

а

со

/f

*

1

(1+а*»)р

/=■(z1) = А Сv

2

е

2 dv j е

2 йд: =

/1 |'с/х |

г;

2

е

7

о

- «о

—«в

о

при

любом н — 1, 2, . . . симметричны относительно оси ординат

(рис.

3). Поэтому при любом п — 1, 2, . . .

М 17] —0.

f (0 =

1

(И)

~ т= г е

УЪ:

Уже

при « > 3 0 распределение Стыодеита

(10)

практически

можно

заменить нормальным распределением

(11).

Однако при

нормального. Поэтому его роль очень велика

в микростатистике,

т. е. статистике малых выборок.

совпадает с распре­

При я = 1 распределение Стьюдента (10)

делением Коши

F

V_.W_

( 12)

где V и W — независимые случайные величины, имеющие

распре­

деления х2 со степенями свободы п и пг.

называется распре­

Закон распределения случайной величины F

делением Фишера с п, ш степенями свободы.

плотность

вероят­

Т е о р е м а 5. Случайная величина F имеет

ности

где / >

0.

(ш)— плотности вероятностей

Доказательство. Пусть /„ (и) и

независимых величин V и W. Тогда плотность вероятности вели­

чины ( V, W)

/, И

fw№) = — —

2^Г

где у >

0, w >

0.

F

найдем

функцию распределения

Отсюда для

величины

Ф (f) ~ P ( F < f ) = P(v < aW) =И fv (v) fw (w)dvdw =

v < aw

__

m

^ w

— A § \ v 2 e 2 w 2 e 2dv dw —

v aw

~

^

w_ оо»

j i ___^

___

= Aj w 2

e

2dw f v 2

e 2 dv,

о

0

2 me

_________ , 17

где

5

А

1

т

Сделаем подстановку

и изменим порядок интегрирования.

Тогда

Ф (f)

— А \ да

е

а. —__1 -

2 dy

1dw i

у

2

е

' '

D

1

п+ т

5“( 1■!

=

А \ у*

I да

2

— 1

е

У)а>

die.

dy

1

Но легко проверить,

что при

р >

О

о*

w

l w ri-e

t3 dw

=

рчН1Г (а -f 1).

о

Поэтому

пI

п+т

«I» (/)

Отсюда в силу ср(/) =

Ф'(/)

получим плотность вероятности (13).

Теорема доказана.

Квантиль, отвечающий вероятности

..называется медиа­

ной Me [К].

Квантили*/, н * 1_р называются симметричными. Если распреде­

ление симметрично относительно нуля, то хр= —

Применение квантилей основывается на равенстве

P(xp ^ X < x q) = q —p,

где

и хц— квантили, отвечающие вероятностям р и q.

Таблицы квантилей распределений (нормального, %2, Стыодента

и Фишера) приведены в приложении.

с параметрами а и о

Квантиль о,, нормального распределения

Р = р [р < /„ (« . >п)\=Р F

=

P F~'>

1

Iv in,

m)

J

fp(n, m)

1

F ~ ' <

1

fp(n,

m)

откуда

1

(14)

F~l<

=

1 —

P,

no

f P(Л, rn) .

(15)

//)] — \ — p.

Р \ Р~' < f i - P(m,

2*

19