
книги из ГПНТБ / Мания, Г. М. Статистическое оценивание распределения вероятностей
.pdfВычислим суммы:
— х'х, |
(6.3.39) |
1
2
==_L[(x,x)2- 2 x/x+ ^ ]. |
|
|
(6.3.40) |
||
|
2 |
|
|
|
|
Сложим (6.3.39) и (6.3.40). Получим |
|
|
|
||
D п(х |0, /) = — |
п2 (х |0, /) (x'x)2-\-k\ -j- О f — V |
(6.3.41) |
|||
|
2 л |
|
|
Vn2 / |
|
Результаты |
для |
нестандартного |
распределения, |
получае |
|
мые из (6.3.38) |
и (6.3.41) с помощью |
(6.3.3), (6.3.4) |
и (6.3.5), |
||
сформулируем в виде |
теоремы |
|
|
|
|
Т е о р е м а |
6.6. |
|
|
|
|
Е п(х |а, С) = п(х |а, С) { 1 + — |
[((x—а)' С~\х—I))2— |
||||
|
|
I |
4 п |
|
|
-2 {k + \ ) (х -а )' С-1 (х— а)+&2] j |
( 1 |
|
|||
+ О (. |
|
Ьп(х\а, С)—— п2(х \a,C){[(x—a)'C~^(x—a)\2-\-k)-\-0^ * 2 я
Проведенные вычисления позволяют выписать математическое ожидание и дисперсию оценок п{х |0 , / ) и при неполном оце нивании параметров. Имея в виду (6.3.36) и (6.3.39), получим
2 0 0
Еп(х\ I |0) = n(x |О ,/) П + — |
( x 'x - 6 )l |
+ 0 ( — |
), |
(6.3.42). |
|||||
|
|
|
2 n |
|
|
|
n‘ |
|
|
D n(x; |
I |0) = — |
n2(x |
i |
0, I) x'x-bO ( — |
) , |
(6.3.43) |
|||
|
|
n |
|
|
|
|
\ n2 |
|
|
а из (6.3.37) |
и (4.3.40)- |
|
|
|
|
|
|
|
|
E n(x; |
0 |/) = п(х |
|0, /) |
|
1 |
[(x'x)2 — |
|
|||
l |
1 + — |
|
|||||||
|
|
|
|
|
4 n |
|
|
|
|
- |
2 (6 + 2 ) x 'x + 6 (6+ 2)] |
j |
+ 0-^-L.jt, |
|
(6.3.44) |
||||
I) n(x; 0 |/ ) = |
_L |
n2(x |0 , /) [(x'x)2—2 x 'x + 6 ]+ O ^ - L Y |
(6.3.45) |
||||||
|
2 n |
|
|
|
|
|
V n2 / |
|
В заключение приведем значения математического ожида ния и дисперсии для неполных оценок нормальной плотности в случае, когда афО и С Ф /. Переход к соответствующим фор мулам от формул (6.3.42) и (6.3.43), (6.3.44) и (6.3.45) произ водится соотношениями (6.3.4) и (6.3-.5), которые верны и при: неполном оценивании параметра.
E n(x; С |а)= п(х \а, С) |
1 ф — |
[(х—а)' С_1(х—а)—6] I _U |
|
|
|
2 п |
1 |
|
+ о Ли |
||
D n(x; С |а)= — |
п2(х \а, С )(х —а)' С_1(х— а )+ 0 ( — |
||
п |
|
|
\ п2 |
Е n(x; а | C) = n(x | а, С) ( l + -Y |
[((х—а)' С_1(х—а))2— |
||
|
|
4 п |
|
- 2 ( 6 + 2 ) ( х - а ) ' С '+ х - ^ + б (6 + 2 )] + О |
|||
D п(х; а |С) = — |
n2(x | а, С) [(х ~ а )' С-1 (х —а)]2— |
||
2 п |
|
|
|
— 2 (х —а)' С_1(х —й) + 6 |
' |
1 |
|
+ 0 |
|
2 0 1
§ 4. СРЕДНЯЯ КВАДРАТИЧЕСКАЯ ПОГРЕШНОСТЬ ПАРАМЕТРИ ЧЕСКОЙ ОЦЕНКИ ПЛОТНОСТИ МНОГОМЕРНОГО НОРМАЛЬНОГО РАСПРЕДЕЛЕНИЯ
Как и прежде, задачу нахождения предельного распределе
ния с. к. |
п. плотности многомерного нормального распределения |
в случае |
недиагональной матрицы ковариации [39 —43] сведем |
к случаю стандартного нормального распределения. Понятно, что
стандартизация не дает |
нам права пользоваться результатами § 2. |
||||||
В § 3 было показано, что |
|
|
|
|
|||
:п (х| |а, |
С) = |
1 |
п{С-1!*{х -а )10, |
/), |
|
||
V\c~\ |
|
||||||
|
|
|
|
|
|
|
|
п(х\а, |
С) = |
1 |
п(С~г12(х—а)\а0, |
С0), |
|
||
|
|
V[C\ |
|
|
|
|
|
где матрица С~1/2 такова, что |
С"1/2 С (С '1/2)' = /. |
Поэтому |
|
||||
Ф(а, С)=п 1 [п(х\а, С)—п(х\а, C)]2dx= |
|
||||||
п |
(х—а) |а0, CQ)-n (C -'l*(x -a ) |
dx |
_ |
||||
|[п ( С ^ 2 |
|0, / ) ] 2 |
|
|||||
т |
|
1 |
|
|
|
|
|
|
|
|
|
|
(6.4.1) |
||
|
|
Ф |
( а о> С 0). |
||||
При вычислении Ф(а, С) воспользуемся формулой свертки |
|
||||||
С1 + С,>= j |
|
|
|
|
(6.4.2, |
||
многомерных нормальных плотностей |
п (х]ах, Сх) и п(х |а2, |
С2). |
|||||
Имеем |
|
|
|
|
|
|
|
— Ф(а, С )— I п2(х|а, |
C)dx + |
п2(х |а, |
С) dx — |
|
|||
■п |
|
|
|
|
|
|
|
—2 I п(х\а, |
С) п(х\а, C)dx. |
|
|
||||
Так как;«(х |(а, С )=.п(—х\ —а, |
|
С), то из (6.4.2) при 2= 0 получим |
|||||
Г/г2(х,| а, <C)dx= Гп (—х\ — а, |
С)п(х\а, С) = п(0|0, 2С), |
|
п\х\\а, C),dx=n(0\0, 2С),
302
Jn(x|a, |
C) n(x\a,i C)dx= j*, « ( —xj —a, C)n(x\a, Cj dx= |
||||
Итак, |
|
= n(0.|a—<a, |
C + C ). |
|
|
|
|
|
|
|
|
|
— |
Ф(а, С)=«(01,0, 2C)+.n (01 0, |
2C)~ |
|
|
|
n |
|
|
|
|
|
|
-2n(0\'a-:a, |
C - f C). |
|
(6.4.3) |
В § 3 мы |
условились обозначать малой |
латинской |
буквой |
||
вектор, |
компоненты которого—элементы, находящиеся |
не ниже |
главной диагонали симметричной матрицы, обозначенной соответ
ствующей прописной |
буквой. |
Так, |
матрице С0 |
соответствует |
|||||
вектор |
с0. Как известно [1],векторы а0 |
и с0 |
независимы, |
причем |
|||||
вектор |
£= (£15 ...,£& )= V п а0 имеет стандартное нормальное рас |
||||||||
пределение при любом п, а предельное |
распределение |
вектора |
|||||||
)Лг (с0—с0) совпадает с распределением вектора |
|
|
|||||||
|
V |
•••> |
^?12> •• |
|
|
|
|
|
|
имеющего нормальное распределение с |
нулевым математическим |
||||||||
ожиданием и ковариациями |
|
|
|
|
|
|
|
||
|
|
Е % ^ г = ®1> 5/г + 0/г§/г’ |
|
(6.4.4) |
|||||
|
|
|
|
||||||
где 5(/.—символ Кронекера. |
|
|
|
|
|
|
|
||
П р и . а = 0 , С = / |
(6.4.3) |
перепишем |
в виде |
|
|
||||
|
Ф(а0, С0)= |
п |
w(c0)4- лХ (а0, С0). |
|
(6.4.5) |
||||
|
2hтtfe/2 |
|
|||||||
|
|
|
|
|
|
|
|
|
|
Здесь |
|
|
|
\ |
|
|
.-М2 |
|
|
|
ay(w)=rl + |
)f/|-;1/2_2 |
|
+ |
|
||||
|
J « |
U ) \ |
|
|
|||||
|
|
|
|
|
|
|
|||
|
X(ae, C0) — • 2(1 - |
exp {— Y |
) |
|
|
||||
|
|
2 ^ |
4 |
- i ( / + C 0) |
|
|
|||
|
|
|
|
i £ |
|
|
|
|
|
где '£ /-*симметричная |
матрица |
:kyjt |
и |
Yn~X~ |
a'a (I + |
C0) a0. |
|||
Имеем |
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
+ Q>)
203

п У п = ^ ( У n a j V n a 0M V n “ o)' (^ + C 0)-1—— / V n a0=
=4- V й + TO
i= i |
|
|
|
1 exp { |
Уп|_ j _J у (5)„ |
|
|
1 |
|
H Y (V- |
|
1/2 (/ + |
C0) 1 |
|
|
|
|
||
В этих соотношениях p lim |
Y1^= 0,. t= 1 , . 3 , что следует |
||
|
Л—»oo |
|
|
из состоятельности оценок a0 и С0: |
|
||
/? lim ао= 0 , |
р lim С0 = 1. |
|
|
t l —* o o |
|
|
|
Стало быть |
|
R. |
|
пХ |
|
|
|
|
2 й+№; |
(6.4.6) |
|
|
|
|
|
|
|
1=1 |
|
при этом вектор £ не зависит от с0 и имеет стандартное норма
льное распределение, |
а |
У<*> сходится |
к нулю по вероятности, |
|||||
не влияя тем самым на |
предельное |
распределение случайной |
||||||
величины пХ(а0, С0). |
|
|
|
|
|
|
||
Для |
установления предельного распределения nw(cQ) исполь |
|||||||
зуем теоремы |
5.4. Обозначим |
g(u) = \U\~112> v{u)— ~ (сй-{-и). |
||||||
Тогда |
dw |
|
|
|
|
|
|
|
|
|
_ 2 |
*L |
|
|
|
||
|
диц |
диц |
|
|
|
|||
|
|
д°ц du{j |
|
|
||||
|
( dw\ |
|
|
- |
2 I |
|
-0,. |
|
|
W u i j )4 |
|
J ca |
|
||||
|
|
|
1dVij ) |
v(c0) |
||||
так как |
v(c0)= c0. |
|
|
|
|
|
|
|
Далее, |
|
|
|
|
|
|
|
|
|
d2w |
d2g |
__ |
|
|
|
||
|
______ |
|
|
|
|
|
||
|
du{jdun |
диц диг1 |
|
dvti dvrl |
duij дит1 |
204
|
|
d2w |
|
1 |
|
d2g |
|
|
|
|
\ ди^ д UfiJcq |
2 |
\ди{1 durl j c0 |
|
|||||
Поскольку (2n)-kl2g(u) равно n(0|0, |
U), то no |
формуле об |
|||||||
ращения |
|
|
|
|
|
|
|
|
|
|
(2n)-kl*g(u)= _ 1 _ |
j |
exp |
J ~ |
-1 t'Ut ] |
dt. |
|||
Отсюда |
|
|
|
|
|
|
|
|
|
|
d2g(“ )____________ |
Г i{tjtrt( exp ( — -i- |
ctf |
||||||
|
диц durl |
|
:--- |
||||||
|
(2rc)ft/2:n)hl2 . |
‘ |
' |
|
|
||||
|
d2g(u) |
I c0= « £ 6 5 ^ 5 ! , |
|
|
|
||||
где |
дии диг1 |
|
|
|
|||||
|
1, |
если |
i~ j, |
|
r= l, |
|
|
|
|
|
|
|
|
|
|
||||
|
к = |
2, |
если |
i < / , |
|
г=1 или i— j, r<J, |
|
||
Ho |
|
. 4, если i<J, r<l. |
|
|
|
||||
|
E ZtZj |
— ^ipri+ |
|
— |
|
||||
|
|
|
|
||||||
3, |
если |
£ =/=> г =/, |
|
t = тФj —/, |
или i= l¥*j= r, |
||||
= | 1, |
если |
i'=/¥=r = /, |
или |
|
|||||
О, в остальных случаях. |
|
|
|
||||||
Следовательно, |
|
|
|
|
|
|
|
|
1 |
/ d2w(u) \ |
2 |
\6iiij durl J Со |
3/16, если i= j = r=l, 1/16, если i=j¥=r=l,
4/16, если i = r<[/ = £, 0, в остальных случаях.
и предельное распределение nw(c0) совпадает с распределением квадратичной формы
3 |
|
|
(6.4.7) |
||
16 S j * + is s % % + 16 |
% - |
||||
|
|
||||
i—1 |
гi,/=1. |
i,/=l |
|
|
|
|
|
i<i |
|
|
|
Согласно (6.4.4), tj—вектор с независимыми компонентами; |
при |
||||
этом г]п , ...,r)hh имеют распределение N{0, |
2), а остальные |
ком |
поненты подчиняются стандартному нормальному распределению.
Вместо % рассмотрим величину Уи |
Уи |
со стандартным нор- |
|
V 2 |
|||
|
|
205
мальным |
распределением. Теперь, |
обозначая V ~ ( V i v |
Vkk) |
из (6.2.6) |
получим, что квадратичная |
форма (6.4.7) равна |
|
к
- I ( ? S 4 |
+ |
2 V Vf,) . |
|
|
|
(6.4.8). |
||
V |
|
ui= i |
1 |
|
|
|
|
|
|
|
i<i |
|
|
|
|
|
|
Применяя (6.4.7), (6.2.8) |
в |
теорему |
5.2, обнаружим, |
что |
|
|||
|
|
/г=1. |
|
|
|
|
|
|
V s 4 = 2 |
« -Ь (* Н -2 )а . |
|
|
(б -4-9) |
||||
|
|
г— 1 |
|
|
|
|
|
|
где вектор ^= (? i,.... ^ ) |
получается |
ортогональным |
преобразо |
|||||
ванием из У] и тем самым, |
как и ч], имеет |
стандартное |
^-мер |
|||||
ное нормальное распределение. |
|
|
|
|
|
|
||
Согласно (6.4.5), (6.4.6), (6.4.8), (6Д.9), |
предельное |
при |
||||||
я-»-со распределение Ф(а0, |
С0) совпадает с |
распределением ква |
||||||
дратичной формы |
|
k. |
k—l |
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
, |
,? i+ |
|
| + ( * + 2 ) a |
|||
г = 1 |
|
|
|
|
|
|
||
|
01=1. |
1=1. |
|
|
(6.4.10) |
|||
|
|
i< i |
|
|
|
|
||
от независимых случайных величин |
|
ч]12, .... Ък^-чУк-пк’ |
||||||
К,г,...Лк с распределением |
N(0, 1); |
(6.4.10) |
представляет |
собой |
||||
линейную комбинацию трех |
независимых |
случайных |
величин, |
|||||
имеющих распределение у? |
с к, (к -\ )(к + 2) |
и 1 |
степенями |
свободы, соответственно. Обозначим
/7?(w) = P {2 fe+3'Tc'i/2Z"<w ).
Для вычисления F°k(u) применим теорему Гурланда '(§ 3 |
гл. |
V). |
||||
В нашем случае |
Хх = |
••• =1Ь= 4 ,. |
Xft.+1—-•••= Х ъ(к+2) |
= 2 , |
||
X fe{A.+3j = & +2. Удобно |
положить X=&-f-2. |
2 |
|
1 |
||
Как показывают вы- |
||||||
2 |
|
|
|
|
|
|
числения, |
|
|
|
|
|
|
kl~r(k -2 y |
/•—I |
т - 1 |
Г (^ 1 )(й '+ 2 ) |
|
|
|
г! ( t - r ) f |
П (* + 2/) |
п |
2 |
4- |
2/ . |
|
|
|
1=0; |
/ь=0у |
|
|
|
206
где Gf(x) означает функцию распределения с / степенями свободы..
Обозначим |
|
|
|
Р {Z<u} = Fh(u) = Fl(2h+s гМ* и). |
(6.4.12) |
||
Fh(u) является предельным распределением для Ф(а0, |
С0) |
||
|
lim |
Р |Ф(а0, C0)< u } = Fk{u). |
|
Теперь из (6.4.1) следует |
|
||
Т е о р е м а |
6.7. |
Предельное распределение с. к. п.. парамет |
|
рической оценки |
п(х \а, С) плотности п(х |а,. С) многомерного |
||
нормального распределения задается соотношением |
|
||
lim |
Р \Y\C\ Ф(а, C)Cu} = Fk(u), |
|
где Fh(u) определяется из соотношений (6.4.11) и (6.4.12)*>.
§ 5. СРЕДНЯЯ КВАДРАТИЧЕСКАЯ ОТНОСИТЕЛЬНАЯ ПОГРЕШ НОСТЬ ПАРАМЕТРИЧЕСКОЙ ОЦЕНКИ ПЛОТНОСТИ МНОГОМЕР НОГО НОРМАЛЬНОГО РАСПРЕДЕЛЕНИЯ
Оценки а и С (§ 3) для параметров а и С нормального ра спределения удовлетворяют условиям теоремы 5.7; свойства ре
гулярности п(х |г, 5) |
относительно г и s также |
достаточны |
для |
этой теоремы. Стало быть, из нее автоматически следует |
|
||
Т е о р е м а 6.8. |
Предельным распределением |
с. к. о. п. |
па |
раметрической оценки п(х\а, С) плотности многомерного нор мального распределения
У(а, С)— п |
[п(х\а, С)—п (х|а, С )]2 Av |
|
п(х |а, С) |
||
|
*) В приложении даны таблицы для F k(u) при >&s=li,3. (табл. 4—6).
207
является распределение |
х 2 -с /г(& + 3) |
степенями свободы. |
|||
Вычислим W(a, С). Имеем |
|
|
|
||
1+ |
С)= Г |
Q dx= Г п * М Ь'> С><к= |
|||
п |
|
п(х\а, |
С) |
п(х|0, |
С) |
(С)1/3 |
| —(х—Ь)' С~г(х—Ь )+ Х - |
- — \ dx, |
|||
|
ехр |
||||
(2тт:)А/2|С [ |
|
|
|
|
|
где Ь= а—а. |
|
|
|
|
|
Преобразуем |
выражение |
в показателе |
степени |
|
—(х—Ьу С~‘1(х—Ь )+ ~ х' С-1 х = —х' С-1 х + Ь ' С~гх + х гС-1 b
_ х'С~Ч = {*' [2С-1— С"1] х-
2
— 4 (С-1 b)' х}—Ь'С~1Ь.
Пусть Л-^симметричная, положительно определенная матри ца и 5—некоторый вектор. Найдем такие векторы e n d , чтобы
х'Ах + b'x = {x-\-c)'A (x+c)+d.
Полагая х = 0 |
и х ——с, |
получим два условия d——c'Ac, |
||||
d— c'Ac—b'c, откуда |
с = — |
А~ХЬ и |
<i= — - L b'A~lb. Теперь яс- |
|||
но, |
что |
|
2 |
|
4 |
|
|
|
|
|
|
||
|
|
j |
ехр |
{ - Т |
<х ' Л)£+ 6'*>} |
,ix “ |
|
|
|
/ 1 |
1 |
|
|
|
= |ЛГ^2 е х р ( — |
&'Л_16 |
- 1Д!1/2 X |
|||
|
|
|
И V 8 |
) |
(2тс)ь/3 |
|
X |
I ехр |— ~ |
(х-\-с)'А(х+с)\ dx=\А |_1/2 ехр |
< 1 |
|||
|—-&,Л*1&| |
В нашем случае, если матрица 2С~Х—С~х положительно определена, что эквивалентно положительной определенности
матрицы 2/ — С С-1, т. е. условию
* * а , |
(6.5.1) |
то
208
n\x\b, |
C) Av_ |
|
n(x |О, |
C) |
|
|CI1/2 |
|
1]'b} = |
exp (P [C'-12(2C~1— C -1)-1C '1- C |
||
|C 112C-1— С -г I1/2 |
|
|
= |CC~X(2 /- С С " 1) Г1'2 exp { (a -a y e -1[2 ( 2 /- C C - 1)"1- / ] |
(a -a )}. |
Итак, при условии (6.5.1)
Ща, C)=n { \CC~1(2I-C C -1)\-1l2 exp [ (a -a)' C'1(2 (21-
-CC-1)-1 —/) (cT—a) ] — 1}.
Вчастности, для одномерного нормального распределения уело вие (6.5.1) принимает вид
с<< 2с
истатистика
-1/2 (а—а)2
-1ехр
|
|
2с — с |
в пределе при п-> со имеет |
распределение |
у2 с двумя степени |
ми свободы. |
|
|
Kn(x|a, С) применима |
также теорема |
5.10. |
§ 6. ПАРАМЕТРИЧЕСКАЯ ОЦЕНКА ПЛОТНОСТИ ЛОГНОРМАЛЬНОГО РАСПРЕДЕЛЕНИЯ
Обозначим Rk+ ту часть пространства Rk, где все компо ненты векторов положительны и если х £ Rk+, то пусть In х означает вектор, компоненты которого—логарифмы от компонент вектора х
In х —(In xl5..., In xh).
По определению, случайный вектор X £ Rh+ имеет логнор мальное распределение с параметрами а и С, если векторЛп X имеет нормальное распределение с теми же параметрами. Следо вательно, плотность распределения вектора X имеет вид
k |
Ха1«(In х\а, |
су х е Rh+, |
] f |
||
In (х\ а, С)= |
|
(6.6. 1) |
о, |
х е Rk+. |
|
14. Г. М. Мания |
209 |