
книги из ГПНТБ / Мания, Г. М. Статистическое оценивание распределения вероятностей
.pdf•где Fh(и)—функция распределения неотрицательно определенной (квадратичной формы.
т
^Ац (0; Я)) vy^ -
*,/=1
от компонент вектора V= (1/ 1. ,., Vm) с распределением N (О, С), где
|
Alj(Q-,H)= \ at(x; |
|
0 )a y(x; |
9) Н(х; 9)dx. |
(5.4.8) |
||
Из этой |
теоремы |
следует |
|
|
|
|
|
Т е о р е м а |
5.7. |
Если |
|
|
|
|
|
5° |
почти всюду |
по х, |
|
at(x\ t) |
непрерывна по t |
в С/0<е и |
|
at(x; 9) |
| ^ G(x; |
9) £L2 |
1 |
при t б Я е>Е, i = l , т ; |
|
||
|
|
/(х;0)
6° распределение случайного вектора Y « (0—0) слабо схо дится к N (О, J'1) при п->-са, где J—информационная мат рица Фишера с элементами
А, е; 1 = |
\а[(х-, Q)al(x; Q )-1 — dx, i, |
/ = 1 , т , (5.4.9) |
/(*; 0). |
длг; 0) |
|
то |
|
|
|
Нш Р {¥ (0 )< и }= < 3 т («). |
(5.4.10) |
П- * со
До к а з а т е л ь с т в о . По теореме 5.9. предельное распре
деление ¥(0) совпадает с распределением квадратичной формы V'JV от вектора V с распределением N(0, У-1). Теперь доказа тельство следует из следствия теоремы 5.2. Предполагается, что матрица J невырождена.
В заключение этого параграфа в качестве примера прило жения теоремы 5.5 рассмотрим плотность Г-распределения] с q
степенями свободы (&= 1) [98]
1 |
tqxq~x е~1Х, |
*>о, |
(5.4.11) |
|
f(x; 0 = Г (q) |
||||
|
х^.0, |
|||
0, |
|
|
Г=(0, с»).
160
Пусть 0 £ Т и случайная величина X распределена с плот
ностью f(x; Q). Поскольку |
Е Х = — , то в качестве |
оценки |
9 по |
||||
|
|
|
9 |
|
|
|
|
данным |
выборки Х (, |
i = |
1, п, из X возьмем |
9 |
= |
-=•, |
где |
X —среднее арифметическое |
выборки. |
|
|
X |
|
||
|
|
|
|
||||
Так |
как DX —— , то |
по центральной предельной теореме |
|||||
|
02 |
|
|
|
|
|
|
распределение случайной |
величины V п |^Х— |
jLj |
слабо |
схо |
дится к N (0., — ]. Отсюда, применяя утверждение а) теоремы
\62 /
5.4 ( т = 1 ,.а = — , ш(ы) = |
— , F „ = X ), |
получим, что распределе- |
|||
V |
6 |
« |
|
/ |
|
ние V п (0—0) |
слабо сходится к |
N ( 0, — . |
|||
|
|
|
|
V |
я2 ) |
Плотность (5.4.11) |
удовлетворяет условию 1° теоремы 5.5. |
||||
Имеем |
|
|
|
|
|
|
/<*/(*; |
*)\* |
_<?г (2<7-1) |
||
|
V |
dt |
)е |
22qT2(q)Q |
Следовательно, |
|
?lixn Р [J( ------------I 1 MИL1 _фФ(0 )< ;ы |
1 = ( } ( ы) |
I 0Г (2q—1) |
J 1V |
Заметим, что предельное распределение - j - Ф(0) не зави
сит от 0.
§ 5. ПРЕДЕЛЬНОЕ РАСПРЕДЕЛЕНИЕ СРЕДНЕГО КВАДРАТИЧЕС КОГО РАСХОЖДЕНИЯ ПАРАМЕТРИЧЕСКИХ ОЦЕНОК ПЛОТНОСТИ
РАСПРЕДЕЛЕНИЯ
Если независимые оценки 0<!> параметра |
0, |
l,s, пост |
|||||
роенные по независимым выборкам |
Х (/\ |
/ = 1 |
i = l , |
$, |
таковы, |
||
что |
распределение |
каждого |
из |
векторов |
|
. |
, |
7° |
К |
(0(г> — 9 )= |
|||||
= = |
(^in£,•••, Vmnг) |
сходится к N(0, С) при «,•-> со, |
|||||
11. Г. М. Мания |
|
|
|
|
|
15 |
то очевидно, что отсюда |
при условии |
1° *> (теоремы 5.5) выте |
||
кает соотношение |
|
|
|
|
Нш |
Р |
Ф (0<'))<м = Fs*(u), |
(5.5.1) |
|
min п; |
-*■ со |
t=l |
|
|
t |
|
|
|
|
где F (и) —функция расгфеделения из |
(5.4.1), a Fs* (и) |
означает |
||
s-кратную свертку распределения F (и) с самим собой. |
|
|||
В § 1 была |
введена |
статистика |
Ф (0(1), ... , 9(s)), |
получа- |
S
ющаяся из суммы ^ 0 ( 0 ( 0 ) заменой f(x) взвешенной сред
ней / {х) оценок fi (х) = / (х\ 0(9). Наиболее наглядный вид она принимает при s = 2. Нетрудно видеть, что
|
ф (0(1) ,0> )) |
= J h J h _ |
\fl{x)- J 2{x)Y dx. |
|
|
||
|
|
«1+ «2 |
J |
|
|
|
|
В работе [98] было доказано, что |
при условиях теоремы |
5.5 н |
|||||
условии 3° |
Р ( Ф ^ 1), '0<2))< a } = F(u), |
|
|
||||
|
lim |
|
|
||||
|
ОС |
|
|
|
|
|
|
т. е. |
при s = 2 замена |
f(x) |
в сумме Ф (0(1)) + |
Ф (0(2)) |
функцией: |
||
f (х) |
приводит к понижению на 1 „степени свободы“ |
предель |
|||||
ного |
распределения (5.5.1). |
Это |
явление привлекает |
внимание |
|||
аналогией со следующим фактом: |
в то время |
как сумма |
квад |
||||
ратов независимых случайных величин с распределением N(0, 1) |
|||||||
имеет распределение f |
с s |
степенями свободы, то сумма |
квад |
ратов тех же величин, уменьшенных на их среднюю арифмети
ческую, |
имеет |
опять-таки ^-распределение, |
но с |
s—1 степе |
||
нями свободы. |
|
|
|
|
|
|
Упомянутый |
результат о распределении Ф(9(1), |
0(2)) |
сле |
|||
дует из |
теоремы |
5.8 [70, 71], которая утверждает, |
что |
анало |
||
гичный эффект |
понижения степени свободы |
предельного расп |
||||
ределения (5.5.1) |
наблюдается и при s > 2. |
|
|
|
||
Т е о р е м а |
|
5.8. Fcau выполнены условия |
1° (теоремы 5.5) |
|||
и 7°, то |
|
|
|
|
|
|
') |
Обозначения 1°— 6° сохраняются для условий из § 4. |
|
|
162
lim P {Ф(0<1>)...,0(8))<ы} = Я5- 1)*(«), |
(5.5.2) |
min m —■oo
где F(и) определяется в (5.4.1).
Д о к а з а т е л ь с т в о . Для краткости обозначим
5
T i(x)=li, 7 ( х ) = Т f(x) = f, ^ Щ= п.
г=1
Тогда
S S
|
i = |
1 |
|
|
»= 1 |
|
|
|
|
|
|
|
S |
|
|
|
я |
|
|
|
|
|
|
2 |
M 7 - f ) 2- |
- |
2 |
м 7 - / ) |
|
|||
|
|
» = |
i |
|
|
|
|
|
|
|
Итак, обозначив |
tb |
|
|
|
|
|
|
|
||
ос)=— , имеем |
|
|
|
|
|
|||||
|
|
|
п |
|
|
|
|
|
|
|
a |
|
|
s |
|
|
|
|
|
|
|
2 |
м 7 - / ) г= |
|
|
|
2 |
|
“ ^ М Ь - Я |
|||
i= a |
|
|
|
i |
|
|
L‘ = |
i |
|
I |
Пусть |
|
|
U(x) = (U1(x),...r |
U,(*)) |
|
|
||||
|
|
|
|
|
||||||
—вектор с |
компонентами |
|
|
|
|
|
|
|||
|
|
U,(x)=У~п7 [/ (х\"в ^ )- |
f (х; 0')], |
i= 1, s . |
|
|||||
В этих |
терминах |
(если |
| X |означает норму |
вектора |
X ) |
|||||
|
о |
|
|
|
|
|
|
|
|
|
|
2 |
M 7 ( * W |
W ) 2= |
l f W |
|
\ |
] |
ctff/Д х) |
|
|
|
( = |
1 |
|
|
|
|
|
|
|
|
Существует |
ортогональная матрица, |
зависящая от |
ns |
|||||||
|
|
|
В=\\ЪЦ\Г t, / = 1 ~ „ |
|
|
|
163
для которой
^ i = ai. i = l , s .
Поскольку при ортогональном преобразовании длина вектора не меняется, то
S
|
s |
|
|
|
~]2 |
s — 1 |
Г |
s |
|
|
|
2 |
|
«</,<*> |
= 2 |
|
|
' ^ i b4 Ui ^ |
|||
|
t = |
1 |
|
|
t = |
i |
L/ = i |
|
||
Согласно (5.4.3), |
с |
вероятностью |
s |
|
P {0^ £ £/0>g}, стремящейся |
|||||
|
|
|||||||||
|
|
|
|
|
|
i= l |
|
|
||
по условию |
7° к |
1 |
при m in ^ -^ o o , |
верно соотношение |
||||||
|
|
|
|
s— 1 |
s |
|
|
|
|
|
|
|
|
2 |
2 |
w |
* |
» |
- |
|
|
|
|
|
|
i= l |
/ = 1 |
|
|
|
|
|
|
s—1 |
|
s |
|
m |
|
|
|
|
|
= |
2 |
|
2 |
'A ' 2 |
м * |
0<*' ^ |
и1"< |
|||
|
*= i |
|
/ = |
i |
1=1 |
|
|
|
|
|
Учитывая, что |
|
|
|
m |
|
|
|
|
||
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
dx= |
|
|
|
/= i |
|
/ = |
i |
|
|
|
|
|
|
|
|
m |
|
|
s |
|
|
|
|
|
|
2 |
a<(*; e ) 2 |
|
ьч щ |
dx= |
|||
|
|
|
|
|
||||||
|
|
|
1= 1 |
|
/ = |
1 |
|
m
=^ ЛМ(0)2<^>=Л(^>; 9),
P,4=l
s
где ■Z C O - V Ьц V(J]', i = 1, s, из условия 1° теоремы 5.5
/ = 1
164
нетрудно |
заключить, |
что |
при |
mm nt-> со |
случайные величины |
||||||||||||
|
|
|
|
i |
|
|
|
|
i |
|
|
|
|
|
|
|
|
|
|
|
|
S— 1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
Ф (0(1),..., |
0(s>) и |
|
/4(Z(,); 0) эквивалентны по вероятности. |
||||||||||||||
|
|
|
|
Ы1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Осталось |
установить, |
что |
векторы ZO , |
£ = 1, s— 1 |
в пре |
|||||||||||
деле |
независимы, |
имея |
одинаковое |
предельное |
распределение |
||||||||||||
N (О, С). |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
По |
условию |
7° характеристическая функция V(Jj равна |
||||||||||||||
|
<pHj(«о)= |
ехР |
j —~ |
и'оСи0 |4-rj/> |
К ) , |
i = |
1, s , |
|
|||||||||
где |
« 0= (ы 10,..., |
ит0) |
и |
(и0) |
стремится |
к |
нулю |
при |
оо |
||||||||
равномерно |
по |
|
|
|
/ |
|
|
конечной |
сферы. |
|
' |
||||||
и0 из каждой |
Обозначим |
||||||||||||||||
u<7= ( wi g - - - - . |
ит9). |
|
|
пусть и= |
|
|
us)—вектор, подвек |
||||||||||
торами которого являются ид, |
q=l,s. |
Итак, |
и — sm-мерный |
||||||||||||||
вектор. Вычислим |
предел |
при |
min tiq—>~со |
|
характеристической |
||||||||||||
функции ср(ы), sm-мерного вектора (Z(1),..., |
Z(s)). |
Имеем |
|
||||||||||||||
|
|
|
|
|
|
|
|
|
|
s |
|
|
|
|
|
|
|
|
|
|
|
<р (ы) = Е ехр |
|
2 |
« |
; |
z<*> |
, |
|
|
|
||||
|
|
|
|
|
|
|
|
|
9=1 |
|
|
|
|
|
|
|
|
где |
i = Y — 1 • |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
Далее |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
0=1 |
|
|
0=1 / = 1 |
|
j = 1 |
|
|
|
|
|
||||
|
|
|
|
|
s |
m |
i |
s |
|
|
|
|
|
|
|
|
|
|
|
|
|
■ |
2 |
2 |
( 2 |
|
|
|
) w , ■= |
|
|
||||
|
|
|
|
/= 1/= 1\ q=1 |
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
s |
/ |
s |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
/ = 1 \<?= 1 |
|
|
|
|
|
|
|
|
||||
Поскольку V (J ! , |
j |
= 1, s,—независимые |
векторы, |
то |
|
|
|
|
<?(«)=П Щ |
2 |
b v |
“«)= |
|||
|
|
|
/=1 |
|
\д=1 |
|
|
|
= 1 1 |
| 6ХР |
|
|
|
|
|
|
hi ич + |
/ = I |
|
|
|
|
|
|
|
|
|
|
Jr rn).\ |
^ |
i bqj Uq |
|
|
||
Ввиду ортогональности |
В |
|
|
|
|
|
||
|
s |
Г s |
|
Т |
Г |
s |
|
“I |
|
V |
V |
bqj uq |
С |
Х \ ьд, ия = |
|||
|
/ =IL - ?=I |
|
J |
|
9=1 |
J |
||
|
|
s |
s |
s |
|
|
|
|
|
= ^ |
|
S bHbr iu‘ Cup= |
|||||
|
|
|
|
|
1 |
|
|
|
|
|
Z,p=l |
|
/= 1 |
74 bPi~~ |
|||
|
|
|
|
|
||||
|
= V |
М/С Ир §гр = 2 |
|
«? C “ ?• |
||||
|
/,р=1 |
|
|
р=1 |
|
|
||
где Ъ1р—символ Кронекера. |
|
|
|
|
|
|||
Стало |
быть |
|
|
|
|
|
|
|
|
lim |
<p(u) = TT exp |
( — i - |
ugCuq ) |
||||
min Л; —00 |
"ITj |
|
l |
^ |
J |
|||
Теорема 5.8 доказана. |
|
|
|
|
|
|||
Это же доказательство |
с |
несущественными изменениями |
||||||
можно было |
провести для сравнения предельного при min пг-> оо |
|||||||
распределения статистики |
|
|
|
|
|
|||
|
2 |
ni ^ { У ) ~ т ? Н ( х ; |
Q)dx |
|||||
|
i = |
1 |
|
|
|
|
|
|
166
с предельным при п —>- оо |
распределением статистики |
|
|
||||||||
|
|
|
п \\f(x)— f(x)\2H(x-,Q)dx, |
|
|
|
|||||
при |
выполнении |
условия |
7° |
(теоремы 5.6) вместо условия |
2° |
||||||
(теоремы 5.5). Первое окажется |
(s— 1)-кратной |
сверткой распре |
|||||||||
деления FH(u) из |
(5.4.7). |
|
|
|
внести и в Н(х; 0). |
|
|
||||
|
Более того, случайность можно |
Пусть |
|||||||||
Н(х\ t) |
определена для t ££/е,е |
и выполнено |
условие |
|
|
||||||
|
8° почти всюду по х, |
^ |
Х’ |
*-^ .Н 0(х) и Н(х; t) непрерывна |
|||||||
no^t |
в t/0>e. |
|
Я ( х; 0) |
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|||
|
Обозначим |
|
|
|
|
|
|
-1 |
|
|
|
|
|
|
|
|
|
|
-^-[Я (х;0О )]-1 |
|
|
||
|
|
|
Я (* ) = { ^ |
|
|
|
|
||||
|
|
|
|
|
|
|
п |
|
|
|
|
и |
|
|
|
|
|
|
|
|
|
|
|
Ф(0<1),...,0<5);;Я )= 2 |
|
П,- |
|
[/^(JC)— /(^ )]а Я(АГ) Лс. |
(5.5.3) |
||||||
|
|
|
/ = |
1 |
|
|
|
|
|
|
|
Очевидно, что при |
условии 8° |
|
|
|
|
|
|||||
|
|
|
р lim Н (х)=Н (х) *> |
|
|
|
|||||
|
|
|
min щ — со |
|
|
|
|
|
|||
и, если |
0(() 6 Я0,е, |
i = 1, s, |
что |
при достаточно большом |
min |
щ |
|||||
верно |
со |
сколь угодно большой вероятностью, то |
i |
|
|||||||
|
|
||||||||||
|
|
|
|
Н(х) |
|
< Я 0(х). |
|
|
|
||
|
|
|
Я (х; 0) |
|
|
|
|
|
|||
Пусть выполнено условие |
|
|
|
|
|
|
|
||||
|
9° |
почти всюду по |
х, |
| аг(х; |
t) \^ G(x; |
0) £ L2 (Я Я 0) |
и |
||||
х; t) непрерывна по t |
в t/e_E, |
i = |
l,m, |
|
|
|
|||||
и 0* 6 ^ 9,е причем р lim |
0* = 0. |
|
|
|
|
|
|||||
|
|
m in п,- — |
оо |
|
|
|
|
|
|
|
|
|
Поскольку |
|
|
|
|
|
|
|
|
|
|
|
|а{(х; 0*) а, (х; 0*) Я (х ) | < G2(х; 0) |
Я(х; 0) < |
|
||||||||
|
|
|
|
|
|
|
|
Я (х ; |
0) |
|
|
s^G 2(x; 0) Я о ( х ) Я( х ; 0)
*) Буква р перед lim означает предел по вероятности.
167
и |
|
|
|
|
|
|
|
|
|
|
|
|
р lim at(x\ 0*) t t j |
(x; 0*) H (x) — af (x; |
0 )а ;-(л:; Q)H(x; |
0),. |
|||||||||
min щ — °° |
|
|
|
|
|
|
|
|
|
|
|
|
то по-теореме о |
мажорированной |
сходимости |
|
|
,! |
|||||||
р hm |
|
at(x, |
0 *)a; (x; |
0*) Я (x) dx = Alj (0; |
Я). |
|
||||||
min щ —со |
J |
|
|
|
|
|
|
|
i .с -■ - |
|
|
|
. |
|
определяется из |
(5.4.8). . |
|
|
|||||||
Здесь Лг;(0; Я ) |
|
|
|
|||||||||
Теперь ясно, что верна |
|
|
|
|
|
|
|
|
||||
■ Т е о р е м а |
|
5.9 [71]. |
Если |
|
выполнены |
условия 7", |
8°, 9°г |
|||||
то |
|
|
|
|
|
|
|
|
|
|
г |
. |
lim |
Р (Ф(?<1) , . . . , ? 5);Я )< н ) = |
[^ (и )](5- 1^ |
' |
, |
||||||||
min т — с» |
|
|
' |
|
|
|
|
|
|
|
||
I |
|
|
|
|
|
|
|
|
|
|
|
|
где Ен(и) определена б (5.4.7). |
|
|
|
|
|
|
|
|
||||
Положим |
теперь Н (х; t) = —-— |
Тогда Н (х) = ^ J — к |
||||||||||
|
|
|
|
|
/ ( * ; 0 |
|
|
|
|
/(* ) |
||
Ф (0<4... ,?<s); Я )= ¥ (О*1),,.., ? |
s>) = |
|
|
|||||||||
|
|
|
|
[ / / ( * ) - |
f(x)]2 |
d,X |
|
|
||||
|
|
|
|
|
|
J(x) |
|
|
|
|
|
|
Из теоремы |
5.9. |
следует |
|
|
|
|
|
|
|
|
||
Т е о р е м а |
|
5.10. |
Если |
почти |
всюду по х при t£UQi&r |
|||||||
< Я 0(л;),|а/ (д:; |
*)К <У (х\ 0 ) 6 Т 2 |
( у - ) > |
0 |
непре |
||||||||
рывна по t в Я 0<Е, i = |
1 ,,72, и при п1->- с о |
распределение случай |
||||||||||
ного вектора У nt- (0(1)—0) |
слабо |
сходится к N (О ,/-1), |
где J—ин |
|||||||||
формационная матрица Фишера |
(5.4.9), |
I— 1, s,. то |
|
|
||||||||
lim |
Р { Т ^ < 0 , . . . . 3 0 ) < ц } = |
0ыв. 1(;(а ):Ч ' |
|
(5.5.4) |
||||||||
пипщ —со |
|
|
|
|
- |
■ . |
|
|
|
|
ч. v |
1 н
М ; ‘. ■ И, |
|
|
|
|
|
■г ' ” - |
Г Л А В А VI . |
|
|
|
|
! ПАРАМЕТРИЧЕСКАЯ ОЦЕНКА ПЛОТНОСТИ |
|
||||
НОРМАЛЬНОГО РАСПРЕДЕЛЕНИЯ |
|
||||
Конкретизация тех свойств |
параметрической |
оценки |
плот |
||
ности распределения, |
которые |
в общих |
чертах |
изучались в; |
|
гл. V, наиболее интересна для плотности |
нормального распре |
||||
деления. Надо отметить, что результаты |
гл. V |
возникли |
как. |
||
обобщения соответствующих результатов для нормальной |
плот |
ности. Последние составляют содержание настоящей главы, из
ложение |
которой существенно |
упрощается систематическим*, |
||||
использованием обозначений и теорем из гл. V. |
|
|||||
В |
первых работах по тематике гл. VI изучались моменты |
|||||
и с. к. |
п. |
параметрических |
оценок |
плотностей |
одномерного* |
|
[27, 28, |
30] |
и двумерного [29, |
33, |
34] |
нормального |
распределе |
ния. Затем, в работе [35] было доказано, что предельное рас пределение с. к. р. двух параметрических оценок плотности одномерного нормального распределения совпадает с предельным
распределением с. |
к. |
п. Это |
утверждение оказалось |
верным и: |
||||
для двумерного нормального распределения [67]. |
|
|||||||
Предельному |
распределению |
с. к. п. |
оценок |
плотности* |
||||
многомерного |
нормального |
распределения |
посвящены работы |
|||||
[37 — 43], а их моментам — работа |
[69]. |
|
|
|||||
Теорема |
5.8 |
из гл. V о соотношении |
между предельными* |
|||||
распределениями [с. |
к. р. |
Нескольких параметрических ’[оценок, |
||||||
плотности, и с. |
к. |
п. |
впервые |
была |
доказана в [44] |
для одно |
мерного нормального распределения. В § 1 дается формула для предельного распределения с. к. ,р. из [44]..
Последний результат гл. .VI о параметрической оценка: плотности нормального распределения — это теорема о с. к. о. п. (§ 5) [71].
169*