
книги из ГПНТБ / Мания, Г. М. Статистическое оценивание распределения вероятностей
.pdf
|
|
sup I E fn(x)— f(x) I < |
|
|
x^R1 |
^ |
sup |
dy + |
|
x^R1 |
|
4- |
sup |
|
|
|
> 8 |
^ |
sup |
sup \ f(x -y)-f(x)\ + 2 M \K(y)dy. (2. 1.6) |
|
X ^ R 1 |
\ у \ < ь |
|
|
\y\>m |
Пусть rj > 0 произвольно мало. При достаточно малом 5 > 0 первоз слагаемое в правой части (2. 1.6) меньше vj/2 ввиду рав номерной непрерывности f{x)\ для фиксированного § можно по добрать п столь большим, чтобы второй член правой части (2.1.6) также был меньше rj/2. Тогда из (2.1.6) следует
|
|
|
sup |Е fn(x)-f(x) |
|< |
7]. |
|
|
|
|
|||||
|
|
|
x^R1 |
|
|
|
|
|
|
|
|
|
|
|
Теорема доказана. |
|
|
|
|
|
|
|
|
|
|
|
|||
Необходимо отметить, |
что условия |
теоремы |
в некотором |
|||||||||||
смысле |
неулучшаемы. |
Ш у с т е р |
доказал |
[98, 99], |
что если |
|||||||||
К(х) удовлетворяет |
условию 1° |
и |
некоторым |
дополнительным |
||||||||||
условиям, a h'n)—условию 2°, то |
для равномерной сходимости |
|||||||||||||
fn(x) к f(x) с вероятностью |
1 необходима |
равномерная |
непре |
|||||||||||
рывность |
f(x) на всей оси. |
|
|
|
|
|
|
|
|
|
|
|||
§ 2. ЛЕММА О ВЕРОЯТНОСТЯХ БОЛЬШИХ УКЛОНЕНИИ |
||||||||||||||
Вывод предельного |
распределения |
статистики, |
с |
помощью |
||||||||||
которой строятся |
доверительные |
области |
для |
f(x), |
основывается |
|||||||||
на ряде вспомогательных предложений. |
Основным |
из них явля |
||||||||||||
ется лемма 2.4 |
о вероятностях |
больших |
уклонений, |
которая |
||||||||||
представляет и самостоятельный интерес. |
|
|
|
|
|
|
||||||||
Предположим, что ядро К{х), которое, |
как |
было |
отмечено |
|||||||||||
в § 1, является борелевской функцией, |
интегрируемой по |
Л ебе |
||||||||||||
гу, удовлетворяет |
условиям |
|
|
|
|
|
|
|
|
|
|
70

|
1. |
sup |
K(x) < |
со., |
|
|
|
|
|
|
|
|
|
|
2. |
К (х)= К (-х), |
|
|
|
|
|
|
|
|
|
|
|
|
3. |
lim |
хЩх) —О, |
|
|
|
|
|
|
|
|
||
|
|
Х ~ ± |
«5 |
|
|
|
|
|
|
|
|
|
|
|
|
СО |
|
|
|
|
|
|
|
|
|
|
|
|
4. |
Г K(x)dx=L |
|
|
|
|
|
|
|
|
|
||
От плотности f(x) будем требовать |
непрерывность |
и ограничен |
|||||||||||
ность на всей оси. |
Пусть, кроме того, |
|
|
|
|
|
|||||||
|
|
|
min |
|
/( л :)= р .> 0. |
|
|
|
(А) |
||||
|
|
—°о<;а<■*<&< °° |
|
|
|
|
|
|
|
|
|||
|
Разделим |
сегмент [а, Ь] |
на s=s(n) |
отрезков Дх, ...,A S рав |
|||||||||
ной длины hQ:h0— l/s—------ Число |
отрезков |
s будет в даль- |
|
||||||||||
|
|
|
s |
|
|
|
|
|
|
|
|
|
|
нейшем расти вместе с ростом объема выборки п. |
|
|
|
||||||||||
|
Л е м м а |
2.1. |
При |
возрастании |
п, |
Е f^(x) -> |
f(x) |
и |
|||||
|
00 |
|
|
|
00 |
|
|
|
|
|
|
|
|
— |
J К2 ^Х — - j f(u)du-'f(x) |
J |
Кг (и) du |
равномерно |
по |
х, |
|||||||
— |
оо |
|
|
— |
оо |
|
|
|
|
|
|
|
|
— о о < х < с о . |
2.2. |
Пусть |
tx, ... |
|
ts — середины |
интервалов |
|||||||
|
Л е м м а |
, |
|||||||||||
A i,...,A s и |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
fn (tj) —Ешj n ( Q |
) = „ |
— 1 / 2 |
V |
' |
«(ЭД. |
j = ~ s , |
|
|||||
|
|
V b f n(t}) |
|
|
|
2 |
|
|
|
||||
где |
|
|
|
|
i = 1 |
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
7^ |
|
i |
|
|
- v |
1* e ш |
|
|
|
||
|
|
j K2 |
|
|
|
f(u)du-h[ETn(tj)V |
|
|
h~^K ip -P L) - V h E U t ,)
(2 .2 .1)
Щ )
71
Тогда
s „ = max |
|Rtj |< csK* ( - У + 0(A), |
(2.2.2) |
1< 1, /<s |
\h ) |
|
*’+ /
tj)—e сп(/г-) %n(tj)
00
K*(x)= | K(u)K(x-u)du.
Д о к а з а т е л ь с т в о . Имеем
R(t{, t,)= |
j |
K(u)K |
[Ь -Л . - u |
) f(tt-uh)du- |
|
|||||
|
- h |
E |
f n(tt)E tn(t,) |
/ dn(tt) dn(t}).. |
|
|||||
Нетрудно |
заметить, |
что |
|
|
|
|
|
|||
s„ ^ |
sup |
f(x) |
max |
l K(u) К |
i i — U| du |
|||||
|
x^R1 |
|
1<i, /'<s |
J |
|
|
|
|
||
|
|
|
|
iФ/ |
—oo |
|
|
|
|
|
|
|
+ 0(h) / dn(tt) d ^ . |
|
|
|
|||||
В силу условия (Л) и леммы |
2.1, |
для достаточно больших |
||||||||
п будем иметь |
|
|
|
|
|
|
|
|
||
en ^ с4 |
max |
Г /C(u) ДГ ( |
|
|
|
du+0(h). |
(2.2.3) |
|||
1<г, j<s |
J |
|
|
|
|
|
|
|||
|
<Ф/ —с |
|
|
|
|
|
|
|||
Поскольку |
min |
|
| |
| |
10 из (2-2.3) получим |
|||||
|
1< /, /<s |
|
|
' hn |
|
|
|
|
||
|
|
|
|
|
+ |
0(A). |
|
|||
|
|
|
|
|
(-Д) |
|
||||
Лемма доказана. |
|
|
|
|
h |
|
||||
С л е д с т в и е . |
Если k jh -^c о , |
тогда |
Если же |
|||||||
гп—о ( — I. |
\ К ,
К(х) = 0 при \х\^хйг тогда zn = 0(h).
72
Первое утверждение следует из lim \х\ К(х) — 0, а вто-
X — + со
рое—из /С*(2хс) = 0. Из условия (А) непосредственно вытекает
Л е м м а 2.3. С вероятностью 1,. max |
sup |
[ |
^ |
< С6Л"1/а. |
х£[а, |
6] |
|
|
|
|
|
Рассмотрим последовательность независимых г-мерных (1 |
|
||
^ г ^ s) случайных векторов |
|
|
|
Ь=[5(Ж ) ,.... ■?(i)(^)]v |
1= Гл,. |
Vn(x), |
х £ Rr. |
||
имеющих одну и ту же функцию |
распределения |
||||
Легко заметить, что для достаточно |
большого п распределение |
||||
невырождено. |
|
|
|
|
|
Обозначим |
Wn{x), х £ Rr, функцию распределения |
суммы |
|||
^ !+ ... + ?п и |
Fn(x) ~~ функцию |
распределения |
нормированной, |
||
суммы |
|
|
|
|
|
|
Vп |
|
|
|
|
Таким образом, имеем |
|
|
|
|
|
|
Fn(x)=Wn{V n x ). |
|
(2.2.4)' |
Пусть Xs—некоторая неотрицательная и воз растающая вместе с s функция от s.- Если при возрастании п~
Xs
enXf->0 и —=L— >0, тогда У tih
|
Pn = R {\ U Q \ > K i = l ~ } = - |
|
|
|||||
|
|
t2] |
dt^r |
1+ 0 <8“ ч , + |
0 ' т 1 г ) |
+- |
||
" 7 S - . |
ехр |
2 |
|
|
||||
h |
|
|
1 |
|
|
|
|
|
|
|
|
exp { —r |
|
|
|
||
|
|
+ 0 \Vnh |
|
|
|
|||
З а м е ч а н и е . |
Доказательство леммы 2.4 |
существенно не- |
||||||
изменится, если вместо |
первых |
г нормированных |
отклонений |
|||||
£*»(^i)> •••> £п(^-) |
взять какие-либо г нормированных |
отклонений |
||||||
§n(/v |
) (Jfex, |
-л ю б ы е |
комбинации |
г чисел |
из по |
|||
следовательности 1, ..., S). |
|
|
|
|
|
|
||
Д о к а з а т е л ь с т в о |
леммы |
основано на |
применении со |
|||||
пряженных распределений, |
введенных К р а м е р о м |
[13]. |
Пусть |
|||||
Vn(x) —функция распределения, |
сопряженная к Кп(х): |
|
73.
X
|
|
|
— |
|
1 |
Г |
у) |
|
|
|
|
|
|
|
|
Vn(x)= — |
\ е |
dVn(y), |
|
|
|
|
|||
где |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
R n= |
{ J z’ y)dVn(y), |
|
|
|
|
|
||||
|
Рассмотрим |
последовательность |
5у = ( 1ц, ...,£;■/)» |
/ = |
1, |
со, |
||||||
независимых случайных векторов, имеющих одну |
и ту же фун |
|||||||||||
кцию распределения Уп{х) ю вектором |
средних Еп=(т1, ...,тг), |
|||||||||||
где |
т1 = ^ |
; j = l , г, |
и матрицей ковариации |
|!^?^)||, |
где |
|||||||
|
|
dXi |
|
д2 log R n |
|
|
|
|
|
|
||
|
|
|
|
t, / = 1, г. |
|
|
|
|
||||
|
|
|
|
dxi дх{ |
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
||
|
Обозначим] lt^n (х) |
функцию |
распределения |
суммы |
|
+ |
||||||
+ |
••• + |
%п !"и |
(*) — функцию |
распределения |
нормированной |
|||||||
суммы |
|
|
|
|
|
пЕп |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Таким образом, |
|
У п |
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|||
|
|
Fn{x) = Wn(x V |
п + |
|
пЕп). |
|
|
|
(2.2.5) |
|||
Следуя |
Крамеру, |
легко можно установить связь |
между |
Wn(x) |
||||||||
и Wn(x) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Wn(x) = (Rnr |
Г с |
|
(%У) dWn(y). |
|
|
(2.2.6) |
Введя в (2.2.6) функции Fn(x) и Fn(x), определенные фор мулами (2.2.4) и (2.2.5), с помощью простой подстановки получим
(ЯпГ е ~ ^ ’ Еп) f |
е - * ' у) Vn dFn(y). |
(2.2.7) |
*) J означает интегрирование по |
г-мерному интервалу |
(— оо, х). |
---QO |
|
|
ОООО
Аналогично понимаются / И / ; ,(х, у)—скалярное произведение х и у.
х —00
7 4
Ввиду (2.2.7)
|
и , |
|
|
|
|
|
|
|
Рп’ = Р « _1/г |
i= 1 |
m |
h) > |
к |
k = r ? |
= f dFn(x) = |
||
|
|
|
|
|
|
т* |
|
|
= (Rn)ne |
n(Z’ En) |
f e“ |
(x’ |
y)V ndFn(y), |
(2.2.8) |
|||
|
|
|
Hn |
|
|
|
|
|
где Ts = (ks, ..., Xs) |
и Hn= T S—Vn En = (\s—V~nrnu...,\s—Vnmr). |
|||||||
Обозначим |
|
|
|
|
|
|
|
|
t = t ” = ( |
т г |
— |
' - Й г ) ’ |
где |
|
|
||
Исследуем P'n. |
|
|
|
|
|
|
|
|
Покажем, что |
|
|
|
|
|
|
|
|
K 7 m i= X , + |
0 (e„X .) + 0 ( щ |
) , |
i = ~ r , |
(2.2.9) |
причем оценка остаточного члена (2.2.9) равномерна ОТНОСИТеЛЬ-
tHO i, |
i = l , |
г. |
|
|
|
|
Действительно, |
|
|
|
|
||
|
|
|
00 |
|
|
|
|
|
К ~ т г= И-JL |
f ^.e( ' " ,;CW |
n(x) = |
|
|
|
|
|
J |
|
|
|
|
|
|
со |
со |
|
|
R, |
|
xi*1dKn(A :)+ ...+ |
j* |
x?dKn(x) + ... + j* |
dVn(x) + |
|
|
|
|
|
|
|
|
' |
^ n |
^ Xi(rn,x)2e ^ |
’ |
W n(x)= |
— -(R irh -..+R it+ ...+ |
|
2 |
R„ |
|
|
|
R„ |
|
|
|
Y n |
xt(tn, x)2 e l (Xn’ X)dVn{x), |
(2.2.10) |
||
|
|
-+Rlr) + ~2RT |
|
|
|
|
тд е
0 < f t , < l .
В силу леммы 2.3,
75
У п | j* xt (tn, x fe 1 ’ W „ (x )
—c*o
|
|
; V ПrXl l |
I xtI |
(x, |
X) е ‘ Ы ’ X)dVn(x) < |
(2.2.11) |
||||
< |
C, |
|
exp |
[ rcOi |
} |
f |
(x, x) dVn(x) < c 7 |
|||
|
КЯЛ |
Ч |
5 |
V |
^ j |
|
|
|
У nh |
|
|
|
|
Rn= \ + 0 |
n |
|
|
|
(2 .2 . 12) |
||
|
|
|
|
|
|
|
|
|
|
|
Наконец, |
|
ввиду (2.2.11) и (2.2.12), |
из (2.2.10) получим |
|||||||
(2.2.9). |
Рассуждая так же, как при выводе (2.2.9), |
будем иметь- |
||||||||
где |
|
|
£|/(л )=Я ,/+ *’,/. |
I, i= ~ r , |
(2.2.13): |
|||||
|
|
|
|
|
|
|
|
|
|
|
Rtl= | |
xtx,dVn(x) |
и |
11ЧI < |
с8 р = |
, - |
|
В самом деле, для доказательства (2.2.13) достаточно рас смотреть выражение
i - | xiXie Xn,X)dVn(x). R.
Очевидно следующее равенство:
ос |
|
|
|
J*x;x^eЫ ,X) dVn(x) |
— ^ |
хгХу<1Кп(х)-|- Ax-j-A2, (2.2.14) |
|
— оо |
— оо |
|
|
где |
|
|
|
оо |
|
|
|
J *'*/ ( “ ( 7 ^ |
+ |
•••+ |
dVn(x) |
— оо |
|
|
|
и |
|
|
|
7 0
* • - т 1 * |
[ у * * • + - + ■ & * ) ' *№ " ' W |
|
1< 02< 1. |
Согласно лемме 2.3, имеем |
|Л‘ |<С‘ -Йн 2 |
{ |
1 |
“ |
Н Й З Г |
(2'2Л5) |
||
|
г = 1 |
—со |
|
|
|
|
|
в |
|
|
|
|
|
|
|
|Л2К г — |
exp jc 5e2r - j ^ - J < c 9-^L. |
(2.2.16) |
|||||
Собирая оценки |
(2.2.15) |
и (2.2.16), |
из (2.2.12) |
и (2.2.14) полу |
|||
чим (2.2.13). |
|
|
|
|
|
|
|
Исследуем |
теперь |
выражение, |
стоящее в |
правой |
части |
||
(2.2.8). При этом воспользуемся |
результатом В. |
В. С а з о н о в а |
]53], относящимся к оценке скорости сходимости в многомерной центральной предельной теореме.
Пусть <Зп(х) —функция нормального распределения с теми же
первыми и вторыми моментами, что и у случайного вектора £i- |
|
||||||||
Положим |
|
|
|
|
|
|
|
|
|
|
|
7 „ ( x) = G„(x) + |
Qn(x). |
|
(2.2.17) |
||||
Тогда по теореме В. В. Сазонова для всех п, п==1, оо, |
|
||||||||
|
sup |
I < Ш I < |
с10 ( V |
|
~ |
Р(/ ) |
1 |
(2.2.18) |
|
|
x £ R r |
|
|
|
дп |
|
|
|
|
где |
|
|
|
|
|
|
|
|
|
|
|
р (о _ |
^ I £а mi I3 |
|
|
|
|
||
|
|
Рл |
(Е (|/х |
|
т г)а 13/2 * |
|
|
|
|
Дп—детерминант матрицы |
корреляции случайного вектора |
и |
|||||||
соответствующие миноры этого детерминанта. |
|
|
|||||||
Легко |
заметить, что |
|
|
|
|
|
|
|
|
|
1 |
E jlh — fflt)* |
= cu / г 1/2-/===■ C |
c ,hr1/2» • |
|
||||
си |
у г |
[E g a -m f}* !* |
|
|
УЩп |
12' |
|
||
|
|
|
1 = 1, |
Г, |
|
|
|
(2.2.19) |
77
» и |
AW |
тпри возрастании |
п. |
|
An |
|
|||
.=1 |
|
|
|
|
Согласно (2.2.19), из (2.2.18) имеем |
|
|||
|
|
sup |Qn(x) |< |
clz(nh)~1!2. |
(2.2.20) |
|
|
x^Rr |
|
|
Вернемся к выражению Р'п. Подставляя (2.2.17) в (2.2.8), полу чим
P'n=(Rn)ne—n(in , Еп) |
е~Ы ' у)УпйОп(у) + |
|
||
|
|
нп |
|
|
+ |
I в (Zn' y)VndQ M |
=7i + / 2. |
(2 .2.21) |
|
Нп |
|
|
|
|
В первую |
очередь оценим / 2. |
|
|
|
Пользуясь теоремой о замене |
переменных в интеграле Ле |
бега и неравенством (2.2.20), можно получить следующую оценку:'
J |
. у)У~пdQn (У) |
< cu(nh)-yl2. |
|
(2.2. 22) |
|
Нп |
|
|
|
|
|
Множитель (# п)” ехр [—п(хп, |
£ „)], |
входящий в / 2, |
представим |
||
в виде exp }n[log Rn— (хп, £ „ )]} . |
На основании |
лемм |
2.2 и |
||
2.3 легко показать, что |
|
|
|
|
|
п [log Rn- (т„, |
Еп)] = - |
X’ + 0(е„Х 1)+ 0 |
• |
(2-2.23) |
|
Следовательно, в силу (2.2.22) и (2.2.23), |
|
|
,* - ° ( Й г “ ,,Н т } ) - |
<2-2-24) |
||||||
Перейдем к вычислению |
главного члена в / г |
Обозначим |
|||||
£«(*) = |
1 |
|
ехр { - |
— |
2 дuxtxi\ |
||
(2к)г12 У |
Д„ |
||||||
|
|
2Д„ |
t, / |
|
|||
|
1 |
exp |
{ - 4 - |
<*. *) |
(2 .2 .2 5 ) |
||
|
(2«)■ПП |
||||||
|
|
|
78
где
О ^.Xh<oo, k—\, г.
Имеем |
|
|
г |
|
___ |
|
|
|
|
|
|
^jhx ixk— (x >- х )-^~ |
liXl + |
|
j,k |
|
|
i==l |
|
Г |
|
|
|
|
+ 2 |
( S i #fc/)*i + |
&lhx jx k’- |
(2.2.26) |
|
i= 1 |
jdpk |
|
|
|
где |
|
|
|
|
S i R kj~ ^ii |
|
RllR22‘ --Rl-lyi-lRi-2> i-2 " ’Rrn- |
(2.2.27) |
|
при ЭТОМ |
|
|
|
|
I |
h |
1VTTh ’ |
i= 1, г. |
|
В силу (2.2.13), |
|
|
||
|
|
|
||
1 = |
1+ 0(гп) + 0 |
К \ |
(2.2.28) |
|
|
|
V nh ) ■ |
|
Учитывая (2.2.13), (2.2.26), (2.2.27), (2.2.28), приходим к сле дующему выводу:
~ 2“ |
^ |
&l*xlx*=s~ Y |
^ |
+ 5п(Х)’ |
(2-2.29) |
“ |
/, k |
|
|
|
|
где |
|
|
|
|
|
15„(х) |< |
~ ( V хЛ < |
Y |
е« (*> х) |
|
|
|
|
ti=г |
|
|
|
0 < е; = с1ее „ + с 17
Для достаточно больших п. можно написать
I 5„( * ) |
I < -S- |
( х , х )„ |
0 < т < |
1... |
(2.2.30) |
|
£ |
|
|
|
|
Используя (2.2.29) и (2.2.30),. находим, |
что |
|
|||
1Ln(x) t== |
(2tcW |
ехр !г |
4 : (* v |
,е |
' 1 |,с |
|
|
|
|
|
7^ |