дов

к которому сходятся оба интеграла в определении IA(x), с = (x a) и с = (x b).

B

ii) следует из ограниченности всех интегралов вида R sint tdt, которая следует из сходимости

0

1

интеграла R sint tdt (ограниченность в некоторой окрестности 1, то есть для всех B 2 (B1; 1)),

0

B

и из непрерывности функции R sint tdt на отрезке [0; B1]. Итак,

0

B

в то же время

Теперь мы можем завершить доказательство формулы обращения. Обозначим

8

0; если x > a; x > b;

>

>

> ; если a < x < b;

>

<

=0; если x < a; x < b;

> =2; если x = b;

>

>

>

: =2; если x = b:

Заметим, что значения I в точках a и b не существенны, так как меры этих точек равны нулю в силу непрерывности F . Пользуясь этим, мы подправим подинтегральную функцию в этих точках. Итак,

RR

Доказательство теоремы единственности. Пусть F и G две различные функции распределения, имеющие одинаковую характеристическую функцию. Согласно формуле обращения, для любых чисел x и y, которые являются точками непрерывности обеих функций – F и G,

F (y) F (x) = G(y) G(x):

Лемма. Множество точек разрыва у любой функции распределения F не более чем счет-

но.

Доказательство очевидно, так как

[

fмножество всех точек разрыва F g = fмножество всех точек разрыва F больше 1=ng;

n

каждое множество в правой части конечно (может содержать самое большее n 1 точек). объединение счетного числа конечных множеств счетно.

Следствия. В любом открытом интервале содержится бесконечное число точек непрерывности функций распределения F и G.

101

Следствие влечет, что существует последовательность точек непрерывности (xn) функций F и G, сходящаяся к 1, и для любого y 2 R существует последовательность точек непрерывности (zn) функций F и G, сходящаяся к y слева. Переходя к пределу, имеем:

для любой точки непрерывности z, а также

для любого y.

Суммирование нормальных и пуассоновских независимых случайных величин.

Из теоремы единственности следуют очень интересные свойства нормальных и пуассоновских случайных величин.

Предложение. Пусть случайные величин и независимы. 1) Если имеет распределе-

p

ние N(m1; 1), а – N(m2; 2), то + имеет распределение N(m1 + m2; 12 + 22). 2) Еслиимеет распределение P ( 1), а – P ( 2), то + имеет распределение P ( 1 + 2)..

Доказательство. Представим характеристическую функцию + как произведение, по ней восстанавливается вид распределения.

Доказательство теоремы непрерывности. В одну сторону утверждение уже доказано, по теореме об эквивалентности определений слабой сходимости на языке функций распределения и на языке интегралов в качестве непрерывной ограниченной функции мы можем взять функцию f(x) = eitx и из слабой сходимости Fn к F следует 'Fn (t) ! 'F (t) для всех t. Мы воспользуемся этим фактом (прием Мюнхаузена), чтобы доказать обратную импликацию: 'Fn (t) ! 'F (t) для всех t влечет слабую сходимость Fn к F . Но сначала надо доказать теорему о свойстве компактности множества функций распределений. Под компактностью здесь понимается возможность выделить из любой последовательности функций распределения слабо сходящейся подпоследовательности. Такое утверждение неверно для множества ( ) всех функций распределений, то есть функций, удовлетворяющих условиям 1)-3). Например, какую бы мы не выделяли подпоследовательность из последовательности I(n;1), где n ! 1, она в каждой точке будет сходиться к нулю. Таким образом, предел не будет удовлетворять условию 2). Поэтому чтобы достигнуть компактности, мы должны расширить пространствои рассмотреть пространство 0 всех функций F на R, удовлетворяющих условиям 1) и 3), а условие 2) мы заменим более слабым

20) 0 F (x) 1 для всех x 2 R. Возникшая в нашем контрпримере функция, тождественно равная 0, этому условию удовлетворяет.

Теорема 1. Из любой последовательности (Fn) 0 можно выделить подпоследовательность (Fnk ), которая сходится к некоторой функции F 2 0 в каждой точке непрерывности некоторой функции F .

Доказательство. Как во многих таких доказательствах, мы должны сначала построить подпоследовательность (Fnk ) и функцию F , а после этого доказать требуемую сходимость. Для построения мы воспользуемся знаменитой теоремой Больцано – Вейерштрасса о выделении сходящейся последовательности из ограниченной числовой последовательности (в нашем случае она находится в [0; 1]). Мы введем в R некоторое всюду плотное счетное множество S = (rn) (например, Q), потом выделим из числовой последовательности (Fn(r1)) сходящуюся подпоследовательность (Fnk (r1)). Далее выделим подпоследовательность (Fnkl ), которая имеет предел в точке r2, из нее выделим подпоследовательность (Fnklm ), сходящуюся в точке r2 и т. д. Наконец, используя метод выделения диагональной последовательности, мы выделим подпоследовательность Fn1 , Fnk2 , Fnkl3 ,... , которая сходится на всех точках rn. Для удобства используем для этой последовательности обозначение (Fnk ). Итак, (Fnk (r)) сходится для всех r 2 S к некоторому числу (r).

102

Теперь нам нужно ввести функцию F . Заметим для будущего, что функция монотонна на S как предел последовательности монотонных функций. Итак,

F (y) = supf (r) : r < yg:

Очевидно, что значения F (как и ) лежат в [0; 1]. Монотонность F следует из определения супремума. Воспользуемся определением супремума на языке ": для любого " > 0 существует r < y такое, что (r) > F (y) ". Имеем: для любого x 2 (r; y] справедливо F (x) (r) > F (y) ". Это доказывает непрерывность слева в произвольной точке y.

Осталось доказать сходимость

Fnk (x) ! F (x)для всех x точек непрерывности F :

Так как функция F монотонна, непрерывность в x эквивалентна существованию таких y < x < z, что F (y) > F (z) ". Выберем некоторые r0; r00 2 S так, что

Ввиду произвольности " это означает

lim Fnk (x) = F (x):

k

Теперь мы изложим план доказательства теоремы непрерывности. Предположим, что i)

'Fn (t) ! 'F (t) для всех t, но для некоторой точки x непрерывности функции распределения F сходимости Fn(x) к F (x) нет. Мы хотим придти к противоречию с i). Всегда можно выделить сходящуюся подпоследовательность Fnk (x). Однако эта подпоследовательность может случайно оказаться сходящейся к F (x), и мы никакого противоречия не получим. Поэтому мы сначала выделим из (Fn(x)) подпоследовательность, которая находится вне некоторой окрестности F (x), а уже из нее выделим сходящуюся подпоследовательность Fnk (x). Имеем: Fnk (x) ! a 6= F (x). Для этой подпоследовательности также верно i). Согласно доказанной теореме о слабой компактности выделим из (Fnk ) слабо сходящуюся

Согласно доказанному прямому утверждению

'Fnkl (t) ! 'G(t) для всех t:

Но так как по условию

'Fnkl (t) ! 'F (t) для всех t;

то 'F = 'G, по теореме единственности F = G. Но тогда согласно (*) Fnk (x) ! F (x), что противоречит нашему выбору подпоследовательности (Fnk ).

Итак, казалось бы, теорема непрерывности доказана, но это не так. Прямое утверждение в теореме непрерывности мы вывели из эквивалентности двух определений слабой сходимости. А в доказательстве этого факта мы существенно использовали то, что предельная функция также функция распределения, принадлежит , на 1 сходится к 0, а на +1 сходится к 1. Это пока ниоткуда не следует для функции G, так как теорему о слабой компактности мы доказали для 0, а для она неверна. Итак, нам нужно показать, что предел любой подпоследовательности (Fn) принадлежит . Для этого мы должны получить критерий слабой компактности

103

для последовательностей в и доказать, что из сходимости характеристических функций (Fn) к характеристической функции распределения следует выполнение условий такого критерия.

Критерий слабой компактности в . Последовательность (Fn) в слабо компактна в, то есть из любой ее подпоследовательности (Fnk ) можно выделить подпоследовательность (Fnkl ), сходящуюся к элементу , тогда и только тогда, когда ii) для любой " > 0 существуют N 2 N и A > 0 такие, что для всех n > N имеет место

Fn( A) < "; Fn(+A) > 1 ":

Доказательство очевидно. По теореме о слабой компактности в 0 существует такая подпоследовательность

сл 0

Fnkl ! G 2 :

С другой стороны по условию для точек непрерывности a < A и b > A функции G выполняется

G 2 ввиду произвольности ".

Далее мы докажем неравенство для характеристических функций, которое позволяет до-

R

казывать оценки для dF (x) через характеристическую функцию 'F , что позволит нам

jxj A

проверить выполнение условия критерия слабой компактности.

Неравенство для характеристической функции.

jxj A

Последнее неравенство следует из легко проверяемого неравенства

1 sin(1) x=A sin(x=A); jxj > A: x=A

1=A

104

Так как 'Fn (t) ! 'Fn (t) для всех t, по теореме Лебега мы будем иметь для всех n начиная с некоторого N также

Согласно неравенству для характеристических функций и критерию слабой компактности, мы получили слабую компактность (Fn) в , что и требовалось.

§14. Теорема Линдеберга

Используемые неравенства:

a)jeix 1j jxj; b)jeix ix 1j x2=2:

Первое неравенство можно рассматривать как неравенство без i на отрезке комплексной плоскости от 0 до ix. Второе неравенство получается интегрированием первого по этому отрезку. Третье неравенство следует из разложения в ряд Тейлора:

c)j ln(1 + z) zj Cjzj2

в окрестности 0 комплексной плоскости вида fjzj < 1=2g.

Теорема. (Линдеберг) Пусть nk, k k(n) последовательность наборов случайных величин, удовлетворяющая следующим условиям:

1)случайные величины nk независимы между собой для каждого n;

2)E nk = 0 для всех n и k;

k(n)

3) P E nk2 = 1 для каждого n;

k=1

k(n)

4) limn P E nk2 Ifj nkj>Cg = 0 для всех C > 0.

k=1

k(n)

P

Тогда распределения случайных величин nk слабо сходятся к нормальному распреде-

k=1

лению с параметрами 0 и 1, т.е. N(0; 1). Доказательство. Обозначим

'nk(t) := Eeit nk = ' nk (t)

Ввиду независимости nk нам достаточно доказать сходимость

k=1

Доказательство разбивается на ряд этапов. Мы стремимся избавиться в (1) от ln и заменить ln('nk(t)) на 'nk(t) 1. Для этого мы воспользуемся неравенством c), где x = 'nk(t) 1. Чтобы иметь право это сделать, нам надо доказать, что начиная с некоторого n все 'nk(t) 1 будут меньше 1=2. Для этого мы докажем, что

105

Первое слагаемое оценивается числом C2, которое может быть выбрано сколь угодно малым, а второе слагаемое, согласно условию c), сходится к 0. Это доказывает (3).

Теперь мы докажем (2):

Лемма 2.

max j'nk(t) 1j = max Eeit nk 1 =

kk

(согласно 2) мы можем представить 0 как E nk)

= max E eit nk it nk 1

k

(согласно b))

max E nk2 ! 0

k

(квадрат мы представим как произведение и оценим первый множитель максимумом)

k=1

Согласно лемме 2, первый множитель сходится к 0, а второй множитель оценивается

Итак, нам осталось доказать:

k(n)

X

k=1

Опять мы используем представление 0 в 2):

XX

('nk(t) 1) = E eit nk it nk 1 =

106

(далее мы используем формулу замены переменной)

может иметь особенность лишь в 0. Но эта особенность легко раскрывается и предел limx!0 =t2=2. Второе равенство мы запишем для одного слагаемого:

Fn слабо сходится к функции распределения вероятности f0g, сосредоточенной в точке 0. Эта функция распределения равна 0 для x < 0 и 1 для x > 0. Имеем:

Следствие. Цпт для одинаково распределенных случайных величин является частным случаем теоремы Линдеберга.

Для этого нам нужно рассмотреть в условиях Центральной предельной теоремы из §13 последовательность случайных серий

k m

nk = p ; k n:n

107

Выполнение условий 1)-3) очевидно. Надо проверить выполнение условия 4).

Здесь мы использовали одинаковость распределений и равенство слугаемых в сумме, а также

§15. Применения предельных теорем. Многомерные предельные теоремы

Нормальную аппроксимацию можно использовать для приближенного вычисления вероятности P fSn < kg, где Sn число гербов в n подбрасываниях монеты с параметром p, близким к середине интервала (0; 1). Если параметр p близок к 0, а k небольшое, то можно использовать для приближений распределение Пуассона. Нормальное приближение можно использовать также для распределений сумм различных независимых случайных величин (теорема Линдеберга). Все это должно быть усвоено на практике. Нормальное приближение возможно также для распределения 2n, причем для некоторых значений n можно проверить эффективность нормального приближения, сравнив с табличными значениями. Для распределения Стьюдента также можно использовать нормальное приближение, но обосновывается это законом больших чисел, согласно которому знаменатель в представлении tn сходится к 1.

Если S – сумма большого числа случайных величин примерно одного порядка со средним и дисперсией, то мы нормируем и центрируем эту случайную величину и используем таблицы функции распределения (обычно обозначается ) стандартной нормальной случайной величи-

лицы функции как правило приводятся лишь для положительных x. Для вычисления значения функции на отрицательной полуоси используйте четность функции плотности N(0; 1).

1. Моделирование нормального распределения.

Мы будем обозначать через r или rn псевдослучайные числа, моделируемые компьютером с помощью программного пакета, предполагается, что они независимы для разных i и имеют равномерное распределение на отрезке [0; 1].

В принципе, распределение случайной величины с любой функцией распределения F может моделироваться случайной величиной F 1(r). Проверим:

P F 1(r) < x = P fr < F (x)g :

Но этот универсальный метод не очень хорош для нормального распределения, так как обратная функция к функции не является элементарной, ее вычисление достаточно трудоемко.

Одним из способов моделирования нормального распределения является принятие в качестве N(0; 1)-нормальной случайной величины суммы r1 + ::: + r12 6, где ri случайные числа, которые предполагаются равномерно распределенными на отрезке [0; 1]. По центральной предельной теореме примерно нормально, мы знаем, что среднее равно 0, а дисперсия1.

Другой способ позволяет одновременно моделировать пару N(0; 1)-нормальных случайных величин 1 и 2. Точнее, мы моделируем координаты ( , ') вектора ( 1, 2) в полярной системе

108

координат. Оказывается, что эти координаты независимы и обратная к функции распределения каждой из них легко вычисляется. Действительно, перейдем к полярным координатам в интеграле

Мы видим, что подынтегральная функция распадается в произведение функций от и от ', ' имеет равномерное распределение на отрезке [0; 2 ] и поэтому легко моделируется, а имеет функцию распределения

Обратная функция выражается через элементарные функции.

Третий наиболее практичный способ предложил Knuth. Он рассмотрел график плотности

p1 e x2=2 и покрыл почти всю площадь под этим графиком (она равна 1) несколькими пря-

2

моугольниками. В результате почти вся вероятность (за исключением очень маленького ") моделируется просто, каждому прямоугольнику соответствует отрезок в [0; 1], длина которого равна площади прямоугольника, и в случае попадания r в этот отрезок мы выбираем соответствующую r точку на проекции прямоугольника на ось x-ов. Если не повезло, и компьютер выбрал r, соответствующий остаточной вероятности величины ", то компьютер проводит очень трудоемкие вычисления обратных функций.

2. Многомерные характеристические функции.

Определение. Характеристическая функция ' случайного вектора = ( 1; :::; n) или, что

то же, совместная характеристическая функция ' 1;:::; n задается соотношением

' 1;:::; n (t1; :::; tn) = Eei(t1 1+:::+tn n):

У нее те же свойства, что и у одномерной характеристической функции, в том числе теоремы единственности и непрерывности, но доказываются они сложнее, мы этого делать не будем. Что касается используемой в доказательстве теоремы единственности многомерной формулы обращения, то в ней речь идет об интегральном представлении меры

n

Y

Pf [ai; bi)g;

i=1

причем аналогом условия непрерывности функции распределения в точке служит свойство

Как и в одномерном случае, показывается, что множество пар точек f(ai); (bi)g, для которых это свойство нарушается, не более чем счетно.

Упражнение. Покажите, что из независимости случайных величин 1; :::; n следует

' 1;:::; n (t1; :::; tn) = ' 1 (t1) : : : ' n (tn): (6)

используя многомерную теорему единственности, покажите, что обратно, из равенства (*) следует независимость 1; :::; n.

Как и в одномерном случае, слабая сходимость многомерных распределений означает сходимость интегралов от всех непрерывных ограниченных функций, заданных на пространстве той же размерности.

109

Замечание. Если n, последовательность r-мерных случайных векторов, f непрерывная функция на Rr, и имеет место сходимость

сл

P ! P ;

n

то

сл

P ! P :

f( n) f( )

Доказательство немедленно вытекает из определений.

Посмотрим, как меняется совместная характеристическая при линейном преобразовании случайного вектора ( 1; :::; n) переходе от вектора ( 1; :::; n) к вектору ( 1; :::; n)A, где A = [aij] задается матрицей. Мы рассматриваем вместе с вектором ( 1; :::; n) также (t1; :::; tn) и представляем t1 1 + ::: + tn n как произведение вектор-строки на вектор-столбец

t1 1 + ::: + tn n = ( 1; :::; n)(t1; :::; tn)0:

Если мы переходим к случайному вектору ( 1; :::; n)A, то получаем

( 1; :::; n)A(t1; :::; tn)0 = ( 1; :::; n)((t1; :::; tn)A0)0:

Итак,

'( 1;:::; n)A(t1; :::; tn) = '( 1;:::; n)((t1; :::; tn)A0):

Применим это преобразование к стандартному нормальному случайному вектору ( 1; :::; n). Характеристическая функция у этого вектора равна

'( 1;:::; n)(t1; :::; tn) = e 12 (t1;:::;tn)(t1;:::;tn)0:

Вспомним правилo транспонированных матрицы произведения, получаем

'( 1;:::; n)A(t1; :::; tn) = e 12 (t1;:::;tn)A0A(t1;:::;tn)0 = :

110