Обработка эксперим данных Роганов

при n → ∞ ( в силу попарной независимости Xi

Следствие. Пусть в условиях теоремы Чебышева случайные

n → ∞ сходится по вероятности к математическому ожиданию μ :

Это следствие теоремы Чебышева служит обоснованием правила среднего арифметического, применяемого в теории измерений, которое сводится к тому, что, повторив n раз измерение величины μ и получив в качестве результатов случайные величины X1, X2 , ...,Xn , за приближенное значение μ принимают среднее арифметическое из наблюденных значений

μ) = 1n (X1 + X 2 +... + X n ). Если при измерениях отсутствует систематическая ошибка (т.е. все MXi = μ , i = 1, 2, …, n), то согласно закону больших чисел при достаточно больших n с вероятностью, сколь угодно близкой к 1, будет получен результат μ$ , произвольно мало отличающийся от истинного значения μ .

Важнейшим следствием закона больших чисел Чебышева является

81

Теорема 3 (Бернулли) [9]. Пусть Yn — число успехов в серии из n

испытаний Бернулли и р – вероятность успеха при каждом испытании. Тогда последовательность частот {Yn / n} при n → ∞ cходится по вероятности к р.

В определенном смысле эта теорема может служить “аксиомой измерения”, доставляя непротиворечивый способ практического определения тех вероятностей, о которых идет речь в аксиоматической теории вероятностей. Закон больших чисел Бернулли утверждает, что для фиксированного достаточно большого n очень правдоподобно, что частота

Yn / n будет уклоняться от вероятности р меньше, чем на ε . Отсюда, однако,

не следует, что разность Yn / n − p останется малой для всех достаточно больших n. Может оказаться, что она принимает значения, близкие к единице. Теорема 3 гарантирует лишь, что эти большие отклонения могут появляться весьма редко. Для полного обоснования частотной интерпретации вероятности желательно иметь теорему, обеспечивающую сходимость последовательности частот к вероятности. Введем сейчас некоторые новые понятия и дадим усиленный вариант теоремы Бернулли, удовлетворяющий этому требованию.

Определение 2. Последовательность случайных величин {X n }

сходится к случайной величине Х с вероятностью 1 ( или почти наверное), если

P(ω Ω: lim X n (ω)= X (ω))=1

n→∞

82

т.е. X n (ω)→ X (ω) при n → ∞ для всех ω Ω, за исключением, быть может,

множества С Ω нулевой вероятности, P(C) = 0. Эта сходимость обозначается так: Xn → X п.н.

Согласно этому определению для каждого ω Ω\ C и любого ε > 0

X n (ω)− X (ω) ≤ ε для всех достаточно больших n. Поэтому если обозначить через An,ε событие An,ε = (ω Ω : X n (ω)− X (ω) > ε), n = 1, 2, …, то для

любого ε > 0 с вероятностью 1 происходит лишь конечное число событий

An,ε . Оказывается, что это условие является и достаточным для сходимости с вероятностью 1. Действительно, возьмем ε =1/ k и обозначим через Bk

событие, состоящее в том, что происходит лишь конечное число событий из

= (ω Ω : X n (ω)− X (ω) >1/ k ), n = 1, 2, … . По условию P(Bk )=1, k = 1, 2, … Очевидно, что события Bk , k = 1, 2, …, образуют монотонно убывающую

все P(Bk )=1. Из определения события В следует, что В состоит из всех таких

ω Ω, для которых X n (ω)→ X (ω) при n → ∞ . Итак, Р(В) = 1, и высказанное выше утверждение доказано. Таким образом, Xn → X п.н. тогда только тогда,

когда для любого ε > 0 вероятность того, что осуществляется лишь конечное число событий Xn − X > ε, n = 1, 2, ..., равна 1.

Лемма 2 (Бореля-Кантелли) [9]. Если для последовательности {An }

произвольных событий An , n = 1, 2, ..., выполнено условие

∞

∑P(An )< ∞

n=1

то с вероятностью 1 происходит лишь конечное число этих событий.

83

Доказательство. Пусть событие Bn состоит в том, что происходит

∞

хотя бы одно из событий Ak с k ≥ n , т.е. Bn = UAk . Очевидно, что

k=n

B1 B2 ... Пусть, далее, событие В означает, что происходит бесконечное число событий из An , n = 1, 2, .... Событие В наступает тогда и только тогда,

∞

когда происходят все Bn , т.е. B = IBn . Отсюда в силу того, что B1 B2 ..

n=1

n → ∞ и в силу последнего неравенства P(Bn )→ 0 при n → ∞ . Отсюда и из

доказать.

Используя лемму Бореля-Кантелли, установим следующий усиленный вариант закона больших чисел.

Теорема 4 (усиленный закон больших чисел) [9]. Пусть Х1, Х2 ,... —

последовательность попарно независимых случайных величин, для которых MXi = μ, DXi = σ2 . Тогда при n → ∞

1 ∑n Xi → μ

n i=1

с вероятностью 1.

84

Доказательство. Вводя в случае необходимости новые случайные

Полагаем

(здесь в сумме 2m слагаемых и (k −m2 )≤ 2m +1 ). В силу полученных оценок получаем, что числовые ряды

85

то Yn / n → 0 при n → ∞ с вероятностью 1.

Простым следствием доказанной теоремы является усиленный закон больших чисел Бернулли.

Теорема 5 (Борель) [9]. ПустьYn — число успехов в серии из n

независимых испытаний Бернулли, р – вероятность успеха при каждом

испытании. Тогда последовательность частот {Yn / n} при n → ∞ сходится с вероятностью 1 к вероятности р.

Доказательство. Достаточно ввести случайные величины Xi , равные

n

числу успехов в i-м испытании, Xi =1,0 , MXi = p , DXi = pq ; Yn = ∑Xi и

i=1

применить теорему 4 к Yn .

Рассмотрим теперь один важный вариант закона больших чисел, принадлежащий Хинчину. В этом варианте не требуется существования дисперсий случайных величин.

Теорема 6 (Хинчин) [9]. Пусть одинаково распределенные случайные

к μ, Yn →p μ .

Докажем теперь следующую теорему, в которой отсутствует предположение о попарной независимости случайных величин.

86

Теорема 7 (Марков) [9]. Если последовательность случайных

испытании полная группа событий состоит из A1, A2 , ..., Ar , и вероятность

87

Глава 5 Центральные предельные теоремы

Утверждения, полученные в форме законов больших чисел, представляют собой заключения о сходимости последовательности случайных величин {X n }, n =1, 2, ..., к некоторой случайной (или неслучайной) величине Х[9]. Эти утверждения не дают нам никакой информации о том, как аппроксимировать распределение случайных величин Xn при больших n.

Ответ на этот вопрос дают так называемые центральные предельные теоремы, в которых речь идет о новом виде сходимости последовательности случайных величин – сходимости по распределению. Основным аппаратом, используемым при изучении центральных предельных теорем, является аппарат характеристических функций, играющий важную роль и в других разделах теории вероятностей.

§ 1. Характеристические функции

Определение 1. Характеристической функцией случайной величины Х называется функция f X (t) вещественной переменной t, определенная равенством [9]

Вообще, если ξ — комплексная случайная величина ξ = X +iY , где Х и

Y – действительные случайные величины, то по определению

Mξ = MX +iMY.

В определении (1) интеграл понимается либо как сумма абсолютно сходящегося ряда

88

если Х – дискретная случайная величина, xk — ее значения, а pk —

соответствующие вероятности, k = 1, 2, …, либо как абсолютно сходящийся интеграл

если Х – непрерывная случайная величина с плотностью р(х). Хотя интеграл

(1) представляет собой интеграл Стильтьеса, мы не будем опираться на его специфические свойства и будем рассматривать (1) как краткую запись для выражений (2) и (3). Все дальнейшие рассуждения проводятся таким образом, что они одинаково применимы для случаев (2) и (3), ввиду чего будем использовать лишь обозначение (1).

Характеристическая функция существует для любой случайной величины, поскольку ввиду равенства eitx =1 ряд (2) и интеграл (3) сходятся

абсолютно. Очевидно, fX (0)=1, и f X (t) ≤1.

Теорема 1. [9] Пусть X1, X2 , ...,Xn — независимые в совокупности случайные величины. Тогда

Здесь мы воспользовались теоремой о математическом ожидании

В доказанной теореме сформулировано основное свойство характеристических функций, которое используется при доказательстве центральных предельных теорем [9].

Теорема 2.

fσX +μ (t)= eitμ f X (σt), σ, μ − const

Доказательство.

89

fσX +μ (t)= Meit (σX +μ) = eitμ MeitσX = eitμ fX (σt)

Теорема 3. Если существует момент MXk , то k-я производная f X(k )(t)

характеристическая функция f X (t) существует, равномерно непрерывна и f X(k )(0)= ik MX k .

Рассмотрим несколько примеров х.ф.

1. Нормальное распределение N ( 0, 1) имеет характеристическую функцию

Если X N (0, 1), то (σX +α) N (α,σ 2 ) и согласно теореме 2

fσX +α (t)= eitα −σ 2t 2 / 2 .

2.Характеристическая функция распределения Пуассона

3.Характеристическая функция биномиального распределения

§ 2. Центральные предельные теоремы

Предварительное понимание содержания центральных предельных теорем может быть получено следующим образом [9]. Рассмотрим суммы

90