Теория вероятностей и математическая статистика

8.6. Статистическое определение вероятности

На теореме Чебышева основан широко применяемый в математической статистике выборочный метод, о котором пойдет речь ниже. Из закона больших чисел вытекает так называемое ”статистическое определение вероятности”, которое состоит в следующем.

Пусть проводится последовательность независимых одинаковых случайных экспериментов, в каждом из которых происходит или нет некоторое случайное событие A. Если обозначить через mn число появлений события A в n экспериментах, то по закону больших чисел

lim mn = P(A) по вероятности

n!1 n

(это и есть ”статистическое определение вероятности”).

Для доказательства достаточно рассмотреть последовательность случайных величин

Легко видеть, что эти случайные величины независимы и

M(Xn) = P(A) ; D(Xn) = P(A) P(A)2 = P(A) P A :

Кроме того,

n

mnn = n1 XXk;

k=1

инаше утверждение вытекает из закона больших чисел.

§9. Центральная предельная теорема

9.1.Почему важно изучать нормальные случайные величины

Нормально распределенные случайные величины очень широко распространены на практике. Как дать этому объяснение? Оказывается, справедлив следующий основополагающий принцип: если случайная величина является суммой большого числа независимых случайных величин, влияние каждой из которых на всю сумму мало, то ее распределение близко к нормальному.

9.2. Подготовка к центральной предельной теореме

Пусть Xk последовательность попарно независимых случайных величин с конечными математическими ожиданиями и дисперсиями. Определим последовательность случайных величин

n

X

Sn = Xk; n 2 N;

k=1

математические ожидания и дисперсии которых в силу теоремы 3.12 соответственно равны

Образуем теперь новую последовательность случайных величин, нормируя последовательность Sn так, чтобы математические ожидания и дисперсии были одинаковы. Именно для случайных величин

Sn An

n

(3.9)

математические ожидания и дисперсии равны соответственно 0 и 1. Подчеркнем, однако, что мы не делаем никаких предположение относительно вида распределения исходных случайных величин и величин (3.9).

Центральная предельная теорема утверждает, что при некотором дополнительном условии функция распределения случайной величины (3.9) близка в определенном смысле к функции распределения стандартного нормального распределения N(0; 1).

9.3. Формулировка основной теоремы

Теорема 3.17 (центральная предельная теорема) Пусть fXkg последовательность независимых случайных величин с конечными математическими ожиданиями

M(Xk) = ak (k 2 N)

и дисперсиями

D(Xk) = k2 > 0 (k 2 N):

Предположим еще, что для некоторого > 0 выполнено условие

nk=1

В левой части последнего равенства находится функция распределения стандартного нормального распределения N(0; 1). Поэтому это равенство означает, что случайная величина Sn асимптотически имеет нормальное распределение с математическим ожиданием An и дисперсией Dn.

Важно уяснить себе, в чем неформальный смысл условия (3.10) он состоит в том, что большинство Xk мало рассеяны.

9.4. Случай одинаково распределенных величин

Приведем следствие из центральной предельной теоремы для одинаково распределенных случайных величин этот случай имеет большое значение для математической статистики.

Теорема 3.18 Пусть fXkg последовательность независимых одинаково распределенных случайных величин с конечными математическими ожиданиями

Утверждение этой теоремы непосредственно следует из центральной предельной теоремы. Надо только заметить, что в рассматриваемом случае (все случайные величины Xk одинаково распределены и независимы) математическое ожидание и дисперсия случайной величины

n

X

Sn = Xk

k=1

соответственно равны

на каждом из интервалов (xk1 ; xk) и принимающей значение nk в точке xk

(k = 1; : : : ; m).

Числа wk = nnk называются относительными частотами выборки. Таблица

называется статистическим распределением выборки.

Приведенный способ представления статистических данных применяют в случае дискретных случайных величин.

1.3. Вариационный ряд в непрерывном случае

Для непрерывных случайных величин (или для дискретных случайных величин с большим числом значений) удобнее разбить отрезок [a; b] возможных значений случайной величины на частичные полуинтервалы k = [ak1 ; ak), (k = 1; : : : ; m) ( m замкнут также и справа) с помощью некоторой системы точек a = a0 < a1 < : : : < am = b. Часто разбиение [a; b] производят на равные части, тогда

k = [a + (k 1)h; a + kh); k = 1; : : : ; m

(здесь h = bam ).

Следует учитывать то, что если длина интервала группировки мала, то влияние случайных колебаний начинает преобладать, так как каждый интервал содержит при этом лишь небольшое число наблюдений; если же длина интервала велика, то скрадываются основные характерные черты распределения.

В качестве частот nk теперь надо брать количество наблюдаемых ее значений, попавших на каждый из частичных интервалов k. Вариационный ряд имеет в таком случае вид

В таком случае для графического представления вариационного ряда используют гистограмму распределения графика функции, постоянной на каждом полуинтервале k, k = 1; : : : ; m и принимающей значение nk на нем.

где l число тех значений Xk, которые попадают на интервал [lh; (l + 1)h). Эмпирическая плотность распределения fn;h используется в качестве стати-

стической оценки для плотности распределения f случайной величины X.

§ 3. Предельные свойства эмпирической функции распределения

3.1. Теорема Гливенко

Теорема 4.1 (Гливенко) Для любого " > 0

Рассмотрим теперь при фиксированном x 2 R случайные величины Yk = (Xk). Так как Xk независимы и одинаково распределены, то и Yk также

независимы и одинаково распределены, кроме того

M(Yk) = P(Xk < x) = FXk (x) = F (x);