дов

где характеризует свойства газа. В этой формуле функция распределения случайной величины vx имеет вид

(здесь мы не используем x, так как знак x указывает на направление координаты). Заметим, что эта формула противоречит конечности числа N молекул газа, функция распределения не растет скачками величины 1=N. Такие распределения мы называем распределения непрерывного типа (в отличие от распределений дискретного типа, у которых вероятность сосредоточена на конечном или счетном множестве точек). Подынтегральная функция в (5) или (6) называется функцией плотности, для случайной величины vx она обозначается pvx .

Свойства функции плотности p случайной величины очевидны. Во первых, p 0 (хоть

Однако для всех интересных для применений множеств B (обычно это интервалы) такой интеграл имеет смысл.

Замечание 1. Современные физики предпочитают все вероятностные распределения записывать как распределения непрерывного типа, используя в качестве плотности обобщенную функцию. Например, плотность дискретного распределения, заданного равенствами Pfaig =

Из определений следует, что в случае непрерывного типа распределения функция распределения F и функция плотности p связаны соотношениями:

Z x

F (x) = p (t)dt;

1

отсюда дифференцированием выводится обратное соотношение

p (x) = dFdx (x):

1. Многомерные распределения.

Разумеется, мы можем иметь дело не только с одной случайной величиной (в примерах выше Sn или vx), но и одновременно с несколькими случайными величинами (например, при рассмотрении молекул газа мы одновременно иметь дело с тремя импульсами, px; py; pz (механики обычно предпочитают скорости импульс как переменную) и тремя координатами qx; qy; qz).

Итак, мы рассматриваем несколько случайных величин 1; :::; n и их совместное распределение P 1;:::; n , которое определяется соотношением:

P 1;:::; n (B) = Pf( 1; :::; n) 2 Bg:

Здесь B опять пробегает все полезные и хорошие множества, аналогами интервалов являются n-мерные прямоугольные параллелепипеды, но кроме них для приложений полезны и шары, пирамиды и другие множества.

Замечание. Как и в одомерном случае, мы используем обозначение

f( 1; :::; n) 2 Bg := f! 2 : ( 1(!); :::; n(!)) 2 Bg:

41

Точнее, в качестве B мы можем использовать все элементы борелевской -алгебры – наименьшей -алгебры, содержащей шары со всеми центрами и всеми радиусами. Впрочем, многомерную борелевскую -алгебру мы можем также интерпретировать как наименьшую - алгебру, содержащую все множества вида

f(x1; :::; xn) : xi < xg; где i = 1; 2; :::; n, x пробегает R ;

то есть полупространства. Теоретико-множественными операциями мы можем получить из полупространств многомерные параллелепипеды, а из них счетными объединениями открытые шары.

Пример, иллюстрирующий целесообразность рассмотрения вместо случайной величины ее распределения. Директор модного ателье должен иметь список клиентов, у каждого из которых свои параметры одежды. Таким образом, директор должен иметь вероятностное пространство, элементарными исходами которого являются клиенты. Случайные величины на этом пространстве сопоставляют каждому клиенту его параметры (например, рост, размер, полнота). Наконец, если все клиенты одинаково интересны для мастерской и заказывают примерно одно и то же количество одежды, на множестве клиентов можно ввести классическую вероятность, в которой все клиенты равновероятны.

Директора фабрики по производству одежды интересует только совместное распределение вероятностей у его потребителей таких случайных величин, как рост, размер, полнота. Полного списка клиентов он не знает, так как он слишком велик. Обычно директор имеет информацию о вероятностях таких событий, как например

f3 рост; 46 размер; маленькая полнотаg:

Но если одежды каких-то размеров в избытке, а других не хватает, это по-видимому объясняется тем, что он использовал распределения вероятностей, справедливые для всего населения, применительно к какой-то особой группе населения с другими распределениями вероятностей.

Итак, переход от случайной величины или вектора к распределению означает обезличивание элементарных исходов.

Многомерные распределения могут быть как дискретными, так и непрерывными (а если использовать язык обобщенных функций, то можно и все мыслить непрерывными).

В многомерном случае задается также совместная функция распределения следующим соотношением:

F 1;:::; n (x1; :::; xn) = Pf 1 < x1; :::; n < xng:

Но эта функция не так интересна как в одномерном случае: в многомерном случае нет хорошего порядка для точек, да и график такой функции нарисовать затруднительно. Совместная функция распределения имеет те же (с учетом многомерности) свойства 1)-3), что и одномерная функция распределения, но этих свойств недостаточно, чтобы определять многомерную вероятность. Например, в двумерном случае нужно, чтобы F ; имела дополнительное свойство:

Pfa1 < a2; b1 < b2g =

= F ; (a2; b2) F ; (a1; b2) F ; (a2; b1) + F ; (a1; b1) 0

для всех a1 < a2, b1 < b2.

Как и в случае одной случайной величины, совместное распределение может определяться совместной функцией плотности

p 1;:::; n (x1; :::; xn);

42

которая связана с распределением следующим соотношением:

Можно отметить также связь совместной функции распределения и совместной функции

Вопрос. Пусть нам дана совместная плотность случайных величин x1; :::; xn, как найти совместную плотность части этого набора – n1 ; :::; nk , 1 ni n? Ответ следует из определения

где Ri числовая прямая под номером i (мы имеем в виду, что Rn представляется в виде Q Ri.)

i n

Отсюда следует, что в качестве p n1 ;:::; nk (плотность задается с точностью до множества меры нуль) мы можем взять

Вмногих ситуациях нужно переходить от совместной функции плотности p 1;:::; n (x1; :::; xn)

ксовместной функции p 1;:::; n (y1; :::; yn), где случайный вектор ( 1; :::; n) получен в результате преобразования (обычно непрерывного или кусочно непрерывного) случайного вектора

~

( 1; :::; n). Поэтому нужно уметь как-то записывать борелевское множество B через B в равенстве

f 2 g f 2 ~g

P ( 1; :::; n) B = P ( 1; :::; n) B ;

(чтобы всегда, для всех вариантов совместных распределений, были равны вероятности, нужно, чтобы были равны события) после чего записать это равенство как равенство интегралов от соответстующих функций плотности:

B

Далее, используя замену переменных под знаком интеграла, можно попытаться выразить p 1;:::; n (y1; :::; yn) через p 1;:::; n (x1; :::; xn). Мы используем то соображение, что из равенства интегралов для всех множеств B (интеграл как функцию области интегрирования B часто

43

называют неопределенным интегралом) следует равенство (с точностью до множества лебеговой меры нуль) подинтегральных функций. Приведем пример такого перехода: пусть заданы случайные векторы ( ; ), ('; ), где ' = 2 , = = . Тогда чтобы обеспечить равенство

2. Независимые случайные величины.

Случайные величины 1; :::; n называются независимыми, если для любых борелевских

Можно доказать, это довольно сложно (мы это сделаем ниже), что для независимости

для всех вещественных чисел a1; a2; :::; an, которые следуют из (8) при Bi = ( 1; xi). Заметим, что как (8), так и (9) на деле означают независимость в совокупности входящих

в (8) или (9) наборов событий. В (8) некоторые из событий Bi мы можем заменить на R, из определения случайной величины следует, что f n 2 Rg = . Таким образом, некоторые из сомножителей в правой части окажутся равными 1, а некоторые события в правой части можно будет не писать, и мы получим равенство (8) для части набора событий. То же верно и для (9).

Борелевские функции f( i) независимых случайных величин i сами независимы. Действительно, вместо (8) нам нужно доказать

Pff1( 1) 2 B1; :::; fn( n) 2 Bng =

Pff1( 1) 2 B1g:::Pffn( n) 2 Bng:

Но ffi( i) 2 Big = f( i) 2 fi 1(Bi)g. Таким образом, (30) – это (3) при Bi = fi 1(Bi). Рассмотрим случай, когда 1; 2; :::; n – независимые случайные величины с дискретным

Аналогично рассматривается случай независимых случайных величин 1, 2, ..., n с непрерывным типом распределения. Легко показывается, что в этом случае имеется совместная

Это легко выводится дифференцированием равенства (9) по всем переменным. Обратно, интегрированием равенства (10) по всем переменным мы получаем (8) или (9). Таким образом, если

совместная функция плотности случайных величин 1; :::; n и функции плотности отдельных случайных величин связаны соотношением (10), то случайные величины 1; :::; n независимы. Почему-то вызывает затруднения важный для математической статистики случай независимых случайных величин 1; :::; n с одинаковым распределением непрерывного типа с функцией плотности p. Разумеется, совместная функция плотности не pn, а

p 1;:::; n (x1; :::; xn) = p(x1):::p(xn):

44

Теорема 3. Следующие условия эквивалентны (каждое из них означает независимость случайных величин): для любых борелевских множеств B1; :::; Bn имеет место равенство

Такие множества составляют уже алгебру множеств в R (если предполагать, что одно из чисел a(ij) может равняться 1, а одно из чисел b(ij) – 1). Заметим, что нам удалось избежать операций пересечения и объединения множеств общего вида, при таких операциях (см. пример Бернштейна) независимость может потеряться.

Но нам нужно доказать независимость прообразов любых борелевских множеств в R. Согласно теореме о монотонных классах для их получения из множеств вида (*) нам не нужно использовать операции счетного объединения или счетного пересечения, а достаточно использовать операции предела возрастающей последовательности множеств (здесь это объединение) или убывающей последовательности множеств (пересечение). Однако такие операции также сохраняют независимость. Это легко проверяется: если для любого m события A(1m); A2; :::; An удовлетворяют соотношению

P(A(1m)A2; :::An) = P(A(1m))P(A2):::P(An); ( )

а A(1m) % A1 или A(1m) & A1, то переходом к пределу в (**) мы получаем

P(A1A2; :::An) = P(A1)P(A2):::P(An):

Теорема 4. Пусть случайные величины (все вместе) 1; 2; :::; n, 1; 2; :::; m независимы, f(x1; x2; :::; xn) и g(x1; x2; :::; xm) борелевские функции. Тогда случайные величины f( 1; :::; n), g( 1; :::; m) независимы.

Замечание. Для упрощения обозначений я рассматриваю набор независимых случайных величин, разделенный лишь на две пачки. Без изменений в доказательства все это верно и для набора, разделенного на любого конечного числа пачек. К сожалению, нельзя ограничиться случаем n = m = 1, для него все очевидно и уже доказано.

Доказательство аналогично доказательству теоремы 1. Из условий теоремы немедленно следует независимость событий вида

f( 1; 2; :::; n) 2 B1 ::: Bng; f( 1; 2; :::; m) 2 C1 ::: Cmg;

45

где множества Bi, Cj являются борелевскими множествами. Входящие в эти множества произведения составляют полуалгебры множеств соответственно в Rn и Rm. Эти полуалгебры порождают алгебры множеств. Как мы уже видели, их прообразы относительно отображений ( 1; 2; :::; n) и ( 1; 2; :::; m) также независимы. Алгебры порождают борелевские -алгебры соответственно в Rn и Rm (проверьте для себя, что на плоскости любой открытый круг можно представить как объединение счетного числа открытых прямоугольников, открытые множества являются объединениями счетного числа шаров и т. д.). Таким образом, опираясь на теорему о монотонных классах, используя как и выше сохранение независимости при некоторых операциях с независимыми событиями, мы доказываем, что прообразы борелевских множеств относительно рассмотренных отображений являются независимыми событиями. Осталось отметить, что для любых борелевских множеств B и C множества f 1(B) и g 1(C) принадлежат борелевским -алгебрам в соответствующих пространствах.

Определение 5. Свертка функций распределения F1 и F2 это функция распределения F суммы независимых случайных величин c функциями распределения F1 и F2.

Доказательство. Это утверждение следствие теоремы Фубини. Но в данном простом случае имеется простое доказательство, использующее теорему Лебега. По определению

Z Z

F (x) = dF1(u)dF2(t):

u+t<x

Мы представим множество A = fu+t < xg как предел возрастающей последовательности сумм бесконечных тонких прямоугольников. Разобьем

X

R = [k=2n; k + 1=2n);

k2Z

тогда An " A, где

X

An = f(t; u) 2 [k=2n; (k + 1)=2n) (1; x (k + 1)=2n)g:

k2Z

По построению

Z Z

F (n)(x) := dF1(u)dF2(t) =

An

X

=F1(x (k + 1)=2n)[F2((k + 1)=2n)) F2(k=2n)] =

k2Z

1

Z

=F1(n)(x t)dF2(t);

1

где F1(n)(x t) = F1(x (k+1)=2n) для t 2 [k=2n; k+1=2n). Очевидно, что F1(n)(x t) ! F1(x t)

для всех t. Так как An " A, F (n)(x) " F (x), в то же время по теореме Лебега

Сейчас мы введем очень важное для применений распределение стандартное нормальное n-мерное распределение. Пусть 1; 2; :::; n независимые случайные величины со стандартным нормальным распределением, то есть с функцией плотности

46

Очень важным для применений в математической статистике и любопытным является следующий факт:

6. Лемма о вращении стандартного нормального случайного вектора. Пусть

1; 2; :::; n независимые случайные величины со стандартным нормальным распределением, U ортогональное преобразование (то есть вращение с центром в нуле) пространства Rn. Тогда случайный вектор

( 1; 2; :::; n) = U( 1; 2; :::; n)

имеет ту же совместную функцию плотности, что и ( 1; 2; :::; n), т. е. 1; 2; :::; n независимые случайные величины со стандартным нормальным распределением.

Мы будем исходить из определения (*).

Pf( 1; 2; :::; n) 2 Bg = PfU( 1; 2; :::; n) 2 Bg =

= Pf( 1; 2; :::; n) 2 U 1(B)g =

ZZ

2

Произведем в этом интеграле замену переменных:

(y1; y2; :::; yn) = U(x1; x2; :::; xn):

Тогда область интегрирования f(x1; x2; :::; xn) 2 U 1(B)g перейдет в область f(y1; y2; :::; yn) 2 Bg. Хорошо известно из алгебры, что якобиан при ортогональном вращении равен 1, а сумма квадратов координат переходит в сумму квадратов координат. Итак, мы имеем:

B2

Таким образом, совместная функция плотности осталась прежней.

Замечание. Как мы видим, в наших выкладках полезным приемом является переход от интеграла

ZZ

=::: p 1; 2;:::; n (x1; x2; :::; xn)dx1dx2:::dxn

B

(с которым нам трудно работать) к вероятности события

Pf( 1; 2; :::; n) 2 Bg;

которое мы можем преобразовать, изменив вектор ( 1; 2; :::; n) и борелевское множество B так, чтобы событие осталось прежним.

47

7. Следствие. Если , – независимые стандартные нормальные случайные величины,

Упражнение и Пример. Все это верно лишь для одинаково распределенных нормальных случайных величин. В качестве контрпримера рассмотрим независимые , с равномерным распределением на отрезке [ 1; 1]. Вычислите и сравните вероятности событий f + 2

[ 1; +1]g, f 2 [ 1; +1]g, f + 2 [ 1; +1]; 2 [ 1; +1]g

8. Невырожденное многомерное нормальное распределение.

Многомерное нормальное распределение можно определить как распределение случайного вектор T ( 1; 2; :::; n), где ( 1; 2; :::; n) стандартный нормальный случайный вектор с совместной функцией плотности

а T получен последовательным применением линейного преобразования S (cправа!) и сдвига на вектор (m1; :::; mn). Таким образом, T ( 1; 2; :::; n) = S( 1; 2; :::; n)+(m1; :::; mn). Вычислим функцию плотности случайного вектора T ( 1; 2; :::; n), если она существует. Сначала освободимся от сдвига. Покажем, что

p 1+m1; 2+m2;:::; n+mn (x1; x2; :::; xn) =

= p 1; 2;:::; n (x1 m1; x2 m2; :::; xn mn):

Это следует из определения функции плотности. С одной стороны

P f( 1 + m1; 2 + m2; :::; n + mn) 2 Bg =

Z

=p 1+m1; 2+m2;:::; n+mn (x1; x2; :::; xn)dx1:::dxn:

B

С другой стороны

P f( 1 + m1; 2 + m2; :::; n + mn) 2 Bg =

= P f( 1; 2; :::; n) 2 B (m1; :::; mn)g =

Z

=p 1; 2;:::; n (x1; x2; :::; xn)dx1:::dxn:

B (m1;:::;mn)

Далее будем считать, что сдвига уже нет, а преобразование S является невырожденным. Рассмотрим вероятность

Z

P f( 1; 2; :::; n)S 2 Bg = pS( 1; 2;:::; n)(x1; x2; :::; xn)dx1:::dxn:

B

(B)S

Производим преобразование (x1; :::xn) = (y1; :::; yn)S, нам также удобно использовать матричное обозначение для квадратичной формы x21 + x22 + ::: + x2n = [x1; :::xn][x1; :::xn]0. Имеем:

48

где A = SS0 = [aij]i;j n:

Очень важное замечание. Если матрица [aij] диагональна, то все случайные величины i независимы.

Вопрос. aij = 0. Следует ли из этого независимость i и j?

Вдальнейшем мы встретим также вырожденное многомерное нормальное распределение,

укоторого нет функции плотности.

Интегрируя совместную функцию плотности по некоторым переменным (см. Вопрос) мы опять получаем функцию того же вида. Итак, часть набора случайных величин с невырожденным совместным нормальным распределением также имеет невырожденное совместное нормальное распределение.

Распределение 2n.

Сейчас мы выведем распределение, очень важное для математической статистики. Пусть снова 1, 2, ..., n независимые случайные величины со стандартным нормальным распределением, 2n = 12 + 22 +:::+ n2. Найдем плотность распределения 2. Мы опять воспользуемся связью функции плотности и функции распределения и представим плотность как производ-

Далее мы перейдем к n-мерной сферической системе координат:

x1 = r cos '1; x2 = r sin '1 cos '2;

x3 = r sin '1 sin '2 cos '3;

...

xn 1 = r sin '1 sin '2::: sin 'n 2 cos 'n 1; xn = r sin '1 sin '2::: sin 'n 2 sin 'n 1;

49

У этой замены вычисляется якобиан, но мы попробуем эти вычисления обойти и использовать лишь тот факт, что переменная r входит в якобиан в (n 1)-й степени. Очевидно, что в новых

координатах

x21 + x22 + ::: + x2n = r2:

Итак, мы приходим к следующему равенству:

Далее мы интегралы по всем угловым переменным и все коэффициенты записываем как одну константу. В итоге мы приходим к равенству

Далее мы переходим к новой переменной r2 = u и еще раз при этом меняем константу:

Итак, p 2n (x) = Const e x=2x(n 2)=2: Проинтегрировав по x, мы определим константу:

(Так как случайная величина 2 неотрицательна, p 2n (x) = 0 при x < 0). Таким образом,

Распределение Коши – это распределение случайной величины , где и – независимые

N(0; 1)-нормальные случайные величины. Доказывается, что

1 p = (x) = (1 + x2):

Доказательство проводится так же, как и выше, с использованием замены y = u=v, z = v. Нужно продифференцировать по x интеграл

Замечание. Можно показать, что то же распределение имеет случайная величина j j. Све-

дение этой задачи к предыдущей основано на симметричности распределений независимых случайных величин и . Легко показать, что если имеет симметричное распределение, а " независимая от случайная величина, принимающая значения +1 и 1 с вероятностью

50