Лекции по ЧМ и ТВ

4) Аналогично, можно ограничить задачу подалгеброй порожденной несколькими событиями A1; : : : ; An: Нужно взять случайную величину X, значения которой являются наборы двоичных чисел x1; : : : ; xn:

5) Строгость неравенства в этом определении функции распределения идет, видимо, от А. Н. Колмогорова, в руководствах наблюдается разнобой в этом моменте.

7Преобразования плотности распределения

Пусть случайная величина Y определяется взаимно-однозначной

функцией Y = Y (X) случайной величины X и пусть X = X(Y )

обратное отображение. Тогда равенство вероятностей попадания случайных величин X è Y в соответствующие инфинитезимальные

отрезки запишется в виде:

В более общем случае в этой формуле нужно учитывать все прообразы точки y:

прообраза xk точки y:

Аналогично, если случайная величина Y дискретна, (yk) все различные ее значения, взятые из списка (Y (xm)), òî

P

pY k = m: Y (xm)=yk pXm

Пример 29.

Пример 30. Возьмем в качестве случайной величины Y функцию распре-

следовательно, pY (y) = 1. Таким образом, случайная величина Y = FX (X) всегда равномерно распределена на отрезке [0; 1]. Можно сказать так: функция рас-

пределения, если ее рассматривать как случайную величину, преобразует свою случайную величину в величину равномерно распределенную на отрезке [0; 1].

Следовательно, чтобы получить случайную величину X с заданной функцией распределения F(x) можно взять равномерное распределение на отрезке [0; 1] с

координатой Y и преобразование ее в случайную величину X =

112 Глава V. ТЕОРИЯ ВЕРОЯТНОСТЕЙ

Пример 31. Пусть Y равномерно распределена на отрезке [0; 1], а X(Y )

Замечание. Таким образом, задача получения случайных чисел с заданным распределением сводится к задаче получения равномерно распределенных чисел. Хотя последняя задача не решена даже теоретически, удовлетворительные для некоторых практических нужд ее приближенные решения имеют программные воплощения.

Пусть X равномерно распределена на отрезке [0; 1] и Y = 5X. Требуется найти совместное распределение этих величин. Ясно, что p(y) = 15

на отрезке [0; 5], F(x) = x на отрезке [0; 1], F(y) = 15 y на отрезке [0; 5]. Более сложно вычисляется функция совместного распределения этих величин:

F(x; y) = P(X < x; Y < y) = x ïðè 0 x y5 è x 1,

F(x; y) = 15 y ïðè 0 y5 x è y 5,

F(x; y) = 0 ïðè x; y 0,

F(x; y) = 1 ïðè 1 x; y5.

Этот результат можно выразить с помощью функции Хевисайда:

F(x; y) = x H(y 5x) H(x) H(1 x) + 15 y H(5x y) H(y) H(5 y)+

+ H(x 1) H(y 5).

= y 0(y 5x) H(x) H(1 x) + 15 y (y 5x) (x) H(1 x)

15 y (y 5x) H(x) (1 x)+5x 0(y 5x) H(x) H(1 x)+ (x 1) (y 5) =

=(y 5x) 0(y 5x) H(x) H(1 x) = (y 5x) H(x) H(1 x)

Получившееся компактное выражение можно было бы сразу написать с помощью простых соображений, но предшествующие выкладки тоже полезны как пример операционного исчисления обобщенных функций.

8Независимые случайные величины.

Случайные величины X è Y называются независимыми, если их совместное распределение (иначе сказать, распределение векторной случайной величины (X; Y )) есть произведение их распределений.

На языке теории меры это означает, что

P(X 1(A) \ Y 1(B)) = P(X 1(A)) P(Y 1(B))

для любой пары событий A; B, а на языке теории вероятностей: для любых событий A è B события X 1(A) è Y 1(B) независимы.

В терминах функции распределения и плотности условие независимости принимает вид:

Правильным будет и сказать, что переменные в этих функциях разделяются.

Предложение 34. Плотность распределения суммы независимых случайных величин равна свертке их плотностей распределения.

pX+Y = pX pY

Полагая переменную dz бесконечно малой, вычисляем: pX+Y (z) dz = P(X + Y 2 [z; z + dz]) =

Равенство = получено заменой координаты y íà t = x+y в равенстве

3

= интеграл по t заменен средним значением на бесконечно малом

получатся только для значений

входящих в список всех значений сумм xi + yj.

9Биномиальное распределение. Формула Бернулли

Найдем распределение дискретной случайной величины, которая связана с независимыми повторениями простейшего испытания бросания, вообще говоря, не симметричной монеты. Спрашивается, с какой вероятностью n раз подброшенная монета упадет гербом k

ðàç.

Дано вероятностное пространство, в котором элементарное событие состоит из n повторений испытания, в каждом из которых собы-

p и оно не происходит с ве-

роятностью q = 1 p: P(A) = p, P(A) = q = 1 p. Это пространство можно отождествить с множеством значений набора двузнач-

114 Глава V. ТЕОРИЯ ВЕРОЯТНОСТЕЙ

ных независимых случайных величин ( Kj;n), 1 j n, каждая из

Можно рассудить и иначе. Событие K = k складывается из событий, в каждом из которых событие A происходит k раз в испытаниях

n1; : : : ; nk è n k раз не происходит, следовательно, вероятность этого события равна pk qn k. Число наборов номеров испытаний равно

10 Числовые характеристики случайной величины.

Речь пойдет главным образом о моментах интегралах от степеней случайной величины по вероятностной мере. Ясна аналогия с механикой: плечо это значение случайной величины, а масса это функция распределения. С математической точки зрения моменты представляют собой скалярные произведения плотности распределения случайной величины на степень координаты. Числовые характеристики параметризуют пространство распределений, то есть, служат на нем координатами. Ряд популярных распределений эти параметры определяют однозначно. В общем случае они описывают распределения случайной величины с некоторой степенью точности и по ним можно судить о "физических" свойствах распределений.

10.1Математическое ожидание.

Модой (modus лат., мера, правило, предписание) называется зна- чение случайной величины в котором ее плотность распределения достигает максимального значения. Следовательно, мода совпадает с наиболее вероятным значением случайной величины. Поэтому ее называют наиболее правдоподобным значением величины, а саму плотность распределения функцией правдоподобия.

Математическое ожидание это интегральное среднее случайной величины, естественно, по вероятностной мере:

Математическое ожидание, также как и мода, есть наиболее вероятное значение случайной величины.

10.1.1Свойства математического ожидания

1) Математическое ожидание постоянной равно ее значению.

2) Математическое ожидание линейно.

Центрированной случайной величиной или отклонением называ-

ют величину X = X M(X). Ее математическое ожидание равно нулю.

3) Математическое ожидание произведения независимых случайных величин равно произведению их математических ожиданий.

10.2Дисперсия и среднее квадратическое отклонение

Среднее квадратическое отклонение (а также стандартное уклонение или отклонение) это корень èç äèсперсии:

p

(X) = D(X)

Дисперсия или рассеяние это, очевидно, скалярный квадрат от-

клонения в пространстве L2, а среднее квадратическое отклонениеэто норма отклонения. Поэтому величину X= называют норми-

рованной величиной X, а величину X = X= нормированной и

центрированной величиной (знак читается "бреве").

10.2.1Свойства дисперсии

1)D(X) = D X = M(X2) (M(X))2.

2)D(C) = 0.

3)D(C X) = C 2 D(X).

116 Глава V. ТЕОРИЯ ВЕРОЯТНОСТЕЙ

4) Åñëè X; Y независимы, то D(X Y ) = D(X) + D(Y ).

Пример 33. Найдем математические ожидания и дисперсии величин, описывающих испытание Бернулли. M( Kj;n) = p; D( Kj;n) = p q.

M( Kn) = n p; D( Kn) = n p q

Пример 34. (Студенческая Интернет-олимпиада, 2009.) Найти математи- ческое ожидание квадрата расстояния между двумя точками, случайно выбранными на сторонах прямоугольника размера 7 5.

Полагаем, что речь идет о геометрической вероятности на периметре прямоугольника. Выберем координаты s и t положения точек A и B на периметре,

0 s; t 24. Тогда вероятностное пространство выбора двух точек будет равно квадрату 24 24 с мерой d P = 2412 ds dt и математическое ожидание можно

Расстояние d(A; B) вычисляется по-разному в зависимости от положения точек на сторонах, составляющих периметр: 7 + 5 + 7 + 5 = 24. Учтя все возмож-

7

ZZ

ные случаи, придем к сумме интегралов: 242 M(d2(A; B)) = 2 (s t)2 ds dt+

0

интегралов, то в ответе получится 24.

Для получения более симпатичного решения можно привлечь кое-какие результаты теории. Выберем координаты x; y на плоскости прямоугольника. Тогда

координаты точек A и B будут случайными величинами: A(X1; Y1), B(X2; Y2).

Предвидя, что придется вычислять математические ожидания координат то- чек, расположим начало координат в центре прямоугольника, тогда M(Xj) =

= M(Yj) = 0. Считая величины X1; X2 независимо и одинаково распределенными на отрезке [ 7=2; 7=2], а величины Y1; Y2 на отрезке [ 5=2; 5=2], и поль-

зуясь теоремой Пифагора и свойствами математического ожидания получим:

M(d2(A; B)) = M((X1 X2)2 + (Y1 Y2)2) = M(X12 + X22 + Y12 + Y22

2X1X2 2Y1Y2) = 2 M(X12) + 2 M(Y12) = 2 D(X1) + 2 D(Y1). Чтобы вычислить эти дисперсии, нужно найти законы распределения величин X1 è Y1. Эти законы будут образами меры на сторонах прямоугольника относительно отображений проекции на оси:

dFX1 (x) = 121 dx + 245 (x + 7=2) dx + 245 (x 7=2) dx; dFY1 (y) = 121 dy + 247 (y + 5=2) dy + 247 (y 5=2) dy:

Иными словами, простая геометрическая мера на периметре прямоугольника проектируется в сумму непрерывной меры это проекция меры с двух сторон,

3. Если cor(X; Y ) = 1, то X Y = 0 с вероятностью 1.

Это эквивалентно тому, что (Y )X (X)Y = const с вероятностью 1.

Первое следует из соответствующего свойства математического ожидания.

Òàê êàê cor(X; Y ) = cor(X; (Y ), будем считать, что X è Y центрированы и нормированы. Тогда D(aX + bY ) =

= M(a2X2 + 2abXY + b2Y 2) = a2 + 2ab cor(X; Y ) + b2 0.

Отсюда при jaj = jbj = 1 следует 2., а при a = b следует, что

D(X Y ) = 0.

Извлечение звучит так: если cor(X; Y ) = 0, то говорят, что ве-

личины статистически независимы; с ростом коэффициента теснота связи межу величинами возрастает; и когда он достигает значения1, величины X è Y становятся линейно зависимыми (просто, без

всякой вероятности).

11 Условное распределение

Пусть даны две случайные величины X; Y с функцией распределения F(x; y), которая может иметь плотность p(x; y). Тогда услов-

Это распределение случайной величины X зависит от случайного параметра Y . Чтобы не путать эту величину X с исходной величи-

íîé X, можно ее обозначать как-нибудь иначе: XjY , XY , Таким об- разом, условное распределение величины X есть величина тоже слу-

чайная, принимающая какое-либо значение и даже существующая в зависимости от значения величины Y . Это определение согласуется

с определением условной вероятности: P(AB) = P(A=B) P(B); согласие задается формулами: A = (X = x), B = (Y = y), P(AB) =

= p(x; y) dx dy = p(xjy) dx p (y) dy.

Y

Условные моменты величины X, естественно, определяются как

моменты случайной величины с условной плотностью p(xjY ), íà-

пример, условное математическое ожидание, которое называется также функцией регрессии X íà Y :

Пример условного распределения см. в упражнении 13 с. 123.

12 Неравенство Чебышева и законы больших чисел

До введения Чебышевым этих почти бессодержательных неравенств между интегралами закон больших чисел доказывался с большими сложностями. Пафнутий Львович Чебышев был славен "умением получить посредством элементарных средств большие научные результаты".

Теорема 36 (Чебышев). Пусть X неотрицательная случайная

величина. Тогда P(X ") M(X)

"

Теорема 37. Неравенство Чебышева. (Бьенеме, 1853, Чебышев, 1867)

P(jX M(X)j ") D(X)

"2

Из неравенства Чебышева легко выводятся несколько законов больших чисел. Рассмотрим их в хронологической последовательности.

Докажем классический закон больших чисел Теорему 33. Применим неравенство к случайной величине K числу появле-

ний события A â n независимых испытаниях:

P(j K p nj " n) q p n

"2 n2

Правая часть стремится к нулю с ростом n, что и требуется.

Теорема 38 (Пуассон, 1837). Пусть 1; : : : ; n независимые ис-

пытания, A1; : : : ; An события, происходящие в этих испытаниях с вероятностями p1; : : : ; pn, K число случившихся событий из

числа (Ai): Тогда