Теория вероятностей. Ч.2 Случайные величины и предельные теоремы теории вероятностей. Учебное пособие

как если случайная величина распределена симметрично относительно своего математического ожидания, то третий центральный момент, как и все центральные моменты нечетного порядка, равен нулю. Однако μ3 обладает тем недостатком, что он имеет размерность 3, поэтому обычно рассматривают безразмерную величину

которую называют коэффициентом асимметрии. В случае унимодального распределения, если асимметрия положительная (a > 0), то кривая графика плотности вероятности более полога справа от моды h (рис. 2.2a); если асимметрия отрицательная (a < 0), то – слева (рис. 2.2б).

Рис. 2.2. Графики плотностей распределения вероятностей, имеющих a) положительную асимметрию;

б) отрицательную асимметрию

Четвертый центральный момент служит для характеристики «сглаженности» графика плотности около ее центра. Используя μ4, строят безразмерную величину

e 4 2 3,2

называемую коэффициентом эксцесса, или просто эксцессом. Для наиболее важного и распространенного распределения – нормального (см. параграф 4.3) – величина e равна нулю. В этом смысле кривая плотности вероятности нормального распределения принята как бы за эталон, с которым срав-

41

нивают другие распределения. Если e > 0, то график плотности вероятности в окрестности моды имеет более высокую и более острую вершину, чем график плотности нормального распределения. В этом случае говорят о положительном эксцессе по сравнению с нормальной кривой, в противном случае – об отрицательном эксцессе (рис. 2.3).

fξ(х)

e 0 e 0

e 0

Рис. 2.3. Графики плотностей распределения вероятностей, имеющих положительный, отрицательный и нулевой эксцесс

Абсолютным моментом k-го порядка случайной величины

относительно точки а называется число, равное M| – a|k. Как и в случае обычных моментов, если а = 0, то абсолютный момент называется начальным: M| |k, если а = М , то абсолютный момент называется центральным: M| – M |k.

Очевидно, что абсолютные моменты четных порядков совпадают с обычными моментами.

Из абсолютных моментов нечетного порядка наиболее часто применяют первый абсолютный центральный момент

M| – M |, который называют средним арифметическим отклонением. Это число, наряду с дисперсией и средним квадратическим отклонением, характеризует рассеивание случайной величины.

Отметим, что если известен вид закона распределения случайной величины и неизвестны лишь значения некоторых его параметров, то в важнейших для приложений случаях эти неизвестные параметры определяются с помощью первых момен-

42

тов. Однако, если мы не располагаем какой-либо информацией о распределении, то знание даже всех (целочисленных) моментов не позволяет найти неизвестную функцию распределения.

2.5. Ковариация и коэффициент корреляции

Для двух случайных величин и начальным моментом порядка i + k называется число i,k = M( iּk). Очевидно, если положить i = 0, то получим начальный момент k-го порядка, а если положить k = 0, то получим момент i-го порядка .

В частности, 1,0 = M , а 0,1 = M .

Аналогично определяются центральные моменты по-

рядка i + k: μi,k = M(( – M )i( – M )k), причем μ1,0 = μ0,1 = 0,

μ2,0 = D , а μ0,2 = D .

Как и в одномерном случае, центральные и начальные моменты связаны между собой. Например, μ1,1 = 1,1 – 1,0 0,1.

Начальный момент μ1,1 = M(( – M )( – M )) называют

смешанным моментом второго порядка, или корреляционным моментом, или ковариацией, и обозначают cov( , ).

Напомним, что эта величина уже встречалась ранее при вычислении дисперсии суммы:

D( + ) = D + D + 2M(( – M )ּ( – M )) = D + D + + 2cov( , ).

Свойства ковариации.

1. cov( , ) = cov( , ).

при этом по свойству 8 математического ожидания функции случайных величин

43

3.cov( , ) = D .

4.cov(a + b, c + d) = aсcov( , ), где a, b, c и d – числа.

5.D( ± ) = D + D ± 2cov( , ).

6.Для независимых случайных величин cov( , ) = 0, так как для независимых случайных величин M( ) = M ּM . Од-

нако следует иметь в виду, что обратное неверно, то есть может быть так, что случайные величины не являются независи-

мыми, но их ковариация равна нулю.

Если даны n случайных величин 1, 2, ..., n, то квадратная матрица K порядка n, элементы которой kij = cov( i, j), называется ковариационной матрицей.

Так как kij = cov( i, j) = cov( j, i) = kji и kii = cov( i, i) = D i, то ковариационная матрица является симметричной матри-

цей, на главной диагонали которой стоят дисперсии случайных величин. Если случайные величины попарно независимы, то ковариационная матрица диагональная.

Определитель ковариационной матрицы называется обобщенной дисперсией. Ее можно использовать как меру рассеяния n-мерной случайной величины.

Коэффициентом корреляции случайных величин и называется число

ванные случайные величины.

3.Если 1 = a1 + b1, 1 = a2 + b2, то | ( , )| = | ( 1, 1)|.

4.| ( , )| 1, то есть –1 ( , ) 1.

5.Для независимых случайных величин ( , ) = 0. Обратное неверно. Случайные величины у которых коэффициент корреляции равен нулю (ковариация равна нулю) называются некоррелированными, в противном случае – коррелированными.

44

6. Если ввести меру близости случайных величин и как M( – )2, то среди всех линейных функций вида k + b наилучшее приближение случайной величины даст случайная величина

Это выражение называется уравнением регрессии на . Ниже мы столкнемся с термином «регрессия», в который

будет вкладываться несколько иной, хотя и родственный, смысл.

Случайная величина 1 дает minM( – (k + b))2, и это минимальное значение равно M( – 1)2 = (1 – 2( , ))ּD . Эта величина носит название остаточной дисперсии. Она показывает, что если коэффициент корреляции равен 1 или –1, то = 1 и случайные величины и линейно связаны:

M M .

D D

Таким образом, модуль коэффициента корреляции принимает максимальное значение 1 при наличии линейной связи между случайными величинами. В силу этого величину коэффициента корреляции рассматривают как меру линейной связи между случайными величинами.

Заметим, что точно также можно рассматривать уравнение регрессии на и, очевидно:

Наряду с уравнением регрессии рассматривают прямую средней квадратической регрессии на , уравнение которой имеет вид

и прямую средней квадратической регрессии на :

45

Заметим, что прямые средней квадратической регрессии пересекаются в точке с координатами (М , М ), а угол между ними зависит от величины коэффициента корреляции. Они совпадают только в том случае, когда коэффициент корреляции равен 1 или –1. В другом крайнем случае, если и– некоррелированные, в частности, если они независимые, прямые средней квадратической регрессии перпендикулярны друг другу и параллельны соответствующим координатным осям.

2.6. Условное математическое ожидание, функция регрессии и корреляционное отношение

Пусть даны дискретные случайные величины и и закон их совместного распределения. Тогда, как мы уже говорили ранее, можно рассматривать условный закон распределения случайной величины при условии = yj, определяемый равенством

В итоге имеем новую случайную величину, которая принимает те же значения, что и , но с другими вероятностями. Посчитаем ее математическое ожидание:

M( | yj ) xi P{ xi | yj } g(yj ).

i

Полученное в результате число зависит от значения = yj, и мы имеем случайную величину, которая принимает значения g(yj), иными словами – функцию g( ). Эта случайная величина обозначается M( | ) и называется условным математическим ожиданием при условии . Аналогично определяется условное математическое ожидание при условии .

46

В случае непрерывных случайных величин берется условная плотность распределения

f (x | y) f (x,y) , f (y)

и тогда значение условного математического ожидания

M( | y) xf (x | y)dx g(y),

асамо условное математическое ожидание M( | ) – случайная величина, равная g( ).

Функция g(y) называется функцией регрессии, или просто регрессией случайной величины на случайную величину ,

аее график называется линией регрессии на . Линия регрес-

сии наглядно изображает зависимость «в среднем» случайной величины от значений случайной величины .

Аналогично рассматривают условное математическое ожидание M( | ) и функцию регрессии

h(x) M( | x) yf (y | x)dy.

Свойства условного математического ожидания.

1.Условное математическое ожидание обладает теми же свойствами, что и обычное математическое ожидание.

2.M(М( | ))= M , т.е. среднее значение всех средних равно просто среднему значению.

3.Если условное математическое ожидание М( | ) = g( ) и( ) – любая функция , то

M( ) M g( ) ( ) .

4.Для любой случайной величины ( ) справедливо неравенство:

M g( ) 2 M ( ) 2 ,

47

т.е. среди всех функций случайной величины наилучшее приближение в указанном смысле дает функция регрессии. Если является функций , то = М( | ) = g( ). В общем случае, чтобы оценить степень близости и М( | ) = g( ), рассмотрим дисперсию их разности. Заметим, что

D M M 2 M g( ) g( ) M 2

M g( ) 2 2M g( ) g( ) M

M g( ) M 2 D( g( )) D(g( )).

Поделив последнее равенство на D , получим

называется корреляционным отношением. Это число характеризует «меру» функциональной зависимости от .

Свойства корреляционного отношения.

1.В отличие от коэффициента корреляции, вообще говоря,

k | k | .

2.0 k | 1.

3.k | 1 в том и только в том случае, когда является функцией , т.е. = g( ).

4.k | 0 в том и только в том случае, когда g( ) = M , т.е. линия регрессии представляет собой горизонтальную прямую.

5.Коэффициент корреляции и корреляционное отношение связаны неравенством

( , ) k | .

6. ( , ) k | , когда линия регрессии является наклонной прямой.

Если обе функции регрессии на и на линейны, то говорят, что случайные величины и связаны линейной корреляционной зависимостью.

48

Если же случайные величины и независимы, то линии регрессии представляют собой прямые, параллельные осям координат: x = g(у) = М и y = h(х) = М и проходящие через точку (М , М ).

Задача 2.1. В ящике лежат 7 шаров, один из которых черный, а остальные белые. Из ящика извлекают один шар за другим до появления черного шара, но не более четырех шаров. Случайная величина – число вынутых шаров. Вычислить математическое ожидание, дисперсию, среднеквадратичное отклонение, моду, третий центральный момент и коэффициент асимметрии случайной величины .

□1. Найдем закон распределения случайной величины . Очевидно, может принимать значения 1, 2, 3, 4:

= 1 (число вынутых шаров равно 1) в случае, если первый вынутый шар черный. Вероятность наступления такого события равна 1/7;

= 2 в случае, если первый вынутый шар белый, а вто-

рой – черный, по теореме умножения вероятностей получаем P{ = 2} = 6/7 · 1/6 = 1/7;

= 3 в случае, если два первых вынутых шара белые, а третий – черный, P{ = 3} = 6/7 · 5/6 · 1/5 = 1/7;

= 4 в случае, если три первых вынутых шара белые, а

четвертый – черный или все четыре вынутых шара белые, P{ = 4} = 6/7 · 5/6 · 4/5 · 1/4 + 6/7 · 5/6 · 4/5 · 3/4 = 4/7.

Таким образом, закон распределения случайной величины :

Заметим, что

pk 1/7 1/7 1/7 4 /7 1.

k

2. Найдем математическое ожидание случайной величины. По определению (2.1)

49

3. По формулам (2.2) и (2.3) имеем

Следовательно, среднеквадратичное отклонение равно

4. По определению мода – значение xm случайной величи-

ны, для которого pm max pi . В нашем случае из закона рас-

i

пределения видно, что max pi p4 4 /7 , то есть x4 = 4 – мода.

i

5. Используя определение центрального момента третьего порядка и свойство 7 математического ожидания, имеем

3 M( M )3 (xi M )3 pi

Задача 2.2. Случайная величина распределена по закону, определяемому плотностью распределения вероятностей вида

Найти константу c, моду, медиану и верхнюю квантиль случайной величины , а также математические ожидания и дисперсии случайных величин и = 4 5.

50