ещё пара методичек / tv_Malov

плотность распределения распадается в произведение плотностей, т.е. для любых x1, x2, . . . , xn IR

pξ1,ξ2,...,ξn (x1, x2, . . . , xn) = pξ1 (x1)pξ2 (x2) · . . . · pξn (xn).

Рассмотренные в задаче 1 (с. 15) случайные величины ξ и η зависимы, поскольку, например P(ξ = −1, η = −1) 6= P(ξ = −1)P(η = −1), (0, 1 6= 0, 25 · 0, 35).

Отметим, что компоненты случайного вектора могут быть независимы• ми только если любой носитель его распределенния с точностью до событий вероятности 0 представляется как прямое произведение носителей распре• делений компонент.

Из плотностей, рассмотренных в задачах 2-4 (с. 17-19), компоненты век• тора (ξ, η) являются независимыми только в первой из них. Плотность, рассмотренная в задаче 2, может быть переписана в виде

pξ,η(x, y) = 1I[0,1]×[0,1](x, y) = 1I[0,1](x)1I[0,1](y) = pξ(x)pη(y), x, y IR,

где индикатор-функция 1IA(x) определяется равенством

Условной плотностью распределения случайной величины ξ при условии {η = y} называется функция, определенная при y : pη(y) > 0:

При остальных значениях y IR данная функция может быть определе• на произвольно, например, как тождественный 0. Согласно определению,

pξ,η(x, y) = pξ | η=y(x) pη(y) для любых вещественных x и y. Аналогично определяется условная плотность одного случайного вектора относитель•

но другого. Совместная плотность распределения может быть разложена в произведение:

pξ1,ξ2,...,ξn (x1, x2, . . . , xn) = pξn | ξ1=x1,...,ξn−1=xn−1 (xn)×

×pξn−1 | ξ1=x1,...,ξn−2=xn−2 (xn−1) · . . . · pξ1 (x1), x1, x2, . . . , xn IR.

В дискретном случае определение условной плотности согласуется с опреде• лением условных вероятностей, данным в разд. 2. Проинтегрировав услов• ную плотность, получаем условную функцию распределения:

x

Z

Fξ|η=y(x) = pξ | η=y(t) Q(dt), x IR,

−∞

где Q доминирующая мера.

Рассмотрим механизм появления условных функций распределения и плотностей на примере абсолютно непрерывных распределений. Вводим условные функции распределения величны ξ при условии событий {y < η ≤y+h} при всех достаточно малых положительных значениях h:

21

y

Данное определение корректно, если P(y < η ≤ y + h) > 0. Разделив числитель и знаменатель на приращение h и перейдя к пределу, получим соотношение

которое определяет условную функцию распределения величины ξ при условии {η = y} для всех y, принадлежащих носителю распределения η. Продифференцировав данное равенство по x, получаем условную плот• ность.

Все свойства плотностей и функций распределения имеют место, соответственно, для условных плотностей и функций распределения на носите• ле распределения η.

Для вычисления функции распределения или плотности суммы случай• ных величин можно использовать формулу полной вероятности для функ• ций распределения или плотностей соответственно:

∞

Z

Fξ+η(t) = Fξ | η=y(t − y) pη(y) dy

−∞

или

∞

Z

pξ+η(t) = pξ | η=y(t − y) pη(y) dy.

−∞

Последняя формула в случае независимых случайных величин ξ и η пред• ставляет собой свертку плотностей

∞

Z

pξ+η(x, y) = pξ(t − y) pη(y) dy.

−∞

Важной числовой характеристикой пары случайных величин является ковариация, определяемая равенством

cov(ξ, η) = E (ξ − E ξ)(η − E η) = E ξη − E ξ E η.

Наряду с ковариацией рассматривается коэффициент корреляции:

cov(ξ, η) r(ξ, η) = √ ,

D ξ D η

22

который является мерой линейной зависимости величин ξ и η. В силу нера• венства Коши-Буняковского коэффициент корреляции по модулю не пре• вышает 1. Если величины ξ и η независимы, то cov(ξ, η) = r(ξ, η) = 0. Обратное, вообще говоря, не верно. Когда величины ξ и η линейно зависи• мы, т.е. ξ = c η при некотором вещественном c 6= 0, коэффициент корреля• ции равен 1 при c > 0 и равен −1 при c < 0. Отметим, что ковариация и коэффициент корреляции не меняются при сдвиге, т.е. при добавлении к величинам ξ и η некоторых констант. Кроме того, отметим, что изменение масштаба измерений (т.е. домножение величин ξ и η на некоторые поло• жительные константы) не влияет на значение коэффициента корреляции, ковариация же при этом изменяется.

1. Вычислим условное распределение η при условии ξ, если их совмест• ная плотность задана таблицей в задаче 1 (c. 15). В силу тривиальности вычислений приведем лишь ответ:

Распределения компонент ξ и η, полученные в задаче 1 (с. 15), дают нам их математические ожидания:

E ξ = −0, 25 + 0, 4 = 0, 15, E η = −0, 35 + 0, 4 + 0, 2 = 0, 25,

и дисперсии:

D ξ = 0, 25+0, 4−0, 0225 = 0, 6275, D η = 0, 35+0, 4+0, 4−0, 0625 = 1, 0875.

Тогда ковариация данных величин:

cov(ξ, η) = E ξη−E ξ E η = (0, 1−0, 05−0, 2+0, 15)−0, 0375 = −0, 0375.

Далее вычисляем коэффициент корреляции:

p

r(ξ, η) = −0, 0375/ 0, 6275 · 1, 0875 ≈ −0, 0454.

Следовательно, между величинами ξ и η практически нет линейной зави• симости.

Используя условные распределения, полученные ранее, можно найти условные математические ожидания величины ξ при условии различных значений величины η:

E (ξ | η = −1) = −1 · 0, 4 + 0 · 0, 4 + 1 · 0, 2 = −0, 2.

Аналогично, E (ξ | η = 0) = 1, а E (ξ | η = 1) = 1/8. Нетрудно показать, что

E η = E (ξ | η = −1)P(η = −1)+E (ξ | η = 0)P(η = 0)+E (ξ | η = 1)P(η = 1).

Последнее равенство является частным случаем общей формулы

∞

Z

E η = E (η | ξ = x) pξ(x) Q(dx).

−∞

23

2. Вычислим условное распределение величины ξ при условии η, если вектор (ξ, η) имеет равномерное распределение в треугольнике с вершина• ми (−1, 0), (0, 1) и (1, 0), т.е. плотность распределения постоянна в данном треугольнике (равна 1, поскольку площадь треугольника равна 1) и равна 0 в остальных случаях. Вычислим сначала функции распределений компо• нент ξ и η:

Используя определение, получаем выражение для условной плотности при y [0, 1):

1

pξ|η=y(x) = pξ,η(x, y)/pη(y) = 2(1 − y), x (−(1 − y), 1 − y),

0 в остальных случаях.

Далее вычислим математические ожидания и дисперсии компонент ξ и η:

Следовательно, r(ξ, η) = 0. В то же время отметим, что данные величи• ны являются зависимыми. Условное математическое ожидание величины ξ при условии {η = y} при каждом y [0, 1] имеет вид

Гамма-функцией Эйлера называется функция, заданная на положитель• ной полуоси x > 0 равенством

Гамма-функция обладает следующими замечательными свойствами.

√

1◦. (1) = 1, (1/2) = π.

24

2◦. (p + 1) = p (p) для всех p > 0. В частности, (n − 1)! = (n).

Семейство распределений с плотностями вида

γ(x, α, ν) = αν xν−1 exp(−αx)/ (ν), x > 0,

где α > 0 и ν > 0 некоторые параметры, называется семейством гамма• распределений. Данное семейство играет важную роль в математической статистике.

Рассмотрим следующую задачу.

3. Пусть ξ, η независимые случайные величины с плотностями рас• пределения γ(x, α, ν) и γ(x, α, µ) соответственно. Найдем распределение суммы ξ + η. Ясно, что эта сумма неотрицательна, т.е. pξ+η(t) = 0 при t ≤ 0. Используя формулу свертки, вычислим плотность распределения

ξ + η при t > 0:

Последний интеграл не зависит от x, т.е. является постоянным множите• лем. Следовательно, функция pξ+η(x) отличается от γ(x, α, ν + µ) лишь по• стоянным множителем, который равен 1, поскольку обе функции являются плотностями распределения. Итак, мы доказали, что гамма-распределения обладают свойством замкнутости при фиксированном α, т.е. сумма неза• висимых случайных величин, имеющих гамма-распределение, тоже будет иметь гамма-распределение. Попутно была показана связь гамма-функции с бета-функцией, определяемой соотношением

Отметим, что плотность распределения квадрата величины, имеющей стандартное нормальное распределение (см. задачу 4, с. 12),– γ(x, 1/2, 1/2), а плотность стандартного экспоненциального распределения, рассмотрен• ного в задачах 2 (с. 11) и 5 (с. 13), является гамма-плотностью γ(x, 1, 1). В статистике большую роль играет распределение χ2n, определяемое как рас• пределение суммы квадратов n независимых случайных величин, которые имеют стандартное нормальное распределение. Таким образом, плотность распределения χ2n равна γ(x, 1/2, n/2).

Рассмотрим еще одну задачу, имеющую приложения в математической статистике.

4. Предположим, что случайные величины ξ и η независимы, имеют плотности распределения pξ(x) и pη(x) соответственно и pη(x) = 0 при

25

x < 0. Вычислим распределение частного ξ/η. С учетом положительности η и независимости рассматриваемых величин, запишем:

Продифференцировав по t, получаем выражение для плотности

Далее рассмотрим два важных распределения, применяемых в матема•

тонность "квадратного корня"на положительной полуоси, для вычисления

√

плотности величины η = ζ можно воспользоваться√стандартной форму• лой (см. разд. 2) pη(x) = 2x γ(x2, 1/2, n/2). Величина n ξ имеет плотность

Данная плотность называется плотностью распределения Стьюдента с n степенями свободы.

6. Предположим, что случайные велчины ξ и η независимы и имеют распределения с плотностями γ(x, 1/2, n/2) и γ(x, 1/2, m/2), где m и n некоторые натуральные числа. Отметим, что носитель распределения част• ного случайных величин ξ и η положительная полупрямая. Воспользо• вавшись результатами задачи 4 (c. 26), вычислим распределение частного при x > 0:

26

2 2 (1 + x)m/2+n/2

def m

Функция p(x) = n pξ/η(mx/n) называется плотностью распределения

Снедекора.

Задачи для самостоятельного решения

7. Случайный вектор (ξ, η) имеет двухмерное дискретное распределение, заданное таблицами (варианты а) и б)):

Проверить, являются ли компоненты вектора (ξ, η) независимыми; вычис• лить условные распределения ξ при условии η и η при условии ξ, а также коэффициент корреляции r(ξ, η) и условное математическое ожидание ξ при различных значениях η.

8. Проверить, являются ли независимыми компоненты вектора (ξ, η); вычислить условные распределения ξ при условии η и η при условии ξ и коэффициент корреляции r(ξ, η), если их совместная плотность распреде• ления имеет вид:

27

9. Пусть ξ и η независимые одинаково распределенные случайные величины, имеющие стандартное нормальное распределение. Вычислить распределения следующих комбинаций данных величин:

а) 2ξ + 3η, б) ξ − η, в) ξ/2η, г) ξη.

5.Условные математические ожидания

ивероятности

Пусть (Ω, F, P) вероятностное пространство. Выберем событие A F : P(A) > 0. Сузив множество элементарных исходов до множества A, полу• чаем новую вероятностную меру PA, выражаемую через P соотношением PA(B) = P(AB)/P(B) для любого B F, что согласуется с определе• нием условной вероятности, данным в разд. 2. Пусть случайная величина ξ, заданная на вероятностном пространстве (Ω, F, P), имеет функцию рас• пределения F . Тогда относительно меры PA данная случайная величина будет иметь функцию распределения Fξ | A(x) = = P(ξ < x, A)/P(A) при всех x IR, которая называется условной функцией распределения вели• чины ξ при условии события A. Проинтегрировав величину ξ по условной мере, получаем условное математическое ожидание случайной величины ξ при условии события A:

Далее рассмотрим разбиение множества Ω на непересекающиеся подмно• жества A1, A2, . . . , An, n IN, имеющие ненулевые вероятности. Каждому событию Ak сопоставим условное математическое ожидание величины ξ при условии Ak. Тогда условным математическим ожиданием величины ξ при условии разбиения A = {A1, A2, . . . , An} называется случайная величи• на, сопоставляющая каждой точке множества Ak условное математическое ожидание E (ξ | Ak). Естественно, что данное определение корректно в том и только в том случае, когда E |ξ| < ∞, т.е. когда математическое ожи• дание ξ существует. Ясно, что данная случайная величина дискретна и ее распределение имеет вид

Пусть A F некоторая σ-алгебра. Условным математическим ожи• данием случайной величины ξ при условии σ-алгебры A называется слу• чайная величина E (ξ | A), удовлетворяющая следующим условиям:

1. E (ξ | A) A-измерима.

Z Z

2.E (ξ(ω) | A) P(dω) = ξ(ω) P(dω) для любого события A A.

A A

28

Отметим нетривиальный факт, что если E |ξ| < ∞, то условное матема• тическое ожидание существует и единственно с точностью до множеств нулевой меры.

Первое условие фактически означает, что E (ξ | A) есть функция от эле• ментарных (неделимых) событий σ-алгебры A. Второе условие устанавли• вает согласование между определением условного математического ожида• ния при условии σ-алгебры A с определением условного математического ожидания при условии элементарных событий A через формулу полной вероятности.

Отметим связь условного математического ожидания E(ξ|A) с E(ξ|A):

Z

E (ξ(ω) | A) P(dω) = E (ξ | A)P(A), A A.

A

Вернемся к разбиению множества элементарных исходов на события A1, A2, . . . , An. Выберем в качестве σ-алгебры A минимальную σ-алгебру, содержащую эти события. Тогда условное математическое ожидание любой величины ξ при условии данной σ-алгебры будет совпадать (как отображе• ние вероятностного пространства в вещественную прямую) с ее условным математическим ожиданием относительно разбиения {A1, A2, . . . , An}.

Условной вероятностью события B F при условии σ-алгебры A назы• вается случайная величина P(B |A), удовлетворяющая следующим услови• ям:

1. P(B | A) A-измерима.

Z

2.P(B | A) P(dω) = P(AB) для любого события A A.

A

Поскольку P(B |A) = E (1IB(ω) |A), мы не будем останавливаться отдельно на свойствах условных вероятностей, а рассмотрим лишь свойства услов• ных математических ожиданий.

Условные математические ожидания помимо свойств, аналогичных свой• ствам безусловных математических ожиданий, обладают рядом специфи•

ческих свойств.

1◦. E (ξ | F) = ξ; E (ξ | { , Ω}) = Eξ.

2◦. Eсли ξ не зависит от событий σ-алгебры A, то E (ξ | A) = E ξ. 3◦. Если ξ измерима относительно A, то E (ξ | A) = ξ.

4◦. Если величина ξ измерима относительно σ-алгебры A, то E (ξη | A) = ξ E (η | A) для любой случайной величины η.

5◦. Пусть σ-алгебра A богаче σ-алгебры B, т.е. B A. Тогда

E (E (ξ | A) | B) = E (E (ξ | B) | A) = E (ξ | B).

Рассмотрим случай, когда σ-алгебра A есть σ-алгебра, порожденная слу• чайной величиной η, т.е. минимальная σ-алгебра, содержащая все события вида {η I}, где I произвольное борелевское множество на прямой. По• кажем, как согласуется определение условного математического ожидания

29