Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Основы стохастического анализа. Учебное пособие
.pdf
Ãëàâà 1. Основы современной теории âåðîятностеé 21
Пример 1.10.
Найдем математическîå îжидание è дисперсию нормаль-
íîãî распределения. Ðассмотрим ñíà÷àëà (ñòандартную) нормальную ñëó-
чайную величинуηñ параметрами
µ = 0,σ2= 1:η ∼ N (0, 1)
. Èç ñîîá-
ðàæåíèé симметрии (
f(x) = f (−x)
) ÿñíî, ÷òî
Eη =
w
∞
−∞
xf(x) dx = 0.
Далее,
Dη = E(η2) =
1
√
2π
w
∞
−∞
x2e
−x2/2
dx = −
1
√
2π
w
∞
−∞
x de
−x2/2
=
1
√
2π
w
∞
−∞
e
−x2/2
dx = 1.
Последнее равенство вытекàåò èç òîãî, ÷òî
(2π)
−1/2e−x2/2
плотность
âåðîятностного распределения (ñì. òàêæå óïð. 1.13).
Случайная величина
ξ = µ + ση
имеет нормальное распределение ñ
параметрамиµ,
σ2:
ξ ∼ N (µ, σ2)
. Действительно,
Pξ([a, b]) = P(µ + ση ∈ [a, b]) = P(η ∈ [(a − µ)/σ, (b − µ)/σ])
=
1
√
2π
w
(b−µ)/σ
(a−µ)/σ
e
−x2/2
dx.
Сделаем замену переменных
x = (y − µ)/σ
:
Pξ([a, b]) =
1
√
2πσ
w
b
a
exp
−(y − µ)
2
2σ
2
dy.
Òàêèì образом,
Pξимеет нужную плотность.
Математическîå îжидание è дисперсияξвычисляютсÿ очевидным îá-
разом:
Eξ = µ + σEη = µ,
Dξ = E(ξ − µ)2= σ2Eη2= σ2.
Пример 1.11.
Ïóñòü
ξ : Ω 7→ Rd непрерывная случайная величина ñ
плотностью
fξè ïóñòü
η = µ + Aξ
, ãäå
µ ∈ RdèA обратимая
d × d
матрица. Ïîêàæåì, ÷òîη непрерывная случайная величина è íайдем
åå плотность.
22 1.2. Случайные величины, интегрирование, õарактеристические функции
Ïóñòü
g : Rd7→ R
ограниченная борелевскàÿ функция. Вычисление
Eg(η) = Eg(µ + Aξ) =
w
R
d
g(µ + Ax) fξ(x) dx
=
w
R
d
g(y)fξ(A−1(y − µ)) det(A−1) dy
ïîêазывает, ÷òî
fη(y) =
1
det A
fξ(A−1(y − µ))
(1.2.3)
плотностьη. Здесь
det A
определитель матрицыA.
Õàðактеристической функцией
случайной величины
ξ : Ω 7→ Rdíà-
зываетсÿ преобразование Фурье åå распределения:
ϕξ(u) = Ee
ihu,ξi
=
w
R
d
e
ihu,xi
Pξ(dx).
Здесь
hu, xi
обычное ñêалярное произведение â
Rd.
•
Ðаспределение
Pξîднозна÷íî восстанавливаетсÿ ïî своей õаракте-
ристическîé функции (теорема единственности).
Ïîñêольку õарактеристическàÿ функция îднозна÷íî определяетсÿ ðàñ-
пределением, ìîæíî называть åå òàêæå õарактеристическîé функцией
распределения.
Пример 1.12.
Найдем õарактеристическую функцию нормального ðàñ-
пределения. Ïóñòü
η ∼ N (0, 1)
. Òîãäà
ϕη(u) = Ee
iuη
=
1
√
2π
w
R
e
iuxe−x2/2
dx,
ϕ
0
η
(u) = iE(ηe
iuη
) =
i
√
2π
w
R
xe
iuxe−x2/2
dx = −
i
√
2π
w
R
e
iuxde−x2/2
= −
u
√
2π
w
R
e
iuxe−x2/2
dx = −uϕη(u).
Ðåøàÿ дифференциальное уравнение
ϕ
0
η
(u) = −uϕη(u)
ñ íàчальным óñëî-
âèåì
ϕη(0) = 1
, íàõîäèì
ϕη(u) = e
−u2/2
.
Ãëàâà 1. Основы современной теории âåðîятностеé 23
Чтобы найти õарактеристическую функцию произвольного нормаль-
íîãî распределения, рассмотрим случайную величину
ξ = µ + ση ∼
N(µ, σ2)
:
ϕξ(u) = e
iuµEeiuση
= e
iµu−σ2u2/2
.
(1.2.4)
Характеристическую функцию ìîæíî использовать äëÿ вычисления
математическîãî îжидания è дисперсии, òàê êàê
ϕ
0
ξ
(0) = iEξ, ϕ
00
ξ
(0) = −Eξ2.
(1.2.5)
Например, äëÿ
ξ ∼ N (µ, σ2)
â ñèëó (1.2.4) имеем
ϕ
0
ξ
(u) = (iµ − σ2u)e
iµu−σ2u2/2
, ϕ
00
ξ
(u) = [(iµ − σ2u)2− σ2]e
iµu−σ2u2/2
.
Следовательно,
Eξ = −iϕ
0
ξ
(0) = µ, Eξ2= −ϕ
00
ξ
(0) = µ2+ σ2,
Dξ = Eξ2− (Eξ)2= σ2.
Пример 1.13.
Найдем математическîå îжидание è дисперсию распреде-
ления Ïóассона, используÿ аппарат õарактеристических функций. Ïóñòü
ξ ∼ Π(λ)
. Òîãäà
ϕξ(u) = Ee
iuξ
=
∞
X
k=0
e
iuk
λ
k
k!
e−λ= e
−λ
∞
X
k=0
(λeiu)
k
k!
= exp(−λ + λeiu),
ϕ
0
ξ
(u) = λieiuexp(λ(eiu− 1)), ϕ
00
ξ
(u) = (−λeiu+ (λieiu)2) exp(λ(eiu− 1)).
Ïî формуëàì (1.2.5),
Eξ = −iϕ
0
ξ
(0) = λ, Eξ2= −ϕ
00
ξ
(0) = λ + λ2,
Dξ = E(ξ2) −(Eξ)2= λ.
Наименьшаяσ-алгебра
Fξ= σ(ξ)
, ñîäåðæàùàÿ события
{ξ ∈ B}
,
B ∈ B(Rd)
, называетсÿσ-алгеброй,
порожденной
случайной величиной
ξ
. Случайные величины
ξi: Ω 7→ R
d
i
,
i = 1, . . . , n
называютсÿ
независи-
ìûìè
, åñëè независимы ïîðîжденные èìèσ-алгебры, ò.å.
P(A1∩ ··· ∩ An) =
n
Y
k=1
P(Ak), Ai∈ F
ξ
i
.
24 1.2. Случайные величины, интегрирование, õарактеристические функции
Эквивалентным образом ìîæíî потребовать независимости прообразоов
борелевских ìíîæåñòâ:
P(ξ
−1
1
(B1) ∩··· ∩ ξ
−1
n
(Bn)) =
n
Y
k=1
P(ξ
−1
k
(Bk)) =
n
Y
k=1
P
ξ
k
(Bk), Bi∈ B(R
d
i
).
Äëÿ вектор-функции
ξ = (ξ1, . . . , ξn) : Ω 7→ Rdраспределение
Pξчасто
называют
совместным ðаспределениеì
ñêалярных случайных величин
ξi, à распределения
P
ξ
i
маргинальными ðàñпределениямиξ.
Åñëè êомпоненты
ξiнезависимы, òî совместное распредåëåíèå равно
произведению маргинальных распределåíèé:
Pξ(B1× ··· × Bn) =
n
Y
k=1
P
ξ
k
(Bk).
Òàêèì образом, â ýòî случае âåðîятностное пространство
(Rd, B(Rd), Pξ)
являетсÿ ïðÿìûì произведением пространств
(R, B(R), P
ξ
k
),k = 1, . . . , d
.
Äëÿ непрерывных случайных величин плотностьfсовместного распре-
деления равна произведению плотностей
fkêомпонент:
f(x1, . . . , xd) =
d
Y
k=1
fk(xk).
Ýòî интуитивно ÿñíî èç следующего формального равенства:
Pξ(dx1× ··· × dxn) = f(x1, . . . , xn)dx1. . . dxn=
n
Y
k=1
P
ξ
k
(dxk)
=
n
Y
k=1
fk(xk)dxk= f1(x1) . . . fn(xn)dx1. . . dxn.
Åùå îäèí способ выразить независимость (ñêалярных) случайных âå-
личин
ξ1, . . . , ξnсостоит â òîì, чтобы потребовать выполнение равенства
E(g1(ξ1) . . . gn(ξn)) =
n
Y
k=1
Egk(ξk)
äëÿ любых (ограниченных) борелевских функций
gk. Â частности, õà-
рактеристическàÿ функция совместного распределения вектора, ñîñòàâ-
Ãëàâà 1. Основы современной теории âåðîятностеé 25
ленного èç независимых случайных величин, равна произведению õàðàê-
теристических функций êомпонент:
ϕξ(u) = Ee
ihu,ξi
= E
n
Y
k=1
e
iukξ
k
=
n
Y
k=1
Ee
iukξ
k
=
n
Y
k=1
ϕ
ξ
k
(uk).
(1.2.6)
Èç упомянутой теоремы единственности вытекàåò, ÷òî верно è обрат-
íîå утверждение, ò.å. равенство (1.2.6) являетсÿ критерием независимо-
ñòè
(ξ1, . . . , ξn)
. Действительно, ïóñòü
ϕξ(u) =
n
Y
k=1
ϕ
ξ
k
(uk).
Íî преобразование Фурье ìåðû
P
ξ
1
⊗ ··· ⊗ P
ξ
n
òàêæå имеет âèä
n
Y
k=1
ϕ
ξ
k
(uk).
Òîãäà ïî теореме единственности,
Pξ= P
ξ
1
⊗ ··· ⊗ P
ξ
n
, ÷òî è îçíà÷àåò
независимость
ξ1, . . . , ξn.
Пример 1.14.
Ïóñòü
(η1, . . . , ηd)
независимые ñòандартные нормаль-
íûå случайные âåëè÷èíû,A
d × d
матрица è
µ ∈ Rd. Найдем õàðàê-
теристическую функцию вектора
ξ = µ + Aη
:
ϕξ(u) = e
ihu,µiEeihu,Aηi
= e
ihu,µiEeihATu,ηi
= e
ihu,µi
d
Y
k=1
Ee
i(ATu)kη
k
= e
ihu,µi
d
Y
i=1
e
−(ATu)
2
i
/2
= e
ihu,µie−kATuk2/2
= e
ihu,µi−hΣu,ui/2
, Σ = AAT.
Через
kuk =phu, ui
обозначаетсÿ норма вектора.
Ýòà формуëà мотивируåò следующее определение. Векторξназыва-
åòñÿ
гауссовским
, åñëè
ϕξ(u) = e
ihu,µi−hΣu,ui/2
,
ãäå
µ ∈ RdèΣ симметричная неотрицательно определенная матрица.
Используåòñÿ обозначение
ξ ∼ N (µ, Σ)
.
26 1.2. Случайные величины, интегрирование, õарактеристические функции
Ïóñòü
e1= (1, . . . , 0), . . . , ed= (0, . . . , 1)
ñòандартный базис â
Rd.
Найдем õарактеристические функции êомпонент ãàóссовскîãî вектора:
ϕ
ξ
j
(uj) = ϕ(ujej) = e
iµjuj−Σjju
2
j
/2
.
Ðавество (1.2.6) равносильно следующему:
hΣu, ui =
d
X
j=1
Σjju
2
j
.
Òàêèì образом, независимость êомпонент ãàóссовскîãî вектора равно-
сильна òîìó, ÷òî матрицаΣявляетсÿ диагональной.
Используÿ равенства
∂ϕ
ξ
∂u
j
(0) = iEξj,
∂2ϕ
ξ
∂uj∂u
k
(0) = −E(ξjξk),
нетруäíî найти математическîå îжиданиеEξè
ковариационную матри-
öó
Cov(ξ)
j,k
:= E[(ξj− Eξj)(ξk− Eξk)] = E(ξjξk) −EξjEξ
k
ãàóссовскîãî вектора (óïð. 1.21):
Eξ = µ, Cov(ξ) = Σ.
(1.2.7)
Пример 1.15.
Ïóñòü
ξ ∼ N (µ, Σ)èΣ
обратима. Ïîêàæåì, ÷òîξ
непрерывная случайная величина è найдем åå плотность.
Известно, ÷òî существуåò единственная ñèììåòðè÷íàÿ неотрицатель-
íî определенная матрица
Σ
1/2
, óдовлетворяющая óсловию
(Σ
1/2)2
= Σ
.
Ïóñòü
(η1, . . . , ηd)
независимые îдномерные ñòандартные нормальные
случайные величины. Вычислениÿ примера 1.14 ïîêазывают, ÷òî
ξ := µ + Σ
1/2
η ∼ N (µ, Σ).
Òàêèì образом, äîñòаточно óêазать плотностьξ. Äëÿ ýòî воспользуåìñÿ
формуëîé (1.2.3):
fξ(x) = fξ(x) =
1
det(Σ
1/2
)
f
η
Σ
−1/2
(x − µ).
Ãëàâà 1. Основы современной теории âåðîятностеé 27
Здесь
Σ
−1/2
= (Σ
1/2)−1
. Íî
fη(y) =
d
Y
j=1
1
√
2π
e
−y
2
j
/2
=
1
(2π)
d/2
e
−kyk2/2
.
Òàêèì образом,
fξ(x) =
1
det(Σ
1/2
)1(2π)
d/2
e
−kΣ
−1/2
(x−µ)k2/2
=
1
(2π)
d/2
det(Σ)
1/2
e
−hΣ−1(x−µ),(x−µ)i/2
.
(1.2.8)
1.3 Ñõîдимость случайных величин
Ãîâîðÿò, ÷òî íåêоторое свойство выполнено
почти всюду
(ï.â.) èëè
почти наверное
(ï.í.), åñëè îíî ìîæåò нарушатьсÿ ëèøü íà ìíîæåñòâå
íóлевой âåðîятности. Случайные величины называютсÿ
эквивалентны-
ìè
, åñëè îíè совпадают ï.í. Ìíîæество (классов эквивалентности) ñëó-
чайных величин
ξ : Ω 7→ Rd, óдовлетворяющих óсловию
Ekξkr< ∞
обозначаетсÿ через
Lr= Lr(Ω, F , P, Rd)
. Пространства
Lrñ нормой
kξkr= (Ekξkr)
1/r
, r ≥ 1
являютсÿ банаховыми (ò.å. полными линейными нормированными ïðî-
странствами).
Последовательность случайнûõ величин
ξnназываетсÿ ñõîдящейсÿ ê
ξ
•
ñ вероятностьþ 1
(èëè
ï.í.
) :
ξ
n
ï.í.
→ ξ
, åñëè
P{ω : lim
n→∞
ξn(ω) = ξ(ω)} = 1;
•
ïî вероятности:ξ
n
P
→ ξ
, åñëè
lim
n→∞
P{ω : kξn(ω) −ξ(ω)k ≥ ε} = 0;
•
â среднеì порядкаr(èëèâLr):
ξ
n
L
r
→ ξ
, (
0 < r < ∞
), åñëè
lim
n→∞
E(kξn− ξkr) = 0;
28 1.3. Ñõîдимость случайных величин
•
ïî ðаспределению:ξ
n
d
→ ξ
, åñëè
lim
n→∞
Eg(ξn) = Eg(ξ)
äëÿ любой
ограниченной непрерывной ôóíêöèè
g : Rd7→ R
.
Соотношение между этими видами ñõîдимости описываетсÿ следую-
ùèì образом:
•
ñõîдимость ñ âåðîятностью 1
=⇒
ñõîдимость ïî âåðîятности
=⇒
ñõîдимость ïî распределению;
•
ñõîдимость â среднем ïîðÿäêà
r =⇒
ñõîдимость ïî âåðîятности;
•
åñëè
ξn→ ξ
ïî âåðîятности, òî существуåò ïîдпоследовательность
ξ
n
k
, ñõîдящаясÿ êξñ âåðîятностью 1.
Приведем примеры, ïîêазывающие, ÷òî стрелки нельзя обратить.
Пример 1.16.
Пример последовательности
ξn, ñõîдящейсÿ ê0ïî âåðî-
ятности (è äàæå â
Lr), íî íå ñ âåðîятностью1.
Íà пространстве
((0, 1), B((0, 1)), λ)
, ãäåλ ìåðà Лебегà, рассмотрим
последовательность
ξ1= I
(0,1/2)
, ξ2= I
[1/2,1)
,
ξ3= I
(0,1/3)
, ξ4= I
[1/3,2/3)
, ξ5= I
[2/3,1)
, . . .
Ëåãêî видеть, ÷òî
E|ξn|r→ 0
(è çíà÷èò
ξ
n
P
→ 0
), íî
lim sup
n→∞
ξn(ω) = 1, lim inf
n→∞
ξn(ω) = 0
äëÿ âñåõ
ω.
Пример 1.17.
Пример последовательности, ñõîдящейсÿ ïî ðàñïределе-
íèþ, íî íå ïî âåðîятности.
Ïóñòü
P(ξ = 1) = P(ξ = 0) = 1/2
. Ðассмотрим последовательность
ξn= ξ,n ≥ 1
è ñ.â.
η = 1 −ξ
. ßñíî, ÷òî
ξ
n
d
→ η
, ò.ê.
ξ ∼ η
. Íî
|ξn−η| = 1
.
Çíà÷èò ñõîдимости ïî âåðîятности íåò.
Пример 1.18.
Пример ïîñëåäовательности, ñõîдящейсÿ ïî âåðîятности,
íî íå â
L1.
Ðàññмотриì âåðîятностное пространство
([0, 1], B([0, 1]), λ)
, ãäåλ
ìåðà Ëåáåãà. Последовательность
ξn= nI
[0,1/n]
ñõîäèòñÿ ê 0 ïî âåðîÿòíî-
ñòè:
P(|ξn| ≥ ε) ≤ 1/n → 0, n → ∞,
Ãëàâà 1. Основы современной теории âåðîятностеé 29
íî íå â
L1:
E|ξn| = 1.
Пример 1.16 ïîêазывает òàêæå, ÷òî èç ñõîдимости â
Lr,
r > 0
íå
вытекàåò ñõîдимость ï.í., à пример 1.18 ïîêазывает, ÷òî èç ñõîдимости
ï.í. íå вытекàåò ñõîдимость â
Lr.
Известно òðè основных ðåçóëüòàòà î предельном перехîäå ïîä çíàêîì
интеграла (математическîãî îжидания):
•
Òåîðåìà î монотонной сходимости
: ïóñòü
0 ≤ ξn% ξ
ï.í., òîãäà
Eξ = lim
n→∞Eξn
.
•
Òåîðåìà î мажорируеìîé сходимости
: ïóñòü
|ξn| ≤ η,Eη < ∞
è
ξ
n
P
→ ξ
, òîãäà
Eξ = lim
n→∞Eξn
.
•
Ëåììà Ôàòó
: ïóñòü
ξn≥ 0
, òîãäà
E lim inf
n→∞ξn
≤ lim inf
n→∞Eξn
.
Èç теоремы î ìàæорируåìîé ñõîдимости вытекàåò, ÷òî ñõîдимость ïî
âåðîятности влечет ñõîдимость ïî распределению. Åñëè æå использовать
íåðавенство Чебыш¼ва
:
P(|ξ| ≥ A) ≤
E|ξ|
r
A
r
, r > 0, A > 0,
(1.3.1)
òî èç ñõîдимости â среднем ïîðÿäêàrëåãêî вывести ñõîдимость ïî âå-
ðîятности (óïð. 1.22).
Пример 1.19.
Äîêàæåì
ëåììó Áîðåля-Кантеëëè
: åñëè
P
∞
n=1
P(An) <
∞
, òî
P({ω : ω ∈ Anäëÿ áåñêонечного набора
n}) = P
∞
X
n=1
I
A
n
= ∞!= 0.
Ïî теореме î монотонной ñõîдимости
E
∞
X
n=1
I
A
n
=
∞
X
n=1
EI
A
n
=
∞
X
n=1
P(An) < ∞.
Следовательно,
P
∞
n=1
I
A
n
íå ìîæåò áûòü áåñêонечной íà ìíîæестве ïî-
ëîжительной âåðîятности.
30 1.3. Ñõîдимость случайных величин
Èç теоремы î ìàæорируåìîé ñõîдимости вытекàåò, ÷òî ñõîдимость
ξ
n
d
→ ξ
влечет ñõîдимость õарактеристических функций:
ϕ
ξ
n
(u) → ϕ(u)
,
n → ∞
ïðè âñåõu. Обратное утверждение играет ключевую ðîëü ïðè
äîêазательстве предельных теорем.
•
Òåîðåìà непрерывности
: åñëè
ϕ
ξ
n
(u) → ϕ(u),n → ∞
ïðè âñåõu, òî
ξ
n
d
→ ξ
.
Пример 1.20.
Ïóñòü
(ξk)
∞
k=0
независимые îдинакîâî распределенные
случайные величины,
Eξn= 0,Dξn= 1
. Äîêàæåì
центральную предеëü-
íóþ òåîðåìó
:
S
n
√
n
:=
1
√
n
(ξ1+ ··· + ξn)d→ η ∼ N (0, 1).
(1.3.2)
Ïóñòü
ξj∼ ξ
. Следующее вычисление
ϕ
Sn/√n
(u) = E
n
Y
j=1
e
iuξj/√n
=
n
Y
j=1
Ee
iuξj/√n
= (Ee
iuξ/√n)n
=E1 +
iuξ
√
n
−
12u2ξ
2
n
+ o
1
n
n
=1 −
12u
2
n
+ o
1
n
n
= expn ln1 −
u
2
2n
+ o
1
n
→ e
−u2/2
, n → ∞
ïîêазывает, ÷òî
ϕ
Sn/√n
(u) → ϕη(u)
(ñì. пример 1.12). Ïî теореме непре-
рывности îòñþäà вытекàåò (1.3.2).
Пример 1.21.
Ðассмотрим
ñõåìó серий:Sn= ξ
1,n
+ · · ·+ ξ
n,n
,
n ≥ 1
, ãäå
ξ
1,n
, . . . , ξ
n,n
независимые îдинакîâî распределенные бернуллиевские
случайные величины:
P(ξ
k,n
= 1) = pn, P(ξ
k,n
= 0) = qn, 1 ≤ k ≤ n, pn+ qn= 1.
Ïóñòü
pn→ 0,npn→ λ > 0,n → ∞
. Äîêàæåì
теореìó Пуассона
:
S
n
d
→ η ∼ Π(λ).
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]