Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Основы стохастического анализа. Учебное пособие
.pdf
Ãëàâà 1. Основы современной теории âåðîятностеé 31
Найдем предел õарактеристическîé функции
Sn:
ϕ
S
n
(u) =
n
Y
k=1
Ee
iuξ
k,n
= (pneiu+ qn)n= (1 + pn(eiu− 1))
n
= expn ln1 +
λ
n
(eiu− 1) + o(1))→ e
λ(eiu−1)
, n → ∞.
Òàêèì образом,
ϕ
S
n
(u) → ϕη(u)
: ñì. пример 1.13.
Åñëè требуåòñÿ äîêазать, ÷òî êàêîå-òî свойство выполняетсÿ äëÿ âñåõ
интегрируåìûõF-измеримых случайных величин, òî ìîæíî использо-
âàòü
стандартную òехнику
(standard machine [41]):
•
äîêазать, ÷òî данное свойство верно äëÿ индикаторов
IA,
A ∈ F
,
•
ïî линейности распространить åãî íà неотрицательные простые ôóíê-
öèè,
•
ïî теореме î монотонной ñõîдимости äîêазать, ÷òî îíî верно äëÿ
неотрицательныхF-измеримых функций,
•
используÿ равенство
ξ = ξ+− ξ−, распространиòü åãî íà âñåF-
измеримые функции.
 упражнении 1.7 предлагàåòñÿ äîêазать формуëó замены переменных
(1.2.2), используÿ ñòандартную технику.
Более ñëîæíûé ðåçóëüòàò, êоторый используåòñÿ äëÿ òåõ æå целей,
называетсÿ
теореìîé î монотонноì классе
. Семейство ìíîæåñòâIíà-
зываетсÿπ-систеìîé
, åñëè èç óсловия
A, B ∈ I
вытекàåò, ÷òî
A∩B ∈ I
.
Ðàññмотриì ìíîæествоHограниченных функций
f : Ω 7→ R
ñî ñëåäóþ-
ùèìè свойствами:
(i)
1 ∈ H
,
(ii)H линейное пространство,
(iii) Åñëè
0 ≤ fn↑ f,fn∈ H
, èfограничена, òî
f ∈ H
.
32 1.4. Óñëîâíîå математическîå îжидание
Òеорема î монотонном классе утверждает, ÷òî åñëèHñîäåðæèò индикà-
òîðû
IAìíîæåñòâAíåêоторойπ-системыI, òî îíî ñîäåðæèò âñå îãðà-
ниченные
σ(I)
-измеримые функции.
Ðàññóæäåíèå, основанное íà данной теореме, строитсÿ следующим îá-
разом: åñëè íåêоторое свойство верно äëÿ
IA,
A ∈ I
è ìíîæество
H
ограниченных измеримых функций, äëÿ êоторых îíî верно, обладает
свойствами (i) (iii), òî данное свойство верно äëÿ âñåx ограниченнûõ
σ(I)
-измеримыx функции.
Пример 1.22.
Ðàññìîòðèì âåðîятностные пространства
(Ωi, Fi, Pi),i ∈
1, 2
. Ïóñòü функция
f : Ω1× Ω27→ R
измерима îòíîñèтельно
F1⊗ F2.
Äîêазать, ÷òî функция
f(·, ω2)
являетсÿ
F1-измеримой ïðè âñåõ
ω2.
Ìíîæество функцийH, äëÿ êоторых данное свойство верно, ñîäåðæèò
индикаторы
I
A1×A
2
π
-системы
I = σ(A1× A2: A1∈ F1, A2∈ F2),
ïîðîждающей
F1⊗ F2, è являетсÿ монотонным классом. Çíà÷èòHñî-
äåðæèò âñå ограниченные
F1⊗ F2-ограниченные функции.
Следующая часть рассуждения óæå íå относитсÿ ê теореме î ìîíî-
тонном классе. Любая
F1⊗F2-измеримая функцияfявляетсÿ поточеч-
íûì пределом
F1⊗ F2-измеримых ограниченных функций
fn. Îòñþäà
вытекàåò
F1-измеримость
f(·, ω2)
.
 упражнении 1.8 предлагàåòñÿ äîêазать формуëó замены перемен-
íûõ (1.2.2), используÿ теорему î монотонном классе.
1.4 Óсловнîå математическîå îжидание
Ðàññмотриìσ-алгебру
H ⊂ F
. Ïóñòü
ξ ∈ L1(F ) := L1(Ω, F , P, R)
.
Óñловным ìàòåматическим ожиданиеìξотносительноHназываетсÿ
случайная величина
η ∈ L1(H )
, óдовлетворяющая равенству
E(ξIA) = E(ηIA), A ∈ H .
(1.4.1)
Известно, ÷òî óсловное матемàòè÷åñêîå îжидание существуåò è опреде-
ляетсÿ единственным образом (ñ точностью äî эквивалентности). Ïðè-
Ãëàâà 1. Основы современной теории âåðîятностеé 33
íÿòî обозначение
η = E(ξ|H )
. Èç определения следуåò, ÷òî åñëè
ξ ∈
L1(H )
, òî
E(ξ|H ) = ξ
.
Ðàññìîòðèì гильбертово пространство
L2(F ) = L2(Ω, F , P, R)
, ñî-
ñòîÿùåå èçF-измеримых функций, интегрируåìûõ ñ квадратом. Ñêà-
лярное произведение â
L2(F )
определяетсÿ следующим образом
hξ, ηi = E(ξη).
Ðàññмотриì òàêæåσ-алгебру
H ⊂ F
è соответствующее ïîдпростран-
ñòâî
L2(H ) ⊂ L2(F )
. Ðавенство (1.4.1) ìîæíî переписать â âèäå
E((ξ − η)ζ) = hξ − η, ζ i = 0,
(1.4.2)
ãäåζH- измеримая простàÿ функция, ò.å. линейная êомбинация èí-
äèêаторов
IAìíîæåñòâ
A ∈ H
. Åñëè
ξ, η
квадратично интегрируåìû,
òî ìîæíî расширить класс функцийζäî
L2(H )
.
Òàêèì образом, равенство (1.4.2) ïîêазывает, ÷òî
ξ − η
ортогональ-
íà ïîдпространству
L2(H )
. Ãеометрически ýòî îçíà÷àåò, ÷òîηявляетсÿ
проекциейξíà
L2(H )
. Åñëè рассматриватьσ-алгебру êàê запись èí-
формации, òî ìîæíî ñêазать, ÷òîηявляетсÿ наилучшим среднеквад-
ратическим приближением êξíà основе информации, ñîäåðæащейсÿ â
H
.
Пример 1.23.
Ïóñòü имеетсÿ разбиение
(Ai)
m
i=1
, причем âåðîятностная
ìåðà нагружàåò âñå åãî атомы:
P(Ai) > 0,i = 1, . . . , m
, èHïîðîждаетсÿ
разбиением
(Ai)
m
i=1
. Òîãäà
E(ξ|H ) =
m
X
i=1
E(ξI
A
i
)
P(Ai)
I
A
i
, ξ ∈ L1(F ).
(1.4.3)
Действительно, обозна÷èì правую часть последнего равенства черезη.
Äëÿ любого атома
Ajимеем
E(ηI
A
j
) = E
m
X
i=1
E(ξI
A
i
)
P(Ai)
I
A
i
I
A
j
!
= E
E(ξI
A
j
)
P(Aj)
I
A
j
= E(ξI
A
j
).
Любое ìíîæество
A ∈ H
являетсÿ объединением атомов
Aj. Îòñþäà
вытекàåò, ÷òî справедëèâî равенство (1.4.1).
Формуëà (1.4.3) ïîêазывает, ÷òî вычисление óсловного математиче-
ñêîãî îжидания ñâîäèòñÿ ê óсреднениюξïî атомам разбиения.
34 1.4. Óñëîâíîå математическîå îжидание
Óñловной âåðîÿòностью
P(B|H )
события
B ∈ F
относительно
H
называетсÿ óсловное математическîå îæидание åãî индикàòîðà:
P(B|H ) := E(IB|H ).
 частности, â ñèòóàöèè примера 1.23,
P(B|H ) =
m
X
i=1
E(IB∩ I
A
i
)
P(Ai)
I
A
i
=
m
X
i=1
P(B|Ai)I
A
i
.
Ðàññìîòðèìσ-алгебру
Fη, ïîðîжденную ñëó÷àéíîé величиной
η :
Ω 7→ Rdè
Fη-измеримую функцию
ζ : Ω 7→ R
. Ïî
ëåììå Äóáа-Дынкина
существуåò борелевскàÿ функция
g : Rd7→ R
òàêàÿ, ÷òî
ζ = g(η)
. Òàêèì
образом, ìîæíî утверждать, ÷òî
E(ξ|η) := E(ξ|Fη) = g(η)
äëÿ íåêоторой борелевскîé функцииg. Вычисление óсловного матемà-
тическîãî îжидания â ýòîì случае ñâîäèòñÿ ê отыскàíèþ функцииg.
Формальная запись
g(x) = E(ξ|η = x)
óêазывает íà òî, ÷òî çíàчение
g(x)
равно математическîìó îжиданию
ξ
ïðè óсловии, ÷òîηпринимает çíàчениеx. Ïðè ýòîì âåðîятность события
{η = x}
ìîæåò áûòü равна íóëþ. Ïîñêольку индикàòîð
IA,
A ∈ F
η
òîæå ìîæåò áûòü представлен â âèäå
h(η)
, òî óсловие (1.4.1) ìîæåò áûòü
выражåíî следующим образом:
E(E(ξ|H )h(η)) = E(ξh(η)),
ãäåh произвольная ограниченная борелевскàÿ функция.
Функция
Q : Rm× B(Rd) 7→ [0, 1]
называетсÿ
переходной вероятно-
ñòüþèçRmâ
Rd, åñëè
•
ïðè любом
B ∈ B(Rd)
функция
y 7→ Q(y, B)
являетсÿ
B ∈ B(Rm)
-
измеримой;
•
ïðè любом
y ∈ Rmфункция
B 7→ Q(y, B)
являетсÿ âåðîятностной
мерой íà
B(Rd)
.
Ãëàâà 1. Основы современной теории âåðîятностеé 35
Ðàññмотриì случайные величины
ξ : Ω 7→ Rd,
η : Ω 7→ Rm. Ïåðå-
õîäíàÿ âåðîятностьQèç
Rmâ
Rdназываетсÿ
(регулярным) óñловным
ðаспределениеìξотноситеëüíîη, åñëè
E(g(ξ)|η)(ω) =
w
R
d
g(x) Q(η(ω), dx) P
-ï.í. (1.4.4)
äëÿ любой ограниченнîé борелевскîé функции íà
Rd.
Известно, ÷òî ðåãóлярное óсловнîå распрåäеление âñåãäà существуåò.
Заметим, ÷òî ïî упомянутой лемме Дуба-Дынкина существуåò функция
Q : Rm× B(Rd) 7→ [0, 1]
òàêàÿ, ÷òî
E(IA(ξ)|η) = Q(η, A), A ∈ B(Rd).
Более òîãî, функция
x 7→ Q(x, A)
являетсÿ
B(Rm)
-измеримой. Îäíà-
êî, äîêазательство òîãî, ÷òîQìîæåò áûòü выбрана òàêèì образом, ÷òî
A 7→ Q(x, A)
являетсÿ âåðîятностной мерой íà
B(Rd)
, требуåò дополни-
тельных рассуждений.
Пример 1.24.
Ïóñòü плотность совместного распределения непрерыв-
íîé случайной величины
(ξ, η) : Ω 7→ R2равна
f
ξ,η
(x, y)
. Найти óсловное
распределениеQслучайной величиныξотносительноηè
E(ξ|η)
.
Ðàññмотриì формальное равенство
P(ξ ∈ (x, x + dx)|η ∈ (y, y + dy)) =
P((ξ, η) ∈ (x, x + dx) ×(y, y + dy))
P(η ∈ (y, y + dy))
=
f
ξ,η
(x, y) dxdy
fη(y) dy
,
ãäå
fη(y) =
r
R
f
ξ,η
(x, y)dx
ïлотность маргинального распределенияη.
Естественно îжидать, ÷òî плотность óсловного распределенияξотноси-
тельноηимеет âèä
f
ξ|η
(x|y) :=
f
ξ,η
(x, y)
fη(y)
.
(1.4.5)
Здесь имеетсÿ ввиду, ÷òî
f
ξ|η
(x|y) = 0
, åñëè
fη(y) = 0
. Кроме òîãî,
E(ξ|η = y) =
w
R
xf
ξ|η
(x|y) dx
èëè, другими словами,
E(ξ|η) =
w
R
xf
ξ|η
(x|η) dx.
(1.4.6)
36 1.4. Óñëîâíîå математическîå îжидание
Более формальное рассуждение состоит â следующем. Ïî определе-
íèþQóдовлетворÿåò равенству
E(g(ξ)h(η)) = E (E(g(ξ)|η)h(η)) = E
w
R
d
g(x) Q(η, dx)h(η)
äëÿ любых ограниченных борелевских функцийg,h. Используÿ формуëó
замену переменных, перепишем данное равенство â âèäå
w
Rm×R
d
g(x)h(y)f
(ξ,η)
(x, y) dxdy =
w
R
m
w
R
d
g(x)Q(y, dx)h(y)fη(y)dy.
Îòñþäà вытекàåò, ÷òî
f
(ξ,η)
(x, y)dxdy = Q(y, dx)fη(y)dy,
è получаем формуëó (1.4.5):
Q(y, dx) = f
ξ|η
(x|y)dx =
f
ξ,η
(x, y)
fη(y)
dx.
Формуëà (1.4.6) получаетсÿ, åñëè â (1.4.4) формально ïîëîæèòü
g(x) = x
.
Заметим, ÷òî
f
ξ|η
(x|y) =
f
ξ,η
(x, y)
fη(y)
=
f
η|ξ
(y|x)fξ(x)
fη(y)
,
fη(y) =
w
R
f
ξ,η
(x, y) dx =
w
R
f
η|ξ
(y|x)fξ(x) dx.
Îòñþäà вытекàåò
ôîðìóëà Байесà
äëÿ непрерывных случайнûõ величин:
f
ξ|η
(x|y) =
f
η|ξ
(y|x)fξ(x)
r
R
f
η|ξ
(y|x)fξ(x) dx
.
(1.4.7)
Åñëè â ðåçóëüòàòå ýêспериментà ìû наблюäàåì çíàчение
η = y
è èç-
вестны распределениеξè óсловное распределениеηотносительноξ, òî
формуëà Байеса уточняет распределениеξ.
Следующий набор формуë позволяет произвоäèòü различные преоб-
разования выражåíèé, ñîäåðæàùèõ óсловные математические îæèäà-
íèÿ:
(i)
E(aξ + bη|H ) = aE(ξ|H ) + bE(η|H ), a, b ∈ R
.
Ãëàâà 1. Основы современной теории âåðîятностеé 37
(ii) ÅñëèηH-измерима è ограничена, òî
E(ξη|H ) = ηE(ξ|H )
.
(iii) Åñëèξíå зависит îòH, òî
E(ξ|H ) = Eξ
.
(iv) Åñëè
G ⊆ H
, òî
E(ξ|G ) = E(E(ξ|H )|G )
.
Свойство (i) îçíà÷àåò линейность оператора óсловного математиче-
ñêîãî îжидания. Свойство (ii) позволяет выноситьH-измеримую ñëó-
чайную величину çà çíàê óсловного математическîãî îжидания. Ñâîé-
ñòâî(iii) ïîêазывает, ÷òî информация ñîäåðæащаясÿ â
H
бесполезна,
åñëèξíå зависит îòH. Свойство (iv) называетсÿ
ïîñледовательным
усреднениеì
. Îíî позволяет добавлять промежуточное óсловное ìàòå-
матическîãî îжидание относителüíî более áîãàòîéσ-алгебры.
Отметим òàêæå, ÷òî èç определения óсловного матемàòическîãî îæè-
дания ëåãêî следуåò, ÷òî
E(ξ|F0) = Eξ, F0= {∅, Ω}.
(1.4.8)
E(C|H ) = C, C = const.
(1.4.9)
Ðавенство (1.4.8) ïîêазывает, ÷òî óсловное математическîå îжидание îò-
носительно тривиальнойσ-алгебры совпадает ñ îáû÷íûì математиче-
ñêèì îжиданием. Ðавенство (1.4.9) îçíà÷àåò, ÷òî äëÿ êîíñòàíòû наилуч-
øèì приближåíèåì являетсÿ îíà ñàìà. Инфорìàöèÿ заключеннаÿ â
H
â ýòîì случае ðîëè íå играет. Èç свойства последовательного óсреднения
(ñ
G = {∅, Ω}
) è равенства (1.4.8) следуåò, ÷òî
EE(ξ|H ) = Eξ.
(1.4.10)
Данный частный случай свойства последовательного óсреднения часто
помогàåò ïðè вычислении математических îжиданий.
Свойства (ii), (iii) обобщаютсÿ следующим образом.
•
Ëåììà î независимости (ëåììà î заморîçêå).
ÏóñòüξF-измерима,
ηH
-измерима, èξíå зависит îòH. Ïóñòü
g : Rd× Rm7→ R
ограниченная борелевскàÿ функция. Òîãäà
E(g(ξ, η)|H ) = h(η), h(y) = Eg(ξ, y).
38 1.4. Óñëîâíîå математическîå îжидание
Òàêèì образом, â ýòîì случаеH-измеримая случайная величина
η
ìîæåò áûòü замороæåíà ïðè вычислении óсловного математическîãî
îжидания относительноH. Åñëè
H = Fη, òî
E(g(ξ, η)|H ) = E(g(ξ, η)|Fη) = E(g(ξ, η)|η)
è äëÿ
h(y)
ìîæíî использовать формальное обозначение
h(y) = E(g(ξ, η)|η = y).
Отметим òàêæå, ÷òî теоремы î монотонной è ìàæîðèðóåìîé ñõîäèìî-
ñòè, à òàêæå лемма Ôàòó ñîхраняют ñèëó, åñëè обычные математические
îжидания заменить óсловными.
Пример 1.25.
Ïóñòü
E(e
iuξ
|H ) = E(e
iuξ
).
Òîãäàξíå зависит îòH.
Действительно, ïóñòüη ограниченнаяH-измеримая случайная âå-
личина. Òîãäà
Ee
iuξ+ivη
= E(e
ivη
E(e
iuξ
|H )) = Ee
ivηEeiuξ
Следовательно,ξèηнезависимы. Â частности,ξíå зависит îò
IA,
A ∈
H
.
Пример 1.26.
Ïóñòü
ξ : Ω 7→ Rd, η : Ω 7→ Rm независимые случай-
íûå величины. Ïóñòü
ψ : Rd× Rm7→ Rk ограниченная борелевскàÿ
вектор-функция. Òîãäà óсловное распределениå
ζ = ψ(ξ, η)
относительно
η
совпадает ñ распределением случайíîé величины
ψ(ξ, y)
.
Действительно, ïóñòü
h : Rm7→ R,g : Rk7→ R
ограниченные
борелевские функции. Используÿ лемму î независимости, íàõîäèì
E(h(η)g(ζ)) = E(h(η)g(ψ(ξ, η))) = E(h(η)E(g(ψ(ξ, η))|η))
= E(h(η)Eg(ψ(ξ, y))|
y=η
) = Eh(η)
w
R
k
g(z) P
ψ(ξ,y)
(dz)|
y=η
,
ãäå
P
ψ(ξ,y)
(dz)
функция распределения
ψ(ξ, y)
. Â ñèëó произвольности
h
ýòî îçíà÷àåò, ÷òî
P
ψ(ξ,y)
(dz)
óсловное распределениеζотносительно
η
:
E(g(ζ)|η) =
w
R
k
g(z) P
ψ(ξ,y)
(dz)|
y=η
.
Ãëàâà 1. Основы современной теории âåðîятностеé 39
Пример 1.27.
Ïóñòü îдномерный сигналξраспределен ïî ñòандартно-
ìó нормальному çàêîíó
N(0, 1)
. Øóì
η ∼ N (0, σ2)
íå зависит îò сигна-
ëà. Наблюдению доступна сумма
ζ = ξ + η
. Требуåòñÿ найти óсловное
распределениеξотносительноζ.
Ïî óсловию
fξ(x) =
1
√
2π
e
−x2/2
,
Кроме òîãî, ñîãласно ðåçóëüòàòó ïðåäûäóùåãî примера, óсловное ðàñ-
пределениеζотносительноξìîæíî получить, заморозив
ξ = x
. Следова-
тельно, äàííîå óсловное распределение имеет нормальный çàêîí
N(x, σ2)
:
f
ζ|ξ
(y|x) =
1
√
2πσ
e
−(y−x)2/(2σ2)
.
Ïî формуëå Байеса (1.4.7),
f
ξ|ζ
(x|y) = c1(y)f
ζ|ξ
(y|x)fξ(x) = c2(y) exp−
1
2
x
2
2
+
(y − x)
2
σ
2
= c3(y) exp −
1 + σ
2
2σ
2
x −
y
1 + σ
2
2
!
,
ãäå
ci(y)
íåêоторые нормирующие ìíîжители. Îòñþäà следуåò, ÷òî
ïðè ôèêсированном çíàчении
ζ = y
случайная величинаξимеет íîð-
мальное распределение
N
y
1 + σ
2
,
σ
2
1 + σ
2
.
Пример 1.28.
Ïóñòü
ξ1, . . . , ξn независимые îдинакîâî распределен-
íûå интегрируåìûå случайные величины. Ïîëîæèì
ξ = ξ1+ ·· · + ξnè
найдем
E(ξ1|ξ),E(ξ|ξ1)
.
Èç соображåíèé симметрии,
E(ξ1|ξ) = · · · = E(ξn|ξ).
(1.4.11)
Упражнение 1.34 предлагàåò äîêазать ýòî ôîðìàëüíî. Èç определения
óñëовного математическîãî îжидания è свойства линейности вытекàåò,
÷òî
E(ξ1|ξ)
(
1.4.11
)
=
1
n
n
X
i=1
E(ξi|ξ) =
1
n
E(ξ1+ ··· + ξn|ξ) =
1
n
E(ξ|ξ) =
ξ
n
.
40 1.4. Óñëîâíîå математическîå îжидание
Далее,
E(ξ|ξ1) = E(ξ2+ ··· + ξn|ξ1) + E(ξ1|ξ1) = E(ξ2+ ··· + ξn) + ξ
1
= (n − 1)Eξ1+ ξ1.
Пример 1.29.
Ïóñòü
(ξi)
∞
i=1
независимые îдинакîâî распределенные
случайные величины,
Eξ
2
i
< ∞
, è ïóñòü
N : Ω 7→ Z+íå зависит îò
(ξi)
∞
i=1
.
Ðàññìîòðèì случайную сумму
SN=
N
X
i=1
ξi=
∞
X
i=1
ξiI
{i≤N}
.
 теории страхования
ξi размер выплаты ïî страховому полису,N
êоличество полисов, предъявленных ê оплате. Требуåòñÿ найти
ESN.
Воспользуåìñÿ равенством (1.4.10) è свойствами (ii), (iii) óсловного
математическîãî îжидания:
ESN= E
∞
X
i=1
ξiI
{i≤N}
(
1.4.10
)
=
∞
X
i=1
EE(ξiI
{i≤N}
|N)
(ii)
=
∞
X
i=1
E(I
{i≤N}
E(ξi|N))
(iii)
=
∞
X
i=1
E(I
{i≤N}
E(ξi)) = Eξ
1
∞
X
i=1
EI
{i≤N}
= Eξ1EN.
Пример 1.30.
Введем
óñловную дисперсию
D(ξ|H ) = E((ξ − E(ξ|H ))2|H ) = E(ξ2|H ) − (E(ξ|H ))2.
Случайные величины
ξ − E(ξ|H ) ∈ L2(F ), E(ξ|H ) −Eξ ∈ L2(H )
ортогональны â
L2, òàê êàê
ξ −E(ξ|H )
ортогональна
L2(H )
: ñì. (1.4.2).
Следовательно,
Dξ = E(ξ − E(ξ|H ) + E(ξ|H ) −Eξ)
2
= E(ξ − E(ξ|H ))2+ E(E(ξ|H ) − Eξ)
2
= EE((ξ − E(ξ|H ))2|H ) + E(E(ξ|H ) − EE(ξ|H ))
2
= ED(ξ|H ) + D(E(ξ|H )).
(1.4.12)
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]