Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Основы стохастического анализа. Учебное пособие
.pdf
Ãëàâà 1. Основы современной теории âåðîятностеé 41
Òàêèì образом, дисперсия случайной величины равна сумме математи-
÷åñêîãî îжидания óсловной дисперсии è äисперсии óсловного математи-
÷åñêîãî îжидания.
Пример 1.31.
 óсловиях примера 1.29 найдем
D(SN)
.  обозна÷åíè-
ÿõ леммы î независимости ïîëîæèì
ξ = ξ1+ · · · + ξn,
η = N
. Ïðè
вычислении óсловного математическîãî îжидания
E(SN|N)
è óсловной
дисперсии
D(SN|N)
ìîæíî заморозитьN:
E(SN|N = k) = E(ξ1+ ··· + ξk) = kEξ1,
D(SN|N = k) = D(ξ1+ ··· + ξk) = kD(ξ1).
Здесь использовано, ÷òî дисперсия суммы равна сумме дисперсий (óïð.
1.13). Òеперь воспользуåìñÿ формуëîé (1.4.12):
D(SN) = ED(SN|N) + D(E(SN|N)) = E(N D(ξ1)) + D(NEξ1)
= D(ξ1)EN + (Eξ1)2D(N).
Пример 1.32.
Ïóñòü
ξ, η
независимые непрерывные случайные величи-
íû. Требуåòñÿ вычислить
P(ξ ≤ η)
.
Заметим, ÷òî
P(ξ ≤ η) = EI
{ξ≤η}
= E(E(I
{ξ≤η}
|η)).
Ïóñòü
fξ,
fη (маргинальные) плотности ðàñïределенийξ,η. Òîãäà
EI
{ξ≤y}
= P(ξ ≤ y) =
w
y
−∞
fξ(x) dx.
Ïî лемме î независимости,
P(ξ ≤ η) = E
w
η
−∞
fξ(x) dx =
w
∞
−∞
w
y
−∞
fξ(x) dxfη(y) dy.
 упражнении 1.35 предлагàåòñÿ рассмотреть случай ýêспоненциальных
распределений.
1.5 Ìåòîä Монте-Карло
Ìåòîä Монте-Карло используåòñÿ äëÿ приближенного вычисления ìà-
тематических îжиданий
µ = Eξ
. Îí основан íà òîì, ÷òî â ñèëó çàêîíà
42 1.5. Ìåòîä Монте-Карло
больших чисел
ˆµn=
1
n
n
X
i=1
ξi→ µ,
(1.5.1)
ãäå
ξi независимые случайные величиíû, распределенные òàê æå, êàê
ξ
. Ñõîдимость â (1.5.1) имеет место â äâóõ смыслах: ïî âåðîятности (ñëà-
áûé çàêîí больших чисел) è ñ âåðîÿòíîñòüþ 1 (сильный çàêîí больших
чисел).
Äëÿ многих ñòандартных распределений имеютсÿ генераторы случай-
íûõ çíàчений
ξi(ω)
. Ïîêàæåì, ÷òî фактически äîñòаточно иметь генера-
òîð äëÿ равномерного распределение
ζ ∼ U [0, 1]
. Ïóñòü
F (x) = P(ξ ≤ x)
распределениеξ. Ïîëîæèì
F−1(u) = min{x : F (x) ≥ u}, u ∈ [0, 1]
(1.5.2)
(минимум достигàåòñÿ, òàê êàêFнепрерывна справа). Òîãäà
F−1(ζ) ∼ Pξ.
Действительно, èç определения вытекàåò, ÷òî
F (x) > u =⇒ F−1(u) ≤ x.
Кроме òîãî,
F (F−1(u)) ≥ u
, òàê êàêFнепрерывна справа. Следователь-
íî,
{ζ < F (x)} ⊆ {F−1(ζ) ≤ x} ⊆ {F (F−1(ζ)) ≤ F (x)} ⊆ {ζ ≤ F (x)},
Íî
P(ζ < F (x)) = P(ζ ≤ F (x)) = F (x)
. Òàêèì образом,
F (x) = P(F−1(ζ) ≤ x).
Центральная предельная теорема позволяет оценить доверительный
интервал, ò.å. случайный интервал, накрывающийµñ âåðîятностью
1−α
.
Ïóñòü
σ =√Dξ
. Òîãäà случайные величины
ηi= (ξi− µ)/σ
óдовлетво-
ðÿþò óсловиям
Eηi= 0,Dηi= 1
.
Известно, ÷òî центральная предельная теорема верна â ñëåäóþùåé
форме:
P
η1+ ··· + η
n
√
n
≤ u→ Φ(u) := P(Z ≤ u), Z ∈ N (0, 1),
(1.5.3)
Ãëàâà 1. Основы современной теории âåðîятностеé 43
ò.å. â определении ñõîäèìîñòè ïî распределению ìîæíî заменить непре-
рывную функцию
g(x)
разрывной функцией
I
(−∞,u]
(x)
(ñì., íàïð., [41,
раздел 18.4]). Заметим, ÷òî
η1+ ··· + η
n
√
n
=
ˆµn− µ
σ/√n
.
Следовательно,
ˆµn−µ
ïðèáлиженно
нормально распределена ñ матема-
тическим îжиданием0è дисперсией
σ2/n
.
Ïóñòü
Φ(−z
α/2
) = α/2
. Найдем
(1−α)
-приближенный доверительный
интервал:
P(|ˆµn− µ| ≤ r) = P
|ˆµn− µ|
σ/√n
≤
r
σ/√n
≈ Φ
r
σ/√n
− Φ−
r
σ/√n
= 1 −2Φ−
r
σ/√n
= 1 −α.
Следовательно,
r = z
α/2
σ/√n
. Òàêèì образом,
P|ˆµn− µ| ≤ z
α/2
σ
√
n
≈ 1 −α.
Обычно дисперсияξнеизвестна è вместоσиспользуåòñÿ оценкà
ˆσn=
v
u
u
t
1
n − 1
n
X
i=1
(ξi− ˆµn)2.
Соответствующий приближенный
(1 −α)
-доверительный интервал
ˆµn− z
α/2
ˆσ
n
√
n
, ˆµn+ z
α/2
ˆσ
n
√
n
называетсÿ
ýмпирическим
. Величина
ˆσn/√n
называетсÿ
стандартной
ошибкой
.
Пример 1.33.
Äëÿ приближенного вычисления интеграла
r
1
0
x2dx
âîñ-
пользуåìñÿ представлением
w
1
0
x2dx = Eξ2, ξ ∼ U [0, 1].
44 1.6. Упражнения
 данном случае точное çíàчение
µ = 1/3
известно. Â òаблице 1.1 ïðåä-
ñòавлены оценкà
ˆµnè ñòандартная ошибкà
ˆσn/√n
.
n ˆµ
n
ˆσn/√n
10
0.4319 0.0964
1020.3447 0.0286
1030.3422 0.0097
1040.3326 0.0030
1050.3334 0.0009
1060.3332 0.0003
Òаблица 1.1
Äëÿ оценки доверительíîãî интервала требуåòñÿ åùå çíàчение
z
α/2
.
Äëÿ
α = 0.05
имеем
z
0.025
≈ 1.96
. Например,
P (|µ − 0.3332| ≤ 0.0006) ≈ 0.95
ïðè
n = 106.
Пример 1.34.
Ïóñòüξимеет распределение Бернуëëè ñ неизвестным
параметромp:
P(ξ = 1) = p,P(ξ = 0) = 1 −p
. Оценим
p = Eξ
ñ помощью
ìåòîäà Монте-Карло. Äëÿ
p = 0.45
ðåçóëüòàòû расчетов приведены â
òаблице 1.2.
n ˆµ
n
ˆσn/√n
10
0.4498 0.1573
1020.4498 0.0497
1030.4499 0.0157
1040.4498 0.0050
Òаблица 1.2
1.6 Упражнения
1.1.
Вывести формуëó
P(A ∪ B) = P(A) + P(B) − P(A ∩ B).
Ãëàâà 1. Основы современной теории âåðîятностеé 45
1.2.
Ïóñòü
A1⊇ . . . An⊇ . . .è∩
∞
i=1
Ai= A
. Используÿ àêсиомы âåðî-
ятностного пространства, äîêазать, ÷òî
lim
i→∞
P(Ai) = P(A)
. Äîêазать
аналогичное утверждение äëÿ ìíîæåñòâ
A1⊆ . . . An⊆ . . .è∪
∞
i=1
Ai= A
.
1.3.
Äîêàçàòü, ÷òî события (1.1.2) независимы â ïðÿìîì произведении
(1.1.1).
1.4.
Проверить, ÷òî óêазанное â примере 1.1 âåðîятностное пространство
являетсÿ ïðÿìûì произведением пространств
(Ωi, Fi, Pi)
, определенных
равенствами (1.1.3).
1.5.
Вывести формуëó полной âåðîятности (1.1.4) è правило óìíîæåíèÿ
(1.1.5).
1.6.
Привести ïðèìåð îäèíàêîâî распределенных, íî различных случай-
íûõ величин.
1.7.
Äîêазать формуëó замены переменных (1.2.2), используÿ ñòандарт-
íóþ технику.
1.8.
Äîêàçàòü формуëó замены переменных (1.2.2), используÿ теорему î
монотонном классе.
1.9.
Ðàñсмотрим âåðîятностное пространство
(Ω1× Ω2, F1⊗ F2, P1⊗ P2).
Äëÿ неотрицательной
F1⊗ F2-измеримой случайной величиныfäîêà-
çàòü
теореìó Фубини
w
Ω1×Ω
2
f(ω1, ω2)(P1⊗ P2)(dω) =
w
Ω
1
w
Ω
2
f(ω1, ω2)P2(dω2)P(dω1).
1.10.
Ïóñòü
ξ : Ω 7→ N
. Äîêазать, ÷òî
Eξ =
∞
X
k=1
P(ξ ≥ k).
1.11.
Найти математическîå îжидание è дисперсию равномерного ðàñ-
пределения.
1.12.
Найти математическîå îжидание è дисперсию ýêспоненциального
распределения.
46 1.6. Упражнения
1.13.
Óñòановить равенство
1
√
2π
w
∞
−∞
e
−x2/2
dx = 1.
1.14.
Ïîêазать, ÷òî äëÿ независимых случайных величин
ξk∈ L2верно
равенство
σ2(ξ1+ ··· + ξn) =
n
X
k=1
σ2(ξk).
1.15.
Ïóñòü
ξ ∈ N (µ, σ2)
. Найти плотность случайной âåëичины
eξ(ïëîò-
ность
ëîã-íîðмального
распределения).
1.16.
Ïóñòüξ непрерывная случайная величинà ñî çíàчениями íà èí-
тервале
[0, 1]
. Найти распределение è математическîå îжидание случай-
íîé величины
g(ξ),g(x) = 1 + I
[1/2,1]
(x)
.
1.17.
Используÿ ðåçóëüòàòû óïражнения 1.2, äîêазать, ÷òî
функция ðàñ-
пределения
F (x) := P(ξ ≤ x)
любой (ñêалярной) случайной величины непрерывна ñïðàâà è справед-
ëèâû равенства
lim
x→−∞
F (x) = 0, lim
x→+∞
F (x) = 1.
1.18.
Äëÿ ìîäåëèn-кратного ïîдбрасывания монеты рассмотреть íàéòè
дисперсию числа îðëîâξ, воспользовавшись представлением
ξ =
P
n
i=1
ηi,
ãäå
ηi ðåçóëüòàòi-ãî ïîдбрасывания:
ηi= I
{ω:ai=H}
.
1.19.
Проверить, ÷òî ýêспоненциальное распределение обладает ñâîé-
ством
отсутствия памяти
:
P(ξ ≥ x + y|ξ ≥ x) = P(ξ ≥ y), ξ ∼
Exp
(λ), y ≥ 0.
1.20.
Ïóñòü
ξi независимые ïóассоновские случайные величины ñ ïà-
раметрами
λi,
i = 1, . . . , n
. Äîêазать, ÷òî
ξ1+···+ξnимеет ðàñïределение
Ïóассона ñ параметром
λ = λ1+ ··· + λn.
1.21.
Найти математическîå îжидание è êовариационную матрицу ãàóñ-
совскîãî вектора: ñì. (1.2.7).
Ãëàâà 1. Основы современной теории âåðîятностеé 47
1.22.
Вывести неравенство Чебыш¼ва (1.3.1). Îïираясь íà ýòî неравен-
ñòâî äîêазать, ÷òî èç ñõîдимости â
Lr,
r > 0
вытекàåò ñõîдимость ïî
âåðîятности.
1.23.
Вывести неравенство
Коши-Буняковского
E|ξη| ≤E|ξ|
2
1/2
E|η|
2
1/2
.
1.24.
Ïóñòü
(ξk)
∞
k=1
независимые îдинакîâî распределенные случай-
íûå величины è
Eξk= µ
. Äîêазать следующую версию
закона áîльших
÷èñåë
:
1
n
(ξ1+ ··· + ξn)d→ µ, n → ∞.
1.25.
Äîêазать, ÷òî ñ точностью äî эквивалентности существуåò íå более
îäíîé случайной величиныη, óдовлетворяющей определению óсловного
математическîãî îжидания (1.4.1).
1.26.
Äîêазать свойства (i) (iv) óсловного математическîãî îжидания
èñõîäÿ èç èñõîäÿ èç åãî определения, èëè â частном случаеσ-алгебр ñ
êонечным числом атомов, èñõîäÿ èç явной формуëû (1.4.3).
1.27.
Ïóñòü
ξi независимые îдинакîâî ðàñïределенные бернуллиевские
случайные величины:
P(ξi= 0) = P(ξi= 1) = 1/2
. Вывести формуëó
Ïàñêàëÿ
C
k
n
= C
k−1
n−1
+ C
k
n−1
, 0 < k ≤ n,
èñõîäÿ èç формуëû полной âåðîятности äëÿ события
B = {ξ1+···+ξn=
k}
относительно разбиения
A1= {ξ1+ ··· + ξ
n−1
= k}, A2= {ξ1+ ··· + ξ
n−1
= k − 1}.
1.28.
Ïóñòü независимые непрерывные случайные величиныξèηимеют
плотности
fξè
fηсоответственно. Äîêазать, ÷òî плотностью
fζслучай-
íîé величины
ζ = ξ + η
являетсÿ
свертка
óêàçàííûõ плотностей:
fζ(z) =
w
R
fξ(z − y)fη(y)dy.
1.29.
Ïîêазать, ÷òî независимостьA,Bíå влечет óсловнóþ íåçàâèñè-
мостьA,BотносительноCè íå вытекàåò èç последней. Другими ñëî-
âàìè, ïîêазать, ÷òî существуютP,A,B,Còàêèå, ÷òî верно îäíî èç
48 1.6. Упражнения
равенств
P(A ∩ B) = P(A)P(B), P(A ∩ B|C) = P(A|C)P(B|C)
è неверно другое.
1.30.
Ïóñòü
ξ ∼ N (0, σ2)
. Получить формуëó
Ee
tξ
2
=
(
+∞, t ≥ 1/(2σ2),
1/(1 −2σ2t), t < 1/(2σ2).
1.31.
Симметричная монетà ïîдбрасываетсÿ äî òåõ ïîð, ïîêà íå выпадет
ðåøêà. Åñëè число орлов â серии равноn, òî игрок получает
2n. Êàêîâ
îжидаемый âûèãðûø игрокà? Ñêîëüêî Âû готовы заплатить çà участие
â òàêîé èãðå? (Санкт-Петербургский парадокñ).
1.32.
Ïóñòüξýêспоненциально распределена ñ параметромλè
η =
I
{ξ≥2}
. Найти
E(ξ|η), E(ξ2|η).
1.33.
Òî÷êà
(X, Y )
íàóäà÷ó выбираетсÿ èç полукругà
{(x, y) : x2+ y2≤
r2, y ≥ 0}
. Найти маргинальное распределениеYèEY.
1.34.
Провести формальное äîêазательство равенства (1.4.11).
1.35.
Ïóñòüξ,ηнезависимы è ýêспоненциально распределены ñ ïàðà-
метрамиλ,µсоответственно. Ïîêазать, ÷òî
P(ξ ≤ η) =
λ
λ + µ
.
1.36.
Ïóñòüξ,η независимые ïóассоновские случайные величины ñ
параметрамиλèµсоответственно. Ïîêазать, ÷òî
E(ξ|ξ + η) =
λ
λ + µ
(ξ + η).
1.37.
Вывести формуëû Байеса, аналогичные (1.4.7), â случае êîãäà
(a)ξ,ηдискретны,
(b)ξдискретна,ηнепрерывна,
Ãëàâà 1. Основы современной теории âåðîятностеé 49
(c)ξнепрерывна,ηдискретна.
1.38.
Ïóñòü
ξn∼ N (µn, Σn)
последовательностьn-мерных ãàóссовских
случайных величин è
µn→ µ,σn→ Σ
поэлементно. Ïóñòü
ξ ∼ N (µ, Σ)
.
Äîêазать, ÷òî
ξ
n
d
→ ξ
.
1.39.
Ïóñòü
ξn∼ N (0, σ2)
независимые îдинакîâî распределенные âå-
личины è последовательность
Xnопределена ïî рекуррентной формуëå
X
n+1
= αXn+ ξ
n+1
, X0= x,
ãäåx,α êîíñòàíòû. Íàéòè распределениå
Xn. Ïðè
|α| < 1
найти предел
Xnïî распределению.
1.40.
Ñ помощью ìåòîäà Ìîнте-Карло оценить площадь êðóãà единич-
íîãî радиуñà, èëè, ÷òî òî æå самое, числоπ.
1.41.
Построить график ôóíêöèè (1.5.2) äëÿ функции распределения
дискретной случайной величèíû (например, бернуллиевскîé).
Ãëàâà 2
Мартингàëû è ìàðêовские процессы
 данной ãëàâå рассматриваютсÿ äâà важнейших класса случайных
процессов: мартингëàëû è ìàðêовские процессы. Мартингàëû õаракте-
ðèçóåòñÿ òåì, ÷òî наилучшее приближåíèå ê èõ áóдущим çíàчениям íà
основе доступной инфорìàöèè совпадает ñ текущим çíàчениям. Приме-
ðîì мартингàëà являетсÿ êàïèòàë игрокà â ñïðаведливой азартной èã-
ðå. Ìàðêовские процессы обладают свойством отсутствия памяти: ïðè
определении áóдущего поведения òàêîãî процесса существенна толькî
информация î настоÿùåì, à âñþ информацию î прошлом ìîæíî отбро-
ñèòü. Примером ìàðêîâñêîãî ïðîöåññà являетсÿ сумма независимых ñëó-
чайных величин (случайное блуждание).
Òеория мартингàëîâ играет большую ðîëü â ãлавах 3, 4, поэтому îíà
излагàåòñÿ äîñòаточно ïîдробно. Èçëîæåíèå опираетсÿ íà [14, 16, 41]. Â
меньшей степени использованы следующие источники: [2, 23, 31]. Ðÿä
упражнений заимствован èç [15]. Áольшая часть данного материала ñî-
äåðæèòñÿ â пособии [10].
Òеория ìàðêовских процессов ëèøü затрагиваетсÿ. Здесь ìû â основ-
íîì следуåì [14, 15]. Отметим òàêæå [7, 30, 33]. Кроме общих определе-
íèé, основное внимание óделяетсÿ вычислению функционалов îò ìàðêîâ-
ñêèõ процессов ñ помощью фундаментального уравнения (терминология
[5]). Ïðè первом чтении ìîæíî îïóстить äîêазательства âñåõ теорем, êà-
сающихñÿ непрерывного времени, à òàêæå последний параграф, опира-
ющийсÿ íà [16, 30], è êасающийсÿ связи между броуновским äâèæением
50
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]