
TV1
.PDFF1 Теорія імовірності, перший семестр
Математичне сподівання
|
|
|
В.в. ξ (x) , визначена на ймовірносному просторі (Ω |
,U , P) називається простою, якщо |
||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
вона приймає скінчену кількість значень xi |
: |
|
xi |
≠ |
x j ,i ≠ j . |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||||||||
|
|
|
Нехай A = {ω |
|
| ξ (x) = |
|
|
x |
} |
i = |
|
|
. Нехай L+ |
клас невід’ємних простих в.в. |
|
|
|
|
||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
1, n |
|
|
|
|
||||||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
i |
|
|
|
|
|
|
|
|
|
|
|
|
|
i |
|
|
|
|
|
|
|
|
|
|
|
|
0 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Математичним сподіванням в.в. ξ |
L+0 називається Mξ = |
∑ xi P( Ai ) . |
|
|
|
|
|
||||||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i= 1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Властивості. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
1. Для ξ |
L+ |
|
|
|
|
Mξ |
≥ |
|
0 . |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||
|
|
|
|
|
|
|
|
|
0 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
2. |
Mcξ |
= |
cMξ |
|
|
|
- однорідність. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||
3. |
M (ξ 1 + |
ξ 2 ) = |
M (ξ 1 ) + |
|
|
M (ξ 2 ) |
-адитивність. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||
|
|
|
4. ξ |
≥ η Mξ |
|
≥ |
|
Mη |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||
|
|
|
Властивості 1., 2. є очевидними. Доведемо властивість 3. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
◄ Дійсно, |
ξ 1 |
= |
|
|
|
∑xi χ Ai |
(ω |
) |
ξ 2 = |
|
∑ yi χ Bi |
(ω |
) . Далі Ai |
∩ Bi |
= {ω |
: ξ 1 + |
ξ 2 = |
|
xi + |
y j }. |
|||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i= 1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i= 1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
Нехай zk = |
xi |
+ |
|
|
y j |
та Ik |
|
= |
{(i, j) | xi |
+ y ji |
= zk }. Тоді |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
||
|
|
|
M (ξ 1 ) + M (ξ 2 ) = ∑xi P( Ai ) + ∑y j P(Bj ) = ∑(y j + xi )P(Bj ∩ |
Ai ) = ∑zk ∑P(Bj ∩ Ai ) = |
||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i= 1 |
|
|
|
|
|
|
|
|
|
j= 1 |
|
|
|
|
(i, j) |
|
|
|
|
|
|
|
|
|
|
|
|
k = 1 |
|
(i, j ) |
|
|
|
|
|
|||||||||
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
= ∑zk P(B j UAi ) = |
∑zk P{ω | ξ 1 + ξ 2 = zk } = ∑zk P(ξ 1 + ξ 2 = zk ) = M (ξ 1 + ξ 2 ) . |
|
|
|
|
|
|||||||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
k = 1 |
|
(i, j) I |
|
|
|
k = 1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
k = 1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||
|
|
|
Що і потрібно було довести.► |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||
|
|
L+ – множина невід’ємних випадкових чисел |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
Лема 1ξ |
L+ |
, ξ |
n |
|
|
L+ |
:ξ |
n |
↑ ξ , |
ω |
Ω |
(збігається знизу). |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
1 |
|
|
|
|
|
0 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
n2n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
k − |
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
ξ n = ∑ χ |
|
|
|
|
|
|
|
|
(ω ) |
|
; 0 ≤ ξ n ≤ ξ n+ 1 ≤ ξ : ξ ≤ |
n, ξ ≤ ξ n + |
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
k − 1 |
< ξ ≤ |
k |
|
|
|
|
n |
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
k= 1 |
|
|
{ |
|
2n |
|
2n} |
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
Математичним сподіванням випадкової величини ξ |
називається величина |
|
|
|
|
|||||||||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
Mξ |
= |
lim Mξ n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||
|
|
|
|
|
|
|
|
n→ ∞ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
Якщо η n ↑ ξ |
(прямує знизу), тоді |
ω |
Ω |
, lim Mη n = |
lim Mξ n , отже воно єдине (якщо |
|||||||||||||||||||||||||||||||||||||||||||||||||||||
|
|
існує). |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n→ ∞ |
|
|
|
|
|
|
|
n→ ∞ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||
|
|
Лема 2Якщо |
{ξ |
} |
+∞ |
|
|
L+ |
|
, |
η |
|
L , |
ξ |
n |
↑ ξ , |
ω |
|
Ω |
, |
|
ξ |
≥ |
η |
|
тоді |
|
|
|
|
lim Mξ |
n |
≥ |
Mη |
||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
n |
|
n= 1 |
|
0 |
|
|
|
|
|
|
|
|
0 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n→ ∞ |
|
|
|
|||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||
|
|
◄ Розглянемо ε |
|
> |
0 , і множину An |
= |
{ω :ξ n (ω ) ≥ |
η |
− |
ε} |
|
|
n ↓ |
P( |
|
n ) → 0 |
|
|
|
|||||||||||||||||||||||||||||||||||||||||
|
|
|
|
A |
A |
|
|
|
||||||||||||||||||||||||||||||||||||||||||||||||||||
|
|
ξ n ≥ ξ n χ An (ω ) ≥ (η − ε) χ An( ω) = η χ A(n ω) − εχ A(n |
ω) |
|
|
= |
|
χ (An |
)ω = 1− χ |
|
n (ω ) |
|
= |
|
|
|
|
|
||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
A |
|
|
|
|
|
|||||||||||||||||||||||||||||||||||||||||||||||||||
|
|
= η − η χ |
|
n (ω ) − |
εχ An( ω ) |
|
. Тоді звідси |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||
|
|
A |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||
|
|
c :c ≥ |
η , |
ω |
|
Ω |
|
ξ n ≥ |
|
|
η |
|
− |
cχ |
|
n (ω ) − |
εχ An( ω ) , |
ω |
|
Ω |
усереднимо цю нерівність : |
|||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
A |
||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
|
Mξ n ≥ |
Mη |
− cP( |
|
n )− |
ε P( An ) |
Mξ n ≥ Mη − cP( |
|
n )− |
ε |
перейдемо до границі |
|
|
|
|||||||||||||||||||||||||||||||||||||||||||||
|
|
A |
A |
|
|
|
||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
123 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
= 1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
lim Mξ n ≥ |
Mη − |
|
|
ε |
|
|
|
де ε - довільне додатне число ► |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||
|
|
n→ ∞ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
21

F1 Теорія імовірності, перший семестр
Лема3 |
|
{ξ |
|
} ∞ |
{, η} |
|
∞ |
1 |
|
|
L+ |
та ξ |
n |
↑ ξ ,η |
n |
↑ ξ , тоді lim Mξ |
n |
= |
lim Mη |
n |
|
||||
|
|
|
|
n n= 1 |
|
n n= |
|
|
|
0 |
|
|
n→ ∞ |
|
n→ ∞ |
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
||||||||||||||||||
◄ Оскільки ξ n |
↑ ξ ,ξ n |
↑ ξ |
ξ n |
↑ ξ ≥ η m lim Mξ n ≥ Mη m |
деяка константа, тоді елемент |
||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n→ ∞ |
|
|
|
|
|
послідовності ξ n |
|
обмежений деякою константою, тоді lim Mξ n ≥ |
lim Mη m аналогічно |
||||||||||||||||||||||
|
|
|
|
|
lim Mξ m lim Mη n = |
|
|
|
n→ ∞ |
|
m→ ∞ |
|
|||||||||||||
lim Mη n ≥ |
|
lim Mξ m граничний перехід доведено ► |
|||||||||||||||||||||||
n→ ∞ |
|
|
|
|
m→ ∞ |
|
|
|
|
|
|
n→ ∞ |
|
|
m→ ∞ |
|
|
|
|
|
|
|
|||
Отже ми показали справедливість усіх чотирьох властивостей мат. сподівання |
|||||||||||||||||||||||||
невід’ємних простих випадкових величин . |
|
|
|
|
|
||||||||||||||||||||
Тепер розглянемо довільну величину ξ |
для якої виконується ξ = |
ξ + + |
ξ − : |
||||||||||||||||||||||
ξ + = ξ χ |
{ |
ξ ≥ 0 (ω ),ξ |
|
− = |
|
ξ |
|
χ |
{ |
ξ < 0 (ω ) |
|
|
|
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||
|
|
|
|
} |
|
|
|
|
|
|
|
|
|
} |
|
|
|
|
|
|
|
|
|
||
Mξ = Mξ + |
+ |
Mξ − |
якщо вони одночасно не рівні нескінченності то Mξ |
визначене, інакше |
|||||||||||||||||||||
Mξ не існує. Якщо |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
а) |
Mξ + |
= +∞ |
|
|
, Mξ − |
|
< ∞ Mξ = +∞ |
|
|
|
|
|
|
|
|||||||||||
б) Mξ + |
< +∞ |
|
|
, Mξ − |
|
= ∞ Mξ = −∞ |
|
|
|
|
|
|
|
Властивості 1-4 легко перевірити за рахунок такого представлення (ξ = ξ + + ξ − ).
Властивості мультиплікативності математичного сподівання для незалежних випадкових величин
Лема. Нехай ξ 1 ,ξ 2 - незалежні випадкові величини та Mξ 1 , Mξ 2 тоді
Mξ 1ξ 2 = Mξ 1Mξ 2
◄ Розглянемо ξ 1 ,ξ 2 |
L+0 : |
ξ 1 = |
∑n1 |
xi χ {ξ i = |
xi} (ω ) |
= ∑n1 |
xi χ Ai ( ω ) , де Ai |
|
= {ω |
|
: ξ 1 (ω ) = |
xi} , |
|||||||||||||||||||
|
|
|
|
|
|
|
|
i= 1 |
|
|
|
|
|
|
|
|
i= 1 |
|
|
|
|
|
|
|
|
|
|
|
|
||
n |
y j χ B j |
(ω ) де B j = {ω : ξ 2 (ω ) = y j } Ai ∩ Bj ,ξ 1ξ 2 = xi y j |
|
|
|
|
|
|
|||||||||||||||||||||||
ξ 2 = ∑21 |
|
|
|
|
|
|
|||||||||||||||||||||||||
j= 1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
{(i, |
j) :xi y j = zk } |
|
|||
Позначимо різні значення добутку через zk , k = |
|
|
|
, а через Ik = |
тоді |
||||||||||||||||||||||||||
1, n |
|||||||||||||||||||||||||||||||
|
n |
|
|
|
|
|
n |
|
∑P(Ai Bj ) = |
|
∑ xi y j P(Ai B j ) = |
∑ xi y j P( Ai )P(Bj ) = |
|||||||||||||||||||
Mξ 1ξ 2 = ∑ zk P{ξ 1ξ 2 = zk} |
= ∑ zk |
|
|
||||||||||||||||||||||||||||
|
k = 1 |
|
|
|
|
k = 1 |
(i, j) Ik |
|
|
|
|
(i, j) Ik |
|
|
|
|
|
|
(i, j) |
Ik |
|
|
|
||||||||
n11 |
|
|
n21 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
= ∑ xi P( Ai )∑ y j P(Bj ) = |
Mξ 1Mξ 2 . Тепер розглянемо дві незалежні випадкові величини |
||||||||||||||||||||||||||||||
i= 1 |
|
|
j= 1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
розглянемо функцію gn (x) = |
n2n |
k − |
1 |
χ k − 1 |
|
|
|
(x) |
|
|
|
|
|
|
||||||||||||||
ξ 1 ,ξ 2 |
L1+ : |
|
∑ |
|
k |
|
|
|
|
|
|
||||||||||||||||||||
|
n |
|
|
|
|
|
|
|
|||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
k = 1 |
2 |
|
|
|
|
|
|
< x≤ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
n |
|
n |
|
|
|
|
|
|
||||||
ξ n1 = gn (ξ 1) |
|
|
= gn (ξ 2 ) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
||||
ξ n2 |
будуть простими випадковими величинами. |
|
|
|
|
||||||||||||||||||||||||||
Тоді Mξ 1ξ |
2 |
= |
Mξ 1Mξ |
2 |
lim Mξ |
1ξ 2 |
= |
Mξ ξ |
|
= |
lim Mξ |
1 limξ 2 = |
Mξ |
1 |
Mξ |
2 |
де Тепер, якщо |
||||||||||||||
|
n n |
|
n |
n |
|
n→ ∞ |
|
n n |
|
|
1 2 |
|
n→ ∞ |
|
|
n n→ ∞ |
n |
|
|
|
|
||||||||||
скористатися представленням ξ |
= |
ξ + |
+ |
ξ − |
, легко показати і для довільних незалежних |
||||||||||||||||||||||||||
випадкових величин ► |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
Визначення мат. сподівання як інтеграла Лебега для функції ξ (ω ) |
|
|
|
|
|
||||||||||||||||||||||||||
Mξ = ∫ξ (ω )P( dω ) = ∫ξ( ω) dP( ω) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
Ω |
|
|
|
Ω |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
22

|
F1 Теорія імовірності, перший семестр |
∫ξ (ω )dP( ω ) = |
∫ξ( ω) χ (A ω) dP( ω) - усереднення. |
Ω |
Ω |
А- довільна множина і інтеграл береться по події А В теорії міри доводиться теорема Лебега про мат. збіжність
Збіжність майже напевно
Послідовність випадкових величин ξ 1 ,ξ 2 ,...,ξ n ,....збігається майже напевно до випадкової
|
величини ξ |
. Символічно |
|
|
|
|
|
|
|
|
|
|
= 1або P ω |
:limξ n = |
|
ξ = 1 |
|
|
|
|
|
|
|
|||||||||||||||||||||||
|
ξ n → ξ |
, якщо { P{ω |
:ξ n (ω ) → ξ( ω )}} |
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||||
|
M .H |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n→ ∞ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Теорема Лебега для мат. сподівань |
|
|
|
||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Якщо послідовність випадкових величин ξ n |
|
|
M .H |
|
|
і ω |
|
ξ n |
|
≤ η , Mη |
< +∞ , тоді |
|
|||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||||||||||
|
→ ξ |
|
|
|
||||||||||||||||||||||||||||||||||||||||||
|
lim Mξ n = M limξ n |
= Mξ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
|
n→ ∞ |
|
n→ ∞ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
Формули для обчислення мат. сподівання |
|
|||||||||||||||||||||||||||||||||||||
|
Розглянемо простір (Ω ,U , P) |
|
та величину ξ (ω ) :Ω → R . Нехай ξ (x) |
≡ x , яку можна |
|
|||||||||||||||||||||||||||||||||||||||||
|
розглядати на (R, BR , Pξ ) |
ξ (ω ) :R → R . Покажемо, що Mξ = |
∫ξ (ω )dP( ω ) |
= ∫ xdPξ( x) |
|
|||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Ω |
|
|
|
|
|
|
R |
|
|||
|
ξ n = n2n |
k − 1 |
χ |
|
|
|
|
|
|
(x) у середньому ξ n ↑ ξ |
|
Mξ |
= lim Mξ n |
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||
|
|
|
k − 1 |
|
|
k |
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||
|
∑ |
2n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n→ ∞ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
k = 1 |
|
2n < x≤ |
|
2n |
|
|
|
|
|
|
|
|
|
|
|
за рахунок |
|
|
|
|
|
|
|
|
k − |
|
|
k |
|
||||||||||||||||
|
∫ξ n (ω )dP( ω ) |
|
|
|
|
|
|
n2n |
χ |
|
|
|
|
|
|
|
|
|
|
|
|
n2n |
k − 1 |
|
1 |
|
|
|||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||
|
= Mξ n |
= ∑ |
k − 1 |
k |
= |
|
|
|
|
|
|
|
|
|
|
= |
∑ |
|
|
|
Pξ |
|
|
|
, |
|
|
= |
|
|||||||||||||||||
|
вимірності |
|
|
2 |
n |
|
2 |
n |
|
2 |
n |
|
||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
k= 1 |
ω : |
|
|
< ξ ≤ |
|
|
|
|
|
|
|
|
k = 1 |
|
|
|
|
|
|
|
|
|
|
||||||||||||||
|
|
|
|
|
|
|
|
|
|
n |
|
n |
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||
|
∫ ξ~n ( x) dP |
|
|
|
|
|
|
|
2 |
n2n |
2 |
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
ξ ( x) , де ξ~n (x) = ∑ |
k − |
χ k − 1 |
k |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||
|
R |
|
|
|
|
|
|
|
|
|
|
|
k = 1 |
2 |
|
|
|
|
|
|
< x ≤ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
n |
2 |
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
ξ~n (x) ↑ x переходимо до границі . |
Mξ = |
∫ξ (ω )dP( ω ) |
= ∫ xdPξ( x) - числова вісь. |
|
|||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Ω |
|
|
|
|
|
|
|
|
R |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Аналогічно доводиться і для довільної випадкової величини. Pξ ( ) |
|
однозначно |
|
визначається функцією розподілу.
Мат сподівання випадкової величини буде однозначно визначати її функцію ξ (x) і не залежати від конкретного завдання випадкової величини. Це твердження дає право розглядати мат. сподівання Mξ = ∫ xdFξ (x)
R
Інтеграл Лебега-Стільтьєса
Якщо g(x) - борелівська функція, то для в.в. g(ξ ) виконується :
Mg(ξ ) = |
∫ |
g(ξ( ω ) )dP( ω ) |
= |
∫ |
g( |
x) |
ξ |
, або Mg(ξ ) = |
∫ |
g (ξ ) |
(x) |
|
|
dP( )x |
|
xdF |
|||||||
|
Ω |
|
|
R |
|
|
|
|
R |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
23

F1 Теорія імовірності, перший семестр
Зв’язок інтегралів Лебега-Стільтьєса з інтегралом Рімана-Стільтьєса
Нехай g(x) - борелівська функція тоді інтеграл Лебега-Стільтьєса рівний інтегралу Рімана-Стільтьєса, а інтеграл Рімана-Стільтьєса має вигляд:
(R − S) |
|
g( x) dF( x) = lim |
|
|
|
|
|
|
|
|
N − 1 |
~ |
)(F( x |
) − F( |
x ) ) де точки x |
|
|||||||
|
lim |
|
|||||||||||||||||||||
∫ |
g(x |
k |
k |
||||||||||||||||||||
|
|
|
|
|
|
|
a→ +∞ |
N → ∞ ∑ |
|
|
k + 1 |
k |
|||||||||||
|
|
|
|
|
R |
|
|
b→ −∞ |
↑ |
|
|
|
|
|
|
|
→ 0 k = 0 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
інтервалу [a,b] і значення границь не залежить від точок розбиття, то |
|||||||||||||||||||||||
Mξ = |
(L − |
S) ∫ xdFξ ( x) = ( R − |
S) ∫ xdF(ξ |
)x |
|
коли є щільність, тоді Mg(ξ ) |
= |
||||||||||||||||
Pξ (x) |
|
|
|
|
|
R |
|
|
|
|
|
|
|
|
R |
|
|
|
|
|
|
||
|
щільність випадкової величини ξ |
|
|
|
|
||||||||||||||||||
Пригадаємо означення. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
1.Μ ξ n - момент n-того порядку; |
|
|
|
|
|
|
|||||||||||||||||
2.Μ |
|
ξ |
|
n - абсолютний момент n-того порядку; |
|
|
|||||||||||||||||
|
|
|
|
||||||||||||||||||||
3.Μ (ξ |
|
− |
Μ ξ )n - центральний момент n-того порядку; |
|
|||||||||||||||||||
4.Μ |
|
ξ |
|
− |
Μ ξ |
|
n - абсолютний центральний момент. |
|
|
||||||||||||||
|
|
|
|
|
|||||||||||||||||||
Dξ = |
Μ (ξ |
− |
|
Μ ξ )2 - дисперсія (другий центральний момент). |
|
деяке розбиття
~ |
= |
[xk , xk+ 1] |
xk ∆ k |
∫ g( x) Pξ( x) dx , де
R
Нагадаємо ε > 0 : P{ |
|
ξ − Mξ |
|
≥ ε } ≤ |
Dξ |
, Dξ < +∞ |
(Нерівність Чебишева). |
|
|
|
|||||||
ε 2 |
||||||||
|
|
|
|
|
|
|
Аналогічно виконується для сукупності незалежних випадкових величин ξ 1 ,...,ξ n . Якщо
c : Dξ ≤ c P |
|
ξ 1 + ... + ξ n − |
Mξ 1 + ... + Mξ n |
|
≥ ε |
|
→ 0 . |
|
|
|
|||||||
|
|
|||||||
|
|
n |
n |
|
|
n→ ∞ |
||
|
|
|
|
|
|
|||
|
|
|
|
Закон великих чисел та математичне сподівання використовується також у методі МонтеКарло для обчислення інтегралів.
Нехай {ξ n }+∞n= 1 - незалежні однаково розподілені випадкові величини, причому
∫ f (x)dx = a і розглянемо ξ : pξ (x) = |
1, x |
V |
, |
η = f (ξ ) . Тоді |
||
|
V |
|||||
V |
|
|
0, x |
|
|
|
Mη = ∫ f (x) 1 dx = |
a ≈ |
η 1 + ... + η n . (Наближення отримуємо за рахунок великих чисел – |
||||
V |
|
n |
|
|
|
|
чим більше n тим краща апроксимація - суть методу Монте - Карло)
Гільбертів простір випадкових величин.
Група G – множина об’єктів, для яких виконується: (g * h) * k = g * (h * k) – асоціативність
g * x = h має єдиний розв’язок для елементів G x * g = h має єдиний розв’язок для елементівG
Поле K – множина замкнена відносно операцій +, *: 1.”+” – комутативна група, тобто g + h = h + g
2. K \ {0} – комутативна група стосовно операції “*”, тобто g * h = h * g 3.γ(α + β) = γα + γβ - властивість дистрибутивності заданих операцій.
24

F1 Теорія імовірності, перший семестр
Векторний простір L над полем K – множина об’єктів на яких визначені операції “+” та “*” над елементами поля і мають місце дві групи властивостей:
1.x + y = y + x; |
|
|
|
|
|
|
|
|
|
1.α (βx) = (α β)x; |
|
||||||||||||||||||||||||||||||||||||||||||||||||||
2.(x + |
|
y) + |
|
|
|
|
|
|
|
|
z = |
x + |
( y + z); , |
2. 1:1 x = x; |
βx; |
||||||||||||||||||||||||||||||||||||||||||||||
3. 0 : x + 0 = |
|
|
x; |
|
|
|
|
|
|
|
|
|
3.(α + |
β)x = |
α x + |
||||||||||||||||||||||||||||||||||||||||||||||
4. (− |
|
x) : x + |
(− |
x) = |
0. |
4.α (x + |
y) = |
α x + |
α y. |
||||||||||||||||||||||||||||||||||||||||||||||||||||
Норма на векторному просторі L : |
|
|
|
||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
1. |
|
|
|
x |
|
|
|
≥ 0, |
|
|
|
x |
|
|
|
= 0 x = 0; |
|
|
|
|
|||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||||||||||||||||||||
2. |
|
|
|
|
|
|
|
|
|
x + |
|
y |
|
|
|
≤ |
|
|
|
|
|
|
x |
|
|
|
+ |
|
|
|
y |
|
|
|
; |
|
|
|
|
|
|||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||||||||||||||
3. |
|
|
|
|
|
|
|
|
α x |
|
|
|
= |
|
α |
|
|
|
x |
|
|
|
. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Метрикою на L над K називається функція двох аргументів така, що: 1.ρ (x, y) ≥ 0, ρ (x, y) = 0 x = y;
2.ρ (x.y) = ρ ( y, x);
3.ρ (x, y) ≤ ρ (x, z) + ρ (z, y).
Скалярним добутком в L над K називається дійсна функція двох аргументів така, що: 1.(x, y) = ( y, x);
2.(x, y + z) = (x, y) + (x, z); 3.(λx, y) = λ (x, y);
4.(x, x) ≥ 0 : (x, x) = 0 x = 0.
Гільбертовим простором називається повний нормований простір L , в якому норма введена за допомогою скалярного добутку (x, y) : x = (x, x).
У цьому випадку виконується (x, y) ≤ x
y
- нерівність Коші –Буняковського, крім того
, оскільки x, y - лінійно незалежні, то y = |
(x, y) |
|
x. |
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
x |
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
L2 - сукупність випадкових величин ξ |
|
: Mξ 2 |
|
< |
∞ |
|
|
, L2 = |
{ξ |
: Mξ 2 |
< ∞ |
} |
|
|
|
|
|
|||||||||||||||||||||||||||||||||||||||||||
(тобто інтегрованих з квадратом.) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||
Множина L2 |
|
є гільбертовим простором в якому |
|
|
|
|
ξ |
|
|
|
- норму вводимо, як корінь з |
|||||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||||||||||||||||||||||||
скалярного добутку(ξ 1 ,ξ 2 ) = |
|
Mξ 1ξ 2 . |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||
Покажемо, що |
ξ ξ |
2 |
|
|
L . Дійсно 2 |
|
ξ ξ |
2 |
|
≤ ξ |
2 |
|
|
+ |
|
|
|
ξ |
2 , звідки, оскільки |
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
1 |
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
1 |
|
1 |
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
ξ |
1 |
,ξ |
2 |
: Mξ 2 |
< |
∞ |
, Mξ |
2 |
< |
∞ |
|
|
, маємо, що Mξ ξ |
2 |
< |
∞ |
|
|
|
, що і треба було показати. |
|
|
||||||||||||||||||||||||||||||||||||||
|
|
|
1 |
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
L2 λ ξ |
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||
Покажемо тепер, що |
ξ |
1 |
,ξ |
2 |
|
1 |
|
+ λ |
ξ |
2 |
|
|
|
|
L2 . |
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||
Маємо : (λ ξ |
1 |
+ |
λ ξ |
2 |
) |
2 |
|
= |
λ |
2ξ |
1 |
2 + λ |
2ξ |
2 |
+ |
|
2λ |
λ ξ ξ |
2 |
|
|
≤ |
λ 2ξ |
2 |
+ λ |
2ξ |
2 + |
2 | λ |
λ |
2 |
|| ξ ξ |
2 |
|≤ |
|||||||||||||||||||||||||||
|
|
|
|
|
1 |
|
|
2 |
|
|
|
|
|
1 |
|
|
|
|
|
|
2 |
|
|
2 |
|
1 |
|
|
|
2 |
|
1 |
|
|
|
|
|
|
1 |
1 |
|
2 |
2 |
1 |
|
1 |
|
|||||||||||||
≤ λ |
2ξ |
1 |
2 + λ |
2ξ |
2 |
2 + | λ λ |
2 |
| (ξ |
1 |
|
+ ξ |
2 |
)2 |
< ∞ . |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||
|
1 |
|
|
2 |
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Повнота цього простору доводиться так, як і в функціональному аналізі.
25

F1 Теорія імовірності, перший семестр
Отже L2 - гільбертовий простір з нормою ξ = Mξ 2 , для якого виконується
Mξη ≤ |
|
|
Mξ 2 |
Mη 2 - нерівність Коші – Буняковського, де ξ = |
Mξη |
|
η . |
||||
Mη |
2 |
||||||||||
|
|
|
|
|
|
|
|
|
|||
Коваріацією випадкових величин ξ ,η називають величину |
|
|
|
||||||||
|
|
|
cov(ξ ,η ) = M (ξ − Mξ )(η − Mη ). |
|
|
|
|||||
Коефіцієнт кореляції – величина r(ξ ,η ) = cov(ξ ,η ) . |
|
|
|
||||||||
|
|
|
|
|
|
|
Dξ Dη |
|
|
|
|
Властивості коефіцієнта кореляції: |
|
|
|
||||||||
1) |
|
r(ξ ,η ) |
|
≤ 1, якщо r(ξ ,η ) = |
0 ξ ,η - некорельовані величини. |
|
|
|
|||
|
|
|
|
|
|||||||
| M (ξ |
− Mξ )(η − |
Mη ) |≤ Dξ |
Dη - нерівність Коші-Буняковського. |
|
ξ − Mξ
= M (ξ − Mξ )2 = Dξ - тобто дисперсія є нормою центрованої в.в.
2)якщо |
|
r(ξ |
,η ) |
|
= 1 η = aξ + |
b ,де |
a = |
Dη |
. Тобто ξ ,η лінійно залежні. |
|
|
||||||||
|
|
cov(ξ ,η ) |
|||||||
Дійсно ξ |
− Mξ = cov(ξ ,η ) |
(η − Mη ) |
|
||||||
|
|
||||||||
|
|
|
|
|
Dη |
|
|
|
|
3)якщоξ ,η |
- незалежні r(ξ ,η ) = |
0; |
|
|
Обернене твердження вірне лише коли ξ ,η - мають нормальний розподіл.
Тобто якщо величини некорельовані і мають нормальний розподіл, то вони незалежні. В загальному випадку некорельовані величини можуть бути залежними. До речі
cov(ξ ,η ) = M (ξ − Mξ )(η − Mη ) = Mξη − Mξ Mη
Подамо метрику через скалярний добуток : ξ ,η L2 ρ (ξ ,η ) = ξ |
− η = M (ξ − η )2 |
|||||
Будемо казати, що послідовність {ξ n }∞n= 1 |
збігається до випадкової величини ξ в середньо |
|||||
квадратичному значенні, тобто limξ |
n |
= ξ |
, якщо M (ξ |
n |
− ξ )2 → |
0 . |
n→ ∞ |
|
|
n→ ∞ |
|
||
|
|
|
|
|
|
Ланцюги Маркова.
Розглянемо послідовність в.в. X1 , X 2 ,..., X n ,K; X n {0,1,...} = Z +
Послідовність X n будемо називати ланцюгом Маркова, якщо для будь-якої сукупності
індексів n1 < n2 < |
... < |
nk має місце властивість: |
|
|
|
|
|||||
P{X n |
k |
= ik / X n |
= i1 |
,..., X n |
k− 1 |
= ik − 1} = P{X n |
= |
ik / X n |
k− 1 |
= ik − 1} = Pi |
i {nk − 1 , nk }, |
|
1 |
|
|
|
k |
|
|
k− 1 k |
Pik − 1ik (nk − 1 , nk ) - перехідна ймовірність ланцюга маркова.
Марківська властивість фактично означає, що майбутнє не залежить від минулого, а залежить тільки від теперішнього.
Ланцюг Маркова називається однорідним, якщо Pij (m, n) = Pij (n − m) . Pij (n, n + 1) = pij , n - для однорідного ланцюга маркова.
В подальшому розглядаємо лише однорідні ланцюги.
P = pij
i∞, j= 0 - матриця перехідних ймовірностей ланцюга Маркова.
Приклад. (ланцюга Маркова)
26

F1 Теорія імовірності, перший семестр
Розглянемо схему випробувань Бернуллі з ймовірністю успіху р, тобто У-успіх, Н-не успіх, і Р(“У”)=р, Р(“Н”)=q; p + q = 1. Тоді нехай послідовність: НУУУ…У. Випадкова
величина X n = i , якщо на n -му випробуванню реалізувалася серія успіхів довжиною i .
Xn = 0 , якщо сталася реалізація неуспіху .
{X n } –ланцюг Маркова з можливими станами {0,1,2,…}. Графічно це можна показати так :
pij
i∞, j= 1 - матриця перехідних ймовірностей ланцюга Маркова для 1-го кроку.
Запишемо матрицю переходів за один крок.
|
q |
p |
0 |
0 ... |
. |
|
|
|
0 |
p |
0 ... |
. |
|
|
q |
|
||||
P = |
q |
0 |
0 |
p ... |
. |
|
|
|
|
... |
... ... |
|
|
|
... ... |
. |
||||
|
|
0 |
0 |
... p |
0 |
|
|
q |
|
|
|
- де pij ймовірність знаходження на і-му кроці в j-му стані. |
|
|
|
|
|
||||||||||||||||||
|
|
pij (n) = P{X n = j / X 0 = |
i} називається ймовірністю переходу за n кроків. |
||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
|
|
Теорема (рівняння Чeпмена-Колмогорова). |
|
|
|
|
|
} ∞ |
|
|
|
|
|
|
|||||||||||
|
|
Перехідні ймовірності p |
ij |
(n) ланцюга Маркова { X |
n |
задовольняють рівняння |
|||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
∞ |
|
|
|
|
|
|
n= 1 |
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Чепмена-Колмогорова: |
|
pij (n) = |
∑ pik (r) pkj (s) , де (r, s) - невід’ємні цілі числа такі, що: |
||||||||||||||||||||
|
|
r + s = |
n |
|
|
|
|
|
|
k = 0 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
◄ Запишемо за визначенням і додамо в чисельник подію ймовірності 1 |
|||||||||||||||||||||||
|
|
pij (n) = P{X n = j / X 0 = |
i} = |
P{X n = j, X 0 |
= i} |
= |
|
P{X n = |
j,Ω , X 0 |
= i} |
= |
|
|
||||||||||||
|
|
|
|
P{X 0 = i} |
|
|
|
|
P{X 0 |
= i} |
|
|
|
|
|||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
∞ |
|
|
|
|
|
|
|
|
∞ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
P{X n = j,U{X r = k}, X 0 = i} |
|
|
∑P{X n = j, X r = k, X 0 = i} |
|||||||||||||||||||
= |
|
k= 0 |
|
|
|
|
|
= (r < n) = |
|
k= 0 |
|
|
|
|
|
|
|
|
|
|
= |
|
|||
|
P{X 0 = i} |
|
|
|
|
|
|
|
|
|
P{X 0 = |
i} |
|
|
|
||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
∞ |
|
|
|
|
|
P{X r = k, X 0 = |
i} |
|
∞ |
|
|
|
|
|
|
|
|
|||||
|
|
= ∑P{X n = j / X r = k, X 0 |
= |
i} |
= |
∑ pik (r) pkj (n − r) ► |
|||||||||||||||||||
|
|
|
|
P{X 0 = |
i} |
|
|
||||||||||||||||||
|
|
|
k = 0 |
|
|
|
|
|
|
|
|
|
|
k= 0 |
|
|
|
|
|
|
|
|
|||
|
|
Наслідок В матричній формі рівняння записується так: |
P(n) = P(r)P(s) , де s = n − r |
|
|||||||||||||||||||||
|
|||||||||||||||||||||||||
|
|
Звідси отримуємо таку властивість матриці перехідних ймовірностей |
|||||||||||||||||||||||
|
|
P(n) = |
P(n − 1)P(n) = ... = Pn (1) = |
Pn |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Крім перехідних імовірностей для ланцюга Маркова ще задають початковий розподіл :
{pk (0)}∞k = 0 , тобто імовірності з якими він може знаходитися в кожному стані в 0-ий момент часу. Тоді можна ввести гіпотези: pk (0) = P{X 0 = k} = P( Hk) .
27

|
|
|
|
|
|
|
|
|
F1 Теорія імовірності, перший семестр |
Ймовірності p |
k |
(n) = |
P{X |
n |
= k}, {p |
k |
(n)}∞ |
- складають безумовний розподіл ланцюга |
|
|
|
|
|
|
k = 0 |
|
|||
Маркова на n-му кроці. Його можна обчислити користуючись формулою повної |
|||||||||
імовірності (з гіпотезами P(Hk ) = |
|
|
|
∞ |
|||||
pk( 0) ) : pk (n) = ∑ pi (0) pik (n) |
|||||||||
|
|
|
|
|
|
|
|
|
k= 0 |
Класифікація станів дискретного ланцюга Маркова. |
|||||||||
Стан і ланцюга Маркова {X n }n+∞= 0 |
називається неістотним (несуттєвим), якщо |
||||||||
існують m, j pij (m) > |
0 , але для |
n : p ji (n) |
= 0 |
Нехай E = {0,1,2,...} –множина станів з відокремленою від неї множиною неістотних
станів. Тоді ця множина - множина істотних станів. Характеризується тим , що потрапивши в неї ланцюг ніколи з неї не вийде.
Розглянемо клас істотних станів.
Стан j називається досяжним з стану i , якщо існує m ≥ 0 : pij (m) > 0 , a pij (0) = δij .
Позначається i → j . (i ↔ j) |
(i → j j → i) |
Відношення сполучення (i ↔ |
j) “↔ ” – є рефлексивним, симетричним, транзитивним, |
отже множину всіх істотних станів можна представити , як скінчену або зліченну |
сукупність множин E1 , E2 ,…, En . які Ei ∩ E j = , а в об’єднанні дають множину істотних
станів й характеризуються тим, що стани з яких вони складаються сполучаються між собою, а переходи між множинами істотних станів є неможливими.
Клас E складається з E*(клас неістотних станів) і з E1 , E2 ,…, En …(класи істотних станів).
E1 , E2 ,…, En … називаються незвідними класами ланцюга, а ланцюг Маркова, який складається лише з 1-го класу E = E1 (істотних станів) називається незвідним класом. Тобто ЛМ, всі стани якого сполучаються називається незвідним класом.
d(i) - період стану “ i ” ЛМ , якщо d(i) - найменший спільний дільник(НСД) таких n , що pij (n) > 0 . Якщо d(i) = 1, то стан “ i ”- неперіодичний.
Приклади періодичного ЛМ:
|
|
|
d(i) = |
2 , тобто за парне число кроків можна потрапити в будь-який стан. |
|
Знайдемо час першого повернення в стан “ i ”. Для |
||
n ≥ |
1 fii (n) = P{X n = i / X n− 1 ≠ i,..., X 0 ≠ i}. Тоді fii (0) = 0 та fii (1) = pii , ..., |
28

|
|
F1 Теорія імовірності, перший семестр |
pii (n) = |
n |
|
∑ fii (k) pii (n − k) , при n ≥ 1. Таким чином були введені генератриси pii (n) , та |
||
|
k = 0 |
|
fii (n) . Розглянемо функції від комплексної змінної S : |
||
|
+∞ |
+∞ |
Pii (s) = |
∑S n pii (n) та Fii (s) = |
∑S n fii (n) звідси маємо |
|
n= 0 |
n= 0 |
Pii (S)
Стан
Стан
− pii (0) = Pii (S)
xi називається
xi називається
− 1 = Fii (S)Pii (S) pii = |
|
1 |
|
|
1− |
Fii (S) |
|||
|
||||
+∞ |
|
|
|
|
рекурентним, якщо: ∑ fii (n) = 1. |
||||
n= 1 |
|
|
||
|
+∞ |
|
|
|
не рекурентним, якщо: ∑ fii (n) < 1. |
||||
|
n= |
0 |
|
Теорема (критерій рекурентності)
+∞
Стан xi рекурентний ∑ pii (n) = ∞ .
n= 0
◄ Згадаємо лему Абеля з мат. аналізу , вона стверджує, що
+∞ |
|
|
+∞ |
|
|
|
а)∑аn = a < ∞ |
lim∑S n an = |
a . |
|
|
||
n= 0 |
|
s→ 1− |
n= 0 |
|
|
|
|
+ |
∞ |
|
+ ∞ |
|
|
b)an ≥ 0,lim∑S n an = |
a < ∞ |
∑an = a |
|
|
||
|
s→ 1− n= 0 |
|
n= 0 |
|
|
|
Необхідність: |
|
|
|
|
|
|
|
|
|
+∞ |
|
|
|
“ i ” – рекурентний ∑ pii (n) = |
+∞ . |
|
|
|||
|
|
|
n= 0 |
|
|
|
+∞ |
л.Абеля |
|
|
+∞ |
|
|
∑ fii (n) = 1 limFii (S) = 1 limPii (S) = ∞ |
∑ pii (n) = ∞ . |
|||||
n= 0 |
|
s→ 1− |
|
s→1− |
n= 0 |
|
Достатність: |
|
|
|
|
|
|
+∞ |
|
|
|
|
|
|
Нехай ∑ pii (n) = ∞ ” i ” – рекурентний. |
|
|
||||
n= 0 |
|
|
|
|
|
|
|
|
|
+∞ |
л.Абеля |
|
limPii (S) = ∞ . Що і т.д. |
Доведемо це. Дійсно ∑ fii (n) < |
1 limFii (S) < 1 |
|||||
|
|
n= 1 |
s↑1 |
|
s↑1 |
|
Стан xi |
називається нульовим, якщо lim pii (n) = 0. |
|
||||
|
|
|
|
n→ ∞ |
|
|
Стан xi |
називається ненульовим , якщо lim pii (n) ≠ |
0. |
||||
|
|
|
|
n→ ∞ |
|
|
Наслідок: Не рекурентний стан завжди є нульовим. Ненульовий стан завжди рекурентний.
Ланцюги Маркова можуть мати чотири можливі станів:
1)не рекурентний ненульовий.
2)не рекурентний нульовий.
3)рекурентний нульовий.
4)рекурентний ненульовий.
Нульовий стан буває : рекурентний та не рекурентний .
29

F1 Теорія імовірності, перший семестр
Ненульовий стан буває : ( тільки )рекурентний .
Теорема (солідарності)
Для незвідного Ланцюга Маркова всі стани належать до одного типу:
1)якщо хоч один рекурентний, то всі рекурентні;
2)якщо хоч один нульовий, то всі нульові;
3)якщо хоч один періодичний з періодом d, то всі інші періодичні з періодом d
◄Розглянемо доведення властивості (2):
Розглянемо стани “i” та “j” Ланцюга Маркова X n . Оскільки X n - незвідний, то |
|
||||||||||||||
N, M : pij (N) > |
0, pij( M) > |
0 , тоді pij (N + M + n) |
= |
∑ pik( N) pkl( |
n) p(li |
M) , n ≥ |
0 |
||||||||
Якщо k ≤ l ≤ |
|
j , то pii (N + |
M + n) ≥ pij( N) p jj( n) |
p(jik,lM) . |
|
|
|
||||||||
Позначимо pij (N) = α , pik( M) = β, тоді |
pii (N + M + |
n) |
≥ αβ p jj( n) |
(*) |
та |
|
|||||||||
p jj (N + |
M + |
n) ≥ |
αβ pii( n) |
(**) |
|
|
|
|
|
|
|
||||
(*), (**) |
|
|
1 |
|
p |
|
(N + M + n) ≥ p ( n) |
≥ αβ p ( n − |
|
N − |
M) при n ≥ |
N + |
M ;α , β ≠ |
0 . |
|
αβ |
|
|
|
||||||||||||
|
|
|
|
ii |
|
jj |
ii |
|
|
|
|
|
|
За умовою стан і – нульовий ( за теоремою про двох поліцаїв ) j - нульовий . Аналогічно на підставі цієї нерівності перевіряються інші властивості. ►
Розглянемо більш детально структуру періодичних Ланцюгів Маркова.
Теорема. Якщо незвідний Ланцюг Маркова X n , n ≥ 0 є періодичний з періодом d ,
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
d − 1 |
|
|
розбивається на d підкласів |
||||||||||||||
|
|
|
|
|
|
|
|
тоді множина його станів {0,1,...} = |
UEi |
||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i= 0 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
E0 ,..., Ed − 1 , таких, що |
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
|
||||||||||||||||||||
|
|
|
|
|
|
|
|
Ek → Ek + 1 |
(переходить до стану з ймовірністю 1) Ed − 1 → E0 |
||||||||||||||||||||||||||||||||||||||||
|
З теореми матриця Ланцюга Маркова має блочно-діагональний вигляд : |
||||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
E0 |
|
|
E1 |
|
E2 |
... |
|
Ed − 1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
|
E0 |
|
|
|
|
0 |
≠ |
0 |
|
0 |
... |
|
0 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||
|
E1 |
|
|
|
|
0 |
|
|
0 |
|
|
≠ |
0 |
... |
|
0 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
E2 |
|
|
|
|
0 |
|
|
0 |
|
|
0 ... ... |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||
... |
|
|
|
... ... ... |
... |
|
≠ |
0 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||
|
Ed − 1 |
|
|
≠ 0 |
|
|
0 |
|
|
0 |
... |
|
0 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
|
ненульовою буде перша над діагональ і отой кутовий блок, а інші скрізь нулі. |
||||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Ергодичний розподіл Ланцюга Маркова |
|
|
|
|
|
|
||||||||||||||||||||||||||
|
Нехай перехідні ймовірності |
pij (n) . |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||
|
Приклад {0,1} - два стани Ланцюга Маркова. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||
|
P = |
|
|
p00 |
p01 |
|
|
- матриця переходу за один крок. |
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||
|
|
|
|
|
p |
p |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
10 |
|
|
11 |
|
|
|
|
|
|
( p |
|
|
|
) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
2 |
|
|
|
|
|
p2 |
+ p |
p |
|
p |
01 |
00 |
+ |
p |
|
= P(2) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||
|
P |
= |
|
|
|
|
00 |
|
|
|
|
01 |
10 |
) |
|
|
+ |
|
11 |
|
|
- матриця переходу за два кроки. |
|||||||||||||||||||||||||||
|
|
|
|
|
|
p ( p |
00 |
|
+ |
|
p |
p2 |
p |
01 |
p |
|
|
||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
10 |
|
|
|
|
11 |
|
|
11 |
|
|
|
10 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
P(n) = P n = |
|
|
|
|
|
1 |
|
|
|
|
|
1 − p11 |
|
|
1 − p00 |
|
|
|
+ |
( p |
00 |
− p − 1)n |
|
|
|
|
1 − p00 |
− (1 − p00 ) |
|
|
|
|
||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
1 − |
|
p |
|
|
1 − p |
|
|
|
|
|
|
|
|
11 |
|
|
|
|
− (1 − p ) |
1 − p |
|
|
|
|
|
||||||||||||
|
2 |
− p |
00 |
− p |
|
|
|
|
|
|
00 |
|
|
|
|
2 |
− p |
00 |
− p |
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
11 |
|
|
|
|
11 |
|
|
|
|
|
|
|
|
|
|
|
11 |
|
|
|
|
11 |
11 |
|
|
|
|
|
30