Добавил:
study@slavapmk.ru Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:
Панков все лекции для ИИ.pdf
Скачиваний:
0
Добавлен:
11.05.2026
Размер:
9.06 Mб
Скачать

КАФЕДРА ТЕОРИИ ВЕРОЯТНОСТЕЙ И ПРИКЛАДНОЙ МАТЕМАТИКИ

Лекция № 11

Характеристические функции. Центральная предельная теорема.

Ее следствия.

Теперь рассмотрим случайную величину с комплексными значениями

i ,

где , - вещественные случайные величины, заданные на одном вероятностном пространстве ( ,A, P) , i - мнимая единица i2 1 ,: , при этом E , E . По определению будем считать, что

E E i E .

Пусть - вещественнаяслучайнаявеличина. Тогдаиспользуяформулу

Эйлера eix cos x i sin x , мы можем образовать комплекснозначную случайную величину:

(t) cost i sint eit .

Определение. Характеристической функцией случайной величины

называется комплекснозначная функция, t : для любого t равная

 

 

 

 

cos t

 

 

sin t

 

Eeit

.

t E

 

i E

 

 

Если

- случайная величина дискретного типа с распределением

xi

 

,i

 

 

 

 

 

 

 

 

 

 

, то

 

 

 

 

 

 

P xi

 

 

 

 

 

 

 

 

 

t eitxi P xi .

 

 

 

 

 

(i)

 

 

 

 

 

 

 

 

Если

 

 

- случайная величина абсолютно непрерывного типа с

плотностью p (x) , то

 

 

 

 

t eitx p (x)dx .

Теорема (о свойствах характеристической функции – без доказательства). Пусть - произвольная случайная величина с характеристической функцией t . Тогда

1. 0 1;

2.| t | 1 для любого вещественного t ;

3.если a b при произвольных a,b , то

t eitb at ;

4. характеристическая функция равномерно непрерывна на , т. е.

0

0

такое, что

t1,t2 :| t1

 

t2

|

выполняется

 

1

 

2

 

 

;

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

t

 

 

t

 

 

 

если E

 

 

n

 

 

 

 

 

 

 

 

k

t

d k t

 

 

 

 

 

 

 

 

 

 

 

 

 

5.

 

 

 

 

, то для любого k n существует

 

, и при этом

 

 

 

dxk

 

 

 

 

 

k

0

i

k

E

 

k

;

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

6. если случайные величины и независимы, то

t t t

С помощью принципа математической индукции свойство 6 обобщается на любое конечное количество случайных величин.

Теперь для конкретных дискретных и абсолютно непрерывных случайных величин рассмотрим примеры вычисления их характеристических функций.

Примеры.

1) Пусть

- индикатор некоторого случайного события, 1

0

, тогда, и

 

p

q

 

мы получаем:

t eit 1 P 1 eit 0 P 0 peit q .

2) Пусть Bi (n, p) . Мы можем представить эту случайную величину в виде суммы независимых и одинаково распределенных случайных

величин 1

2 ... n ,

где i

1

0

- индикатор того, что в i-м испытании

 

 

 

 

 

 

 

 

 

 

 

p

q

 

 

 

 

 

произошел успех, тогда:

 

 

 

 

 

 

 

n

t peit q n .

 

 

 

 

 

 

 

t i

 

 

 

 

 

 

 

i 1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

3) Пусть

 

.

Тогда,

используя разложение

в ряд Тейлора

 

 

 

 

 

 

 

 

 

 

 

 

k

 

экспоненты комплекснозначного аргумента ez

z

 

 

, получаем

 

 

 

 

 

 

 

 

 

 

 

 

 

 

k 0 k!

 

 

 

 

k

 

eit k

 

it

it

 

 

 

t eitk

 

 

 

e e

 

e e e

e (e 1) .

 

 

 

 

 

 

 

 

 

 

k 0

 

 

k!

k 0

k!

 

 

 

 

 

 

 

4) Пусть имеет геометрическое распределение, тогда

 

 

 

pe

it

 

 

t eitk qk 1 p peit qeit k 1

 

 

 

.

1 qe

it

k 1

k 1

 

 

5) Пусть дана нормально распределенная случайная величина со средним и дисперсией 2 . Рассмотрим вместо случайной величины

N( , 2 ) величину 1 2 .

Из свойств плотности при линейных преобразованиях случайных величин следует, что 1 N (0,1) , и

 

 

 

 

 

 

1

 

 

 

x2

 

 

 

 

 

 

1

 

 

 

 

x2 2itx (it)2

 

(it)2

 

e

t2

 

 

 

( x 2it)2

 

itx

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

2

 

 

 

 

1 t e

 

 

 

 

 

 

 

 

 

 

e

 

 

 

e

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

e 2 dx

 

 

 

 

2

 

2 dx

 

 

 

 

 

 

2 dx

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

2

2

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

2

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Сделаем замену z x 2it ,

 

dx dz , тогда

 

 

 

 

 

 

 

 

 

1 t e

 

 

t2

 

 

 

 

1 e

 

z2

 

 

 

t2

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

2

 

 

 

 

 

2 dz e 2

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

2

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Так как 1 , то

 

 

 

 

 

 

 

 

2t2

2t2

 

 

 

eit

 

 

 

eit e

 

 

 

it

 

 

 

t

t

2 e

 

 

2 .

 

 

1

 

 

 

 

 

 

 

 

Теорема (формула обращения - без доказательства). Для любой

случайной величины

с характеристической функцией t

и для

любых вещественных

 

х1

и х2 , являющихся точками непрерывности

функции распределения F (x) ,

верно равенство:

 

 

 

1

 

A

itx

itx

 

 

 

 

 

 

 

 

 

 

 

 

 

F x2 F x1

lim

 

e

1 e

2

 

(t)dt

 

 

 

 

 

 

 

 

 

 

 

it

 

 

 

 

 

 

 

 

 

 

 

 

2 A

A

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Следствие. Если t

- абсолютно интегрируема, т.е. если существует

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

конечный интеграл

 

 

 

 

dt

 

,

то случайная величина

 

имеет

 

 

 

 

 

 

 

 

 

 

t

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

1

 

 

itx

 

 

плотность p x такую, что

p x

 

 

e

t dt.

 

 

2

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

t
F x

Как следствие из формулы обращения мы получаем теорему единственности. Теорема единственности состоит в том, что соответствие между функциями распределения случайных

величин и их характеристическими функциями является взаимно однозначным. Содержательная часть теоремы, т.е. смысл теоремы единственности, состоит в том, что по характеристической функции мы можем однозначно определить функцию распределения F x ,

и наоборот.

Теорема (непрерывности – без доказательства). Пусть дана

последовательность

случайных

 

величин

i ,i

с

характеристическими функциями i t

 

и функциями распределения

F

x

. При

этом существует предел

lim t t

, и функция

t

 

i

 

n n

 

непрерывна

в точке

t 0 . Тогда t

является характеристической

функцией, которой по теореме единственности будет соответствовать

единственная функция распределения

F x . При этом lim F n x F x для

всех x , в которых F x непрерывна.

n

 

Теперь рассмотрим конкретные Примеры применения теоремы единственности.

1). Пусть даны две независимые случайные величины 1 и 2 такие, что1 1 , 2 2 . Тогда

1 t e 1 eit 1

и 2 t e 2 eit 1 .

Из свойств характеристической функции следует, что

1 2 t 1 t 2 t e 1 eit 1 e 2 eit 1 e 1 2 eit 1 ,

где e 1 2 eit 1 - характеристическая функция случайной величины, распределенной по закону Пуассона с параметром 1 2 .

Отсюда по теореме единственности 1 2 1

2 ,

т.е. с

использованием

теоремы

единственности

и

свойств

характеристических функций можно доказать факт, который мы доказали ранее, используя формулу свертки.

2). Пусть даны две независимые случайные величины 1

и 2 такие, что

1 N ( 1, 12 ) , 2 N ( 2 , 22 ) . Тогда

 

it

12t2

it

22t2

 

 

 

 

t e 1 2

, t e 2 2 ,

 

1

 

2

 

 

 

Из свойств характеристической функции аналогично предыдущему примеру получаем, что

 

t e

it

12 22 t2

1 2

1

2

 

2

,

 

 

 

 

 

 

 

где

e

it 12 22 t2

-

характеристическая функция случайной величины,

1

2

 

2

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

распределенной

по нормальному закону со средним 1 2 и

дисперсией 12

22 .

Отсюда, по теореме единственности следует, что сумма случайных величин, распределенных по нормальному закону, распределена нормально со средним, равным сумме средних, и дисперсией, равной

сумме дисперсий. Это верно для любой суммы конечного числа таких величин.

Характеристическая функция случайного вектора Определение. Пусть ( 1,..., n ) - произвольный случайный вектор. Тогда

характеристической функцией случайного вектора называется

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

функция

 

 

 

 

 

 

 

t1,...,tn : n

 

такая, что для любого t n

 

t

 

 

 

 

 

 

i t

 

 

 

 

 

i t,

 

 

 

 

 

 

 

 

 

 

 

... t

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

t E e 1 1

 

 

n n

 

E e

 

 

 

E eit

 

,

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

где t, - скалярное произведение векторов t и , а t - произведение

 

 

1

 

вектор-строки

 

t1,...,tn на вектор-столбец ...

.

t

 

 

 

 

 

 

n

 

Теорема (о свойствах характеристической функции случайного вектора - без доказательства). Пусть ( 1,..., n ) - произвольный

случайный вектор с характеристической функцией (t) . Тогда выполняются следующие свойства:

1)0,...,0 1;

2)(t) 1 для любого t (t1,...,tn ) n ;

3)функция (t) равномерно непрерывна в n , т.е. 0 такой, что

для любых

 

t1 '...tn ' ,

 

t1 "...tn " n таких, что

t1 ' t1 " 2 ... tn ' tn " 2 ,

t1

t2

выполняется неравенство t1 t2 ;

4)сохраняетсятеорема единственности,т.е.функцияраспределения F (x) однозначно определяется своей характеристической функцией;

5)(формула обращения) если (t1,...,tn ) - характеристическая функция

случайного вектора

 

( 1,..., n )

с функцией распределения

F(x1,..., xn ) , то

 

для любых x1 ',..., xn ' , x1 ",..., xn " n

верна формула

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

1

 

A

 

A n

eitk xk ' eitk xk "

 

 

 

 

 

 

 

 

 

 

 

 

 

lim

 

 

 

...

 

 

 

 

(t ,...,t

)dt ...dt

 

 

 

 

 

 

 

 

 

 

 

 

 

 

F x1 ",..., xn "

 

F x1 ',..., xn '

A 2

n

 

itk

 

1

n

1

n

 

 

 

 

 

 

 

 

 

 

A

 

A k 1

 

 

 

 

 

6) если (t1,...,tn ) - характеристическая функция случайного вектора ,

то характеристическая функция суммы случайных величин, составляющих его равна

1 ... n t 1 ,..., n t,...,t t,...,t .

Следствие. Если существует плотность p x1,..., xn случайного вектора , ахарактеристическаяфункция t1,...,tn интегрируема,тобудетверным следующее равенство:

 

 

x1,..., xn

1

 

 

 

i t x

...t x

t1,...,tn dt1...dtn

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

p

 

 

 

... e

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

1 1

n n

 

.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

2

n

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Теорема (без доказательства). Если дан случайный вектор ~ N , , то

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

1

 

 

 

 

T

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

его характеристическая функция имеет вид

 

 

 

 

 

 

 

 

 

 

 

 

 

.

 

 

 

 

 

 

 

2

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

t exp it

 

 

t t

Покажите самостоятельно, что если

1, 2 N 1, 2, 12, 22, ,

то

 

 

 

 

 

1

 

2

2

 

2

2

 

 

 

t1,t2

exp i t1 1

t2 2

 

t1

1

 

2t1t2 1

2 t2 2

 

.

 

2

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Центральная предельная теорема Определение. Говорят, что последовательность случайных величин

n ,n N подчиняется центральной предельной теореме, если для

случайных величин

Sn 1 ... n ,

Sn

 

Sn

E S

n

выполняется, что

 

 

 

 

 

 

 

 

 

D Sn

последовательность Sn ,n N сходитсяпораспределениюкстандартной нормальной случайной величине:

Sn D , где N 0,1 .

n

Теорема (центральная предельная теорема для независимых, одинаково распределенных случайных величин). Пусть n ,n N -

последовательность независимых одинаково распределенных случайных величин с конечной и ненулевой дисперсией (т.е. D n 2 0 ).

Тогда

последовательность

n ,n N

подчиняется

центральной

предельной теореме.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Доказательство.

Обозначим

E n

 

a , D n 2 , Sn 1

... n .

Из

условий

теоремы следует,

что ESn na ,

а DSn

n 2 .

 

 

 

 

Введем случайную величину

Sn

Sn

 

na

.

Легко видеть, что E Sn

0 , D Sn 1.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

n

 

 

 

 

Рассмотрим функцию распределения этой случайной величины

 

 

 

S

na

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

FSn

x P

n

 

 

x .

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

n

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Нам

 

нужно показать,

 

что

 

она сходится при

n

к

функции

распределения x

 

1

 

x

1

y2

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

e 2

стандартного нормального закона.

 

 

 

 

 

2

Применим

 

 

для

доказательства

данной

теоремы

метод

характеристических функций. Для этого рассмотрим для случайной величины Sn характеристическую функцию Sn (t) и покажем, что она

сходится к характеристической функции стандартного нормального закона

Представим случайную величину Sn в виде суммы

 

 

Sn

na

 

 

1

 

 

n

Sn

 

 

 

 

 

k ,

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

n

 

n k 1

где k k

a .

 

 

 

 

Мы получаем последовательность независимых и одинаково

распределенных случайных величин n ,n N .

При этом E n 0 ,

 

D n

2 .

Поэтому, из свойств характеристических функций следует, что

 

 

 

 

 

 

 

 

 

 

 

1

 

 

n

 

 

 

 

t

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

n

 

 

 

 

 

 

 

 

it

 

 

 

 

 

k

 

n i

 

 

 

 

 

 

 

n

 

 

t

 

 

 

 

 

 

t

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

n

 

 

 

 

 

k

 

 

 

 

 

 

 

 

 

t

 

E e

it Sn

E e

 

 

 

 

 

 

k 1

 

 

E e

 

 

n

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Sn

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

k

n

 

 

1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

k 1

 

 

 

 

 

 

 

k 1

 

 

 

 

 

 

 

 

n

 

Обозначим y

t

 

 

.

Тогда, по формуле Тейлора, при y 0

имеем,

что

 

 

 

 

n

при n :

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

y

 

 

 

y

 

 

 

0

 

 

' 0

 

y

'' 0

y2 o( y2 )

.

 

 

 

1

 

 

 

 

 

1!

 

 

2!

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

По свойствам характеристических функций получаем, что

'(0) i E 1 0 ,

'' 0 i2 E 1 0 2 i2 D 1 2 ,

y 1 2 y2 o y2 ,

2

 

 

t

 

 

 

 

t2

 

1

 

 

 

 

 

 

 

1

 

o

 

 

.

 

 

 

 

 

 

 

 

 

 

1

 

 

 

 

2n

 

 

 

n

 

 

n

 

Рассмотрим теперь логарифм Sn t :

ln t ln

 

 

t

 

 

n

nln

1

t2

o

1

 

 

 

 

 

 

 

 

 

 

 

.

 

 

 

 

 

 

Sn

1

 

 

 

 

2n

 

 

 

 

 

 

 

n

 

 

 

n

 

 

 

Теперь используем

формулу

 

Тейлора

ln 1 x x o x при

x 0 .

Получаем:

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

t2

1

 

 

t2

 

ln Sn

t n

 

 

o

 

 

 

 

o 1 .

 

2n

 

2

 

 

 

 

n

 

 

 

 

 

Следовательно, lim ln Sn

t

t2

и

 

 

 

 

 

n

 

2

 

t2

lim S t e 2 .

n n

t2

Ранее мы нашли, что если N 0,1 , то t e 2 . Следовательно,

lim S t t ,

n n

и, по теореме непрерывности, последовательность функций распределения FSn (x) имеет предел при n , равный функции

распределения стандартного нормального закона x для всех вещественных x .

Таким образом, мы доказали, что Sn D .

n

Теорема доказана.

Сформулируем полезную теорему:

Теорема (Ляпунова – без доказательства). Пусть n ,n N - последовательность независимых случайных величин, у которых определены математическое ожидание и ненулевая дисперсия (т.е.

E n

существует и

 

 

D n n2

0 ). Обозначим Sn 1 ... n . Если выполнено

условие Ляпунова,

 

т.е. существует 0

такое, что

lim

 

1

 

 

n

E

 

 

 

 

E

 

 

2

 

0

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

2

k

k

 

 

,

 

 

n

 

D Sn

 

 

 

 

 

 

 

 

 

 

 

k 1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

то

 

последовательность

n ,n N

подчиняется центральной

предельной теореме.

 

 

 

 

Центральная случайных предельная теорема для независимых и одинаково распределенных величин и интегральная теорема МуавраЛапласа являются следствиями теоремы Ляпунова.