Добавил:

degenetard Опубликованный материал нарушает ваши авторские права? Сообщите нам.

Вуз:

Московский технический университет связи и информатики

Предмет:

Анализ Случайных Процессов

Файл:

Экзамен 2021 / Панков Пособие по ТВиМС часть 1

.pdf

Скачиваний:

Добавлен:

28.01.2022

Размер:

1.04 Mб

Скачать

☆

<<< < Предыдущая 1 2 3 4 5 6 78 / 108 9 10 > Следующая >>>

Характеристическая функция случайного вектора Определение. Пусть ( 1,..., n )- произвольный случайный вектор. Тогда

характеристической функцией случайного вектора называется функция

t t1,...,tn : n такая, что для любого t n

t Eei t1 1 ... tn n Eei t, Eeit ,

где t, - скалярное произведение векторов t и , а t - произведение вектор-

					1
строки		t ,...,t		на вектор-столбец	...		.
строки	t	t ,...,t	n	на вектор-столбец	...		.
1			n
						n
						n

Теорема (о свойствах характеристической функции случайного вектора

- без доказательства). Пусть ( 1,..., n ) - произвольный случайный вектор с

характеристической функцией (t). Тогда выполняются следующие свойства:

1)0,...,0 1;

2)(t) 1 для любого t (t1,...,tn) n ;

3)функция

(t) равномерно непрерывна в n , т.е. 0

такой, что для

t1 '...tn ' ,

t1 "...tn " n

любых

таких, что

t1 ' t1 " 2

... tn ' tn " 2

выполняется неравенство

;

сохраняется теорема единственности, т.е. функция распределения F

(x)

однозначно определяется своей характеристической функцией;

(формула обращения) если

(t1,...,tn ) - характеристическая функция

случайного вектора

( 1,..., n )

с функцией распределения F(x1,...,xn ) , то для

любых x1 ',...,xn ' , x1 ",...,xn " n

верна формула

x1",...,xn " F

x1 ',...,xn '

A n

itk xk '

itk xk "

lim

...

(t ,...,t

)dt ...dt

;

itk

k 1

если

(t1,...,tn )

- характеристическая функция случайного вектора

, то

характеристическая функция суммы случайных величин, составляющих его равна

1 ... n t 1,..., n t,...,t t,...,t .

Следствие. Если существует плотность p x1,...,xn случайного вектора ,

а характеристическая функция

t1,...,tn интегрируема, то будет верным

следующее равенство:

x1,...,xn

i t x

...t x

t1,...,tn dt1...dtn .

... e

1 1

Тема №8 Двумерное нормальное распределение


Определение. Случайный вектор 1,..., n											имеет n–мерное нормальное
распределение, если его плотность имеет вид
p	(x ,...,x		)	1				e	1	x T 1 x ,
				1					2
						n

	1	n			2		det

где x ... - вектор-столбец, a T - транспонированный вектор a , det -

определитель матрицы ,	=	cov i	, j	- ковариационная матрица вектора
				n n
				n n

1,..., n , составленная из попарных ковариаций случайных величин 1,..., n ,

E 1,...,E n - вектор математических ожиданий случайных величин 1 ,

…, n .

Для этого распределения используется обозначение

1,..., n N , .

Матрицу еще обозначают как cov , .

Определение. Пусть Zm n

m n - матрица

размеров m n с элементами –

случайными величинами ij с

конечными

математическими ожиданиями

E ij

. Тогда по определению

математическим ожиданием матрицы Zm n

называется матрица, составленная из математических ожиданий её элементов:

E ij

m n

Докажите самостоятельно, что

1). если

D A Z B C , где A, B, C

–подходящие по размеру числовые

матрицы, то ED A EZ B C;

2). верно равенство

E E

cov( , ) E

Теперь

рассмотрим

случай,

когда

n 2,

т.е. рассмотрим двумерное

нормальное распределение.

Пусть

1, 2 ,

где 1

E 1, 2

E 2 .

Пусть

2 D ,

2 D

, тогда

cov 1, 2

1, 2

1 2 1, 2 ,

D 1

D 2

, где

1, 2 .

1 2

Легко вычислить, что

det 12 22 12 22 2 12 22 1 2 .

Следовательно, используя алгебраические методы, можно найти, что

	1					1								22				1 2

				12 22 1 2									1 2						12
				12 22 1 2									1 2						12
								1

										2
					1					2			1
					1			1					1			2 .
															1	2 .
			1 2												1

									1 2					2

Тогда
Тогда
	1						T			1									1		x1 1 2
			x								x											2
			x								x
	2															2			1			1
		2			x1 1 x2							2				x2 2 2
		2																	2	.
								1 2											2
								1 2									2

Следовательно, плотность двумерного нормального распределения имеет вид:

	x1,x2		1						1			x1 1			2
p							exp
								2 1		2				2
						2
		2 1	2 1			2
		2 1	2 1											1
	2 x1 1 x2 2								x2 2		2		,
	2 x1 1 x2 2								x2 2				,
					1 2				2
					1 2				2
при 1 0, 2 0,				1.
при 1 0, 2 0,				1.
Если 1, то плотность не определена.

Для двумерного нормального распределения иногда используют следующее обозначение: 1, 2 N 1, 2, 12, 22,

Утверждение (без доказательства). Если даны две нормальные случайные

величины

~ N( , 2)

~ N(

, 2), то

они независимы

тогда и

только

тогда, когда их коэффициент корреляции равен нулю, т.е.

1, 2 0.

Докажите самостоятельно следующее

1, 2

N 1, 2, 12, 2

2, , то

Утверждение. Если дан случайный вектор

компоненты его нормальны: 1 ~ N 1, 12 , 2

~ N 2, 22 .

Теорема (без доказательства). Если дан случайный вектор ~ N , , то

его характеристическая функция имеет вид

t exp it

t t

Покажите самостоятельно, что если

1, 2 N 1, 2, 12, 22, ,

то

			1	2	2		2	2
t1,t2	exp i t1 1	t2 2		t1 1		2t1t2 1	2 t2 2		.
			2

Тема №9 Предельные теоремы

Определение.

Виды сходимости

Говорят,

что

последовательность

случайных

величин

n,n N сходится по вероятности к случайной величине

при n , если

для любого 0

верно, что lim P

0 .

Данное

соотношение

быть заменено

на

эквивалентное

может

lim P

Для этого вида сходимости применяют обозначение

Говорят,

что

последовательность

случайных

величин

Определение.

n,n N

сходится

почти

наверное или с вероятностью 1 к случайной

величине

при

n ,

если вероятность события, включающего все

элементарные события такие, что lim n , равна 1:

P :

или, что эквивалентно, вероятность события, включающего все

элементарные события такие, что lim n , равна 0.

Для этого вида сходимости применяют обозначение

п.н.

P 1 .

или

Определение.

Говорят,

что

последовательность

случайных

величин

n,n N сходится в

среднем порядка r, где r 0, к случайной величине

при n , если limE

r 0.

Для этого вида сходимости применяют обозначение

Говорят,

что

последовательность

случайных

величин

Определение.

n,n N с функциями распределения Fn x сходится

по

распределению к

случайной величине

с функцией распределения F x

при

n ,

если для

всех точек непрерывности F x выполняется

limF x F x .

n n

Для этого вида сходимости применяют обозначение

Теорема (без доказательства). Пусть дана последовательность случайных

величин n,n N			и случайная величина . Тогда
1.	если	п.н.		P
1.	если	, то		;
	n	n	n	n
2.	если	r		P
2.	если	, то		;
	n	n	n	n
3.	если	P		D
3.	если	, то		.
	n	n	n	n

Убедимся на конкретном примере, что в обратную сторону в общем случае утверждение будет неверным.

Пример. Пусть в качестве пространства элементарных событий выступает

полуинтервал

[0;1).

Рассмотрим вероятностное пространство в широком

смысле ,A,P , которое мы определили в теме 4.

Для любого n построим разбиение полуинтервала :

n 1

0;1 0;

;

...

;1 .

			k 1			k

Для всех n и k 1,n	рассмотрим случайные величины nk	I			;		.
				n
						n

Рассмотрим последовательность случайных величин 11, 21, 22, 31, 32, 33, 41,....

Данная последовательность по вероятности будет сходиться к нулю, т.к.

lim P

limP

k 1

;

lim

0 .

Итак, n P .

Покажите самостоятельно, что, кроме того, n r , но не выполняется,

что n п.н. .

Определение.

Закон больших чисел

Говорят,

что

последовательность

случайных величин

n,n N

подчиняется закону

больших

чисел,

если

последовательность

случайных величин вида

k E k сходится по вероятности к нулю:

n k 1

1 n

n k 1

или, если обозначить Sn

... n , то

Sn ESn

Сформулируем и докажем закон больших чисел в форме Чебышева.

Теорема (Чебышева). Пусть n,n N

- последовательность независимых

случайных величин и существует C такая, что

D n

С для любого n

(т.е. дисперсии равномерно ограниченны). Тогда последовательность n,n N

подчиняется закону больших чисел.

Доказательство.	По	неравенству	Чебышева	P	E	D	.

						2
Следовательно, из независимости случайных величин следует, что

	1	n		1	n	1	n
0 P		k E k 0	P		k		E k

	n k 1			n k 1		n k 1

D k

n k 1

k 1

2 2

По теореме о двух милиционерах получаем, что

limP

k E k 0

n k 1

Sn ESn

Следовательно,

Теорема доказана.

Рассмотрим схему Бернулли с вероятностью успеха

p . Пусть Sn - число

успехов при n испытаниях. Тогда S

...

, где

- индикатор того,

что в i-м испытании произошел успех. Очевидно,

что

E i

D i pq.

Проверьте, что D i

pq p 1 p

Обозначим

E k

, где n

- число успехов в n испытаниях. Тогда

ESn pn .

n k 1

К последовательности n,n N применим закон больших чисел (по теореме

Чебышева),

следовательно,

т.к.

E k

p ,

то

n k 1

n n

. Итак, мы доказали

p 0

Следствие (закон больших чисел в форме Бернулли). Для биномиальной

схемы во введенных выше обозначениях верно, что

p .

Сформулируем еще две полезные теоремы

n,n N

Теорема

(Хинчина

без

доказательства).

Пусть

последовательность попарно независимых одинаково распределенных случайных величин с конечным математическим ожиданием (т.е. E n a). Тогда последовательность n,n N подчиняется закону больших чисел.

Докажите самостоятельно следующее утверждение:

Теорема (Маркова). Пусть n,n N - последовательность случайных величин, для которых выполняется свойство

	1			n
lim			D	k	0.
		2
n n			k 1

Тогда последовательность n,n N подчиняется закону больших чисел.

Центральная предельная теорема

Определение.

Говорят,

что последовательность

случайных величин

n,n N

подчиняется центральной предельной теореме,

если для случайных

величин

...

, S

выполняется, что

последовательность

DSn

Sn,n N сходится по распределению к стандартной нормальной случайной величине:

S N 0,1

D , где .

n n

Теорема (центральная предельная теорема для независимых, одинаково распределенных случайных величин). Пусть n,n N - последовательность

независимых одинаково распределенных случайных величин с конечной и

ненулевой дисперсией (т.е. D n

0).

Тогда последовательность n,n N

подчиняется центральной предельной теореме.

Доказательство. Обозначим

2 ,

...

Из

условий

теоремы следует, что ESn

na, а DSn

n 2 .

Введем случайную величину Sn

. Легко видеть, что

ESn

DSn 1.

Рассмотрим функцию распределения этой случайной величины

F x P

Нам нужно показать, что она сходится при n к функции распределения

	1	x	1	y	2
x		e			стандартного нормального закона.
			2

	2

Применим для доказательства данной теоремы метод характеристических функций. Для этого рассмотрим для случайной величины Sn характеристическую функцию Sn (t) и покажем, что она сходится к

характеристической функции стандартного нормального закона Представим случайную величину Sn в виде суммы

	Sn	na	1		n
Sn					k ,

	n
				n k 1

где k k a .

Мы

получаем

последовательность

независимых

одинаково

распределенных

случайных

величин

,n N . При этом

0, D

2 .

Поэтому, из свойств характеристических функций следует, что

S t EeitSn

n k 1

k 1

Обозначим

. Тогда, по формуле Тейлора, при y 0

имеем, что при

n :

' 0

'' 0

y y 0

o(y

По свойствам характеристических функций получаем, что

'(0) iE 1 0,

'' 0 i2 E 1 0 2 i2 D 1 2 ,

y 1

y2 o y2 ,

t :

Рассмотрим теперь логарифм Sn

t ln

t n

nln

Теперь используем формулу Тейлора

ln 1 x x o x

при x 0. Получаем:

ln Sn

t n

o 1 .

Следовательно,

lim

ln Sn

lim S t e 2 .

n n

В теме 7 мы нашли, что если N 0,1 , то t e 2 . Следовательно,

lim S t t ,

n n

и, по теореме непрерывности, последовательность функций распределения FSn (x) имеет предел при n , равный функции распределения стандартного

нормального закона x	для всех вещественных x .
	D
Таким образом, мы доказали, что S .
	n n
	Теорема доказана.
Сформулируем полезную теорему:
Теорема (Ляпунова	– без доказательства). Пусть n,n N -

последовательность независимых случайных величин, у которых определены математическое ожидание и ненулевая дисперсия (т.е. E n существует и

0).

Обозначим S

...

. Если выполнено условие Ляпунова, т.е.

существует 0 такое, что

lim

k E k

2 0,

DSn

k 1

то

последовательность

n,n N

подчиняется центральной предельной

теореме.

Центральная предельная теорема для независимых и одинаково распределенных случайных величин и интегральная теорема Муавра-Лапласа являются следствиями теоремы Ляпунова.

Локальная предельная теорема для решетчатых распределений

Определение. Распределение случайной величины называется решетчатым, если все ее возможные значения можно представить в виде a kh , где a,h , h 0, k . При этом h называется шагом распределения.

значения

Представление всегда не единственно. Наборы a	и h можно	выбрать
разными способами.		Bi n, p ,
Пример. Пусть Sn - биномиальная случайная	величина, Sn	Bi n, p ,

принимающая значения 0,1,...,n. Это решетчатая случайная величина, т.к. принимает значения a kh , k , при a 0 и h 1 или при a 5 и h 0,5.

Если - пуассоновская случайная величина, принимающая значения 0,1,2,3..., то она также решетчатая, к примеру, при a 0 и h 1.

Стоит отметить, что не все дискретные величины – решетчаты. В качестве

примера можно рассмотреть величину , принимающую значения 1 при всех n

	c			1		1
n с вероятностью			, где c			.
	n	2		n	2
			n 1

Теорема (без доказательства). Случайная величина является решетчатой тогда и только тогда, когда существует вещественное число t1 0 такое, что t1 1. При этом h является шагом распределения тогда и

только тогда, когда

Можно t

всегда считать положительным, т.к. t

, и если

то

. Поэтому

качестве шага мы будем

рассматривать

только

положительные вещественные числа.

Определение. Шаг h решетчатого распределения называется максимальным, если все возможные значения случайной величины нельзя представить в виде a1 kh1 , где h1 h.

Пример. Для биномиального распределения из предыдущего примера h 1 является максимальным шагом распределения.

Докажите самостоятельно следующее

Утверждение. Шаг решетчатого распределения h является максимальным

тогда и только тогда,

когда для всех

t таких, что 0<

, верно, что

n,n N независимых

Пусть

дана

последовательность

одинаково

распределенных, решетчатых случайных величин.

a k n h, где

Для всех n случайные величины n принимают значения

k n . Обозначим E n

D n 2 0;

Sn 1 ... n . Очевидно,

что ESn n ,

DSn D k

n 2 ,

и то,

что

Sn имеет решетчатое распределение и принимает

k 1

an k' n h .

Введем обозначение

Pn k P Sn an kh .

Нас интересует поведение величин Pn(k) при n . Именно в этом смысле мы формулируем локальную предельную теорему, т.е. исследуем вероятность того, что Sn принимает некоторое фиксированное значение.

Обозначим znk	an	kh	n	an kh	n	.

		DSn		n 2

Теорема (локальная предельная для решетчатых распределений – без доказательства). Если n,n N - последовательность независимых,

одинаково распределенных, решетчатых случайных величин с конечной положительной дисперсией, и h - шаг распределения n - максимален, то

n 2

znk2

lim

e 2

znk

Если

–

велико,

то

можно считать, что

Pn k

. Отсюда

получаем формулу для приближенных вычислений P (k)

n 2

Локальная теорема Муавра-Лапласа является следствием локальной предельной теоремы для решетчатых распределений.

<<< < Предыдущая 1 2 3 4 5 6 78 / 108 9 10 > Следующая >>>

Соседние файлы в папке Экзамен 2021

#
28.01.202280.71 Кб143tasks_done_v2.docx
#
28.01.2022280.74 Кб254tasks_done_v2.pdf
#
28.01.2022159.38 Кб33Вопросы к экзамену по АСП 2021.pdf
#
28.01.20221.34 Mб202Панков Пособие по АСП.pdf
#
28.01.20221.04 Mб66Панков Пособие по ТВиМС часть 1.pdf
#
28.01.2022730.29 Кб38Панков Пособие по ТВиМС часть 2.pdf
#
28.01.2022668.14 Кб202Панков Практикум по АСП 21.05.pdf