Панков Пособие по АСП
.pdfМИНИСТЕРСТВО ЦИФРОВОГО РАЗВИТИЯ, СВЯЗИ И МАССОВЫХ КОММУНИКАЦИЙ РОССИЙСКОЙ ФЕДЕРАЦИИ
Ордена Трудового Красного Знамени федеральное государственное бюджетное образовательное учреждениевысшего образования
Московский технический университет связи и информатики
К.Н. Панков
АНАЛИЗ СЛУЧАЙНЫХ ПРОЦЕССОВ
Учебное пособие
для обучающихся в бакалавриате по направлении. 11.03.02 - Инфокоммуникационные технологии и системы связи
Москва 2021
Панков К.Н. Анализ случайных процессов. Учебное пособие / МТУСИ. – М., 2021. - 77 с.
В данном учебном пособии рассмотрены основные понятия, теоремы и методы теории случайных процессов и их применение. Дана классификация случайных процессов, теория цепей Маркова с непрерывным и дискретным временем. Значительную часть курса занимает изложение теории систем массового обслуживания (СМО). Приведена классификация СМО, рассмотрены показатели качества обслуживания и эффективности работы СМО, разобраны примеры анализа работы различных СМО. Теоретический материал изложен с многочисленными примерами.
Учебное пособие ориентировано на обучающихся в бакалавриате по направлению подготовки 11.03.02 - Инфокоммуникационные технологии и системы связи.
Ил. __, табл. __, список лит.__ назв.
Издание утверждено Методическим советом университета в качестве учебного пособия. Протокол No __от __.__.____г.
Рецензенты:
© Московский технический университет связи и информатики, 2021
2
Введение
Теория случайных процессов – бурно развивающаяся область теории вероятностей, изучающая изменение во времени состояния стохастической системы. Случайные процессы находят широчайшее применение в таких областях науки и техники, как автоматизированные системы управления, автоматизация технологических процессов и производств, радио- и электротехника, кибернетика, биология, химия, экономика, транспорт, связь и т.п. Программы все большего числа специальностей и направлений подготовки инженеров включают курс случайных процессов. Для успешного освоения дисциплины необходимы базовые знания курсов «Высшая математика» и «Теория вероятностей и математическая статистика», а также некоторые элементы курсов «Математический анализ», «Дифференциальные уравнения», «Функциональный анализ». Данное издание предназначено для методического обеспечения направления подготовки 11.03.02 – Инфокоммуникационные технологии и системы связи, но также может быть использовано студентами других специальностей, предусматривающих изложение данного предмета
3
Тема № 1 Элементы теории множеств, комбинаторики и теории меры
Тема № 1 Основные понятия. Стационарные процессы
Рассмотрим произвольное вероятностное пространство ,A, . Вспомним
определение из курса теории вероятностей, призванное формально определить величины, подлежащие «измерению» в случайных экспериментах.
Определение. Случайной величиной называется функция w : ,
заданная на пространстве элементарных событий , принимающая значения в
и удовлетворяющая условию, что для любого вещественного х множество
w : w x является событием, т.е. w : w x A.
Часто при исследовании различных явлений в области телекоммуникаций приходится иметь дело со случайными величинами, изменяющимися во времени.
Основным понятием теории случайных процессов является следующее.
Определение. Случайным процессом (или случайной функцией) t ,t T
называется семейство случайных величин t , зависящих от параметра t, пробегающего некоторое множество значений T . Таким образом, любому фиксированному t0 однозначно ставится в соответствие случайная величина t0 ,
называемая сечением случайного процесса. При этом считается, что все случайные величины t , которые образуют это семейство, заданы на одном
вероятностном пространстве ,A,P .
Обычно параметр t играет роль времени (так сложилось исторически, из практических потребностей прикладных наук). В пособиях по теории случайных процессов, связанных с их инженерными приложениями, вместоt ,t T или просто t часто используется обозначение X(t).
Определение. Реализацией, выборочной функцией или траекторией
случайного процесса |
t ,t T |
называют действительную функцию |
t 0 :T аргумента |
t T , где |
0 - некоторый фиксированный элемент из |
.
На практике считается, что в результате некоторого эксперимента происходит элементарное событие 0 и наблюдается значение t t в
точке 0 . Поэтому траектория случайного процесса зависит от наблюдений при эксперименте. Иначе говоря, реализацией случайного процесса X(t) называется неслучайная функция x(t), в которую превращается случайный процесс X(t) в результате опыта; другими словами, конкретный вид, принятый случайным процессом X(t), который наблюдался на каком-то отрезке времени от 0 до τ.
4
Каждой сечению t |
для фиксированного t T |
однозначно ставится в |
соответствие функция |
распределения Ft x P t |
x , которая является |
полной и исчерпывающей характеристикой случайной величины t . Эта
функция |
описывает поведение случайного процесса t ,t T |
в момент |
времени |
t и называется одномерным законом распределения |
случайного |
процесса t ,t T .
Пример. Пусть T . По определению зададим t t t0 b, где t0,b
- некоторые фиксированные числа, - некоторая случайная величина, заданная на некотором вероятностном пространстве ,A,P , не зависящая от
параметров t, t0, b. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
При фиксированном t случайная величина t |
будет обладать функцией |
|||||||||||||||
распределения |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
F |
x b |
,t t0 |
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
|
t t0 |
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
x b |
|
|
|
|
||
F x P |
|
x |
P (t t |
) b x |
|
P |
|
|
,t t |
|
. |
|||||
t |
|
|
|
|
|
|
|
0 |
||||||||
|
|
|
||||||||||||||
t |
|
0 |
|
|
|
|
|
t t0 |
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
0,b x |
|
|
|||
|
|
|
|
|
P b x |
|
|
|||||||||
|
|
|
|
|
|
|
|
,t t0 |
|
|||||||
|
|
|
|
|
|
|
|
|
|
|
1,b x |
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
x b |
x b |
|
x b |
||||
Заметим, что P |
|
1 F |
|
P |
|
. |
||
|
|
|
||||||
|
t t0 |
t t0 |
|
t t0 |
||||
Если фиксировать элементарный исход 0 |
, то t 0 будет реализацией |
|||||||
случайного процесса t ,t T |
и будет представлять из себя прямую линию. |
Тангенс угла наклона этой линии равен значению 0 . Так как случайная величина может принимать разные значения то все реализации (траектории) случайного процесса t будут принадлежать пучку прямых на плоскости. Каждая прямая этого пучка проходит через точку плоскости с координатамиt0,b . Эта точка в аналитической геометрии носит название центра пучка прямых на плоскости.
5
Случайный процесс t в данном примере носит называние веерного случайного процесса.
Является ли одномерный закон распределения полной и исчерпывающей характеристикой случайного процесса? Очевидно, нет. Эта функция характеризует только свойства одного отдельно взятого сечения случайного процесса, но не дает понятия о совместном распределении двух (или более) сечений процесса. Иначе говоря, зная поведение случайного процесса в момент времени t, мы не можем предсказать поведение значений t в другие моменты времени. Для описания этих зависимостей необходимо рассмотреть функцию
распределения случайного вектора t1 ,..., tn , координаты которого равны значениям процесса в моменты времени t1,...,tn .
Обозначим
Ft1,...,tn (x1,...,xn) F t1 ,..., tn (x1,...,xn) F (x1,...,xn ) P t1 x1,..., tn xn .
Определение. Семейство функций
Ft1,...,tn (x1,...,xn), n , t1,...,tn Tn,ti tj
называется семейством конечномерных распределений случайного процесса
t ,t T .
Это семейство удовлетворяет условиям согласованности:
|
|
|
|
|
|
i1,...,in - |
|
|
|
|
|
|
|
|
|
|
|
1. |
Пусть |
|
перестановка |
элементов |
из |
1,n, |
тогда |
||||||||||
Fti |
,...,ti xi1 |
,...,xin Ft1,...,tn x1,...,xn . |
|
|
|
|
|
|
|
||||||||
1 |
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2. |
lim Ft ,...,t |
n 1 |
,t |
(x1,...,xn 1,xn) Ft |
,...,t (x1,...,xn 1). |
|
|
|
|
|
|
||||||
|
x |
1 |
|
|
n |
|
|
1 |
n 1 |
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Введем еще одно полезное |
|
|
t ,t T и t ,t T , |
|
|
|
|
|||||||||
|
Определение. |
Случайные |
|
процессы |
заданные на |
||||||||||||
одном вероятностном пространстве ,A,P и одинаковом множестве T , |
|||||||||||||||||
называются стохастически эквивалентными, если t T |
P t t 1. |
|
|||||||||||||||
|
Определим некоторые характеристики случайного процесса { t,t T}: |
|
|||||||||||||||
|
1. Пусть |
|
m t E t |
для |
всех t T , |
если это |
математическое ожидание |
||||||||||
определено |
|
и |
конечно, |
|
тогда функция |
m t :T |
|
называется |
математическим ожиданием случайного процесса.
6
2. Пусть D t D t =E t m t 2 для всех t T , если дисперсия определена и конечна, тогда D t :T - дисперсия случайного процесса.
Наряду с дисперсией в инженерных приложениях теории случайных процессов часто рассматривается функция среднеквадратичного отклонения
t D t :T .
3. Пусть m t , m s , тогда K s,t E s m s t m t -
ковариационная функция случайного процесса. Синонимами понятия ковариационная функция в технической литературе являются автоковариационная и автокорреляционная функции. Согласно мнению ряда ученых наиболее удачным названием является «автоковариационная функция», подчеркивающее, что речь идет о ковариации двух сечений одного и того же процесса (от латинского autos – сам, направленный на самого себя).
Докажите следующие свойства K s,t :
а) K s,t 2 D s D t ,
б) K t,t D t ,
в) K s,t K t,s .
4. R s,t |
|
K s,t |
|
- корреляционная (нормированная корреляционная, |
|
|
|
|
|||
D s D t |
|||||
|
|
|
|
нормированная автоковариационная, нормированная автокорреляционная) функция случайного процесса.
Докажите следующие свойства R(s,t):
а) R s,t 1,
б) R t,t 1,
в) R s,t R t,s .
Пример. |
Рассматривается случайная |
функция X(t) Ut2 2, где |
U – |
случайная |
величина, распределенная по |
нормальному закону N(2; 4). |
Нам |
требуется найти функцию распределения сечения этой функции, математическое ожидание mX (t), дисперсиюDX (t), среднеквадратичное отклонение X (t) и корреляционную функцию K X (t1,t2).
Согласно определению функции распределения случайной величины
FX (t) x P X(t) x P Ut2 2 x
|
|
|
x 2 |
|
x 2 |
|||||
P U |
|
|
,t 0 |
FU |
|
|
,t 0 |
|||
t |
2 |
t |
2 |
|||||||
|
|
|
|
|
|
|
|
|
||
|
|
0,x 2,t 0 |
|
0,x 2,t 0 |
||||||
|
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
1,x 2,t 0 |
1,x 2,t 0 |
||||||||
|
|
|
.
7
Далее рассмотрим случай, когда t 0. Так как U N(2; 4),то
|
|
|
|
y |
x 2 |
|
|
|
|
|
z 2 2 |
|
||
x 2 |
t2 |
|
1 |
|
|
|
|
|||||||
FU y pU z dz |
|
|
|
|||||||||||
FU |
|
|
|
|
|
|
|
e |
|
8 dz |
||||
t |
2 |
|
|
|
||||||||||
8 |
||||||||||||||
|
|
|
|
|
|
|
|
|
|
По определению
mX (t) E X t E Ut2 2 t2 EU 2,
DX (t) DX t D Ut2 2 t4 DU ,
X (t) DX t t2 DU ,
K X t1,t2 E X t1 mX t1 X t2 mX t2
E Ut12 2 t12 EU 2 Ut22 2 t22 EU 2 t12t22 DU .
Параметры нормального распределения являются его основными числовыми характеристиками (EU 2,DU 4). Следовательно,
mX (t) 2t2 2, DX (t) 4t4 ,X (t) 2t2 ,
K X t1,t2 4t12t22 .
Классификация случайных процессов
Основными признаками, по которым можно провести классификацию
случайных процессов, являются: |
|
|
|
|
1). Пространство состояний E, |
которому |
принадлежат все |
возможные |
|
значения, принимаемые всеми случайными величинами t |
по всем t T : |
|||
E Et |
|
|
|
|
t |
( ) . |
|
|
|
t T |
t T |
|
|
|
Назовем множество E фазовым пространством. |
|
|
||
Если E , то E – фазовое пространство целочисленного |
случайного |
процесса.
Если E – это некоторый непрерывный промежуток из , то E – фазовое пространство действительного случайного процесса.
2). Временной параметр T .
Определение. Если t T , то говорят, что процесс t ,t T является
процессом с дискретным временем. Если параметр t принимает все значения из некоторого непрерывного промежутка на числовой прямой, то говорят, что процесс t ,t T - случайный процесс с непрерывным временем.
3). Отношение зависимости между случайными величинами t . |
|
|||
Определение. |
Рассмотрим |
случайный |
процесс t ,t T , где |
T . Для |
всех n для |
любых t1 t2 |
... tn T |
рассмотрим случайные величины |
t2 t1 ,..., tn tn 1 .
8
Случайный процесс называется процессом с независимыми приращениями,
если величины t2 t1 ,..., tn tn 1 независимы в совокупности.
Случайный процесс называется процессом с некоррелированным
приращением, если величины t |
2 |
t |
,..., t |
t |
– |
некоррелированные |
|
1 |
n |
n 1 |
|
|
случайные величины.
Случайный процесс называется процессом с ортогональным приращением,
если t |
2 |
t |
,..., t |
t |
некоррелированы, и m t 0 |
для всех t T . |
|
1 |
n |
n 1 |
|
|
Случайный процесс называется марковским, если при всех n для любых
t1 t2 ... tn tn 1 T , |
для |
любых x1,...,xn,xn 1 E, |
где |
E – |
фазовое |
пространство случайного процесса t ,t T , выполняется |
|
|
|||
P tn 1 xn 1 | tn |
xn, tn 1 xn 1,..., t1 x1 P tn 1 |
xn 1 |
| tn xn . |
||
Определение. Функция |
P t,x,s,y P s y| t x |
называется |
функцией |
переходных вероятностей марковского процесса.
Данная функция играет важную роль при изучении подобных процессов.
Стационарные процессы
Рассмотрим случайный процесс t ,t T .
Определение. Случайный процесс называется стационарным в узком
смысле, |
если при всех n для любых |
t1 t2 ... tn T для всех h таких, |
|||
что t1 h, … , tn h T , совпадают конечномерные распределения |
|||||
Ft ,...,t |
n |
(x1,...,xn) Ft h,...,t |
h(x1,...,xn). |
|
|
1 |
1 |
n |
|
|
Определение. Случайный процесс называется стационарным в широком смысле, если:
1) |
существует a такое, что |
m t a для всех t T , |
2) |
существует b такое, что |
D t b для всех t T , |
3) |
для любых s,t T , для всех |
h таких, что t h,s h T , выполняется |
K s,t K s h,t h , т.е. K s,t зависит только от разности t и s.
Проверьте, всегда ли из стационарности в узком смысле следует стационарность в широком смысле.
Для стационарного в широком смысле процесса корреляционная функция R s,t зависит только от разности t s и может быть обозначена
R s,t R t s R . Это верно и для ковариационной функции
K s,t K t s K
Важную роль при изучении стационарных в широком смысле случайных процессов играет следующая
Теорема (Бохнера-Хинчина – без доказательства). Пусть t ,t T -
стационарный в широком смысле случайный процесс, корреляционная функция которого R непрерывна. Тогда существует случайная величина с
9
функцией распределения F x F x , характеристическая функция которой равна R , т.е. R .
По теореме единственности такая функция F x определяется однозначно.
Эту функцию |
распределения |
F x |
называют нормированной спектральной |
||||||||
функцией процесса t ,t T . |
|
|
|
F x |
|
|
|
|
|||
Определение. |
Если |
спектральная |
функция |
представима |
в |
виде: |
|||||
x |
|
|
|
|
|
|
|
|
|
|
|
F x p s ds |
, где |
p s p s |
- |
плотность |
случайной |
величины |
из |
||||
|
|
|
|
то функцию p x |
|
|
|
|
|
||
теоремы Бохнера-Хинчина, |
называют |
нормированной |
|||||||||
спектральной плотностью процесса t ,t T . |
|
|
|
|
|
||||||
Теорема. |
Пусть t,t T |
– |
стационарный |
в широком |
смысле |
случайный процесс с нормированной спектральной плотностью p(x) |
и конечен |
||||||||
|
|
R |
|
|
|
|
|
|
|
интеграл |
|
|
d , тогда |
|
|
|
|||
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
p(x) |
e ix R d . |
|
||
|
|
|
|
|
2 |
|
|||
|
|
|
|
|
|
|
t 1 cos wt 2 sin wt , где |
||
Пример. |
|
Рассмотрим |
случайный процесс |
||||||
w - константа; 1 |
и 2 - случайные |
величины, заданные |
на одном |
||||||
вероятностном пространстве и не зависящие от t, t . |
|
Ответим на вопрос, когда данный случайный процесс является стационарным в широком смысле и найдем корреляционную функцию R(s,t).
m(t) E 1 cos(wt) E 2 sin(wt), т.е. для того, чтобы m(t) не зависело от t, необходимо, чтобы E 1 E 2 0.
Пусть s t . Тогда
K s,t E t s E 12 cos wt cos ws 22 sin wt sin ws
1 2 cos wt sin ws 1 2 sin wt cos ws E 12 cos wt cos ws
E 22 sin wt sin ws E 1 2 sin t s w .
Функция K s,t |
не будет зависеть от t, если E |
2 |
E 2 |
2 |
и E |
2 |
0. |
|||||||||||
|
|
|
|
|
|
|
|
1 |
2 |
|
1 |
|
||||||
Из того, что E |
E |
2 |
0 |
следует, что D D |
2 |
2 . Так как |
|
|
||||||||||
1 |
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
||||
|
, |
|
|
E 1 |
E 1 2 E 2 |
|
|
E |
0, |
|
|
|
||||||
|
|
|
|
|
|
|
|
1 2 |
|
|
|
|||||||
|
|
|
|
|
|
|
|
|
|
|
||||||||
|
1 |
|
|
2 |
|
|
|
|
D 1 D 2 |
|
|
2 |
|
|
|
|
то, следовательно, случайные величины 1 и 2 не коррелированны. Более того, мы будем считать, что они независимы.
Следовательно,
K(s,t) 2 cos wt cos ws sin wt sin ws 2 cos w t s 2 cos w .
10