Бакаев Методы статистических испытаний 2007
.pdfназывается реализацией или траекторией этого случайного процесса.
Очевидно, ввиду случайности исхода эксперимента случайный процесс может иметь более одной реализации; в общем случае таких реализаций бесконечно много.
Определение 5.4. n-мерным законом распределения
случайного процесса X(t), зависящим от моментов времени t1 ,t2 ,...,tn , называется закон совместного распределения n
случайных величин X ( t1 ),X ( t2 ),...,X ( tn ). Соответственно, n-
мерной функцией распределения случайного процесса называется
F(t1 ,t2 ,...,tn ;x1 ,x2 ,...,xn ) =
=Ρ({X (t1)< x1 } {X (t2 )< x2 } … {X (tn )< xn}).
Вчастности, одномерная функция распределения – это
F(t; x) = P ({X (t)< x }) .
Определение 5.5. Случайный процесс называется
нормальным или гауссовским, если любые его законы распределения нормальны.
Определение 5.6. Математическим ожиданием и дисперсией случайного процесса X(t) называются неслучайные функции M[X(t)] и D[X(t)], определяющие при каждом фиксированном t, соответственно, математическое ожидание и дисперсию случайной величины X(t).
Определение 5.7. Корреляционной функцией случайного процесса X(t) называется неслучайная функция K (t1 ,t2 ) от двух
переменных t1 и t2 , равная при любых фиксированных t1 и t2
91
корреляционному моменту (ковариации) случайных величин X (t1 ) и X (t2 ) , то есть
K(t1,t2) := Μ[X (t1 )− Μ[X (t1)] (X (t2)− Μ[X (t2)])] .
Очевидно, что корреляционная функция K (t1 ,t2 ) является
симметричной |
функцией своих аргументов, то есть |
K (t1 ,t2 ) = K (t2 ,t1 ). |
Кроме того, в теории случайных процессов |
устанавливается, в частности, что все нормальные случайные процессы полностью описываются своими математическим ожиданием и корреляционной функцией.
Определение 5.8. Случайный процесс называется
стационарным в широком смысле, если его математическое ожидание и дисперсия не зависят от t, а корреляционная функция K (t1 ,t2 ) зависит лишь от размерности аргументов:
K (t1 ,t2 ) = k(t2 −t1 ) , где k(t) – некоторая четная функция одной переменной.
В дальнейшем вместо “стационарный в широком смысле” будем говорить просто “стационарный случайный
процесс”.6 |
|
Определение 5.9. Пусть |
K (t1 ,t 2 )= k (t 2 − t1 )– |
корреляционная функция стационарного случайного процесса.
Тогда спектральной плотностью S(ω) этого процесса называется преобразование Фурье функции k(τ), то есть
S (ω):= ∞∫ k (τ )e−i ϖ τ dτ .
− ∞
6Существует еще понятие стационарного случайного процесса в узком смысле, которое не будет использоваться ниже.
92
Роль спектральной плотности состоит в том, что она указывает спектральный (частотный) состав корреляционной функции.
Определение 5.10. Если область определения T случайного процесса является дискретным (возможно счетным) множеством, то такой процесс называется случайным процессом в дискретном времени или временным рядом.
Разность между двумя последовательными моментами времени, принадлежащими множеству T , называют лагом.
На практике наиболее часто встречается ситуация, когда множество точек T, в которых определен временной ряд, состоит из равноотстоящих друг от друга моментов времени (временной ряд с постоянным лагом), например часто полагают T = {1,2,…}. Однако в приложениях нередки и ситуации, когда T образовано весьма произвольным (неравномерным) набором временных точек (временной ряд с переменным лагом).
5.3Белый шум и винеровский процесс
Вэтом параграфе будут рассмотрены два специальных вида случайных процессов, названия которых фигурируют в заголовке данного параграфа. Эти частные случаи будут играть наиважнейшую роль для развиваемого далее математического аппарата.
Определение 5.11. Белым шумом называется нормальный (гауссовский) стационарный случайный процесс N(t), имеющий нулевое математическое ожидание и дельта-образную функцию корреляции, то есть
M[N(t)] = 0, K(t1,t2) = k (t2–t1) = M[N(t1) N(t2)] = N20 δ(t2 −t1 ),
93
гдеN0 = const. Часто также используют термин нормальный
белый шум, подчеркивая тем самым, что этот процесс по классификации относится к семейству нормальных
(гауссовских) процессов. Величину N20 обычно называют
интенсивностью или |
диффузией |
белого шума. В случае |
||||||
|
N0 |
=1 белый шум называют стандартным. |
|
|||||
2 |
|
|||||||
Спектральная плотность белого шума |
|
|||||||
|
|
|
||||||
|
|
∞ |
|
N0 |
∞ |
|
N 0 |
|
|
|
S(ω)= ∫k(τ)e−iωτ dτ = |
∫ |
δ(τ)e−iωτ dτ = |
, |
|||
|
|
|
|
|||||
|
|
−∞ |
2 |
−∞ |
2 |
|
||
не зависит от ω и совпадает с интенсивностью белого шума. Последний результат означает, что все частоты (гармоники) дают равновеликий вклад в корреляционную функцию белого шума.
Хотя белый шум и относят к семейству нормальных случайных процессов, его дисперсия D[N(t)] в каждый момент времени t равна ∞. Это вынуждает рассматривать белый шум как определенную математическую идеализацию. Тем не менее с точки зрения использования формального математического аппарата удобно вводить в рассмотрение белый шум, считая его хорошим приближением к реальным шумовым случайным процессам, возникающим в практических задачах. Такое приближение случайного процесса белым шумом можно использовать в том случае, когда характерное время корреляции τcor данного случайного процесса много меньше
постоянной времени τsyst системы, на которую воздействует
этот процесс. При этом за величину интенсивности белого шума, подменяющего при моделировании реальный случайный процесс X(t), целесообразно брать значение спектральной плотности этого процесса на нулевой частоте, то есть
94
|
N 0 |
= S X (0)= ∞∫kX (τ)dτ . |
||||
2 |
||||||
|
−∞ |
|
||||
В теории случайных процессов интеграл в правой части |
||||||
последнего равенства часто представляют в виде |
||||||
|
|
∞ |
|
|
|
|
|
|
∫kX (τ)dτ = 2σX2 |
τcor , |
|||
|
−∞ |
|
|
|
||
где |
|
|
1 |
|
||
σX2 :=kX |
(0), |
τcor := |
∞∫kX (τ)dτ , |
|||
2 |
||||||
|
|
τcor |
|
σX |
0 |
|
и время корреляции |
имеет смысл характерного |
|||||
интервала времени, на котором коррелированность между значениями случайного процесса существенна.
Таким образом, “заменяющий” шум вводится с интенсивностью
N20 = 2σX2 τcor .
Реализациями белого шума являются очень странные числовые функции – их странность проявляется в том, что они непрерывны, но абсолютно негладкие, то есть ни в одной точке не имеют производной.7 Этот факт – хорошее напоминание того, что белый шум представляет математическую абстракцию
7.Нигде недифференцируемые непрерывные функции являются настолько непривычными, что поначалу отвергались даже самими математиками. Знаменитый математик Эрмит в письме к своему не менее известному коллеге Стильтьесу писал: "С омерзением и ужасом я отворачиваюсь от этой зловредной язвы – непрерывных функций, нигде не имеющих производных". Считается, что первый пример такой функции был построен Больцано в его рукописи, датированной 1830 годом, однако рукопись была обнаружена лишь около 1920 г. в Венской государственной библиотеке, а была опубликована примерно через 10 лет. Поэтому открытие этих функции было приписано Вейерштрассу, опубликовавшему свой знаменитый пример негладкой непрерывной функции в 1861 г. В последние годы внимание к нигде недифференцируемым непрерывным функциям резко возросло в связи с их использованием в теории фракталов (см., например, книгу А. А. Потапова Фракталы в радиофизике и радиолокации: Топология выборки, М.: Университетская книга, 2005).
95
и не реализуется на практике, а лишь рассматривается как приближение к практическим процессам.
На практике часто еще встречается так называемый дискретный белый шум, представляющий собой временной ряд, значениями которого в каждый дискретный момент времени являются нормально распределенные случайные величины с нулевым математическим ожиданием и не зависящим от времени конечным значением дисперсии. Дискретный белый шум может появляться как независимый объект при моделировании, так и для аппроксимации непрерывного белого шума в численных расчетах.
Рассмотрим теперь случайный процесс W(t), описываемый дифференциальным уравнением
dW |
= N(t) . |
(5.5) |
|
dt |
|||
|
|
На самом деле это не дифференциальное уравнение в обычном смысле, т.е в числовых функциях, так как оперирует со случайными процессами. Более точный смысл этого уравнения будет ясен из следующего параграфа книги, где будут рассматриваться стохастические дифференциальные уравнения. А пока, используя знания, приобретенные в курсе дифференциальных уравнений, отнесемся к уравнению (5.5) как к дифференциальному уравнению в числовых функциях, и формально проинтегрируем его, обозначив через t0 и t0 +T ,
соответственно, начальный и конечный моменты наблюдения:
t0 |
+T |
|
|
|
W (t0 +T )=W (t0)+ |
∫ N(t) dt , |
(5.6) |
||
t0 |
|
|
|
|
или |
|
|
|
|
∆W (t0 ;T ):=W (t0 +T )−W (t0) |
t |
+T |
|
|
= 0 |
∫ N(t)dt . |
(5.7) |
||
|
|
t0 |
|
|
96
Результатом проведенных преобразований является выражение, в котором вместо производной от случайного процесса фигурирует интеграл от случайного процесса. Таким интегралам будет придан более строгий смысл в следующем параграфе книги. Пока же будем на интуитивном уровне воспринимать интеграл в правой части последнего равенства как некоторую сглаживающую операцию, обладающую основными свойствами обычного интеграла Римана, главным из которых является линейность интеграла по отношению к подынтегральной функции. Например, можно рассматривать интеграл в правой части (5.7) как случайную величину, реализации которой совпадают со значениями интеграла от соответствующих реализаций белого шума N(t). В теории случайных процессов показывается, что если под знаком интеграла стоит нормальный случайный процесс, даже такой обобщенный нормальный процесс, как белый шум, то сам интеграл представляет собой случайную величину, подчиненную нормальному закону распределения, причем уже не обобщенному, а с конечной дисперсией. Таким образом,
приращение ∆W( t0 ;T) случайного процесса W(t) |
на отрезке |
[t0 ; t0 +T ]является нормально распределенной |
случайной |
величиной.
Далее из теории случайных процессов следует, что стационарность белого шума влечет независимость приращения ∆W( t0 ;T) от начального значения t0 , то есть на
самом деле это приращение реально зависит только от T: ∆W( t0 ;T) = ∆W(T). Другими словами, ∆W( t0 ;T) зависит только от разности конечного и начального моментов времени. Говорят также, что случайный процесс W(t) – это процесс со
стационарными приращениями.
Наконец, пусть моменты времени t0 и t1 |
выбраны так, что |
│t1 −t0 │ > T, то есть отрезки [t0 ; t0 +T ] |
и [t1 ; t1 +T ] не |
пересекаются. В теории случайных процессов устанавливается,
97
что |
дельта-коррелированность |
белого |
шума |
влечет |
независимость случайных величин ∫tt0 +T N(t)dt |
и ∫tt1+T N(t)dt . |
|||
|
|
0 |
1 |
|
|
Это можно пояснить тем, что на отрезке [t0 ; t0 +T ] |
белый |
||
шум ведет себя независимо от того, как он ведет себя на отрезке [t1 ; t1 +T ] ввиду некоррелированности значений N(t) в
различные моменты времени. Такое объяснение может не удовлетворить эрудированного читателя, так как известно, что независимость и некоррелированность случайных величин не эквивалентны друг другу. Однако напомним, что оба интеграла от белого шума являются нормальными случайными величинами (с конечными дисперсиями) и, следовательно, их некоррелированность, вытекающая из некоррелированности белого шума в разные моменты времени, эквивалентна их независимости (см., например, [8, Глава 14]). Итак, приходим к выводу, что приращения ∆W( t0 ;T) и ∆W (t1;T ) при соблюдении
требования пустого пересечения отрезков[t0 ;t0 +T ] и [t1;t1 +T ]
являются независимыми случайными величинами. Говорят также, что случайный процесс W(t) – это процесс с
независимыми приращениями.
Вычислим теперь моменты 1-го и 2-го порядка для нормальной случайной величины ∆W (T )= ∆W (t0 ;T ). Прежде
всего, имея ввиду, что M[N(t)] = 0 при любых t, получаем
t0 |
+T |
|
= |
t0 |
+T |
|
M[∆W (T )]= Μ |
|
∫ N (t) dt |
|
∫Μ[N (t)]dt = 0 . |
||
|
t0 |
|
|
|
t0 |
|
При этом, без доказательства используется тот факт, что операцию вычисления математического ожидания можно вносить под знак интеграла, – соответствующие строгие рассуждения подчиняются интуитивным ощущениям, что это действительно так. Для дисперсии D[∆W(T)] имеем, пользуясь тем же свойством математического ожидания,
98
D[∆W (T )]= M[(∆W (T ))2]= Μ |
t |
+T |
t |
+T |
|
0 |
∫ N (t′)d t′ 0 |
∫ |
N (t′′) dt′′ = |
||
|
|
t0 |
|
t0 |
|
t0 +T t0 +T
=∫ ∫Μ[N(t′)N(t′′)]dt′dt′′=
t0 |
t0 |
|
|
|
|
|
|
||
|
|
N0 |
t |
+T t |
+T |
|
|
|
|
= |
|
0 |
∫ |
0 |
∫δ(t′−t′′)dt′dt′′ = |
||||
|
2 |
|
|
||||||
|
|
t0 |
t0 |
|
|
|
|||
|
|
|
|
|
|
||||
|
|
N0 |
t0 |
+T |
|
|
N |
0 |
|
= |
|
|
|
∫ |
dt′ = |
|
|
T . |
|
|
2 |
|
2 |
|
|||||
|
|
t0 |
|
|
|
|
|||
|
|
|
|
|
|
|
|
||
Таким образом, случайная величина ∆W(T) нормально распределена с плотностью
p(x;T )= 1 e−x2 /(N0T) .
πN0T
В дальнейшем будем считать, что t0 = 0 и введем также дополнительное ограничение W( t0 ) = W(0) = 0. Переобозначим,
кроме того t := T, подразумевая тем самым, что данный параметр будет варьироваться. Тогда, как следует из (5.6) и из проведенных выше рассуждений,
t |
|
|
′ |
′ |
(5.8) |
W(t) = ∫N(t )dt |
|
|
0 |
|
|
и, так как теперь ∆W(0;t) = W(t), делаем вывод, что при каждом фиксированном t случайная величина W(t) имеет плотность
распределения |
|
p(x;t)= |
1 |
|
e |
−x2 |
/(N0t) |
. |
(5.9) |
|
|
|
|
||||||||
|
|
πN |
0t |
|
|
|||||
|
|
|
|
|
|
|
|
|||
Следовательно, D[W (t)]= |
N0 |
t , то есть дисперсия нормального |
||||||||
2 |
||||||||||
|
|
|
|
|
|
|
|
|
||
случайного процесса W(t) растет пропорционально времени наблюдения t.
99
Определение 5.12. Нормальный случайный процесс W(t) со стационарными и независимыми приращениями, для которого
W(0) = 0, |
M[W(t)] = 0 |
и |
D[W(t)] = σ 2t , |
σ 2 = const, |
||
называется |
винеровским |
процессом. В случае |
σ2 = |
N 0 |
=1 |
|
|
||||||
|
|
|
|
2 |
|
|
такой процесс часто называют стандартным винеровским процессом.
Как упоминалось ранее, винеровский процесс связан с белым шумом соотношением (5.8). В теории стохастических дифференциальных уравнений часто применяется также другое соотношение между указанными двумя случайными процессами, использующее понятие дифференциала dW(t) винеровского процесса.8 А именно используется формула
dW(t) = N(t) dt. |
(5.10) |
В отличие от белого шума, для которого независимы именно его значения в различные моменты времени, винеровский процесс характеризуется независимостью своих приращений. Другое важное отличие между этими процессами состоит в том, что разброс значений реализаций белого шума одинаков для любых моментов времени, тогда как разброс значений реализаций винеровского процесса нарастает с увеличением времени (в соответствии с линейно нарастающей дисперсией).
Часто винеровский процесс называют также броуновским движением, поскольку, как установлено в 1918 году Н. Винером, этот процесс естественно принять в качестве математической модели частицы (таковой может быть молекула газа или жидкости), находящейся в хаотическом движении (носящем название броуновского движения) под влиянием столкновений с другими аналогичными частицами.
8 Понятие стохастического дифференциала будет обсуждаться в следующем параграфе книги.
100
