
- •6.1 Постановка задачи оптимальных статистических решений
- •6.2 Статистические решения без наблюдений. Случай непрерывных состояний и решений
- •6.3 Статистические решения с наблюдениями. Случай непрерывных состояний и решений
- •6.4 Статистические решения с наблюдениями. Случай дискретных состояний, дискретных решений и непрерывных наблюдений
- •6.4.1 Постановка задачи
- •6.4.2 Вероятностный смысл среднего риска в случае (0,1)-матрицы потерь
- •6.4.3 Общее решение задачи
- •6.4.4 Решение в случае двух состояний
- •6.4.6 Проверка простой двухальтернативной гипотезы о математическом ожидании нормальной генеральной совокупности
- •6.4.7 Статическое распознавание многомерных гауссовских образов
- •7 ОДНОФАКТОРНЫЙ ДИСПЕРСИОННЫЙ АНАЛИЗ
- •7.1 Постановка задачи
- •7.2 Оценки параметров
- •7.3 Статистика для проверки гипотезы
- •8 СТАТИСТИКА СЛУЧАЙНЫХ ПРОЦЕССОВ
- •8.1 Некоторые определения теории случайных процессов
- •8.2 Оценивание математического ожидания стационарной случайной последовательности
- •8.3.1 Случай известного математического ожидания
- •8.3.2 Случай неизвестного математического ожидания
- •8.4.1 Случай известного математического ожидания
- •8.4.2 Случай неизвестного математического ожидания
- •8.5 Оценки спектральной плотности, основанные на оценках ковариаций
- •8.5.1 Случай известного математического ожидания
- •8.5.2 Случай неизвестного математического ожидания
- •8.5.3 Примеры оценок спектральной плотности
- •9 КОРРЕЛЯЦИОННЫЙ АНАЛИЗ ДЛЯ ДВУХ СЛУЧАЙНЫХ ВЕЛИЧИН
- •9.1 Оценки параметров функции регрессии
- •9.2 Распределения оценок параметров функции регрессии
- •9.3 Проверка гипотез и построение доверительных интервалов для параметров функции регрессии
- •10 РЕГРЕССИОННЫЙ АНАЛИЗ
- •10.1 Линейный регрессионный анализ для двух переменных (простая линейная регрессия)
- •10.2 Регрессионный анализ для многих переменных (множественная нелинейная регрессия)
- •10.2.1 Постановка задачи
- •10.2.2 Оценки параметров функции регрессии
- •10.2.3 Рекуррентная форма оценок параметров функции регрессии
- •10.2.4 Свойства оценок параметров функции регрессии
- •10.2.5 Распределения оценок параметров функции регрессии
- •10.2.6 Построение доверительных интервалов и проверка гипотез об отдельных параметрах функции регрессии
- •10.2.7 Проверка гипотезы о линейности функции регрессии
- •10.2.8 Проверка адекватности регрессионной модели
- •10.2.9 Случай простой линейной регрессии
8 СТАТИСТИКА СЛУЧАЙНЫХ ПРОЦЕССОВ
8.1 Некоторые определения теории случайных процессов
Пусть задано некоторое вероятностное пространство ( Ω, F ,P ).
Случайным процессом называется функция ξ(ω,t ), ω Ω , t Ωt , которая для любого фиксированного t является измеримой функцией аргумента ω .
Аргумент t здесь понимается как время из некоторого промежутка времени Ωt , а аргумент ω – это элементарный исход (случай). При фиксированном t = t1 мы получаем функцию случая ξ(ω, t1 ) , то есть случайную величину, ко-
торая называется сечением процесса в момент времени t1 . Если зафиксировать случай ω =ω1 , то получим функцию времени ξ(ω1 , t) , которая называется реа-
лизацией, траекторией или выборочной функцией случайного процесса.
В связи с тем, что чаще всего множество Ω оказывается нам недоступным, то есть элементарные исходы не наблюдаются, случайный процесс обозначают как функцию только времени ξ(t) , а зависимость от ω подразумевается.
Если Ωt – отрезок действительной прямой, то случайный процесс ξ(t) на-
зывается процессом с непрерывным временем. Если Ωt – конечное или счетное множество, то случайный процесс ξ(t) называется случайной последовательно-
стью. Случайная последовательность может быть получена из случайного процесса с непрерывным временем выборкой сечений процесса в дискретные моменты времени.
Конечномерной ( n -мерной) функцией распределения случайного процесса
ξ(t) называется совместная функция распределения сечений процесса в момен-
ты t1,...,tn :
F( x1 ,..., xn ,t1 ,...,tn ) = P(ξ( t1 ) < x1 ,...,ξ( tn ) < xn ) .
28
Конечномерной ( n -мерной) плотностью вероятности случайного процесса
ξ(t) называется смешанная производная n -го порядка от n -мерной функции распределения:
|
|
|
|
∂n |
|
fξ ( x1 |
,..., xn ,t1 |
,...,tn ) = |
|
|
Fξ ( x1 ,..., xn ,t1 ,...,tn ) . |
∂x1 |
|
||||
|
|
|
,...,∂xn |
В дальнейшем будем рассматривать случайные процессы, для которых существуют конечномерные плотности вероятности.
Математическим ожиданием E(ξ(t)) случайного процесса ξ(t) называется функция aξ (t) , определяемая выражением
∞
aξ ( t ) = E(ξ( t )) = ∫ xfξ ( x,t )dx ,
−∞
где fξ (x,t) – одномерная плотность вероятности случайного процесса.
Дисперсией D(ξ(t)) случайного процесса ξ(t) называется математическое ожидание квадрата отклонения процесса от его математического ожидания:
|
∞ |
σξ2 ( t ) = D( ξ( t )) = E((ξ( t ) −aξ ( t ))2 |
) = ∫( x −aξ ( t ))2 fξ ( x,t )dx . |
|
−∞ |
Ковариационной функцией Rξ (t1,t2 ) случайного процесса ξ(t) называется
коэффициент ковариации между сечениями процесса в два момента времени t1, t2 :
o o o
Rξ ( t1 ,t2 ) = cov(ξ( t1 ),ξ( t2 )) = E(ξ( t1 )ξ( t2 ) ), ξ( t ) = ξ( t ) − E(ξ( t )) .
Для процессов, имеющих конечномерные плотности вероятности, ковариационная функция рассчитывается по формуле
∞ |
∞ |
Rξ ( t1 ,t2 ) = ∫ |
∫( x1 − aξ ( t1 ))( x2 − aξ ( t2 ))f ( x1 , x2 ,t1 ,t2 )dx1dx2 , |
−∞ −∞
где f ( x1 , x2 ,t1 ,t2 ) – двухмерная плотность вероятности случайного процесса.
29

Случайный процесс ξ(t) называется стационарным в строгом или узком смысле, если его конечномерные распределения инвариантны к сдвигу по оси времени.
Случайный процесс ξ(t) называется стационарным в широком смысле, если его математическое ожидание и дисперсия не зависят от времени, а ковариационная функция зависит от разности своих аргументов:
oo
Rξ ( t1 ,t2 ) = Rξ (τ ) = E(ξ( t1 )ξ( t1 +τ ) ), τ = t1 − t2 .
Спектральной плотностью стационарного случайного процесса ξ(t) называ-
ется преобразование Фурье от его ковариационной функции Rξ (τ) : sξ ( ω ) = 21π −∞∫∞Rξ (τ )e− jωτ dτ .
Тогда ковариационная функция может быть определена как обратное преобразование Фурье от спектральной плотности
|
|
∞ |
|
|
Rξ = ∫e jωτ sξ (ω )dω. |
|
|
|
|
−∞ |
|
Ковариационная |
функция |
стационарной случайной |
последовательности |
ξ(kT ) , k =1,2,3..., |
T – период квантования во времени, |
образует последова- |
|
тельность коэффициентов |
ковариаций Rξ (0T ), Rξ (±T ), Rξ (± 2T ), ..., |
||
R (± iT ),…, где |
R (iT )= E(ξo (kT )ξo (kT + iT )). Спектральной плотностью |
||
ξ |
ξ |
|
|
sξ,T ( ω) случайной последовательности ξ(kT ) называется ряд Фурье, коэффи-
циентами которого являются значения ковариационной функции:
|
T |
∞ |
π |
|
π . |
|
sξ ,T ( ω ) = |
∑Rξ ( kT )e− jkωT , − |
≤ω ≤ |
||||
|
T |
|||||
|
2π k =−∞ |
|
T |
Коэффициенты ряда Фурье определяются формулой
30

π
Rξ ( kT ) = T∫e jkωT sξ ,T ( ω )dω .
−πT
Это ряд Фурье в комплексной форме. Как известно, функция, имеющая представление в виде ряда Фурье, является периодической, то есть спектральную плотность случайной последовательности достаточно рассматривать в проме-
жутке |
− π |
<ω < π . |
Если |
воспользоваться |
формулой |
Эйлера |
||||
|
T |
|
T |
|
|
|
|
|
|
|
e− jkωT = cos( kωT ) − j sin( kωT ) , |
то спектральную плотность можно записать в |
|||||||||
виде |
|
|
|
|
|
|
|
|
|
|
|
sξ ,T ( ω ) = |
T |
∑∞ Rξ (kT )cos( kωT ) − j |
T |
∑∞ Rξ (kT )sin( kωT ). |
|
||||
|
|
|
|
|||||||
|
|
|
2π k =−∞ |
|
|
2π k =−∞ |
|
|
||
Если |
учесть, |
что |
синус |
– функция нечетная |
( sin( kωT ) = −sin( −kωT )), а |
Rξ ( kT ) – четная ( Rξ (kT )= Rξ (− kT )), то второе слагаемое в последнем выра-
жении оказывается равным нулю, и мы получим
sξ ,T (ω ) = |
T |
∑∞ Rξ (kT )cos( kωT ) . |
|
||
|
2π k =−∞ |
Таким образом, спектральная плотность случайной последовательности представляет собой ряд Фурье по косинусам. С учетом четности функции Rξ ( kT )
можно записать
sξ ,T (ω ) = 2Tπ (Rξ ( 0 ) + 2Rξ (T )cos(ωT ) + 2Rξ ( 2T )cos( 2ωT ) +K)=
|
|
T |
|
R |
( |
0 ) |
|
|
|
|
= |
|
|
ξ |
|
|
|
+ R |
(T )cos(ωT ) + R |
( 2T )cos( 2ωT ) +K . |
|
|
|
|
|
|
||||||
|
|
|
|
|
2 |
|
|
ξ |
ξ |
|
|
π |
|
|
|
|
|
|
При ω = 0 получим
|
|
|
|
T |
|
R ( 0 ) |
|
|
|
|
|
|
s |
ξ ,T |
( 0 ) = |
|
|
ξ |
+ R |
(T ) + R |
( 2T ) + R |
( 3T ) +K . |
(8.1) |
||
|
|
|
|
|||||||||
|
|
|
|
|
2 |
|
ξ |
ξ |
ξ |
|
|
|
|
|
|
π |
|
|
|
|
|
|
31