Добавил:
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:

книги из ГПНТБ / Острем К.Ю. Введение в стохастическую теорию управления

.pdf
Скачиваний:
50
Добавлен:
24.10.2023
Размер:
10.97 Mб
Скачать

50 Глава 2

Найдем

dr(s,t)

П,

s < t ,

ds

(0,

s>t.

Следовательно, смешанная вторая производная не существу­ ет. Согласно теореме 6.4, винеровский процесс недифференциру­ ем. Однако формально можно вычислить

dsdt

где б(/") есть б-функция Дирака. Таким образом, формальна найдено, что производная винеровского процесса есть белый шум.

Винеровский процесс был введен как математическая модель броуновского движения частицы, и поэтому может казаться странным, что винеровский процесс не имеет производной. Это' означает, согласно физической интерпретации, что невозможно' найти скорость броуновской частицы. Чтобы обойти эту труд­ ность, рассмотрим процедуру получения данной модели. Урав­ нение движения частицы, погруженной в жидкость, имеет вид

d2x

, г. dx

г,

т

\- D

= F,

dP

dt

 

где т — масса частицы, D — коэффициент вязкого трения и F —

результирующая сил, действующих

на частицу. Эйнштейн счи­

тал, что т = 0 , т. е. он пренебрегал весом частицы по сравнению- с силами вязкости. Тогда уравнение движения принимало вид.

D^-=F. dt

При постоянной силе пренебрежение массой означает, что ча­ стица приобретает постоянную скорость мгновенно. Обращаясь- к идеализированной теории удара, можно вычислить только из­ менение импульса вследствие толчка и нельзя проанализировать детально изменение скорости во время удара. Если предполо­ жить теперь, что интервал времени между ударами бесконечно мал, то окажется естественной невозможность определения ско­ рости частицы.

Интегрируемость

 

 

 

 

Введем теперь

интегралы

стохастических процессов.

Пусть

{x(t),teT}—стохастический

процесс второго порядка. Рас­

смотрим интервал

[а, Ь] еТ.

Пусть a=tu<t\<i..

.<.tn=b

разбиение [а, Ь]. Рассмотрим сумму

Случайные процессы

51

 

7 « =

[ ' * - < * - ! ] •

( 6 Л 2 )

где tk-i^Th^tk-

Говорят, что процесс {x(t),

tеТ} интегрируем

по Риману, если 1п сходится к пределу в среднеквадрэтическом

при /г->-оо таким образом, что

 

 

 

max|fft

tk_,\->0.

 

 

l<k<n

 

 

Этот предел называется среднеквадратическим интегралом от х по [а, Ь] и обозначается

 

ь

 

I =

jx(t)dt.

(6.13)

 

а

 

Теорема 6.5. Пусть {x(t),

t еТ) — случайный процесс

второго

порядка со средним значением m(t) и ковариационной

функци­

ей r(s, t). Этот процесс интегрируем по Риману, если существу­ ют следующие интегралы:

 

ь

 

 

 

I m (t) dt,

 

 

 

а

 

 

 

b

 

 

 

\\r(s,t)dsdt.

 

 

 

a

 

 

В этом случае имеем

 

 

 

ь

ь

ь

 

Е$х (0 dt =

j' Ex (J.) dt = J m (t) dt,

(6.14)

a

a

a

 

b

Ь

 

 

E JJx {t) x (s) dsdt = j ' j {Ex (t) x(s)}dsdt =

 

a

a

 

 

 

b

b

 

=

[J'm (t) dt]2

+ Я r (s,t) dsdt.

(6.15)

aa

Вразд. 5 гл. 3 приведен другой вид интеграла.

Упражнения

1. Являются ли стационарные случайные процессы с ковариа­ ционными функциями

г(т) = е ~

а | г ' ,

(2,

т = 0,

непрерывными в среднеквадратическом?

52

Глава 2

2 . Дифференцируемы ли в среднеквадрэтическом стационар­ ные случайные процессы со следующими ковариационными функциями:

 

а1 -+-

т 3

, ..

sin ат

?,

г(т)

= —

3.Рассмотреть случайный телеграфный сигнал. Дифферен­ цируемы ли его выборочные функции с вероятностью 1? Диффе­ ренцируем ли телеграфный сигнал с вероятностью 1 или в среднеквадратическом?

4.Показать, что нормальный стационарный процесс с кова­ риационной функцией

г(т) = (1 + | t | ) e ~ , T |

дифференцируем в среднеквадратическом, и доказать, что х иг dx/dt независимы.

5. Пусть {x(t), — винеровский процесс с единичной дис­ персией. Показать, что этот процесс интегрируем в среднеквад­

ратическом. Найти ковариационную функцию процесса z(t),

яв­

ляющегося интегралом от x(s),

т. е.

 

 

t

 

 

z(t)

=

lx{s)ds.

 

 

о

 

 

Ответ: Ez(s) z(t) = 5 ' ( 3

^ ~ s ) . j

 

6. Рассмотреть случайный

процесс {x-(t), — o o < i < o o } ,

вы­

борочные функции которого принимают только значение + 1 или

1 . Вероятность изменения х в интервале (t, t-\-h) есть Х/г+о(/г). Ответить на следующие вопросы:

Непрерывны ли выборочные функции? Непрерывен ли процесс в среднеквадратическом? Непрерывен ли процесс с вероятностью 1?

Дифференцируем ли процесс в среднеквадратическом? Интегрируемы ли выборочные функции?

Указание.

Вероятность изменения выборочной функции п раз;

на интервале

(0, t) есть рп= ((kt)n/nl) ехр (—Xt).

 

7. ЗАМЕЧАНИЯ И ЛИТЕРАТУРА

Имеется несколько хороших книг по стохастическим процес­ сам. Введением в теорию стохастических процессов может слу­ жить работа [1] .

Случайные

процессы

53:

На элементарном уровне теория случайных процессов изло­ жена в работах [2—4]. В работах [5—7] изложение основ тео­ рии случайных процессов дано на значительно более высоком уровне; кроме того, работа [6] является хорошим справочни­ ком, в котором подчеркиваются особенно теоретико-вероятност­ ные аспекты. Легко читается оригинальная работа по теореме Колмогорова [8].

В работе [9] описан способ преодоления трудностей, обсуж­ даемых в гл. 2, и введено понятие непрерывности выборочных функций с вероятностью 1.

Известно также много работ, в которых обсуждаются стоха­ стические процессы различных видов, например работы [10—13-].

1.Karlin S., A First Course in Stochastic Processes, Academic Press, 1966. Русский перевод: Карлин С, Основы теории случайных процессов, изд-во «Мир», 1971.

2.Сох D. R., Miller Н. D., The Theory of Stochastic Processes, Methuen, Lon­ don, 1965.

3.

Parzen E . , Stochastic Processes, Holden-Day, San Fransisco,

1962.

4.

Prabhu N. U.,

Stochastic Processes — Basic Theory and Its

Applications,

 

MacMillan, New

York, 1965.

 

5.Гихман И. И., Скороход А. В., Введение в теорию случайных процессов, изд-во «Наука», 1965.

6.Doob J. L., Stochastic Processes, Wiley, New York, 1953. Русский перевод- . Дуб Дж. Л., Вероятностные процессы, ИЛ. 1956.

7.Loeve М., Probability Theory, Van Nostrand, Princeton, New Jersey, 1963. Русский перевод: Лоэв M., Теория вероятностей, ИЛ, 1962.

8. Колмогоров А. Н., Основные понятия теории вероятностей, ОНТИ, 1936.

9.Cramef Н., Leadbetter М. R., Stationary and Related Stochastic Processes, Wiley, New York, 1967. Русский перевод: Г. Крамер, М. Линдбеттер, Ста­ ционарные случайные процессы, ИЛ, 1962.

10. Яглом А. М., Введение в теорию стационарных случайных функций, УМН, 7, № 5 (1955).

11.Bharucha-Reid А. Т., Elements of the Theory of Markov Processes and Their Applications, McGraw-Hill, New York, 1960.

12.По К., McKean H. P., Diffusion Processes and Their Sample Paths, Sprirc- ger-Verlag, Berlin, 1965. Русский перевод: Ито К., Маккии Г., Диффузион­ ные процессы и их траектории, изд-во «Мир», 1968.

13.Levy P., Processus Stochastiques et Mouvement Brownian, Gautier-Villars, Paris, 1948. Русский перевод: Леви П., Стохастические процессы и броу­ новское движение, изд-во «Мир», 1972.

Г л а в а 3

СТОХАСТИЧЕСКИЕ МОДЕЛИ СОСТОЯНИЯ

 

 

1. ВВЕДЕНИЕ

 

 

|

Модели состояния,

т. е. системы разностных

или

дифферен-

I циальных уравнений первого порядка, используются

для анали­

за

детерминированных

объектов. В данной главе

обсуждается

вопрос о том, как понятие состояния можно перенести на стоха­

стические системы. Это приводит к введению

стохастических

разностных

и стохастических

дифференциальных уравнений.

Процессы,

определяемые такими

уравнениями,

являются

мар­

ковскими процессами.

 

 

 

Случай

систем с дискретным

временем (разд. 2 и 3)

являет­

с я наиболее простым, так как можно получить

стохастическую

модель состояния добавлением помехи к правому члену обыкно­ венного дифференциального уравнения. В данном случае помехи можно представить последовательностью независимых случай­ ных величин.

Случай систем с непрерывным временем (разд. 4) более сло­ жен. Сначала обсуждается эвристический подход. Прямая по­ пытка обобщить результаты, полученные для системы с дискрет­ ным временем добавлением помехи к правому члену обыкновен­ ного дифференциального уравнения, не приводит к успеху. Дело в том, что непрерывный случайный процесс, такой, что x(t) и -x(s) независимы при t^s, равен нулю в среднеквадратическом. Поэтому добавление помехи такого типа к обыкновенному диффе­ ренциальному уравнению не дает эффекта. Для преодоления этих трудностей естественно ввести понятие стохастического

.дифференциального уравнения. В разд. 5—8 разработаны мето­ ды, необходимые для решения стохастических дифференциаль­ ных уравнений. Дано точное определение таких уравнений и по­ казано, как их интерпретировать и использовать. Моделирова­ ние физических процессов с помощью стохастических моделей -состояния описано в разд. 9. В разд. 10 рассмотрена аппрокси­ мация стохастического дифференциального уравнения разност­ ным уравнением.

2.СИСТЕМЫ С ДИСКРЕТНЫМ ВРЕМЕНЕМ

Воснове понятия состояния лежат причинно-следственные -отношения классической механики. Например, движение систе-

.мы частиц однозначно определяется действующими силами,

 

Стохастические модели состояния

55-

а также

координатами и моментами всех частиц. Для

движения

системы

в будущем несущественно, каким образом было достиг­

нуто начальное положение. Интуитивно состояние можно пред­ ставить как минимальное количество информации о предысто­ рии системы, которое необходимо для предсказания движения системы в будущем. Для детерминированной системы свободноедвижение в будущем однозначно определяется значением ее со­ стояния в настоящем.

Естественно, нельзя требовать, чтобы движение стохастиче­ ской системы в будущем определялось однозначно ее состояни­ ем х в настоящем. Для обобщения понятия состояния на стохас­ тические системы потребуем, чтобы вероятностные распределе­ ния переменной состояния х в будущем определялись бы одно­ значно значением ее состояния в настоящем. Потребуем также, \ ' 1

чтобы система

описывалась

марковским процессом

-(разд. З'-i '

гл. 2).

 

 

 

Рассмотрим

пока только

системы с дискретным

временем.

В этом случае множество индексов Т будет представлять собой-

множество целых

чисел

{ . . . , — 1, 0, 1,

. . . } . Детерминированная

п-мерная система

с дискретным временем описывается

разност­

ным уравнением

 

 

 

 

 

*(* +

!) = £(*(*), О,

t£T,

(2.1>

где х есть n-мерный вектор состояния, a t — время. Таким обра­ зом, движение системы в будущем однозначно определяется* значением х в момент времени t и не зависит от предыстории x(t).

Теперь выясним, каким образом модель (2.1) может быть, представлена как стохастическая модель состояния. Для этогопредположим, что лг(^-|-1) не определяется однозначно x(t), как в уравнении (2.1), а что x(t-\-l) —случайная величина, которая зависит от x(t) и t. Тогда можем написать

x(t+

l) = g(x(t),t) +

v(x(t),

t),

t£T,

(2.2>

где g — условное

среднее

от х(t-\-l)

при заданном x(t),

a v —

случайная величина с а у л е ^ ш ^ с ^ д ш ш ^

 

 

 

Если уравнение (2.2)

представляет

собой

стохастическую

модель состояния, необходимо потребовать, чтобы условное ве­ роятностное распределение x(t-{-\) при заданном x(t) не зави­ село от прошлых значений х. Отсюда следует, что условное рас­

пределение v(t)

при заданном x(t) также не должно зависеть от

x(s)

для s < l .

Модель (2.2), обладающая этим свойством, на­

зывается

стохастическим

разностным

уравнением.

Процесс-

{x(t),

teT},

определяемый

выражением

(2.2), также

является;)';'

марковским.

 

 

 

 

 

 

 

Глава

3

 

Если дополнительно предположить, что условное распреде­

ление

v(t)

при заданном

x(t)

нормально, то случайная величи­

на v

всегда

может быть нормирована таким образом, что

v(t)/a{x,

t)

распределено нормально с параметрами '.(О, 1),

где

•а2{х,

t)

—дисперсия x(t).

Таким образом, получим

 

 

 

 

v =

v{x,t)

=

a{x,f)e{t),

(2.3)

где

 

e(t)

и х — стохастически

независимы. Следовательно,

-{e(t),

t

еГ}

можно рассматривать как последовательность

не­

зависимых одинаково распределенных случайных величин с па­

раметрами (0, 1). Уравнение

(2.2)

можно

представить

в виде

x(t+l)

= g(x(t),t)

+ e(x(t),t)e(t),

t£T.

(2.4)

Если предположить еще, что g линейно зависит от х

и что от

•не зависит от х, получим линейное

стохастическое разностное

уравнение

 

 

 

 

 

x(t+\)

= 0(t+l;t)x(t)

 

+ T(t)e(t),

t£T.

(2.5)

Заметим, что нетрудно повторить аналогичные выкладки для •случая, когда х есть n-мерный вектор. Тогда получим уравнение 1,2.5), где х—n-мерный вектор, а {e(t), t еТ}—последователь­ ность независимых одинаково распределенных гауссовых слу­ чайных векторов с нулевыми средними значениями и ковариаци­ онной матрицей ^о-

Уравнение (2.5) можно также записать следующим образом:

x(t + l)^0(t+l-t)x(t)

+ v(t),

(2.6)

где {и (t), ttT} — последовательность

независимых

гауссовых

векторов с нулевыми средними значениями и ковариационными

матрицами

R\

Y{t)RuYT{t).

Если уравнение

(2.6)

является

ли­

нейной

моделью

состояния, то необходимо потребовать, чтобы

вектор

{и(t),

teT}

не зависел от начального состояния.

 

В одномерном

случае

уравнение (2.6) можно

записать

как

разностное уравнение порядка п:

 

 

 

 

/

 

 

+

 

 

1 ) + ••• +

«*, (0*1 (* —л)

=

 

 

- сх(0е (t -

1) +

с2 (t) е (t — 2) +

• • • п

(t) e(t

/г).

(2.7)

Таким образом, для систем с дискретным временем стохасти­ ческую модель состояния можно представить стохастическим разностным уравнением. В линейном случае уравнение (2.6) приводит к линейному разностному уравнению, в котором вы­ нуждающей функцией является белый шум с дискретным вре­ менем.

Уравнение (2.7) представляет большой интерес, так как из него легко получить процесс авторегрессии

* i (0 + а Л (t - 1) + • • • пхх (t -п) = е (0

Стохастические модели состояния

5 7

и процесс скользящего

среднего

 

хх (0 = Cje (t —

1) + с2е (t - 2) + • • • +

спе (t — n),

рассмотренные в разд. 2 гл. 2.

 

3. РЕШЕНИЕ СТОХАСТИЧЕСКИХ РАЗНОСТНЫХ

УРАВНЕНИЙ

Обыкновенное разностное уравнение решено, если известны, значения х для всех t. Так как обыкновенное разностное уравне­ ние рекуррентно определяет каждое x(t) через предыдущие зна­ чения, то разностное уравнение можно рассматривать как алго­ ритм для получения решения. Аналогично будем считать, что разностное стохастическое уравнение решено, если известно сов­ местное вероятностное распределение значений состояний в про­ извольные моменты времени.

Рассмотрим, например, разностное вероятностное распреде­

ление

(2.2) и определим совместное распределение x(tQ)

и

x(t0-{-

+ 1). Так как x(tQ-\-\) задано как функция x(t0)

и v(x(t0),

 

t), то

можно

найти условное распределение

x{tQ-\-\)

при

заданном

x(t0),

используя обычные правила вычисления функции

распре­

деления случайной переменной. Если распределение x(t0)

изве­

стно, то совместное распределение x(tQ)

и x{to+t)

можно

полу­

чить по правилу Байеса. Допустим, что существуют

плотности

вероятности. Совместная плотность распределения

последова­

тельных значений переменных состояния может быть записана в. виде

 

f{x{t),x(t~l),...,x{t0))

= f(x(t)\x(t

1)) X

 

 

X f(x(t~\)\x(t-2))---f(x(t0

+

l)\x(t0))f(x(t0)),

где

f(x(t-{-l) \x(t))

—условная

плотность

 

при

заданном

x(t)

(вероятность

перехода),

f(x(t0))—плотность

распределе­

ния начального состояния x(tQ).

]Из_этдго_выражения

видно, что-

решением стохастического разностного уравнения является мар­ ковский процесс. В общем случае выполнение приведенных вы­ числений далеко не тривиально. Ограничимся рассмотрением ли­ нейных нормальных систем, так как в этом случае можно легко выполнить все вычисления аналитически.

Линейные уравнения

Рассмотрим линейное нормальное стохастическое разностное уравнение

 

x(t+ 1) = Ф ( / + 1 ; / ) * ( / ) +

е(0,

(3.1)'

где х—n-мерный

вектор состояния, {e(t),

teT}—последователь­

ность n-мерных

нормальных независимых

случайных

векторов,.

:58

Глава 3

•ф—/гХ«-матрица с изменяющимися 'во времени элементами. Векторы e(t) и e(s), следовательно, независимы, если Б. Векторы e(t) \ix(t) также независимы.

Нормальное распределение &{t) определяется моментами первого и второго порядка

 

О

 

 

>u(0

ra{t)-

 

 

Ее Ц)

О

Ее (t) ет

 

 

•rin{t)

=

tfi«). (3-2)

 

 

 

 

 

О

 

 

L/i„(0

rta(i)--.raa(t).

 

 

Начальное состояние л;(^0)

также

предполагается

нормальным

•с математическим

ожиданием пг0

и

ковариационной

матри­

цей R0.

 

 

процесс

{x(t),

teT}

является

нормальным,

Стохастический

так как значения х в каждый момент времени являются линей­ ными комбинациями нормальных переменных. Таким образом, стохастический процесс можно полностью охарактеризовать ма­ тематическим ожиданием и ковариационной функцией, опреде­ ление которых дано ниже.

Среднее значение

Для определения среднего значения функции возьмем мате­ матическое ожидание от обеих частей уравнения (3.1) и по­ лучим

m (/ + 1) =

Ex(t +

1) = Е (t + 1; t)x(t)

+ е (t)] =

=

<b(t +

l;t)mt,

(3.3)

m(t0) =

Ex(t0)=m0.

(3.4)

Таким образом, среднее значение функции задается линейным разностным уравнением (3.3) с начальным условием (3.4).

Ковариационная функция

Чтобы найти ковариационную функцию, предположим, что mQ равно нулю. Это предположение не ограничивает общности,

так как всегда

можно

ввести

переменные

z(t)=x(t)—пг{1).

Допустим, что s^t.

Тогда

 

 

 

 

 

x(s)

=

0(s;t)x(t)

+ <S(s;t +

1)е(0-}

Ь

 

 

+

G)(s;s-l)e(s-l)

+

e ( s - l ) ,

 

 

где

 

 

 

 

 

 

 

0(s;/) =

< D ( s ; s - l ) 0 ( s - l ; s - 2 ) , . . . , 0 ( / +

1; t).

(3.5)

 

 

 

Стохастические

модели состояния

 

 

 

 

59-

Следовательно,

 

 

 

 

 

 

 

 

 

 

 

 

Ex (s) хт

{t) = E[

[Ф (s; t)x(t)

 

+

0(s,t+l)e

 

(*) +

 

 

 

 

 

. . . +

e ( s _ l ) ]

xT{t)\.

 

 

 

 

 

Так как среднее значение e(s)

равно нулю и х(0

не

зависит

от e(s)

при s^t,

то все члены

правой

части, за

исключением

первого, равны нулю. Тогда

 

 

 

 

 

 

 

 

 

 

R(s,t)

= Q)(s;t)R(t;t)

=

0(s;t)P(t),

S>t,

 

"\(3.6>

Теперь определим ковариацию

х:

 

 

 

 

 

 

 

 

 

 

Р (t) = cov [ж (0,

х ф]

=

Ел; (/) хт

(t),

 

 

 

откуда

 

 

 

 

 

 

 

 

 

 

 

 

 

 

д:(^ - г - 1)л: г (^+1)= [Ф(^ +

1;/)х(/) + е(^)] [Ф(/

+

 

 

 

+

1;/)*(/)+ е(0]Г =

 

 

 

 

 

 

 

 

 

 

=

Ф ( / + IJO^W^W ФГ (* + 1;0 + Ф(* + i ; 0 x

 

 

Хл: (0 е т (0 +

в (7) л 7

(*) Ф Т

(/ + 1 ; t) +

е (0 /

(0.

 

 

Взяв

математическое

ожидание

и

учитывая, что x(t)

и

e(t}

независимы,

получим

следующее

разностное

уравнение

для

P(t):

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

P(t+\)

= 0(t

 

+ l;t)P(t)0T(t

 

+ \;t)

+

R1(i)

 

 

(3.7>

с начальным условием

 

 

 

 

 

 

 

 

 

 

 

 

 

 

P(tQ)=Ex(tJxT(t0)

 

 

= Ra.

 

 

 

 

(3.8)

Дадим физическую интерпретацию уравнения (3.7). Первый

член правой части представляет преобразование дисперсии

P(t)

состояния в момент t при

движении системы.

Второй

член Ri

представляет

увеличение

дисперсии,

вызванное

помехой

e[t).

Сформулируем теорему 3.1, которая является итогом прове­ денных выше обсуждений.

Теорема 3.1. Решением нормального линейного стохастиче­ ского разностного уравнения является нормальный процесс со

средним значением

 

 

m{t+\)

= 0{t+\;t)m{t),

(3.3)

начальным условием

 

 

тп (/„) = т0

(3.4)

и ковариационной функцией

 

 

R(s,t) =

<3)(s;t)(P(!), я < / ,

(3.6)