Добавил:

ivanov666 Опубликованный материал нарушает ваши авторские права? Сообщите нам.

Вуз:

Башкирский Государственный Аграрный Университет

Предмет:

[НЕСОРТИРОВАННОЕ]

Файл:

книги из ГПНТБ / Липцер Р.Ш. Статистика случайных процессов. Нелинейная фильтрация и смежные вопросы

.pdf

Скачиваний:

Добавлен:

27.10.2023

Размер:

20.66 Mб

Скачать

☆

<<< < Предыдущая 1 2 3 45 / 715 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 > Следующая >>>

§ з]		МАРКОВСКИҢ МОМЕНТЫ	37
	Далее,

{т < сг} л( т < / ) = (J [({ т < г } П { г< а} )1 Ш т < 0 П { * < от} )]<=£-,,

г < t
т. е. {сг < т} е 5FX.	х}<=£Гх и {а <	т}е£Г а.
Аналогично устанавливается, что {о <	х}<=£Гх и {а <	т}е£Г а.
Следовательно, { т^ а}, {а ^ т} и {а = т}	принадлежат	как @~х,
так и &~0.

Польза введенного в § 2 понятия прогрессивно измеримого случайного процесса иллюстрируется следующим предложением.


Л е м м а	1.8. Пусть		X = {\|/( &~t), t е Г , — действительный
прогрессивно	измеримый		процесс и	х — х (со) — марковский мо
мент (относительно		F =	(3Tt), t ^ T )	такой, что Р ( т < о о ) = 1 .
Тогда функция \| т =		\| т ((0) (со) является ЗГх-измеримой.

Д о к а з а т е л ь с т в о . Пусть $ — система борелевских мно жеств на числовой прямой R1 и / е Г . Надо установить, что для всякого ß e l

ßt ы (®)е В) Л {т ^ t} е STt.

Положим a = x A t . Тогда

{ |,е 0 } Л { т < /} = {|г еА } Л [{ т < /} и { т = г}] =

		=	[ { ^	s	В} Л { а < /} ] U [ { £ , G		ß	) Л	{ т =	t}].
Ясно, что {!т еВ }Л {т =		1}е SFt. Если установить, что
измеримая функция,	то	тогда			событие {\|„ е	ß} Л {сг < 4			также
будет принадлежать	5Tt.		Заметим теперь,			что	отображение
со-»(со, а (со)) является измеримым отображением (Q,								t) в (QX
X [0, і\, Р ’і Х Я Ц О , /])),		а отображение (со, s)-»L(®) простран
ства (QX[0> t],			Л)) в (Rl, 3S) также измеримо в силу
прогрессивной измеримости				процесса X =				t ^ T .		Сле
довательно, отображение (Q,,3Tt) в (R1, &), задаваемое									Ест(щ)(со),

измеримо, как результат суперпозиции двух измеримых ото


бражений.		Если			X = (%t,SEt),			t<=T, — непрерывный
С л е д с т в и е .
справа (или слева) процесс, то						%,х ЗГх-измеримо.
Л е м м а	1.9.	Пусть			$ = $(©)— интегрируемая случайная
величина ( М Ц \| < ° ° )			«	т — марковский				момент относительно
системы F =	{8Ft),	t ^ T .		Тогда на множестве {со: x — t) условное
математическое ожидание					М ($ \|^ т)		совпадает с M ( jl^ ) , т. е.
M ( j \| ^ t) = M ( i l ^ )						({т = 0, Р-п. н.).
Д о к а з а т е л ь с т в о .					Надо	показать,		что
	Р[{т =		0 Л { М (* (^ ,)^ М 0 І ^ )} ] = 0
или, что эквивалентно,
	хМ {ъI @~х) =				хМ (51^*с)		(Р-п. н.),

НЕОБХОДИМЫЕ СВЕДЕНИЯ

[ГЛ. f

где X = %{x==t]— характеристическая функция множества {т = /}. Поскольку случайная величина %является ЗГХ- и SF,-измеримой (лемма 1.7), то

xM (äNF,)=M (axi£% ) и х М ( а і ^ ) = м ( а х і^ ) .

Покажем, что М (5х\ &~х) = М ($хI Р t) (Р-п. н.). Прежде всего заметим, что случайная величина М($хІ^~/) является ^ -и з м е римой. Действительно, пусть s e T и a ^ . R l. Тогда, если

то, очевидно, {М (5х! Pt) ^ «} П {т ^ Д е 3~s. Если же t > s, то множество

{М (äxl P t) <

а) П {т <

s} = (хМ (Л 8Г() <

а} П {т < 's) s=

— {0, й} П

^ ^ P s-

Далее, согласно определению условного математического

ожидания для всякого А s= 9ГХ

| М ( а х І ^ ) й Р = | а х ^ Р =

ЬdP.

(1.28)

А П {т=<}

Множество А П {т =

г} е $Гt. Поэтому

idp=

M (ii^)dP = {xM (ai^)dP =

Afi{T=t]

ЛП{т=Й

jM(axl Pt)dP.

(1.29)

Поскольку М(5хІ^"<) ^-измеримо, то, в силу произволь

ности

множества

Д е ^ ,

из

(1.28),

(1.29)

вытекает,

что

М ( а х І ^ , ) = М ( а х І ^ ) (Р-п. И.).

лемма

дает

примеры

наиболе

Примеры.

употребительных марковских

моментов.

— действительный

про

Л е м м а

1.10.

Пусть І' =

(^(, І е Г )

цесс, непрерывный справа,

F = {3Tt),

t(=T, — неубывающее се

мейство непрерывных справа а-алгебр,

3~t = 5ГІ+

и С — открытое

множество в

R1. Тогда моменты

ас =

inf {t ^

0: ^ е

С),

тгс =

inf >

0: ^ e

(■первого и первого после +0) достижения множества С являются марковскими.

Д о к а з а т е л ь с т в о . Пусть D = Rl \ C . Тогда в силу не прерывности справа траекторий процесса X и замкнутости множества D

{со: ос > і} = {со: gs <= D, s < t } = f ) ß ,e D } ,

Г < t

§ 41	ПРОЦЕСС	БРОУНОВСКОГО ДВИЖЕНИЯ	39

где г — рациональные числа. Следовательно,

К < /} = (J {Іг е С} €= Т t. r<t

В силу предположения STt = SFi+ и леммы 1.2 отсюда выте кает, что 0 С — м. м.

Аналогично доказывается марковость момента тс и следую

щая, в дальнейшем часто используемая
Л е м м а 1.11. Пусть		Х = Ц{),	t ^ T — действительный не-
прерывный случайный	процесс,		=<t{cd: \| s,	s ^ t ]	и D — зам
кнутое множество в	R1.	Тогда момент оD=		inf (t ^	0:
является марковским	относительно системы			—	t ^ T .

§4. Процесс броуновского движения

1.Определение. В классе процессов со стационарными не зависимыми приращениями центральную роль играет процесс броуновского движения. Дадим определение и приведем обще известные свойства этого процесса.

Случайный процесс ß =	(ß^),	заданный на вероят
ностном пространстве (Й,	Р),	называется процессом броунов
ского движения *), если
1) ßo = 0 (Р — п. н.);

2)ß является процессом со стационарными независимыми приращениями;

3)приращения ß7— ßs имеют гауссовское (нормальное) рас пределение с

		M [ß ,- ß s] =	0,	D [ß7— ßs] = 02\| t — s I;
4)	для	почти всех	с о е й	функции	ß* = ßf(®)	непрерывны
(по t,	0			ß часто	называют стандартным
В	случае о2= 1 процесс
процессом		броуновского движения.			(достаточно	«богатом»)
Существование такого процесса на

вероятностном пространстве устанавливается с помощью не

посредственного построения.		Так, пусть т),, %,	. . . — последо
вательность	независимых гауссовских, N (0, 1), случайных вели
чин И фД/).	<Рг(0> •••>	— произвольная	полная орто

нормальная последовательность в L2[0, Т]. Положим Ф7(/) = t

= J фj{s)ds, 1= 1, 2, ...

*) Процесс броуновского движения называют также винеровским. Мы резервируем термин «виперовскиіЬ для процессов, определенных несколько иначе (подробнее см. в § 2 гл. 4). .

40 НЕОБХОДИМЫЕ СВЕДЕНИЯ [ГЛ. 1

Т е о р е м а	1.13. Для каждого t, O ^ t ^ T , ряды
	оо
	ßt = 2! Г]/Ф/ (0
сходятся Р-п.	н. и определяют процесс броуновского движения

на [0, Т].

Из определения легко выводятся следующие свойства (стан дартного) процесса броуновского движения:

Mß; — 0, соѵ (ßs, ß,) = Mßsßi = min (s, t),

Р((,‘< *) = 71я		\	e~''mdy-			MIP' I= /		I -
		— OO
Пусть ^	= a(ßs,		Нетрудно			проверить,		что процесс
броуновского	движения	является			мартингалом		(относительно
(У?), 0 < * < Г ) :
причем	M(ß<\|Srß) =		ßs	(Р-п. н.),					(1.30)
					(Р-п-н.), t > s .
M[ ( ß ; - ß s)2l ^ ]			= *	- s					(1.31)
Как всякий процесс с независимыми приращениями, процесс
броуновского движения является марковским:
		м № + > ) !4				(Р-п-H.),	s > о,		(1.32)

для любой измеримой функции f(x) с sup 1f(x) | < оо.

	В частности, для			любого	борелевского	множества B g I
на	R 1	P(ßi s ß \| ^ ß )		= P(ßi e ß \| ß s) (Р-п. и.),			(1.33)

Важное		свойство	процесса		броуновского	движения	ß — (ß<),
0 ^	t ^	Т, состоит	в	том, что он является		строго марковским

в следующем смысле: для всякого марковского момента т = т(со)

(относительно	0 < t < Г) с	Р(т(со)< Т) = 1	выполнено
следующее усиление соотношения (1.32):
м [Щ ,+, ) ! П 4 = м [/( іщ ) і ( Ч (R-п. н.),			(1.34)
где s таково,	что P(s + т ^ Г ) =	1.

Строго марковскому свойству процесса броуновского движе ния можно придать следующую форму: если исходный процесс

ß = (ßt)	определен	для всех	0, то для	всякого марковского
момента	т = т(со)	(относительно	( ^ ) ,	0) с Р ( т < о о ) = : 1
процесс

Р* — ßt+%— ßx

§ 4]

ПРОЦЕСС

БРОУНОВСКОГО ДВИЖЕНИЯ

будет также

процессом

броуновского движения, не зависящим

от событий а-алгебры

Свойства

траекторий

процесса

броуновского движения

ß = (ßi)>

t> Q .

З а к о н

п о в т о р н о г о

л о г а р и ф м а

утвер

ждает, что

Р ( lim sup

Т Ж

1 ) = 1 .

( 1 .3 5 )

i->oo

f2 t\n \n t

’

Л о к а л ь н ы й з а к о н п о в т о р н о г о л о г а р и ф м а :

Р I lim sup — jT.

11 = 1.

(1.36)

21 ln ln 1

)

Г ё л ь д е p о в с к о е

у с л о в и е

Леви :

p j

lim sup

ßsl

1 = 1 .

(1.37)

\ 0<t-s=h^0

/ 2л,4

(

Из (1.37) следует, что

с вероятностью

траектории

процесса

броуновского

движения

удовлетворяют

условию

Гёльдера

с любым

показателем

а <

Ѵ2

(и

не удовлетворяют

условию

Гёльдера

с показателем

а = 1/2; это

следует из (1.36)).

Из (1.35) — (1-37)

выводятся

следующие свойства

процесса

броуновского движения: с вероятностью 1 его траектории

имеют сколь угодно

«большие нулю», недифференцируемы для

всех

0 и

имеют на

любом

сколь угодно малом интервале

бесконечную

вариацию.

(ю )=0

Множество л ((о )= {^ 1 , ßi (®)=0} корней уравнения

обладает

следующими

свойствами:

(J не ограничено) =

с вероятностью

5(0 )

замкнуто

не

имеет изолированнных

точек-, P(mes j(co) =

0 )=

где

множе

ства 5(со).

3.Некоторые распределения, связанные с процессом броу

новского движения ß =			(ß,),	0. Обозначим
				dP5, X(6 у)
		p ( s ,	X, t, У) =		ду
плотность	вероятности		условного		распределения	Ps<x(t, у) =
—- Р {ß* ^	у I ßs = х).	В	случае	стандартного процесса (сг2 = 1 )
броуновского движения			плотность
	p{s, X,	і, у) = — .		- I........	e ~(y—X)2ß ( f —s)	(1.38)
			Y 2at(f — s)

НЕОБХОДИМЫЕ СВЕДЕНИЯ

[ГЛ. 1

удовлетворяет уравнениям (проверяется непосредственно)

dp (s,	X,	t,	у)	1_	д 2р (s ,	X,	t, у)	s < t ,	(1.39)
	ds			2	д х г			s < t ,	(1.39)
	ds			2	д х г
dp (s,	X ,	t,	x)	1 â2p (s, X ,		t,	y)	t > s .	(1.40)
	di			— T	dy*		’	t > s .	(1.40)
	di			— T	dy*		’

Уравнения (1.39) и (1.40) называются соответственно обрат ным и прямым уравнениями Колмогорова. (Прямое уравне ние (1.40) называют также уравнением Фоккера — Планка.)

Из строго марковского свойства процесса ß выводится соот ношение (принцип отражения)

						со
Р (	шах ßs > X) = 2Р (ß ,> х) =				=	Гe-y2i2tdy. (1.41)
	o<s<f				у 2nt	J
						X
Обозначим		т — in f{ /^ 0 : ß^ — а}		момент		первого достиже
ния процессом		ß уровня а ^ О .	Этот	момент			является	марков
ским моментом (лемма 1.11). Поскольку
		Р ( т < г ) — Р(	шах	ßs^Ssa),
то в силу (1.41)
		со				оо
р	< ' ) = - p m J e~yV' d y = Y				i	1	е~№ dy’	<1 42)
		0	p ^(t)~		а/VT
отсюда находим, что плотность			p ^(t)~				существует и
задается формулой
		p' {i]= v è	w e- " ß‘-					<'■«>

Из (1.43) вытекает, что рт( 0 ~ —ß = ^ r %, при t-> оо и, следова-

У 2л

тельно, если а > 0, то Мт — оо. Пусть теперь

T =	in f^ > 0 : $t = a — bt},		а > 0,	0 < ö < o o ,
— момент первого достижения		процессом		броуновского движе
ния прямой	а — Ы. Известно,	что	плотность		p%(t) = — -
в этом случае определяется формулой					dt

	Px(t)=	e -(M-«)»/2t.			(1.44)

У 2 л t

§ 5]

ПОНЯТИЯ МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ

4. Преобразования процесса броуновского движения ß= (ß^), t ^ O . Непосредственно проверяется, что

у А®)-	О,	/==0,
	ФцДю).	* > 0 ,

2/((o)==cß//c2((ö),		с > 0,

являются также процессами броуновского движения.

§5. Некоторые понятия математической статистики

1.В математической статистике первичным является поня тие выборочного пространства (X, sé-), состоящего из множества выборок Ж и or-алгебры его подмножеств s&. Обычно Ж— это

пространство последовательностей х = (хи	х2,	...), где л:г е Л?*,
или же пространство функций x = (xt),	0.	В рассматривае

мых далее задачах статистики процессов диффузионного типа выборочным пространством является пространство непрерывных функций.

Пусть	(U, Ж) — некоторое	другое измеримое пространство.
Всякое	измеримое (точнее,	измеримое)	отображение
у — у{х)	пространства Ж в	U называют статистикой. Если
выборку	x = (xh х2, . . . ) представлять себе как		результаты

наблюдений (например, результаты независимых наблюдений

над некоторой случайной величиной	\| = \|(со)), то у = у(х) —
это функция от результатов наблюдений.
Примеры статистик:
П
тп іх) — — Хі — выборочное	среднее,
і=1
П

Sn{x) ==~^^У ( хі — т «)2 — выборочная дисперсия. (=і

2. Одним из важнейших разделов математической статистики является теория оценивания. Приведем ряд ее понятий, исполь зуемых в этой книге.

Будем предполагать, что на выборочном пространстве (Ж, s4)

задано семейство	<^ =	{РѲ, ѲеѲ} вероятностных мер, завися
щих от параметра	Ѳ,	принадлежащего некоторому параметри

ческому множеству Ѳ.

Статистика (оценка) у — у(х) называется несмещенной оцен кой параметра Ѳе Ѳ, если Мѳу(л:) = Ѳ для всех Ѳ е Ѳ (Мѳ обо значает усреднение по мере Рѳ).


44	НЕОБХОДИМЫЕ СВЕДЕНИЯ									[ГЛ. 1
Статистика	у — у{х)		называется			достаточной для				Ѳ (или
семейства &>), если для каждого / І е і						можно выбрать вариант
условной вероятности		РѲ(Л \у(х)\			не	зависящий от			Ѳ.
Следующая факторизационная теорема дает необходимые и
достаточные условия		для		того, чтобы			некоторая		статистика
у = у(х) была	достаточной.			семейство		& — {Рѳ, Ѳs			Ѳ} домини
Т е о р е м а	1.14. Пусть
руется некоторой G-конечной мерой						Я	{т.	е. Рѳ <С Я,		Ѳе	Ѳ).
Статистика у — у{х)		будет		достаточной			в	том и	только		том
случае, если существует $ -измеримая (при каждом										Ѳ е Ѳ )
функция g(y, Ѳ) такая,			что
	dPe{x) =			g(y{x),	Q)dk(x).
Последовательность			статистик		уп{х),		п — 1, 2,			назы

вается состоятельной оценкой параметра Ѳ еѲ ,			если для каждого
Ѳ еѲ	^га(х)->Ѳ, л-*оо, по Рѳ-вероятности, т.			е.
	Рѳ{I Упіх) — Ѳ1> е}->°,	п-> оо,	е > 0.
Последовательность статистик уп{х), п== 1,2,				..., называется
сильно	состоятельной оценкой параметра Ѳе Ѳ,			если уп (х) —>Ѳ
с Рѳ-вероятностью единица для всех ѲеѲ.				о-конечной ме
Пусть семейство УР доминируется		некоторой
рой Я.	Функция
	^Рѳ(х)
	L x (Ѳ) = dX (x)

рассматриваемая (при фиксированном х) как функция от Ѳ, на

зывается функцией			правдоподобия. Статистика у — у{х),			обра
щающая функцию правдоподобия Ьх (Ѳ) в максимум,						назы
вается оценкой максимального правдоподобия.					неизвестного
Для	сравнения		различных	оценок у = у (х )
параметра Ѳ еѲ			вводят (неотрицательные) функции			потерь
W (Ѳ, у) и средние потери
			R(Q, y) = MeW(B, у(х)).			(1.45)
В тех	случаях,	когда Ѳ е і? ',		y ^ R 1, наиболее	употребитель
ной функцией потерь является				функция
			W(Q, y) = \ Q - y f .			(1.46)
При исследовании качества оценок параметра Ѳ= (Ѳ,,..., 0fe) e
е Rk важную		роль играет1 информационная матрица Фишера
/( Ѳ ) = \|\|/ г7(Ѳ)\|\|,		где

‘ ч (ѳ = м »{ ж :|п Ж W } { Ж |п Ж і w } •

с - 47)

§ 51	ПОНЯТИЯ МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ	45
В одномерном случае (Ѳ е R1) величина
	' ( в ) - М , { 4 і п - ^ - м } !	(1.48)
называется информационным количеством Фишера.
Для	несмещенных оценок у = у(х) параметра	Ѳ е Ѳ е У ? 1

справедливо (при некоторых условиях регулярности; см. [128], [138]) неравенство Рао — Крамера

Мѳ [Ѳ — г/(х)]2> - щ - , Ѳ еѲ .

(1.49)

В многомерном случае (Ѳ е Ѳ s Rk, у е Rk) неравенство (1.49)

заменяется матричным неравенством Рао — Крамера*)

		Мѳ [Ѳ — г/(х)][Ѳ — г/(х)]*>/_І(Ѳ),							ѲеѲ.		(1.50)
(Подробнее		см.	[ 128], [138], а также § 8					гл.	7.)
Несмещенная			оценка		y ( x ) ^ R k		параметра			Ѳе	Rk назы
вается	аффективной, если				для всех		значений		Ѳ е Ѳ
		Мѳ[Ѳ -г/(д:)][Ѳ -г/(х)Г =						/ - 1(Ѳ),
т. е. если в неравенстве				Рао — Крамера				на самом			деле дости
гается	равенство.			что сам параметр Ѳ еѲ						является случай
3.	Предположим,
ной величиной			с распределением			п = к (dQ). Тогда					наряду со
средними потерями R(Q, у) можно рассмотреть полные средние
потери				у ) ~ J Д(Ѳ,
			Р{я,				y)n(dö).
					ѳ
Статистика у* = уч(х)					называется байесовской					относительно
априорного		распределения			я, если		R(n,	y * )^ R (n ,			у) для лю
бой другой		статистики у — у(х).					минимаксной,			если
Статистика у — у(х)				называется
			шахД(Ѳ,		у) ^ inf max R (Ѳ, у).
			ѳ		у	в

*) Для симметрических неотрицательно определенных матриц А и В не равенство Л ^ В означает, что матрица А — В является неотрицательно определенной.

Г Л А В А 2

МАРТИНГАЛЫ И ПОЛУМАРТИНГАЛЫ. ДИСКРЕТНОЕ ВРЕМЯ

§ 1. Полумартингалы на конечном временном интервале

1.	Пусть	(Q, F ,		P) — вероятностное			пространство, f , s
f j C . . .	s F N s	F	— неубывающее семейство о-подалгебр F .
О п р е д е л е н и е			1.	Последовательность			X = {xn, F n),	п =
= 1,	Af, называется			соответственно		супермартингалом		или
субмартингалом,		если М \| хп [ <			оо, п = 1, . . . ,		N, и
или	M{xn\ F m ) ^ X m				(Р-П. Н.),	п ^	пг,	(2.1)
	M{xn\ F m) ^ x m				(Р-п. н.),	п F	т.	(2.2)

Супермартингалы			и	субмартингалы		называют также полу
мартингалами.						то Y = (— хп, F n) яв
Если	Х = (хп, F n) — супермартингал,
ляется	субмартингалом.			Следовательно,		для	изучения свойств

полумартингалов достаточно исследовать лишь супермарткнгалы (или субмартингалы — в зависимости от удобства).

Очевидно, что последовательность X — (xn, F n), одновре менно являющаяся супермартингалом и субмартингалом, обра зует мартингал-.

М (хпI F т) = хт (Р-п. н.), п ^ т .		(2.3)
Для супермартингала математические ожидания Ыхп не
возрастают: Мх„ ^ Мхт , п ^ т .	Для мартингала	математиче
ское ожидание есть константа:	Мх„=Мл:1, n ^ .N .

2. Пример 1. Пусть $ = $(со)—случайная величина с М U К 00 и хп — М (51F n). Последовательность (хп, F n) образует мартин гал.

П р и м е р 2. Пусть т]1, т]2, ... — последовательность интегри

руемых независимых случайных величин с Мщ = 0,		і =	1,2,	. ..,
5ra = T)i +	■• • + Л/г. @~п = о{со: Лі. • • •. %}• Тогда	S =	(s„,	F n)
образует	мартингал.

<<< < Предыдущая 1 2 3 45 / 715 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 > Следующая >>>

Соседние файлы в папке книги из ГПНТБ