книги из ГПНТБ / Лавренченко, А. С. Лекции по математической статистике и теории случайных процессов учебное пособие
.pdfD |
|
|
|
1 |
|
|
|
|
|
l |
(16) |
Ы |
= |
|
|
|
f- 1 |
|
|
’Л |
|||
|
|
|
i= 1 |
|
|
Zpk(*l ) |
|
||||
|
|
|
|
|
|
|
|
||||
Далее имеем |
|
|
|
|
i- 1 |
|
|||||
|
|
|
|
|
У(*,)J = |
[yt - у ( * |
,+) J |
||||
Ус—-у (*/) = |
[уI — У(*/)] |
+ |
\y{xD - |
||||||||
|
|
|
|
|
k=0 |
|
/>* w * |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Отсюда после возведения в квадрат и суммирования по i по |
|||||||||||
лучим |
|
|
|
|
|
|
|
|
|
|
|
н |
|
|
|
я Г |
|
— |
12 |
т j - |
|
\2 и |
(17) |
v \ y , - y ( * i ) f = |
S k - i /T O J + |
|
|
1 р2Ш, |
|||||||
I- 1 |
|
|
|
/= 1 |
|
|
Л-0 |
|
/-1 |
|
|
где учли, |
что |
сумма |
удвоенных |
произведений |
обращается |
в нуль |
|||||
в силу условия |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i > |
ft(*/) \ус— у о о ] = |
о, |
|
|
|||
|
|
|
1 1 |
|
|
|
|
|
|
|
|
которое непосредственно следует из (13) и (6). |
|
|
|||||||||
В силу |
(16) |
равенство (17) |
перепишем |
так: |
|
||||||
п |
Г Ус — |
у ( хУ |
2 |
п |
|
|
2 |
т |
|
|
|
у ; |
= |
V |
Pi — У (xi) |
+ |
Х |
|
(18) |
||||
1 |
|
ау |
J |
г- i |
|
з„ |
|
Л-0 |
|
з \а
Левши часть (18) есть сумма квадратов п независимых нормаль ных нормированных случайных величин и, следовательно, имеет распределение хЛПоэтому, применив к (18) теорему 3 лекции 2, заключаем, что оценки
Sm = X I Ус — У(*Д |. «о, аи . . . , а i= 1
стохастически независимы, причем
Л = 0, 1 ,-----/«,
3U J
имеют нормальные нормированные распределения, а
с2 |
(19) |
Уе От |
— распределение Xn- m- i
40
Величина
|
тк^ и к |
V |
п — Ш-—1 |
а„ — ак |
У |
, г -----------------Г- |
|||||
|
|
|
V |
з |
----- ;г- |
у п — т — 1 |
|||||
|
|
|
|
а |
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
или в силу (16) |
|
|
|
|
|
|
|
|
|
|
|
|
Т , г - |
|
|
|
(n— m — \)Qpl(x,) |
( 20) |
|||||
по определению имеет распределение Стыодента |
с п — т — 1 сте |
||||||||||
пенями свободы. |
|
|
|
|
ак (/г = 0, |
|
|
, т) получаем |
|||
Из |
(20) согласно |
лекции 3 |
для |
1,.. |
|||||||
искомые интервальные оценки |
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
"* < |
"а + |
|
|
|
V |
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
( / i - m |
- l ) v |
рЦх,) |
C _2L> |
(21) |
||
|
|
|
/ |
|
|
|
|
|
|||
|
|
|
|
|
i |
1 |
|
|
|
|
|
где / |
p— квантиль |
распределения |
Стыодента |
с |
п — т — 1 сте- |
||||||
1~ Т |
|
|
|
|
|
|
|
|
|
|
|
пенями свободы. |
|
|
|
|
|
|
|
|
|
||
Далее в силу независимости а0, аи . . ., |
ат из (3) и (12) имеем |
||||||||||
|
о [ у (х)\ |
|
pi (х) D | а0| -|- р\ (х) D I щ | + . . . + |
||||||||
|
|
|
|
+ Pm{x)D I (1т| —: Зу(] (X), |
|
|
|
||||
где согласно (16) |
|
|
|
|
|
|
|
|
|
||
|
|
|
1 |
4 |
Р'\ И |
, |
J L W |
|
|||
|
q { x ) = — |
|
“)••■ » |
п |
|
|
|
П^ Р\ Xх и
1 |
i=i |
Но у(х) как линейная комбинация нормальных независимых
случайных величин ак (k — Q, 1,.., tn), не зависящих от S12m> распре
делена нормально, не зависит от S2m и в силу (15)
Поэтому согласно (19) величина |
Г {п— т — 1)о* |
||
|
y(x) — M[YIX = x] |
|
|
~ |
ь У ч Щ |
у |
s i |
|
y(x)— M\YIX = x| |
—т — 1 |
|
|
|
|
('22) |
V * ~qjx)
по определению имеет распределение Стьюдента с п — т — 1 сте пенями свободы.
Из (22) согласно лекции 3 для линии регрессии (1) при фикси рованном х и доверительной вероятности 1— р получаем довери тельный интервал
у(х) - s m1 / |
- ...? (* Ц - |
t |
p < м [YjX = |
x| < y(x) |
+ |
||||
|
|
у |
n — m — 1 |
1-t |
|
|
|
|
|
|
|
|
+ S, |
|
q(x) |
|
|
|
(23) |
|
|
|
|
■m— 1 |
1-i- |
|
|||
|
|
|
|
|
|
|
|||
где t p — то же, |
что и в (21). |
|
|
|
|
|
|||
Если |
при |
каждом фиксированном |
х£\ а, Ь] |
построим |
довери |
||||
тельный интервал |
(23), то получим так называемый доверительный |
||||||||
коридор. |
В сечении этого коридора прямой x = |
.v1e |я, Ь] получаем |
|||||||
доверительный интервал для |
M[17A" = ,v,]. Но отсюда еще не сле |
||||||||
дует, что вся линия приближенной регрессии (3) при |
х £ [ а , Ь\ |
||||||||
попадет |
в |
этот |
коридор |
с |
заданной |
доверительной |
вероят |
||
ностью |
1 — р. |
|
|
|
|
|
|
|
|
Построение доверительной области, содержащей всю линию |
|||||||||
приближенной регрессии (3) |
при х £ [а, Ь] |
с заданной доверитель |
ной вероятностью 1 — р, в общем случае есть очень сложная задача. Решим ее для частного случая линейной регрессии
у(х) = аар0(х)-{- alpl ( x) = |
ах + (i. |
(24) |
|||
Легко показать, что средняя точка |
|
|
|
|
|
1 |
" |
1 |
2 |
" |
|
— |
1=1 |
- |
у, |
|
|
И |
п |
г= 1 |
|
лежит на прямой (24). Поэтому за параметры прямой (24) возьмем среднее у и коэффициент регрессии а и-.
Если генеральная совокупность (X, У) нормальна, то величина у тоже нормальна, и для нее можно построить доверительный интер вал. Доверительный интервал для a = f l i получим из (21) при k = 1.
Пусть У\,Уг и ai, сиг — границы доверительных интервалов для у и а при доверительной вероятности 1 — р.
42
Через каждую из точек (х, у|) и (-ЧУ2) проведем по две прямые
с угловыми коэффициентами он и аг. |
и есть |
Максимальная область, охватываемая этими прямыми, |
|
искомая доверительная область (рис. 6). Прямая истинной |
линей |
ной регрессии попадает в эту область с доверительной |
вероят |
ностью (1 — р) 2. |
|
Корреляционное отношение
Введем величину p.vl/ по определению |
|
|
У м [ [ У - у ( Х ) } - } |
_ 3 [ К - у ( Л ) ] |
(25) |
/ 1 - Р х у - |
|
|
|
|
|
где у — у( х) — линия регрессии (1). |
причем, чем ближе |рду|к еди |
|
Йз (25) следует, что — 1<рду< 1 , |
нице, тем меньше среднее квадратическое отклонение o [ Y - y ( X ) ] ,
г. е. тем теснее группируются выборочные точки (2) около линии регрессии (1). В предельном случае |p.vy| = 1 имеем
o[Y — У( * ) ] = - О,
т. е. здесь с вероятностью единица случайные величины X н У свя заны функциональной зависимостью (1).
В силу этого величину рХ!, принимают за численную меру силы зависимости У от X и называют корреляционным отношением.
Для линейной регрессии (24) согласно (25) p.v;/ совпадает с коэф фициентом корреляции гхи.
Исследование силы зависимости У от X с помощью рХ1/ назы вается корреляционным анализом.
43
Л е к ц и я 6. ОСНОВНЫЕ ПОНЯТИЯ ТЕОРИИ СЛУЧАЙНЫХ ПРОЦЕССОВ
Случайный процесс и его «-мерные законы распределения. Осредненные характеристики случайного процесса и их свойства.
Случайный процесс и его «-мерные законы распределения
Случайной функцией называется функция X(t), значение кото рой при каждом допустимом значении неслучайного аргумента t есть случайная величина.
Эта случайная величина называется сечением случайной функ ции X(t) в точке t.
Если X(t) измерить при всех допустимых значениях t, то в результате такого опыта X(t) примет тот или иной конкретный вндл'(/), называемый реализацией случайной функции X (I) в этом опыте.
Случайную функцию X(t) нельзя изобразить графически. Можно начертить лишь графики ее реализаций, которые в своей статистической совокупности и определяют X(t).
Неслучайный аргумент / на практике обычно означает время. Поэтому далее случайную функцию Х(1) будем называть случай ным процессов или просто процессом.
Например, если самолет летит на заданной высоте hccaconst, то в действительности его высота есть случайный процесс X(t) вре мени t (рис. 7).
44
На рис. |
7 X (/,), X (t2) |
X (tn) — сечения процесса X (t) |
в точ |
|
ках |
г2, • |
• • П. а л'I (/), л'2 (7), |
... его реализации в 1, 2-м и |
т. д. |
опытах.
В общем случае X(t) определен на бесконечном счетном или несчетном множестве точек /, т. е. X(t) равносилен системе беско нечного счетного или несчетного множества случайных величин — его сечений.
Однако X (!) приближенно (тем точнее, чем больше л) можно
аппроксимировать л-мерной случайной величиной |
|
|||||||
|
|
(*('.), * ( М .......*('„))• |
|
|
||||
Пусть эта |
величина имеет плотность вероятности |
|||||||
|
|
fn(А'ь Х2, ■■-, |
| |
Л,/2, ..., 1п), |
|
(1) |
||
где х ь х2, . .., |
|
хп— аргументы; |
изменяющиеся на |
множестве точек |
||||
/ ь /2, ..., |
1п— параметры, |
|||||||
Тогда |
|
определения |
процесса X(t). |
|
|
|||
|
|
|
|
|
|
|
|
|
Р f (х, |
|
< Л'(/|) < х, + |
dxi)... (хп< X (/„) < |
хп- f dxn) 1= |
||||
|
|
= fn (Xu--; |
x„\<u-.; |
t„) dx, ... |
dxn, |
|||
T- e- |
f„(xI, Л-2, ■•., л-„| /|, |
/2, ..., |
tn)dxx dx2 |
... |
dxn |
|||
равно вероятности прохождения |
процесса X(t) через п «щелей» |
|||||||
(рис. 8). |
|
|
|
|
|
|
|
|
хю-
о |
|
i |
|
At |
tп |
||
|
Рис. 8.
Плотность вероятности (1) называется п-мерным законом распределения процесса X(t). Этот закон дает неполную вероят ностную характеристику процесса Х(/), так как учитывает связь хотя и между любыми, но лишь п его сечениями.
Однако эта характеристика тем полнее, чем больше п. Поэтому случайный процесс X(t) будем считать заданным, если задана последовательность всех его л-мерных законов распределения
fi(xi\ti), Ы а-|,х2, | / ь / 2) , . . . , М х ь х 2, . . . , х„|/ ь /2.......(2)
которые удовлетворяют условию симметрии
/ л (-Xi, ? |
1 . • • JXjn| tp . ti, , . . . , t[n) = fn (X\, X2, . . ., xn| t\, t% ... , tn) , |
где |
»„)— перестановка чисел ( 1, 2, . .. , л), |
45
иусловию согласовайносМ!
оооо
^ |
. j fп(•*■!; ••■ >Мн" Ми+ 1> •••) хпI |
•^ш5 tm-\-Ь •••>tп)(txm+ \.•.d.jCn— |
|||
|
= |
fm(-М) ' • • >Ми | |
t\, ■. ■| ^m)> |
|
|
1 . |
е. n-мерный закон |
распределения определяет все законы распре |
|||
деления более низкой размерности т (т<^п), но не наоборот. |
|
||||
п |
Однако в частных |
случаях последовательность (2), а |
значит, |
||
сам процесс А(/) |
определяется |
полностью каким-либо |
одним |
||
н-мерным законом распределения. |
|
|
|
||
|
Например, одномерным законом распределения полностью опре |
||||
деляется процесс Х(1) с независимыми сечениями, так как |
для |
||||
него |
|
„ |
|
|
|
|
f„(xt,x2,..., хп\ /ь /2, ..., |
/„) = п |
|
|
|
при любом / 7= 1, 2, . . . |
k=1 |
|
|
||
|
|
|
|||
|
Двумерным законом распределения полностью определяются |
||||
нормальный и Марковский процессы. |
|
|
|||
|
А'(^) почти никогда не задают последовательностью (2) из-за ее |
||||
громоздкости, а ограничиваются рассмотрением лишь М м | М |
или |
||||
fa(X\, х21^1, h) ■ |
|
|
|
|
Осредненные характеристики и их свойства
В общем случае А' (/) будем считать комплекснозначным про цессом вещественного аргумента /, т. е.
X(t)==Xx(t) + iX2(t),
где |
/ — мнимая единица; |
A'i(0 и А2(/)— вещественные случайные процессы. |
|
О |
случайном процессе X(t) приближенно можно судить по |
осредненным характеристикам. Основными из них являются: математическое ожидание mx(t), дисперсия Dx(l) и корреляционная функция /<д.(/,/'). Это неслучайные функции. Они определяются
так: |
|
|
|
mx( t ) ~ M \ X ( t ) ] = |
y x f ](x\t)dx- |
(3) |
|
|
— |
ос |
|
о |
ОО |
|
i 4) |
Dx(t) = М | А г(/)|2 = |
j \х — mx(t) |
||
|
— оо |
|
|
Kx(t, П еееМ[Х(/)Х* (/')] = |
|
||
= JJ[А' — mx{t)\[x' — m ,(/')]* f2(x,x'\t, t')dxdx', |
(5) |
||
--00 |
|
|
|
где X(t)=zX(t)— mx(t)— центрированное значение сечения |
A'(Z); |
||
* — комплексное сопряжение. |
|
46
Здесь по сравнению с (2) переобозначилй:
Х\=Х, х2 = х'\ t\ — t, t2 = t'.
Заметим, что тх(() и Dx(t) определяются через одномерную fi(xf/)y a Кх(/, ? ) — через двумерную f2(x,x'\t, (') плотность вероят ности.
mx(t)— «средняя линия», около которой группируются реализа ции х, (1), х2(1) , ... процесса X (/).
Dx(i) характеризует степень рассеивания этих реализаций отно сительно mx(t). Чем больше Dx(t), тем больше это рассеивание.
/(,(/,/') характеризует |
степень тесноты линейной зависимости |
||
между сечениями X(t) |
и |
X(i’). Чем больше Кх |
тем теснее |
линейная зависимость |
между этими сечениями и, |
следовательно, |
|
[ рафики реализации *,(/), |
x2(i ), . . . более «прямолинейные». |
Например, для вещественных X(t) и У(/) с реализациями видов, изображенных на рис. 9 и 10, имеем:
mx(t)
Д Л О С А Л О ;
Kx( t , t ' ) > K A t , n .
47
Степень тесноты линейной зависимости между случайными про цессами X(t) и Y(t) характеризуется их взаимной корреляционной
функцией
- М \ Х {, ) У ЦП \ - -
со
= Я ГЛ' — тЛП]\У — fa(x, у 11, i')dxdy. (6)
— l
Пели Kxi,(t,t')= 0, то процессы X(t) п Y(t) называются некор релированными, т. е. стохастически линейно независимыми.
Из определений (4)— (6) следуют свойства:
КА>.1) Ох (!)>(),
т. е. дисперсию Dx(t) отдельно можно не рассматривать, так как
она получается из Kx{t,t') при t' = |
t, — 1-е свойство. |
так как самая сильная линейная |
зависимость между сечениями |
X(i) и X(t') при i — t', — 2-е свойство. |
|
Kx„(t, п = |
С (/', t) |
— 3-е свойство. |
КХ*(Г, /), |
Kx(i, П - |
т. е. любая корреляционная функция эрмитово-симметрическая, —
4-е свойство. |
|
|
е. |
Kx(i,t') есть неотрицательно определенная функция, т. |
|||
|
v |
0 |
(7) |
|
с /= 1 |
|
|
при любом //, |
любых вещественных 1\, /2, |
.... /„ и любых комплекс |
|
ных Z\, г2, ..., |
г„ числах — 5-е свойство. |
|
|
В самом деле, |
|
|
|
v |
tj) z,z* = 2 М \Х (/,) X*(tj)\ZiZ* = |
|
|
i, /= i |
и /= i |
|
|
=M | £ ztX(t,) |2> 0 . /=i
Это основное свойство корреляционных функций. Из него сле
дуют 1-е и 4-е свойства. |
|
1 из |
(7) следует |
||
Действительно, при п --- 1, г, = |
|||||
. |
. |
KAU, U) > О, |
|||
т. е. получим 1-е свойство. |
п = 2, |
г, = |
1, z2 = i и |
||
При п = 2, |
г, = г2= 1; |
||||
из (7) следует |
Kx(t. /')=*■(*, t') + |
iK2(t, п |
|||
К\ (t, /')==■- |
(t', t) |
и К г ( и ' ) = - К а ( 1 ' , Ц , |
|||
|
откуда получим 4-е свойство.
Неотрицательно определенная функция двух переменных назы вается неотрицательно определенным ядром.
48
Таким образом, любая корреляционная функция есть Неотрица тельно определенное ядро.
Можно доказать н обратное( см. лекцию 9): всякое неотрица тельно определенное ядро можно рассматривать как корреляцион ную функцию некоторого случайного процесса.
Итак, класс корреляционных функций совпадает с Классом неотрицательно определенных ядер.
Пусть ф(/) — неслучайная |
функция. Тогда для Процесса |
У (0 = |
* ( 0 + ф (0 |
в силу (3), (5) и теорем о математических ожиданиях получим
— 6-е свойство; |
' М 0 = ' М 0 + ф(0 |
|
|
Ku(t, i ' ) ~M\ Y{ l ) Y* (О ] = М [ X { i ) b (/') ] - Kx(t, П |
— 7-е свойство.
Иначе говоря, при прибавлении к случайному процессу неслу чайного слагаемого к его математическому ожиданию прибавляется это же слагаемое, а его корреляционная функция не меняется.
Для процесса аналогично найдем:
— 8-е свойство;
п
— 9-е свойство.
Иначе говоря, при умножении случайного процесса на неслучай ный множитель ср(/) его математическое ожидание умножается на ф(0, а корреляционная функция — на ф(0ф( О-
Для |
процесса |
*<0 |
Л'(/) : |
|
}"’(/) |
аналогично найдем: |
|
||||
tnz (/)==■■ |
|
- m„(1) |
|||
. а |
- |
w |
|||
— 10-е свойство; |
z |
|
|
||
|
Kz(t, /') = |
Kx(t,t')+ /СДЛ П + |
K.4 (t, /') + KXIJ(i'J) |
||
— 11 -e свойство; |
|
|
|
|
Dz ( / ) = О , ( / ) + О Д 0 + 2 ^ ( / Д )
— 12-е свойство.
Если X(t) и Y(t) некоррелированны, то из 11-го и 12-го свойств следуют свойства:
Кг ( t , n ^ - K x(t, п + к л и п
— 13-е свойство;
Dz ( t ) = D x(0 + ^ ( 0
— 14-е свойство.
Теория, рассматривающая только те свойства случайных про цессов, которые определяются моментами первых двух порядков, называется корреляционной теорией случайных процессов.
4 хз1в |
49 |