книги из ГПНТБ / Кавалеров, Г. И. Введение в информационную теорию измерений
.pdf/12 = # 2 = а Л 1 - М т ) ] 2 ;
К [Sx (ti + т), 5Х(/,■)] = 4 = 0,25« - 1 |
X . |
О I |
K[Sx(ti+x), rx(tu ti-\-x)]=K{Sx(ti),
rx(ti, ti+x)] = K{SX, /-x ( t ) ]
и поэтому
° S „ |
( x ) : |
1 |
{ |
1-(^4. * — |
) [! - ^ |
( x)]2+ |
|
|||
|
|
4 |
M |
П |
|
|
|
|
|
|
n — 3) Ch« Z |
4ак f 1 |
r 'x ^ |
^ [ 'S |
x ’ |
T x |
} — |
||||
H*4» X |
° x f i |
— |
/ \ i I |
öTTZ |
|
|
|
|
|
|
|
— I1 - |
r*M] + |
|
|
|
|
|
|||
|
2мі |
|
|
|
2[1—?*(т)](л — 3)ch*z |
|
||||
|
|
|
|
2oxK[Sx, гX(т)]. |
|
|
|
(4-112) |
||
Для |
стационарного |
нормального |
процесса |
р.4 » — |
||||||
= 3з4 и |
|
|
|
|
|
|
|
|
|
|
X |
|
|
|
|
|
|
|
|
|
|
|
2 [1 -Р « (')] (п — 3) ch4 Z |
2/С[5я, |
г,(т)] \ |
(4. 112а) |
||||||
|
|
|
|
Г |
|
Переходя в (4-112) и (4-112а) от теоретических мо ментов к их оценкам, по аналогии с (4-110) и (4-111) для стационарного случайного процесса будем иметь:
S\ (Х) ~ |
2nSl [1 |
(х)] + 2[1— (x)I ( п |
3) ch*z |
|
~ 2 S XK[SX, Г * ( т ) ] ; |
(4-113) |
•^s., О(х)
S (т)
Ѵв
Ssy (Х)
_ ) |
[ т |
s 4 |
т4,х—Ьх t ________ 1 |
||
|
[ |
4nS\. ' 4 [1 — rB(x)]2(n — 3) ch42 |
|
47 |
|
|
|
,1/2 |
- K \ S X, Гх(х)]5к- ' [1_Г х(х)]-Ч ; |
(4-114) |
173
для стационарного нормального процесса
S* |
(т) ^ |
S2 / |
г*(' |
12[1— rx (х)] (п — 3) сІѴ‘ |
Z |
|
О.. |
' ' |
I |
п |
|||
-ѵ>1 |
И |
|
|
|
||
|
|
- 2 |
7C[S*, |
гх(т)] S_1 |
(4-115) |
|
|
|
|
|
|
Г |
|
|
, , |
_ / j _ _ l ____________1______________ |
|
|||
|
|
) 2п |
_|_4[1 — |
гк (т)] =(л — 3)ch*Z |
|
|
|
-ЛДДт, rx(x)]5-' |
[1 -r ,(x )]-* l,/s. |
(4-116) |
|||
|
|
|
“■ |
I |
|
До сих пор мы считали, что при оценке точности вос становления дискретизируемого случайного процесса из вестны численные значения автокорреляционной функ ции для всех интересующих нас значений аргументов ti и £{+т, причем эти значения автокорреляционной функ ции получены путем непосредственной обработки резуль татов измерений. Однако во многих случаях автокорре ляционная функция рассчитывается только в нескольких фиксированных точках, а затем ома аппроксимируется аналитической зависимостью заданного вида, с которой и оперируют при решении различных задач. Если извес тен вид автокорреляционной функции с точностью до па раметров, то в формулы для определения погрешности восстановления входит автокорреляционная функция Px{U, и+%, сц, ..., ай), причем параметры {а,}, г = 1, ...
..., k определены неточно. Тогда дисперсия
IV |
|
|
|
|
|
|
|
д г х ( t u |
t i + X , |
а * „ ... |
, |
а \ ) |
|
|
|
’X S [ |
|
da*t |
|
|
|
v . + |
|
(=1 |
|
|
|
|
|
|
|
+2Ё |
d7x {tt, ti, |
a*i, ... , a*h) |
X |
|
|||
|
da*i |
|
|
|
|||
!>^ |
|
|
|
|
|
|
|
X d7x(tu |
|
...... a*!l) |
k(a% a*j), |
(4-117) |
|||
а при условии независимости |
оценок |
а*и ..., а*,{ |
вторая |
сумма в (4-126) будет отсутствовать. Значения оа. зави
сят от способа получения оценок а:!ч.
Рассмотрим ряд примеров. Пусть дискретизируемый процесс является стационарным и характеризуется авто корреляционной функцией р.г (т, си)=ехр(—d i|т |). Пара-
174
метр «I известен неточно, и мы располагаем его оценкой а*і. Тогда
:х2ехр(—2а* |і|)о® |
(4-118) |
и оценка (4-113) дня этого случая принимает вид: |
|
■\fr)= ”‘^ |
^ [1 -«Ф (-2?.М )1 + |
|
|
exp ( |
4ö*j 111) 5^ |
2 |
|
-j----------------- |
:-------- |
T o , |
|
1— exp (— 2~*, |x| ) |
|
|
|
+ 2Sx exp (— 2a*, IT I) Tк [S*, a*,], |
(4-119) |
||
где Sa. — оценка дисперсии aa. , |
а a*, — оценка |
мате |
|
матического ожидания а*,. |
|
|
Для другого вида автокорреляционной^функции, а именно Рд:(т)= ехр(— а21т |) cos рт, если оценки парамет ров а2 и ß не коррелированы, дисперсия
агт(,)= ехР( - 2«*= М ) ІѴ, cos2 Г х + V siQ3 |
(4-120) |
и оценка искомой дисперсии имеет вид:
4,. |
- «ч>(-Й>,М)х |
X cos в*,] + |
х |
* |
1— ехр (— 2a.*.s I т I) cos2р*т |
X (Sl.t cos3р*т+ Sj. sin2p*T)+ 25,Т X
X ехр (— 2a*21т I) cos3(р*т) К [S„ a*2]-f-
-f- 25,т exp (— 2a*21т | ) sin (р*т) cos (р*т) К (Sx, ß*). (4-121)
Как отмечалось выше, при вычислении максимальной дисперсии погрешности интерполяции требуется весьма точное знание нормированной автокорреляционной функ ции р,(т) исходного процесса X(t). Действительно, на пример, при оценке .погрешности ступенчатой интерпо ляции имеем в случае стационарного центрированного
175
исходного процесса максимальную дисперсию погреш ности (см. 4-3) в виде
а; |
= max а“ |
(т) = |
2а* [ 1 - |
рх (Г)] + |
а2 , |
|
"о.мако |
X |
|
х |
|
|
" |
где Г — интервал времени |
между |
измерениями; и2* — |
||||
дисперсия процесса X (I). |
об |
измерениях, |
отношение |
|||
Поскольку |
речь |
идет |
||||
в \Іо 2х должно быть достаточно |
мало, обычно примерно |
10~4—10~3. Такого же порядка и разность 1—рХ(Т). Дру гими словами, необходимо оценить автокорреляционную функцию с точностью до четвертого знака. Естественно, что оценка автокорреляционной функции с такой точ ностью на значительном интервале т практически невоз можна.
Ситуация меняется, если вид автокорреляционной функции известен априори. В этом случае можно прибег нуть к разложению рДт) в ряд, а затем ограничиться весьма небольшим числом членов этого ряда. Например,
при рДт) = ехр (—а |т |) формула для а2 |
преобразует- |
|
ся к виду |
^в.ыакс |
|
|
|
|
a2 |
Ärf 2a2аТ. |
(4-122) |
^в.ыакс |
|
|
При этом задача сводится к отысканию параметра а. Погрешность в определении а с коэффициентом 2а2хТ це ликом переходит на погрешность оценки дисперсии по грешности интерполяции.
Для оценки параметра автокорреляционной функции в этом примере можно воспользоваться,'’например, сле дующим методом. Пусть из эксперимента получены вы борочные оценки автокорреляционной функции Гі, г2, ...
..., гп, |
соответствующие аргументам t u t 2, |
..., т„. Запи |
шем полученную систему п уравнений |
относительно |
|
одного |
неизвестного параметра автокорреляционной |
|
функции а в виде |
|
|
|
{р*(а, ті)—/4= 0}, t= 1, 2, ..., п. |
(4-123) |
Если уравнения эти поддаются линеаризации относи тельно параметра іа, то можно найти такое решение, т. е. параметр а, которое является наилучшим приближением
176
с точки зрения метода наименьших квадратов: |
|
|
« = 4 ’(''г. Ч). |
(4-124) |
|
где ф — функция, обратная р. Например, при |
р*(т) = |
|
= ехр(—іа|т|) имеем |
линеаризацию в виде |
2= 1пр = |
= —іат и оценку параметра в виде |
|
|
|
і=і |
(4-125) |
|
|
|
а при р.г-(т)=ехр(—ат2) имеем: |
|
|
|
П |
|
а — |
— ^ тг In /у. |
(4-126) |
|
i=l |
|
Необходимо иметь в виду, что оценки эти в общем случае смещенные, а распределение выборочных оценок отлично от нормального.
Оценка параметров корреляционной функции по предложенной выше методике возможна и в том случае,
когда рж(т) зависит от нескольких параметров. |
Пусть, |
например, |
|
р.-с(т) = р*(т, а, ß) = |
|
= ехрІ— afi (т) —ß/2(т)], |
(4-127) |
где fi(t) и [г(г) — некоторые функции только от т, не зависящие от а и ß. Естественно, что эти функции долж ны быть такими, чтобы соблюдались обычные свойства корреляционной функции, т. е. при а> 0 и ß > 0:
1)limf1(z)^limfa('z)=oo;
1- > С О
2)Ыт)=Ы -т),/2(т)=Ы-т);
3)/1 (0) = /( 0) = 0;
4) fi(т) >0, f z ( x ) > 0 .
Запишем уравнения, аналогичные (4-123), в матрич ной форме
где |
|
КХ=А, |
|
|
|
|
|
ln Г, |
|
f . W ; |
f. Ы . |
|
— а |
|
к = fi |
/г СЧ) |
|
ln r 2 |
|
X — |
R ; A = |
|
||
f l (Tn)i |
f i (xn) |
|
P |
ln r„ |
|
|
|||
|
|
|
(4-128)
(4-129)
12-301 |
177 |
Применяя «псевдообратную» матрицу [Л. 4-52], мож но найти решение, имеющее в общем случае вид:
Х=К+А, |
(4-130) |
где К+ — псевдообратная матрица |
К. Компоненты мат |
рицы-столбца X н определяют искомое решение, т. е. параметры а и ß.
Изложенные выше методы оценки параметров корре ляционной функции могут быть обобщены следующим образом. При задании корреляционной функции в анали тической форме желательно располагать таким набором
оценок а*= (а* ь . . аД), |
при котором функция гх(т; |
а*1, ..., а*и) в некотором |
смысле наилучшим образом |
удовлетворяла бы значениям rit г2, . .., rN(N>k), полу ченным из опыта. При этом «нанлучшнм» считался такой набор оценок параметров а*, при котором выполнялось бы условие минимума суммы квадратов ошибок аппрок симации, т. е.
/V |
N |
|
е2= 2 |
= £ [Гг — rx(ti, a*)la = |
ininea. (4-131) |
i=l |
(=1 |
а* |
Однако при этом мы не учитываем, что оценки кор реляционной функции rh г-і, ..., rN имеют в зависимости от своей величины разную дисперсию и являются нерав ноточными даже при одном и том же объеме выборки. Поэтому более естественным был бы такой критерий оптимальности набора оценок параметров а*, при кото ром обеспечивается минимум суммы квадратов «взве шенных» ошибок аппроксимации.
Пусть ошибке аппроксимации
Ві = Гі—rx(%i, а*)
приписывается вес
gi = 1 /а^ P« clrz* Y п — 3, |
(4-132) |
и набор {а*,-}, і—1, 2, ..., /г обеспечивает минимум выра жения
2 £ Д = |
2 (« - 3) ch4ъ [п - гхД , а*)]2. (4-133) |
і=і |
і=і |
178
Тогда для нахождения оценок а* необходимо решить систему уравнений
|
|
|
( д |
— 3 ) СІГ1 2 г [/'г |
— |
г х ( т г-, |
а * ) ] 2 — 0 І |
|||
или, что то же самое, |
|
|
|
|
|
|
(4-134) |
|||
|
|
|
|
|
|
|
||||
Is |
clr’ Z i \ г і — г х (z £, а*)] дгк {ѵ, |
а*) |
:0| |
, |
/ = |
1, |
2, ... , /г. |
|||
|
|
|
da*j |
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
(4-135) |
|
Система уравнении (4-135) является, как правило, |
||||||||||
нелинейной и ее |
непосредственное |
решение |
|
затрудни |
||||||
тельно. |
Поэтому |
наиболее |
целесообразно |
прибегнуть |
||||||
к линеаризации функции гх (х, а*). |
|
|
|
|
|
|||||
Пусть а ,,...,а ь — приближенные |
значения корней си |
|||||||||
стемы |
уравнений |
(4-135) |
и |
искомое |
значение а*3- = |
— aj-\-La^. Предположим, что это приближение является достаточно хорошим. Тогда можно записать корреляцион
ную функцию как
k ^
rx(z, а*) rx(z, а) + V] — |
а) Аaq, , (4-136) |
дпп
<7=1 4
и вместо системы нелинейных уравнений (4-135) получаем систему линейных относительно Да уравнений
СІГ1 Z i \Гі — |
г х ( т г-, а)] |
дгх (t£, а) |
Аа0 |
X |
||
IS |
х дгх ( у |
а )= 0 ^ |
j = u 2) |
_ |
|
|
|
|
|
<7=1 |
dein |
|
|
|
|
|
|
|
(4-137) |
|
|
da.j |
|
|
|
|
|
|
|
|
|
|
|
|
В частности, при аппроксимации |
рк(т) |
функцией |
||||
ехр(—а |т |) |
N |
|
|
|
|
|
|
|
|
|
|
|
|
|
2 ехр (— а-н ) ch zt [rt— exp (— « h l ) ] |
|
||||
Да = |
—-------л---------------------------------- , |
(4-138) |
У] if exp (— 2aij) ch4zt i=l
где a — приближенное ‘значение a*.
12* |
179 |
Необходимо иметь в виду, что оценки {я**}, получен ные по критерию минимума суммы квадратов взвешен ных ошибок аппроксимации, в данном случае не будут удовлетворять принципу максимума правдоподобия, так как выборочные оценки /у (а следовательно, и ошибки еі) распределены по закону, который отличается от нор мального. Вопрос о свойствах этих оценок требует до полнительного исследования.
Г Л А В А П ЯТАЯ
СОВМЕСТНОЕ ВЫПОЛНЕНИЕ КВАНТОВАНИЯ ПО УРОВНЮ И ДИСКРЕТИЗАЦИИ
ВО ВРЕМЕНИ
5-1. ИНФОРМАЦИОННОЕ ОПИСАНИЕ
В предыдущей главе мы рассмотрели преобразо вание непрерывного случайного процесса в непрерывную случайную последовательность и наоборот. Еще ранее, в гл. 3, были исследованы преобразования непрерывной величины в дискретную в статике. В известной мере объединением этих задач является рассмотрение вопро сов преобразования непрерывного случайного процесса в дискретную случайную последовательность, чем мы и займемся в данной главе.
Если интервал квантования во времени Т не менее интервала корреляции т0.ѵ истинного значения измеряе мой величины Х(і) (предполагается, что интервал кор реляции погрешности То.^То,/), то следующие друг за другом во времени результаты измерений не коррелиро ваньи При этом задача сводится к простому объедине
нию решений § |
3-3 и § 4-2. |
Количество информации |
в процессе X (t) |
определяется |
путем умножения количе |
ства информации в одном отсчете на число степеней сво боды No.
Значительно сложнее решение для практически более важного случая коррелированных отсчетов. На практике всегда стремятся получить коррелированные отсчеты, так как это позволяет восстановить потерянные в ре зультате грубых промахов наблюдателя и сбоев в аппа ратуре значения, используя избыточную информацию
всоседних отсчетах. К рассмотрению этого мы перейдем
вданной главе.
180
Остановимся прежде всего на информационных ха рактеристиках дискретной случайной последовательнос ти, полученной при квантовании по уровню и дискрети зации во времени из исходного случайного процесса X(t), описывающего истинное значение измеряемой ве личины. Погрешности преобразований, предшествовав ших квантованию, будем обозначать по-прежнему через г/гх. Наиболее естественным представляется при инфор мационном описании в динамике воспользоваться теми же соотношениями, что и в статике. При этом w(x) за меняется на соответствующую условную плотность ве роятностей X(tk) при условии задания результатов изме рения в моменты времени 1, tu-2, Д-3 ... в зависимости от порядка обобщенного марковского процесса, получен ного при дискретизации X(t). Однако такая процедура вряд ли реализуема для обобщенного марковского про цесса.
Действительно, вне зависимости от порядка марков ского процесса имеем:
i x |
fc)= нi- *м (f -н \х(*)i:z |
т |
(5-1) |
где H{X(th) \ Z(tk)] определяется по формулам, приведен ным в § 3-3 для H(X\ZBblx) , а H[X(tk)] зависит от инфор мации о возможном исходе данного измерения, содер жащейся в предыдущих измерениях.
Например, для простого марковского процесса
N—1 |
|
|
Н [X (<*)] |
р (Zi) Г w [х (th) I Zi (th — Г)]Х |
|
1=0 |
о |
|
X log w \х (th) I Zi (th — T)\ dx (th), |
(5-2) |
|
где |
|
|
w [x (th) I Z i (th — T)] = |
|
|
= f w2[x(th), |
zBX(tk — T)\ dzBX(tk — T). |
(5-3) |
При стационарности и независимости X(t) и YBX(t)
впредположении о нормальности этих процессов имеем:
Щ[х (th), zBX (th — Г)] =
2пажо |
1 |
Зч еХР |
! |
|
7(X — X)s |
|
2 (1 — Pa) |
|
|
||||
(1 — Р2) |
|
|
||||
2 р |
( х |
----- X ) (ZBX |
Znx) I ( Z rX |
o2 |
Zibx )~ ] |
(5-4) |
" |
|
|
+‘ |
I ’ |
|
|
|
|
|
|
|
|
181
где для сокращения записи применяются следующие обозначения:
Р = |
|
ри |
(Г) = |
Р* (7’);. X = X (tu); |
zsx= |
zBX (tu — T). |
||
|
|
’ |
ах |
|
|
|
|
|
Кроме |
того, в соответствии с обозначениями § 3-3 |
|||||||
Отсюда |
5Z -- 0* “Ь 3Й—п \'’ |
^ пх--- |
|
|
||||
|
|
|
|
|
|
|||
|
|
|
|
|
|
Г |
( * - ^ |
) а 1 |
|
|
|
|
|
|
е х р |
9 g “ |
|
|
|
|
|
|
|
__ |
|
|
|
|
|
|
|
|
|
|
|
|
|
w[x(tk)\zi(tk - T ) ] = - |
( 1_— Р=) |
|||||
|
|
|
(X —А')ро |
|
<jk |
|||
|
|
|
— [(£—1)? —Z„x]o* |
|||||
|
Х|ф, |
|
|
|
|
|
||
|
|
|
(X — Л') ро |
|
— (iq — 2 ВЫХ) Чх |
(5-5) |
||
|
|
|
__________________ |
DX_____________________________ |
||||
|
|
- ф , |
® * а г |
Ѵ \ — р 2 |
|
|||
|
|
|
|
АПХ |
“ |
|
|
|
где Фі[.ѵ] |
см. в приложении 1. |
квантования можно |
||||||
При |
большом |
числе |
областей |
разложить функцию в ряд Тейлора и ограничиться пер выми двумя членами. Тогда
|
ш Iх М 12* ^ |
~ 7’)1 - |
2™>- ~ (1 -7 а)Х |
|
|
|
|
2ох 4 |
|
( |
аг (х — Х)2 — 25ха |
р (х — X) (iq — Znx) + |
||
Xexpj----- s |
^ |
---------------------- |
||
|
+ (iq — ZB |
|
(5-6) |
|
|
"* |
X(1 — |
|
|
|
|
|
||
При этом частное значение условной энтропии |
||||
|
H ( X ( t u ) \ Z i (tk - T ) \ |
= i n ^ |
— X |
|
|
|
|
|
2лх |
X [е~ом (Л2 - 2Л - 4) - е~°'5В (В 2 - |
2 5 - 4)] + |
|||
|
+ |
|
|
<б - 7 > |
182