книги из ГПНТБ / Кавалеров, Г. И. Введение в информационную теорию измерений
.pdfИсследуем далее |
поведение ? (т) |
при |
Поскольку |
|
А |
|
|
|
а |
¥ ("О— |
(х) cos j£x d x = |
— sin хт <?(x) |
— |
|
ü |
А |
|
|
U |
|
|
|
|
|
|
---- — 4<?' (л) sin XX rfx, |
|
(4-16) |
причем первое слагаемое в (4-16) тождественно равно нулю, то можно записать:
[ А |
, |
|
|
|
¥ (") |
Г |
|
(4-17) |
|
т“ 1 |
W |
(х) sin хт dx. |
||
и |
|
|
(4-17) |
|
По теореме Римана - - Лебега правая часть формулы |
||||
стремится к пулю при т— >■оо, т. е. |
|
|
||
u m |
|
- |
о . |
(4-18) |
T-4-CO |
|
|
|
|
Таким образом, при больших т поведение функции /(т) |
опре |
|||
деляется вторым слагаемым в |
формуле |
(4-15), т. е. /( т) колеблется |
при больших т. |
Действительно, при |
больших k в |
точках т*.= |
|
= А ~ 1(0,5я+2я/г) |
/(Тл)>0, |
а при Тк=А ~‘ (1,5л+2я£) |
/(т)<0. |
|
Основываясь на этом |
утверждении, |
можно считать доказанным, |
что случайные процессы с энергетическим спектром, описываемым зависимостью (4-14), имеют знакопеременные корреляционные функ ции.
Не следует, однако, считать, что при любом виде ограниченного спектра знакопеременность автокорреля ционной функции означает некоррелированность отсче тов, взятых по Котельникову. Узлы автокорреляционной функции могут отстоять друг от друга на расстояние, отличное от (2К)-1. Кроме того, функции с ограничен ным спектром может соответствовать знакопеременная автокорреляционная функция с неравноотстоящими узлами.
Интересным представляется подход к задаче дискре тизации во времени, основанный на полном отказе от описания сигналов как функции с ограниченным спек тром. В этой связи заслуживает освещения модель Н. А. Железнова '[Л. 4-14—4-16]. Основные свойства этой модели сигнала сводятся к следующему:
сигналы рассматриваются как нестационарный слу чайный процесс;
длительность сигналов Тп конечна;
143
энергетический спектр сплошной и отличен от нуля на всей оси частот (за исключением, быть может, полосы меры нуль);
интервал корреляции то ограничен, причем То макс-С
^ Тн-
Эти особенности обусловлены двумя условиями, нало женными на сигнальную функцию: способностью перено сить информацию и конечной длительностью. Поскольку спектр сигнала в модели Железнова не ограничен, то число степеней свободы не может быть определено по теореме Котельникова. Автокорреляционная функция знакопостоянна и монотонно стремится к нулю при т— у
— >-оо. Поскольку процесс нестационарен и нестационарность может быть выражена как зависимость функции автокорреляции от времени t, то \RX{т) есть функция от t. На интервале времени усреднением получаем зна чение среднего интервала корреляции то. Число степеней свободы сигнала теперь выразится соотношением М0=
— Тяхо~1. Принципиальной отличительной чертой теоремы отсчетов в формулировке Н. А. Железнова является утверждение о том, что последовательность дискретных' во времени отсчетов может дать лишь приближенное представление об исходной непрерывной функции, в то время как теорема Котельникова была связана со стремлением к неограниченной точности восстановления.
К тому же выводу приводит нас рассмотрение кванто вания во времени случайных процессов с неограничен ным спектром по методике И. Т. Турбовича [Л. 4-3— 4-5]. Этим автором рассматривался случай, когда основ ная часть энергии сосредоточена в интервале частот от нуля до частоты среза сосВозможно также обобщение
процессов, |
основная энергия |
которых |
сосредоточена |
в интервале |
вокруг некоторой |
частоты |
сооДля таких |
процессов характерна знакопеременность автокорреля ционной функции. Например, если энергетический спектр описывается одной из следующих зависимостей:
G x (ш) |
_______ 4а К ;+ |
_ |
(4-19) |
||||
[а2 + |
(ш — со0)2][а2 + (м + со0)2] ’ |
||||||
|
|
|
|||||
|
|
|
(ш — ш0)= |
(м + со0)2 |
|||
Й*(ш)=]/Д- |
|
jexp [ |
4а |
J +ехр |
4а |
“ J r |
|
|
|
|
1 |
1 |
|
(4-20). |
|
Gx (ш) = |
а а 2 + |
to0)2 |
(4-21) |
||||
(со — со0)2 |
La 2 + (cd + |
144
то согласно [Л.4-30] автокорреляционные функции соот ветственно имеют вид:
/?*(чО = ехр(— а I х I ) (cos ш0х -|- аш~‘ sinio0 | х | ); |
(4-19а) |
|
Ях (х) = ехр (— ах2) cos <*>0х; |
(4-20а) |
|
^а:(т)=ехр (—а |т |) |
cosooT, |
(4-21a) |
т. е. знакопеременны, и p*(T/i)= 0 |
соответственно при |
|
T fc= '(üo arctg ( cüüT- 1 ) + n k ; |
(4-196) |
|
Т/і= 0,5 (2/г+1) Jtcoo“1; |
(4-206) |
|
Tfc = 0,5(2Â+l)TOOo_1, |
(4-216) |
|
где k —0, 1, 2 ... |
|
|
Таким образом, некоррелированные отсчеты лежат через интервалы времени, зависящие от частоты шо> на которую приходится максимум спектральной плотности сигнала. Однако эта частота отсчетов вовсе не совпадает с частотой среза cocЧто касается частоты среза, то она для процесса с неограниченным спектром, вообще гово ря, условна, так как отсечка может производиться на любом уровне энергетического спектра. Если снимать
отсчеты с частотой |
сося-1, то, |
как показано |
в (Л. 4-7], |
||
процесс, восстанавливаемый по формуле |
|
||||
|
00 |
|
sin сос ( t — АДt ) |
|
|
■*«, (0 = |
У. х ш (ш ) |
(4-22) |
|||
toc ( t — АДt ) |
|||||
о |
о |
|
' |
||
|
к——оо |
|
|
|
|
отличается от исходного с дисперсией ошибки |
|||||
D [X (f) - ХШо (0] = |
2 J O , (®) dm. |
(4-23) |
Естественно, что точность воспроизведения увеличи вается по мере увеличения частоты отсчетов сос/л- Наи более удобным представляется брать сос кратным сооОбщее доказательство знакопеременное™ автокорреля ционных функций для так называемых узкополосных процессов приводится в [Л. 2-11].
Вопрос о приближении исходной функции с неограни ченным спектром с помощью модели с ограниченным спектром может быть также решен с помощью е-энтро-
10—301 |
' |
145 |
пии Колмогорова [Л. 4-6]. Во всяком случае, ясно, что при дискретизации реальных сигналов во времени всегда имеют место потери информации за счет наложения е- сетн на исходное множество возможных непрерывных сигналов.
4-2. ИНФОРМАЦИОННЫЕ ХАРАКТЕРИСТИКИ
ДИСКРЕТИЗИРОВАННОГО СИГНАЛА
Рассмотрим далее информационные характеристи ки дискретизированного сигнала, несущего информацию об исходном непрерывном процессе. Отметим прежде всего, что энтропия нормального процесса Х{і) в еди ницу времени согласно [Л. 1-24] равна:
|
H0= ^ - l o g \(2ъе)Т»Т~' det К]> |
(4-24) |
где |
Та — время наблюдения; |
|
К = |
||/ г * ( ^ ,^ ) ||, t = 1, 2, .... ТаТ~1; і = 1,2......ТпГ 1 |
—корреляционная матрица. Предполагается, что
ent ТпТ - і= ТпТ~і.
В случае стационарности процесса X(t)
Я° = 277ІОё № Т^ Т* Т а"Óà de1 II ~ Я ГІ II
где рж(т )— нормированная автокорреляционная функ ция процесса Х(і); Т = іі +і—іі—интервал дискретизации.
Вычислим количество информации в дискретизиро ванной смеси сигнала с погрешностью. Предположим, что как сигнал Х(і), так и погрешность Y (і) представ ляют собой нормальные процессы. Наложение условия
стационарности представляется необязательным. |
... |
|||||
Пусть X(h) + Y{h) ; X{h) + Y{h)- ...; X(U)+ Y |
||||||
...; |
X(tn) + Y(tn) — некоторая последовательность отсче |
|||||
тов. |
Требуется |
определить |
количество |
информации |
||
в этой последовательности |
относительно |
другой |
вида |
|||
{Х(^*)}, где /= 1, 2, ..., т, |
причем t f может совпадать |
|||||
или не совпадать с любым |
из |
іі. Тогда в |
соответствии |
|||
с формулой (1-63) |
имеем: |
|
|
|
|
|
|
^Х+ Гч—>х ^,5 |
det А* det А*+и |
|
(4-25) |
||
|
|
|
|
d e t А JCX (JC+г/)
146
В интересующем нас |
случае |
|
|
А * = УR x(t*j, t*k) II; |
/ = 1 , 2 , |
m; k = 1, 2...... |
m |
— корреляционная матрица последовательности {х(7,*)};
|
Rx(t*i. t \ ) ...... |
|
Rx(t*:,i*my, |
Rx(t\. M + |
|
|
+ RXу (**,. U)....... |
Rx{t\, tn)+RxV(t\, tn) |
|||
|
RM*m,t>)...... |
|
Rx(t*m,t*m); |
Rx(t*mA) + |
|
|
+ RxV(t*mA ) ...... |
Rx{t*m.tn)+Rx}l{t*m,tn)\ |
|||
|
R*A. |
t*i) + Rxy{ti.t*\)...... |
Rx( t P m ) + |
||
Ахх{х+у) |
+ R*dti. /*m); |
|
; (4-26) |
||
|
+Ryx(t*:.**,)+K„(f*i ,t \ ) ...... |
Rx( i \ .<*«)+ |
|||
|
+ Rxy(t\.t*m) + Rvx(t*m.t\)+Rdi\,t*m) |
||||
|
R X( t n . |
f \ ) + |
R |
Xy ( t n . І * і ) ...... |
^ n .**m ) + |
|
+ RXy(t-n-t*m)i |
RX{tn‘ ^I*)—1~RXy(t-n> l*l) + |
|||
|
+ Rudi*!. A) + Ry(t\ Л )..... Rx(t*,n. t*m) + |
||||
|
+ Rxy(l*m.t*m)+ Ry{t*m. t*m)+Ryx(t*m,t*m |
||||
|
Ai+y— IIRx {h, h) -|- Ryx (ti, ^) -j- |
||||
|
Ң- |
(4'i ^) -|- Ry (4'i |
II > |
||
i= l, 2, |
n; / = 1, 2, |
|
n, |
|
причем матрицы имеют размерность соответственно «X
Xtt, |
(п + т) X (п + т) и тХт . |
В частных случаях могут быть получены сравнитель |
|
но |
простые аналитические формулы для количества |
информации. Например, если требуется найти количест
во информации о величине Х(і) |
в момент времени і + х |
||
в отсчете А'(t) + Y(t) |
при Х = 0, имеем: |
|
|
detA ,= < £(/i + |
t); |
|
|
det АІ+У = ох2(t) -|- а2 (t) -{- 2Rxy (t -f- x,t); |
|
||
det АлХ(Л+г/) = < ( / + -) K (0 |
+ < W + |
(4-27) |
|
|
|||
-b R xy{Ut) -f- Ryx{t, 0] — [Яя(£, t -|- x) -f- |
|
||
+ Ryxify Ң- t)] [Язе(^ + X, t) -|- RXy (t + X, f)]. |
|
||
10* |
|
|
147 |
Предположив, что процессы стационарны и стацио нарно связаны, имеем:
4 l 4 + 4 + 2/?*»W]
х+у<~*-х'— 0,5 log'
4 г4 + 4 + 2R*v (°)J - г*« w + л«, о)]2'
(4-28)
При т = 0 выражение преобразуется к виду
V 4 + 4 + - M
‘лг+у<~*х~
■ У і - рѴО)
Из последнего выражения следует, что с увеличением взаимосвязи X и Y количество информации возрастает, что согласуется с качественной картиной. С другой сто роны, при хфО и аддитивности погрешностей
Л'+ Ь |
,= 0,5 log |
1 + V |
(4-30) |
|||
н - ѵ ~ |
1 |
-р * о ) |
||||
|
|
|||||
|
|
|
т. е. с увеличением х количество информации умень шается. С увеличением относительного значения диспер сии погрешности / также падает. Эти обстоятельства со гласуются с интуитивными представлениями. Наконец, при аддитивности погрешности и т = 0 имеем:
I |
= |
log (1 + а“ау '), |
(4-31) |
|
что совпадает с формулой |
(2-126). Если погрешность от |
|||
сутствует, то |
|
|
|
|
/ * „ . „ ; = - 0 , 5 1 < « [ 1 — р > ) 1 , |
(4 - 3 2 ) |
|||
что в свою очередь совпадает с формулой |
(2-127). Из |
|||
последних двух формул вытекает, что при |
у —0 и т = 0 |
|||
имеем / = 0. |
имеются два отсчета Х(£)+У(^) |
и |
||
В случае, если |
||||
X(t+x) + У (/+т), |
то при |
аддитивности погрешности |
и |
148
стационарности процессов имеем
:Я„(х)
А ,=
ЯЛО
X
ЯЛО
Ахх(х+у)
•2
Я* (О
отсюда
det А |
= det |
'X X (Х + У ) |
|
«2
det
я л о
|
о |
2 |
г |
2 |
|
|
|
|
|
|
|
- 4 - а |
|
|
R x ( х ) + Я у ( 0 |
||||
х + у |
|
X ' ° у |
|
||||||
|
|
|
|
|
2 |
1 |
2 |
|
|
|
R J ( Z) |
+ Я у |
( х ) |
|
|||||
|
а х + |
° у |
|
||||||
|
|
|
|
|
|
|
|||
|
2 |
|
|
|
|
R x (X ) |
|
||
Л ) |
о X |
|
|
|
|
|
|||
|
Я Л О |
|
|
|
• 2 |
|
|
||
( 0 |
Х \ * у |
|
|
я л о + |
Я у ( 0 |
||||
0 2+ |
о 2 |
|
|
|
|
|
|||
|
Я * 0 ) + |
Я у ( 0 |
а 2 |
4 - |
о 2 |
|
|||
|
д; ~ |
у |
|
||||||
9 |
я л о |
4 |
|
Я Л О |
|
|
|||
|
|
|
|
||||||
Я Л О |
• 2 |
|
|
Я * ( 0 |
• 2 |
|
|
|
|
0 |
0 |
|
|
4 |
|
Я |
у ( 0 |
|
|
|
|
|
|
|
|
||||
0 |
0 |
|
|
Я у |
( х ) |
4 |
|
|
|
|
|
|
|
|
|
|
|||
я л о |
det |
|
|
Яу (х) |
|
|
|
||
4 |
Яу (0 |
^ |
|
|
|
|
|||
|
|
|
|
|
|
= |
° Л I1 |
— P^WH1 — Ру(х)1- |
Поэтому количество |
информации |
|
= |
0,5 log (4 + 4>г -ІЯЛ 0 + Яу(х)р (4-33) |
|
' X + Y * - * X |
|
|
Осмысливание этой формулы также приводит к впол не логическим результатам. По мере увеличения интер вала времени между отсчетами количество информации возрастает. С другой стороны, если Ry(x) <^Rx(t) ss; 1, то
*+}ч—>-Г 0,5 log |
(4-35) |
Наконец, при добавлении условия рж(т)= 0 получаем:
'.,+t^ = W l + |
(4-35) |
т. е. в 2 раза больше, чем в соответствующем случае при одном отсчете, что естественно, так как при отсутствии корреляции имеет место аддитивность по информации.
149
4-3. ВОССТАНОВЛЕНИЕ ПРОЦЕССА ПО ДИСКРЕТНЫМ ВО ВРЕМЕНИ ИЗМЕРЕНИЯМ
Дискретная последовательность отсчетов (чисел) может быть оценена с точки зрения потерь информации о пропущенных мгновенных значениях исходной величи ны путем рассмотрения операции так называемого вос становления исходного сигнала.
Операция восстановления исходного сигнала реали зуется в устройствах передачи данных, в системах циф рового управления и в других случаях, когда выходной сигнал принципиально должен быть непрерывен во вре мени. Казалось бы, для измерительной техники операция восстановления не нужна, поскольку с получением ре зультата (числа) операцию измерения данного мгновен ного значения можно считать законченной. Однако это справедливо только с точки зрения оценки данного ре зультата, т. е. отдельного сообщения в потоке измери тельной информации. Для оценки результатов измере ния случайного сигнала на некотором интервале време ни, т. е. для оценки потока сообщений, рассмотрение операции восстановления исходного сигнала оказывает ся необходимым, поскольку позволяет выявить дополни тельные потери информации при дискретизации.
Оценка погрешностей восстановления исходного сиг нала необходима в случае косвенных или совокупных из мерений, когда искомая физическая величина опреде ляется по результатам измерений нескольких исходных величин, мгновенные значения которых могут не совпа дать во времени.
Кроме того, при наблюдении за последовательностью отсчетов, соответствующих случайному сигналу, по циф ровым индикаторным устройствам или диаграмме опера тор интуитивно осуществляет операцию восстановления (обычно методом ступенчатой экстраполяции).
Итак, задача формулируется следующим образом. Задана последовательность дискретных во .времени от счетов, полученных в результате дискретизации реализа ции непрерывного процесса x(t). По этим отсчетам тре буется восстановить исходный процесс с заданной точ ностью с помощью интерполяции или экстраполяции.
Для этого необходимо предварительно подобрать на данном участке-реализации исходного процесса восста навливающую функцию. Затем с помощью этой аппрок симирующей функции, задавая значение аргумента меж-
150
ду точками отсчета, провести интерполяцию. Как пра вило, для всех участков непрерывного процесса задаются одним и тем же видом восстанавливающей функции (на пример прямой, параболой и т. д.), меняются лишь коэф фициенты. Исходя из практической реализуемости интер полирующего устройства и стараясь по возможности обеспечить простоту его изготовления, обычно выбирают в качестве аппроксимирующих простые функции, что и обуславливает несовершенство интерполяции.
Критерии, по которым оценивается точность восста новления, весьма различны. Принципиально различают приближение в отдельных узловых точках и по всей оси времени. Текущее значение погрешности восстановления есть случайный процесс, зависящий от исходного непре рывного процесса X(t), расстояния между отсчетами восстанавливающей функции и точности, с которой бе рутся отсчеты. Для оценки характеристик этого процес са могут быть использованы обычные статистические характеристики случайных процессов, однако чаще всего употребляются текущие, средние и максимальные по интервалу интерполяции значения двух величин — интерквантильной оценки и среднеквадратического отклоне ния.
Восстанавливающие функции чаще всего конструи руются в виде
z ( t ) = i afti(t). |
(4-36) |
i=i |
|
где {q>i(0 }. і = 1, 2, .... п — некоторая |
система базисных |
функций (стремятся, чтобы она была ортонормирован ная); {сіі}— коэффициенты разложения.
Из соображений простоты реализации часто исполь зуют базисные функции вида
Фі(і] + т) =Р}пі(т)Л(х/Тп), |
(4-37) |
||
где x —t—tj, Тн— время |
наблюдения сигнала; функция |
||
окна |
|
|
|
Я (т /г я) = я |
при |
|
т |
(О |
при |
Т< 0 и т > Г я; |
Рті СО — полином пг-й степени от т.
Коэффициенты разложения {оД, і=1, 2, ..., п могут определяться из различных условий:
151
1. Из условия минимума среднеквадратической ошиб ки приближения. В этом случае, если {cp,(0). і=1, 2, ..
. . оо — ортонормированная система функции, то коэф фициенты должны определяться как коэффициенты Фурье по данной системе функции
Ог= |
£ x{t) <рi(t)dt, |
(4-38) |
что обеспечивает |
U. |
|
|
|
|
Г |
I X (t) —z (t)\~dt. |
|
min J |
(4-39) |
2. Из условия совпадения восстанавливающей функ ции с исходной реализацией процесса х(і) в узлах интерполяции (в моменты снятия отсчетов). Это означа ет, что необходимо решать систему /г уравнений относи тельно {flj} вида
* У,) - £ |
m i [tj) = |
0, |
j = 1 ,2 ......п. |
(4-40) |
<=i |
|
|
|
|
Частным случаем такого |
подхода является интерпо |
|||
ляция степенными |
полиномами |
(методы Лагранжа и |
Ньютона), получившая широкое распространение в изме рительной технике благодаря исключительной простоте аппаратурной реализации и сравнительно высокой точ ности. В частности, при п= 1, q>i(t)=n[(t—tj)i'TB], ai =
= x(tj) имеет место ступенчатая |
интерполяция; при п = |
=2; <n(t)=JJ[(t— tj)/T^, фц=т, |
аі= х(Ч ), 02=Т-^х^з + |
+ Т)—x{tj)\ имеет место линейная интерполяция. Выбор того или иного метода зависит от конкретных условий. В настоящее время в измерительной технике в основном используется ступенчатая интерполяция, если задержка с выдачей результатов недопустима. Примером устрой ства со ступенчатой интерполяцией может быть любой цифровой измерительный прибор, у которого цифры на световом табло изменяются через определенные интер валы времени. Если допустима задержка в выдаче ре зультатов измерения на один такт Т, то возможна линей ная интерполяция. Более сложные виды восстанавливаю щих функций, как правило, целесообразны только для отдельных наиболее интересных участков и при наличии ЭВМ для обработки данных измерения, так как вычис-
152