книги из ГПНТБ / Кавалеров, Г. И. Введение в информационную теорию измерений

гдё

— X — axa~' p(iq— Z)

Ь п Г

'BX

°* V 1 — p2

Подставляя эту зависимость в (5-і) и (5-2) и учиты­ вая, что p(Zi) определяется соотношением (3-2), имеем формулу для вычисления количества информации в инте­ ресующем нас случае. При N— >-оэ имеем:

(5-8)

что совпадает с результатами, полученными в гл. 3. Та­ ким образом, даже для марковского процесса, получен­ ного путем дискретизации и квантования непрерывного нормального процесса при конечном числе областей квантования по уровню N, выражения для количества и скорости передачи информации принимают исключитель­ но громоздкий вид. Вид формул еще более усложняется, если измерения образуют обобщенный марковский про­ цесс. В целом можно сделать вывод, что метод вычис­ ления количества информации через условные плотности вероятности приводит при определении информационных характеристик с учетом квантования по уровню и во вре­ мени к непригодным для практического применения ре­ зультатам, причем основную трудность представляет вы­ числение условной энтропии

H[X(tk)\Z(tk- T ) , Z(th- 2 T ) ...].

В связи с этим в [Л. 5-1] был предложен другой спо­ соб вычисления верхней оценки информационных харак­ теристик при коррелированных измерениях. В основе этого метода лежит замена непрерывного процесса х(і) на входе АЦП случайной последовательностью, образо­ ванной моментами пересечения x ( t ) с границами облас­ тей квантования по уровню (рис. 5-1). Эту последова­ тельность назовем входящим потоком, а каждое пересе­ чение— заявкой на обслуживание.

Отвлекаясь от содержания каждой заявки, можно охарактеризовать поток заявок на обслуживание метода­ ми, принятыми в теории массового обслуживания. Сфор-

183

Мулируем некоторые очевидные положения, Не остапяйливаясь на их строгом доказательстве:

1) при стационарности X(t) поток заявок стациона­ рен;

2) при сингулярности Х(і) поток заявок ординарен; 3) последействие потока зависит от корреляционной

функции р*(тг);

4)интенсивность потока равна конечному числу Хх, определяемому из записанных ниже формул (5-11)— (5-13);

5)в силу теоремы В. С. Королюка {Л. 5-5] из условий стационарности и ординарности потока вытекает, что па­ раметр этого потока также равен Ä*;

6) вероятность п заявок за время t при стационар­ ности потока равна:

рая представляет собой вероятность поступления за вре­ мя t ровно п заявок при условии, что в начальный мо­ мент этого промежутка времени заявка поступила.

Для дальнейших вычислений существенное значение имеют такие характеристики потока пересечений (зая-

184

вок), как распределение интервалов Tk= th+1—th и ве­ роятность pn(t)- Указанное распределение вероятностей в общем виде определить в форме, пригодной для даль­ нейших расчетов, не удалось. Однако при очень большом числе областей квантования (У > 5 000) можно показать, что

При числе областей квантования б ^Л /^300, как по­ казано в [Л. 5-10, 5-11] на обработке большого экспери­ ментального материала, удовлетворительная аппрокси­ мация достигается при применении модели пуассоновско­ го потока.

Используя формулу (6-19) из [Л. 5-21], можно полу­ чить математическое ожидание числа пересечений гра­ ниц квантов за время (t0, /о+7’) в виде

і=1 —oo

где Wo — двумерная плотность вероятностей самого процесса и его первой производной X' в совпадающие мо­ менты времени. При гауссовском характере процесса X(t) параметр

Я* = r ~ f « (0) 2] exp [ ~ 0 . 5 ( - f ^ y ] . (5-12)

і=I

Зависимость 1Х от N=l/q представлена на рис. 5-2. При большом числе областей квантования (N1>16)

с приемлемой точностью можно представить последнее выражение в виде

где — щкада прибора.

!§§

Процедуру вычисления верхней оценки информацион­ ных характеристик рассмотрим для случая, когда дис­ кретные отсчеты образуют марковский процесс.

Напомним, что случайный процесс называется обоб­ щенным м а р к о в с к и м процессом порядка т, если для конечного множества моментов времени t \ < . h ,

.,., <_tn- i < t n, п ^ т он полностью определяется совмест­ ной плотностью вероятности в т моментов времени, так что условная плотность вероятности

Марковский процесс первого порядка называют прос­

Возможные варианты переходов показаны на рис. 5-3. Оценка энтропии в сечении, соответствующем п перехо-

186

дам с уровня на уровень, имеет вид:

п

Я* (а) = — 2 ^ р(т I и) log р (т | п) —р (01п) log р (0 | а).

т—1

(5-15)

Оценка энтропии в момент времени tu

СО

Я* (X) = - р 0(Т) log- р0 (Т) - 2 р*(Г) Я* (п), (5-16)

Л=І

где Р п ( Т ) — вероятность п пересечений за время Т. Следующее допущение связано с видом входящего по­

тока. В § 5-3 будет показано, что при определенных условиях возможно описание его как пуассоновского.

Рис. 5-3. Сетка переходов и вероятности перехода на сосед­ ние уровни при различном числе шагов п.

187

(5-15) и (5-І7) в (5-І6), после ряда преобразований при условии \ ХТ< 2 имеем:

і—m процесс X(t) может достигнуть пределов, уста­ новленных шкалой. При этом действие формулы (5-14) прекращается. Обозначим вероятность попадания в точ­

п + т

188

Оценка условной энтропии запишется в виде

где

і

Яд, (і, п) = — £ А (Я, г, я, т) logр, (Я, г, я, яг) —

Ш=1

Индекс г в формуле (5-21) означает зависимость от начального уровня 2j. Учет вероятностей д(х,) представ­ ляет собой еще одно уточнение оценки энтропии. Отме­ тим, что

средняя энтропия на отсчет увеличивается, так как рас­ пределение вероятностей при этом становится более рав­

п —1

189

Т а б л и ца 5- i

190

погрешностей при совместном квантовании по уровню и дискретизации во времени. Значение этих оценок особен­ но возрастает в связи с тем, что среднеквадратпческий критерий по существу не требует знания порядка мар­ ковского процесса, в чем мы убеждались в гл. 4.

Пусть исходный процесс x(t) после промежуточных преобразований аналоговыми блоками и дискретизации по временным сечениям поступает на квантующий пре­ образователь. Так же, как и в предыдущем параграфе этой главы, будем предполагать, что на идеальный пре­ образователь поступает сигнал x(t) + y Bx(t), где уВх(і) — суперпозиция погрешностей, накопленных на предыду­ щих блоках, и погрешностей самого АЦП, приведенных ко входу; в данном рассмотрении предполагается, что интервал дискретизации Т = const и шаг квантования q= L/N. Моменты времени, в которые поступают сигналы на вход АЦП, обозначим tu t2, ■.., А, • • •, причем

191

Используя обозначения § 3-2, для погрешности дис­ кретности в момент считывания показаний можно запи­ сать:

Полученные зависимости легко раскрываются при за­ дании конкретных законов распределения X и Увх. На­ пример, при соблюдении условий (3-11)

а если добавить условие N>2L/a, то

Отметим, что формулу (5-33) иногда применяют без учета условий, при которых она справедлива,

192