книги из ГПНТБ / Кавалеров, Г. И. Введение в информационную теорию измерений
.pdfНетрудно видеть, что значения Г* соответствуют фор
муле (2-109) при У a = ß |
с высокой |
степенью точности, |
а приближение, принятое |
в формуле |
(2-97), также явля- |
ется вполне допустимым. Опишем зависимость от (Ті) - 1
линейиой функдией
у= (Т{)-1 = а + Ь$,
где согласно методу наименьших квадратов
1
X (Pit — Pep) (Yh — Yep)
X (Pi.-Pop)2 k=l
(2 = |
Yep frßcp! |
|
n — число рассчитанных |
значений у, а индекс |
«ср» ука |
зывает на усреднение по і. |
|
|
В результате получаем зависимость |
|
|
( ^ = 0 , 4 1 / 7 , |
(2-111) |
обеспечивающую искомое соотношение с вполне прием лемой точностью. Отметим, что в данном случае (тз)~1=
= (тз)-1, что объясняется экспоненциальным законом распределения вероятностей тз, полученным при числен
ном моделировании. |
значения |
в (2-97), |
имеем: |
||
Подставляя полученные |
|||||
_2 |
^л.макс п |
00..2 |
1 f |
1/л.макс |
/о I 10\ |
°УЛ=~—4---и,^л.макоV |
|
(2'П2) |
|||
Напомним, что это значение получено при условии |
|||||
(2-104) и в |
предположении о |
независимости |
ть тг и |
Тз. Итак, в общем случае дисперсия, а, следовательно, и среднеквадратичное значение погрешности от люфтов и 'Гистерезиса могут зависеть от скорости протекания измеряемого процесса и величины люфта, а также сред неквадратичного значения измеряемого процесса.
При некоторых видах корреляционной функции про цесса зависимость от скорости протекания процесса от-
103
сутствует, но погрешность зависит от дисперсии процес са. В общем случае дисперсия погрешности от люфтов и гистерезиса тем меньше, чем меньше дисперсия изме ряемого процесса и чем быстрее он протекает.
2-6. ИНФОРМАЦИОННЫЕ ХАРАКТЕРИСТИКИ
Рассмотрим сначала в общем виде информацион ные характеристики блока, имеющего п входов и т вы ходов, в статике. Обозначим величины на входе {Z,}, где Zi = Xi+Yj, а величины на выходе { Z * Предположим, что желаемая (требуемая) функция на выходе есть {oj}, где Vj=fj(Xь Хъ ..., Х„). Все величины предполага ются центрированными. Тогда в соответствии с (1-63) в предположении о нормальности законов распределения
Г |
|
|
, |
|
det Av det Ar » |
|
|||
|
-----Lino-____ |
[2*л І |
|||||||
|
|
|
|
|
|
det A*K*{*i}У} |
|
||
|
|
|
|
|
|
det A., det A,. |
|
||
|
|
|
|
|
|
|
|
’■'і . |
|
|
|
|
|
|
|
det Avh<z'j |
|
> |
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
det A |
V |
} . |
||
|
|
“ |
2 |
l0g |
|
det A |
•і> |
> |
|
|
|
|
|
||||||
|
|
|
|
|
det Aivi} |
|
|||
|
|
= |
^ r l°g |
ч |
|
||||
ivl}* |
|
det'A |
1 |
1 |
|||||
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|||
где |
|
det |
А |
|
|
; |
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
A |
A |
|
|
|
|
|
|
det |
A ^ = |
o^; |
|
|
|
||
|
|
A ,,., =1\R„ |
k‘ j |
II; |
|
|
|||
|
|
{*%} |
|
|
|
|
|
||
|
|
A{°J> |
II ^ v j v k \ |
|
|
|
|||
|
|
|
A |
|
|
|
{°i} (z*j) |
|
|
|
|
|
A |
|
|
|
|
||
|
|
|
|
|
V > |
|
|
||
|
|
|
|
|
|
|
|
||
A{2*іКМ |
матрица, |
транспонированная |
по |
||||||
нию к матрице А |
|
|
' |
|
|
|
|
|
(2-113)
(2-114)
(2-115)
'(2-116)
(2-117)
(2-118)
отноше-
J04
Аг^ } _ матрица-строка, транспонированная по от
ношению к матрице
А {ин> г'і ~ I ^ vhz'j |
I — матрица-столбец; |
|
А |
>*} |
{ѵЛг'і |
|
(2-119) |
|
{®*}ХгУ |
А,.. |
|
|
Az*i{^} |
|
|
|
|
і = |
1, 2,...,/г; / = |
1, 2, — m; |
k — 1 ,2 ...... т.
Ниже приводятся некоторые примеры, поясняющие приведенный общий метод получения информационной оценки.
Пример 2-7. |
Пусть |
рассматриваемое |
звено — сумматор имеет |
|
п входов и один |
выход, |
т. е. m= 1. |
Желательная функция на выходе |
|
|
|
т |
|
|
|
|
0= 2 |
*1- |
(2-120) |
|
|
і=і |
|
|
В отношении погрешностей, накопленных на предыдущих звеньях, не будем вначале накладывать никаких ограничений. Количество информации в величине на выходе Z* относительно V равно:
lZ'+~+V-----9 1о£ I |
= — “о" log |
l t d |
|
|
°2* S S fixz-yj |
|
|
i= l 1=1 |
|
|
( 2- 121) |
Если сам сумматор идеален, т. е. арифметическая операция сум мирования выполняется без внесения дополнительных погрешностей, то
лп
z * — 2 |
-ь 2 у*’ |
(2-122) |
/=і |
/= I |
|
Тогда
пп
^ t2 » = S |
RxiKj + 2 RxiVj> |
(2-123) |
1=1 |
1=1 |
|
пп
о2г* |
S S Wxixj + Кщу j + RxiVj + ftxjyz] ■ |
(2-124) |
|
i= l/= l |
|
105
Подставляя полученные значения в (2-121), получаем искомую оцен
ку. В частном случае при Rx i,jj 0, RxiKj ~ 0 п |
= 0 при і ф / |
имеем: |
|
X С0!-. + RxiVi)
i= l
'У<—i-Z* — logj 1
S . ! X ( aI-, + °y, + -Rxßi
W=1
(2-125)
Если погрешности аддитивны и a^. = <і^= const, то
/V*—*Z' |
■ log |
(2-12G) |
В ряде случаев представляет интерес также другая оценка, свя занная с-определением роли каждого из слагаемых. Тогда ищется количество информации относительно одного входа
7*t--**# = |
- -2- |
log [1- |
р2 .], |
(2-127) |
||
где |
|
|
|
|
|
|
R-xz. |
|
|
1 X |
■+ |
* т j |
|
|
|
nV/=i |
|
|
||
2 г* — „2 „2 |
|
n |
1=I |
|
||
|
ах. |
X |
X |
|
+ #*&!/•) + ßarjxfc] |
|
|
1 k—I |
/=1 |
|
|
|
|
|
|
|
|
|
|
(2-128) |
Если Rxhyi = О, |
= |
0 и |
RVkVj = 0 при k ф |
j, to |
||
1xt +~*-z*------ 2lo2 |
|
|
|
(°*г- + Кхіуі)- |
(2-129) |
|
|
Л, X |
(axj + |
|
|||
|
|
+ 2^*ги j) |
||||
Если RxjHj = 0 , |
to |
|
/ = і |
|
|
|
|
= — Г log |
|
|
(2-130) |
||
|
|
|
|
—J |
' X; ~ |
Ул’ |
|
|
|
|
X |
( a 2 + |
a 2 ) |
/=1
106
Если О" = |
0“ = |
const И |
о2 |
= о2 —const, то |
|
|
|
|
<4 |
|
|
|
|
|
I |
|
|
|
Лѵ. - > Z * |
-2" log |
« 4 + п 0- |
||
|
|
1 |
|
2 |
|
|
|
n К + ay) |
|||
|
= — log |
||||
|
|
2 |
|
|
|
Если af |
9 |
9 |
of = |
const, |
то |
з2. |
И of, = |
||||
"i |
xj |
xi |
x |
|
я — 1 |
|
|
,v.<— |
|
|
|
|
|
. — — -ö -log - |
(2-131)
(2-132)
Последнее выражение получает ясное толкование. Действительно, каждый канал даст тем меньше информации о результате суммиро вания, чем больше число каналов.
Пример 2-8. Рассматриваемое звене — идеальный перемножнтель. |
||||
Желаемая функция на выходе а= дгі-Ѵ2, а реальная |
|
|||
|
2 *—(-V|+//l) (Х2 +//2). |
(2-133) |
||
Искомое количество информации |
/1= |
|
||
^7**_ѵі/ — |
log [1 |
(2-134) |
||
Rx v .. v В |
||||
где |
|
AlAjA-j.Va |
|
|
A 'Rx,xlx1x2+ Rxlx2x2yI+ Rxlx,x2y2+ Rx1x2y,y2’ |
|
|||
B = Rx,x,x2x2 ~R x ,x 2x2i/, + Ry,y,x2x2+ 2Rx,x2x2y2+ ‘iRx1x2y1y2+ |
||||
4I- 2R' V |
4- 2R |
,+ Ru |
|
В случае нормальности всех величин и предположения, что погрешности не зависят от значений х и у в другом канале, имеем:
А = я2хіах, + 2Rl,x, + °ГѵДад, + '’lßx.y, + Rx,y,Rx2y2’ I
|
Я= “К |
0 + 2рЦ) + ^ ( 2ЯЗДі+ ^ ,) + |
, (2-135) |
|||
|
|
|
|
|
|
|
+ |
W x 2y2 + |
< £ ) + о2«, (2 R x ly l + |
<&) + |
2Rx,y2 V R XtHl + |
|
|
|
4- o2 )• У? |
= o2 o2 4- 2 R2 |
|
|||
|
A |
y t>< ,X X t X 2X2X2 |
X , |
і , Т - |
л а д ' |
; |
|
|
|
|
|
|
Если все корреляционные связи отсутствуют, то
„2 5 2
CT*1 *2
'Z*+~уѴ= 4 -io g ( 1 2 2 I 2 I i' ^ а л\сr/o -*4 -о a*2стyt -It- о//, оw
а если a-t = 0-2 = а- и 0“_= |
= |
ae, TO |
|
||
' z*<—*v = -ö -log |
+ |
c (2 |
1 |
||
+ C) |
|||||
где Cr>= <Jy/vx.2,2 |
|
|
(2-136)
(2-137)
По мере увеличения относительной дисперсии погрешности С ко
личество информации уменьшается, что согласуется с интуитивными представлениями.
107
Вышеприведенные характеристики описывают шен ноновскую информацию в статике. Рассмотрение в дина мике проведем, привлекая аппарат канонических разло жений [Л. 1-1]. Пусть на вход звена воздействует z(t) = =x(t) + y Bi(t). Опишем звено с помощью идеального Ап и реального Лр операторов. Входное воздействие
■2 и (0 = 2 |
( ^ * + £ ^ >х)М 0. |
(2-138) |
£= I |
ВХ |
|
где Uix и £/. —коэффициенты канонического |
разложе- |
ния соответственно X(t) и Yвх(7); fi(t) — координатные функции. Можно показать, что количество информации в выходной величине Z*(t) относительно желательного сигнала на выходе V (t) =Л„[Х(г')] в любой момент вре мени
|
|
4 . ^ ( 0 = |
|
|
= — log 1 |
- |
,1=1 |
W m o MpIMO] |
|
|
|
|||
|
|
|
||
|
|
2 (e“,.+e“«ye |
|
|
|
|
u=i |
|
|
|
|
-- ------------! |
(2-139) |
|
|
|
£ » |
2. л-іыо]* |
|
|
|
1=1 |
|
|
J
При выводе последней формулы предполагалось, что операторы А„ и Лр линейны. Для оценки потерь инфор мации на звене запишем:
|
|
|
2 |
с і.гх + . “ІѴп |
+ |
|
(0=~-T-log |
1 |
- |
/=! |
|
|
|
|
|
|
|
|||
|
|
|
|Ё (° д |
+ аи..„ |
+ |
|
|
|
|
U=i |
іх |
ІУП |
|
|
|
|
|
|
|
|
+ 2RU І9е *УвХ) h (0 Ap\h (Ol |
|
|
||||
+2R и ) Лр[М0Р S |
ff (0(°l |
+ ° L |
|
■ |
||
+ 2R„ „ ) |
||||||
“ im - iV |
|
|
i x |
|
|
|
I <= 1 |
|
|
|
|
|
|
|
|
|
|
|
|
(2-140) |
108
Отметим также, что энтропия процесса на выходе звена
Я (X, 0 = £ Я (Ui* + |
UluJ |
+ log f [ M W ) } . (2-141) |
;=i |
BX |
(=1 |
Если реальный оператор описывается с помощью па раметров, являющихся случайными величинами, т. е. имеется случайный разброс параметров но множеству выпускаемых изделий, то
0 0 |
СО |
|
Я (Х ,0 = Е j № * + ^ J i o g № * + |
||
t = l |
— 0 0 |
|
+ и ) d (Uix + UUJJ |
+ log П Ap[fi {t)\ - (2-142) |
|
DX |
BX |
i=1 |
В частности, при нормальном законе распределения
Uix и и, , их взаимной независимости и безынерцион-
^пх
ном линейном преобразовании с коэффициентом усиления а имеем:
П |
|
|
Н (X, t ) = ~ Y log 2%е + |
log ( з ^ -f- |
|
І = |
1 |
|
п |
|
|
+ \ ^ dx ) + !°g П fr w + /гiögä- |
(2-143) |
|
t= l |
|
|
Дальнейшее исследование динамики с позиций шен ноновской меры информации представляется удобнее провести уже после рассмотрения дискретизации и кван тования процесса, о которых будет идти речь в гл. 5.
Г Л А В А Т Р Е Т Ь Я
АНАЛОГО-ЦИФРОВОЕ ПРЕОБРАЗОВАНИЕ
3-1. СУЩНОСТЬ АНАЛОГО-ЦИФРОВОГО
ПРЕОБРАЗОВАНИЯ
Среди основных видов измерительных преобразова ний, перечисленных в § 1-1, два этапа наиболее сущест венны с точки зрения получения достоверной количест венной информации об истинном значении измеряемой физической величины. Первый из них — восприятие и селекция данной физической величины в исследуемом
109
или контролируемом процессе н формирование первич ного измерительного сигнала (к этому вопросу мы вер немся в гл. 8). Вторым ключевым этапом является ана лого-цифровое преобразование — преобразование анало гового измерительного сигнала в цифровую форму или код. Как уже отмечалось в гл. 1, аналого-цифровое пре образование осуществляется по двум координатам: уров ню и времени. Аналого-дискретное преобразование по уровню принято называть квантованием по уровню, а то же преобразование во времени—дискретизацией по вре мени. Поскольку измерение непрерывных величин (нс процессов) в статике связано только с квантованием по уровню, то указанные две стороны аналого-цифрового преобразования целесообразно рассмотреть отдельно. В гл. 5 мы вернемся к совместному рассмотрению обеих сторон этого процесса. По существу операция аналогоцифрового преобразования имеет место во всех измери тельных устройствах и без ее выполнения принципиаль но невозможно получить результат измерения в виде конечного числа. Отнесение, например, стрелочных пока зывающих приборов к чисто аналоговым с этой точки зрения ошибочно и условно, так как сопоставление плав но изменяющегося угла отклонения стрелки с делениями шкалы и взятие отсчета, очевидно, тоже является ана лого-цифровым преобразованием, осуществляемым на блюдателем.
Можно указать п еще на одну сторону этого преобра зования. Абсолютная мера энтропии непрерывной вели чины равна бесконечности. Поэтому, если предположить возможность построения гипотетической непрерывной шкалы без дискретизации по некоторым конечным зонам (интервалам квантования), то с учетом конечной про пускной способности любого информационного канала ( в том числе и человека) время считывания одного по казания по такой шкале определилось бы как бесконеч ное. Другими словами, так как число возможных значе ний аналоговой величины внутри даже ограниченного диапазона равно бесконечности, то для передачи любого ее значения требовался бы код бесконечной значностп, т. е. сообщение стало бы бесконечно длинным.
С другой стороны, следует заметить, что в инженер ной практике часто проявляется недооценка сущности аналого-цифрового преобразования как измерительного преобразования. В смежных областях техники (в вычис-
110
литблы-юй, в технике управления и связи) аналого-циф^ ровое преобразование иногда рассматривают как слу жебную операцию при обработке сигналов, произвольно трактуя соответствие входных и выходных величин. Ана литическое рассмотрение аналого-цифрового преобразо вания, предлагаемое читателю в этой и двух последую щих главах, по нашему мнению, может оказаться полез
ным |
не только для |
специалистов |
по измерительной |
технике. |
|
! |
|
Принято различать операции квантования и кодиро |
|||
вания как два последовательных этапа при аналого-циф |
|||
ровом |
преобразовании. |
Квантованием |
называют замену |
непрерывной величины дискретной. При этом вся об ласть возможных значений разбивается на конечное чис ло подобластей или интервалов квантования. Каждому интервалу присваивается определенный индекс, обычно его порядковый номер в единичной системе счисления. Попадание входного сигнала в любую точку интервала вызывает появление на выходе прибора индекса этого интервала. Вообще говоря, эту операцию можно охарак теризовать как округление. Кодированием называют пересчет номера интервала в другую систему счисления (например, в двоичную или десятичную). Зачастую обе операции выполняются одним и тем же конструктивно совмещенным устройством.
В обычных стрелочных устройствах квантование не автоматизировано, т. е. выполняется наблюдателем. При этом наблюдатель мысленно приводит стрелку к бли жайшему делению на шкале пли к некоторому связан ному с ним уровню (например, половине расстояния между штрихами на шкале). Так как шкала нанесена заранее, то разбиение диапазона возможных значений на интервалы квантования предопределено. В цифровых измерительных приборах и аналого-цифровых преобра зователях (АЦП) эта операция автоматизирована. В со ответствии с указанным выше отметим, что в силу этих обстоятельств утверждение некоторых авторов (напри мер, [Л. 3-12]), что погрешность дискретности присуща / только автоматическим цифровым системам, явно, ошибочно.
Имеется обширная литература по технике аналогоцифрового преобразования, например [Л. 3-1—3-3], и предложен целый ряд классификаций, имеющих сравни тельно небольшое отличие [Л. 3-1, 3-4—3-7]. Поэтому
іи
в данной книге эти вопросы не рассматриваются. Чита телю, интересующемуся техникой преобразования, реко мендуем обратиться к указанной литературе. Отметим лишь, что во всех упомянутых классификациях не нашел отражения метод случайного поиска (см. § 5-4).
Предметом исследования в данной главе является квантование по уровню. Дискретизация во времени рас сматривается в гл'. 4.
3-2. ПОГРЕШНОСТИ ПРИ КВАНТОВАНИИ ПО УРОВНЮ
Рассмотрим прежде всего задачу квантования по уровню, воспользовавшись в качестве критерия диспер сией погрешности. Отчасти эта задача несколько иначе решалась в [Л. 3-8—3-10]. Авторами этих работ были получены в частных случаях результаты, совпадающие с нашими.
Как и раньше, будем считать, что на вход преобразо вателя поступает смесь сигнала, отображающего истин ное значение измеряемой величины х, и результирующей погрешности всех предшествующих звеньев аналогового преобразования уВх> носящей аддитивный характер. В величину упх включены также погрешности, вносимые входными цепями АЦП, кроме погрешностей квантова ния. Таким образом, преобразователь дополнительно вносит только погрешности, обусловленные квантовани ем. Все последующее рассмотрение проводится без учета искажения распределения погрешности на грани
цах шкалы (см. § 1-3). |
различных подхода |
Возможны два принципиально |
|
к оценке погрешности квантования. |
Первый из них пред |
полагает, что величины х и увх выражены в единицах измерения гораздо меньших, чем квант. Другими слова ми, в пространстве переменных введена единица измере ния, практически неограниченно малая. Будем считать, что і-й интервал ставится в соответствие любому значе нию X внутри этого интервала.
Введем следующие обозначения:
1. U= X + y вх/ |
(3-1) |
2. с,- — нижняя |
граница і-го интервала квантования, |
где t = 0, 1, ..., N; |
Сш |
|
112