Добавил:
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:

книги из ГПНТБ / Кавалеров, Г. И. Введение в информационную теорию измерений

.pdf
Скачиваний:
11
Добавлен:
22.10.2023
Размер:
12.18 Mб
Скачать

— вероятность события Ci<^u^ci+1, т. е. получения на выходе преобразователя значения z = z ;, где

 

L

 

 

 

w (и) — \w(x,u — х) dx.

(3-3)

 

о

 

 

 

При этом предполагается, как и в §

1-3, что x ^(0 ,L ) .

Тогда текущее значение погрешности квантования по

уровню

при и^(Сі, Сі+і).

(3-4)

y K( u ) = Z i — u

Математическое ожидание

погрешности квантования

н~і сі+ ,

 

__

_

 

Г'к = X J (гс — и) w (и) du = Z U,

(3-5)

і—0 сі

 

 

 

 

где

N —1

 

 

 

 

 

 

 

Z =

2 Z i p (Zi).

 

 

 

i=0

 

 

 

Дисперсия погрешности квантования

 

а2

N-1 ш сі+1_

 

(3-6)

2 ^

z* U uw(u)du,

 

i= 0

ct

 

 

где точка сверху означает центрированную величину. Нетрудно видеть, что текущее значение погрешности дискретности зависит от величины квантов, а также от ВХПоэтому неверно общее утверждение, что момен­ ты распределения вероятностей Кк можно считать только

через истинное значение измеряемой величины х, как это делается, например, в [Л. 3-11, 3-12].

Погрешность «а выходе преобразователя

Увых= г і—х = у вх+ у к(и) при

Сі+і).

(3-7)

Моменты этой погрешности

 

 

L

N — 1

 

 

? вых = =

(^0 2

[і/вх “І- Ук 0 0 ] Р (Zi I х) dx',

(3 - 8 )

О

1

 

 

L

N — \

 

 

 

а2 = Г ш ( л ) 2

[ г /в х Н - г /к ( ' 0 - ^ в ы х ] 2 Р ( 2 г- | ^ ) ,

(3 - 9 )

ывыж J

 

 

 

 

8— 301

113

Гдё

йі+і~л‘

р (Zi I x) = px {cL< a < ci+l) =

f w (yBXI x) dynx. (3-10)

 

—(et—X)

При задании конкретных видов законов распределе­ ния вероятностей формулы (3-8) и (3-9) легко преобра­ зуются к виду, удобному для практических расчетов. Например, зададимся такими условиями:

Сі+і— a — q= L/N

(равномерная шкала);

 

Zi =

+

0,5) q\

w (x) =

— /7 (xjL)\

 

w (y„ I x) =

w (yBX) = - L n ^ f - ----T]

(3-11)

Тогда при

имеем:

 

 

 

 

Г

0

при

— - 5-;

 

 

 

 

 

-^- + 0,5

при — 0,5а< о < 0,5а;

 

p(Zi\u)= .

1

при О,5а < о < < 7—0,5а;

^ ^

 

 

 

4

-

пРи 9 — О,5а<о<<7,

 

 

 

0

при v ^ q ,

 

где ѵ = хiq.

Подставляя полученное значение в (3-8) И (3-9),

имеем:

 

& Б Ы Х ------- О і < = ( Г + а-)/12.

(3-13)

ип ы х

Врассмотренном нами примере получен результат, совпадающий с формулами из [Л. 3-11, 3-12]. Однако достаточно отказаться от одного (любого) из условий (3-11), чтобы картина изменилась. Например, при не­ симметричной плотности вероятности ау(г/вх) в (3-13)

появляется слагаемое, учитывающее этот сдвиг. Можно показать, что формулы типа (3-13) требуют отсутствия корреляции между х и уих, большого числа интервалов квантования (условие q ^ a ) и симметрии w(y).

Другой подход к оценке погрешности дискретности связан с измерением величин х + у Вх в единицах, равных

114

интервалу квантования. Другими словами, при этом счи­ тается, что квантование выполнено безошибочно, если х+Увх лежит в том же интервале, что и х. Тогда по­ грешности квантования появляются из-за перехода х + уих под действием і/вх в соседние интервалы. Первый подход более целесообразен в стрелочных приборах с неавтоматизированным квантованием, так как там число областей квантования N заранее не определено, второй — для цифровых измерительных приборов и АЦП автоматических систем.

Введем в рассмотрение условную вероятность полу­ чения на выходе АЦП значения zBbix= Zj :при Ci^x^ZCi+i,

усредненную по всем X,

лежащим в этой области:

 

 

 

р Ъ 1*> =

е ? й г -

<3-14>

Нетрудно получить:

 

 

Cj+l

 

 

 

 

 

 

С£+ 1

 

 

 

 

 

 

 

j1

w (x)

 

^ w (u\x) dudx

 

 

P(Zi IXS) =

 

 

t+I

------------------

(3-15)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

^

 

w (x) dx

 

 

 

 

 

 

C I.

 

 

 

 

 

Если 1£}(уъх\х) — ю(уъх) и шкала

квантования

равно­

мерна,

то

 

(І+ І)<7

(і+ 1)<7—X

 

 

 

 

 

 

 

 

 

 

f

w (x)

 

\

 

w(!/„x) dyBXdx

 

Pdi I * ) =

— *-------------------------------------.

 

 

 

 

 

 

 

f

 

 

w ( X )

dx

 

 

 

 

 

 

 

h

 

 

 

 

 

 

i =

o,

 

 

l,/ =

 

 

0, 1.....УѴ- 1.

(3-16)

Математическое ожидание

и дисперсия погрешности

на выходе квантователя выражаются формулами:

 

 

Увых=

У, р (Xi)

£

fa

 

Xi) р (Zj I Xi);

(3-17)

 

 

 

i- 0

 

/=0

 

 

 

 

 

 

\

=

£ Р (-A)

£ (Ц —

Х і — ТъыхУ p(Zj\Xi).

(3-18)

 

упых

t=ü

/=0

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

s*

115

Если шкала квантования равномерна и Г3ВЫх = 0) то

 

 

=

Ц р Ш

И [V -

i)q]aP(Zj\Xi)-

 

(3-19)

 

 

 

 

i=l

 

/=1

 

 

 

 

 

 

 

 

В качестве примера раскрытия этих формул рассмот­

 

рим случай соблюдения условий (3-11). Для вероятности

 

правильного

квантования

имеем:

 

 

 

 

 

 

 

 

 

0,5а

0,5а

 

 

 

q—0,5а

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

X

 

 

 

 

 

 

 

и

—V

 

 

 

0,5а

 

 

 

 

 

 

0,5а

 

q

 

q—v

 

 

 

 

 

 

 

 

X

J - У

+

j

\

j

dh é v-

при a<q-,

 

 

 

—0,5а

 

q—0,5а —0,5а

 

 

 

 

 

 

 

 

 

 

q<7—0,5а

0,5аа

-

J

-

0,5а

2 .

+

I

(3-20)ф

х

 

Р Ь Ш =

j

-

J

& Ü

 

 

+

j_ L p

s

^ „

p

<7—0,5а

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

0,Ьа

—0,5 а

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Щ Я—ѵ

 

 

 

 

 

 

 

 

 

Р (г} I xd = j-i-

J

 

 

 

при 2q < а.

 

 

 

Пределы интегралов ясны из рис.

3-1,

а.

 

;

(см.

 

Отсюда

 

рис.

3-1, б)

 

 

,

a h '

 

 

. 2 L

 

 

 

 

 

 

 

 

п р и

 

 

 

 

 

 

 

 

1 _

_

N ^ — -,

 

 

 

 

p(Zj\Xi) =

 

L

 

д г —

2L

 

 

 

 

 

 

 

 

 

Д Г ПРИЛ ^ —

 

 

 

 

 

Условная

вероятность перехода в область Zj

 

 

 

'L(aN)~l

при i — i,

t'd rl, t= t2 ,... ,i=t

 

 

 

 

 

 

 

r t (0,5r — 1);

 

 

 

 

 

 

 

 

 

^ W

~ l[(0 ,5 + 0 ,5 é -

 

 

(3-21)

 

P{Zi\Xi) = \

 

— 0,125/é2) при j = idz0,5r;

 

 

 

0,l25L(aN)~1k2 при j =

i dr (0,5r-f* 1);

 

 

 

 

 

0

 

при ;> td = ( 0 ,5 r+

1),

 

 

116

где a=(r+k)q\ г — четное число

(в том числе

нуль);

0 < & < 2 (в том числе k дробное).

Величина r + k

имеет

смысл коэффициента пропорциональности между шири­ ной зоны существования погрешности и шириной кван­ та q.

н~

Я .

 

г

- -Н 1-t-

П----г

 

I

 

 

-I-

 

 

j ____Ё

*-і

I

 

а й q

tjicz Zq

atZq

 

а)

 

gj

300

ZOOO 5000

Рис. 3-1. Возможные варианты взаимного расположения зоны рав­ номерного распределения погрешностей и интервала квантова­ ния (а) и зависимость вероятности правильного квантования от

числа областей квантования при равномерном законе распределе­ ния X (б) .

______ равномерный закон распределения i/DS; ------------

нормальный закон

распределения і/в х .

 

Среднеквадратическая погрешность для этого случая запишется в виде

о= 0 ,5 Y a L N - 1 при N <^2La~lm,'

3

= л / Щ

(г — 1) (г— 2)

- г О + ^ + т г О Н - 1)}

ѵ,шх

у а

X

24

 

 

 

при'N'^2La~1.

(3-22)

117

При /г= 0 имеем:

 

 

 

 

0,5 V aq

при N < 2 L a ~ \

х

у/~

п

 

(3-23)

П р И

ң : 2La ~1.

Из формулы

(3-23)

нетрудно

видеть, что в данном

случае получается'большее значение дисперсии уВых, чем по формуле (3-13), что вполне

75

ЬуВых

 

 

естественно,

так

как

при вто­

 

По формуле (3-23)

 

ром подходе

мы,

по существу,

 

 

исключили те значения погреш­

 

 

 

 

 

 

 

 

ности, которые лежали в пре­

10

 

 

 

делах і-го интервала, т. е. бли­

 

 

 

 

же

всего

к

математическому

 

 

 

 

ожиданию

погрешности

кван­

5

По формуле (3-13)

 

тования.

 

 

 

 

 

сред­

 

Рассмотрим значения

 

 

 

 

неквадратических

погрешно­

 

 

 

Л'

стей

по

формулам

(3-13) и

 

 

 

(3-23) при предельных значе­

1

г югочо wo woo wood

ниях входящих в них величин.

Рис.

3-2.

Зависимость

При

 

стремлении

 

числа

среднеквадратической

по­

областей квантования N к бес­

грешности

квантования

от

конечности, т. е. при

q - ^ 0,

числа областей квантования

имеем

из

формулы

(3-13)

при

£=І00,

а=5.

 

3ynHj( — а/2|/3~- Формула

(3-23)

 

 

 

 

дает совпадающее с этим значение з ■^оых. Таким образом, при

у—*0 различия в подходах стираются, что вполне естествен­ но. Иная картина наблюдается при а —>0. Из (3-13) имеем

Ч ы х ~ ^ /2 1/ 3 ’ 3 из (3-23) — 0. Такое различие вполне объяснимо, если учесть, что формула (3-13) дает значе­

ние погрешности

при бесконечной

точности измерения

X и увх, а (3-23)

связано с утверждением, что измерение

безошибочно, если лг + увх лежит

в

пределах

того же

интервала, что и л;. Нетрудно видеть,

что lim

о

для

 

 

 

W—>00

“вых

первого подхода имеет характер поправки Шеппарда.

На рис. 3-2 показан ход кривых погрешностей в зави­

симости от числа областей квантования. При

N'— уоо

обе кривые стремятся к пределу, определяемому только параметрами распределения погрешности. Наименьшее

118

значение разности между оценками ä достигается

при минимальном N, т. е. при N = 2.

В заключение параграфа отметим, что первый из рассмотренных подходов близок к постановке задачи выделения сигналов в статистической теории связи, а второй — к задачам многоальтернативного обнаружения (т. е. проверки гипотезы о том, что истинное значение измеряемой величины лежит в пределах г-го интервала квантования). Возможна трактовка второго подхода как многопозиционного контроля. Как мы увидим дальше, подобное различие характеристик имеет место и при информационных оценках.

3-3. ИНФОРМАЦИОННЫЕ ОЦЕНКИ ПРИ КВАНТОВАНИИ ПО УРОВНЮ (СТАТИКА)

Установим прежде всего некоторые общие законо­ мерности зависимости количества информации по Шен­ нону в выходном сигнале относительно измеряемой вели­ чины от числа областей квантования. Можно утверж­

дать, что вне

зависимости от законов распределения

вероятностей

истинного значения измеряемой величины

X и погрешностей YBX имеют место следующие явления:

1) квантование всегда связано с потерей информа­

ции;

 

2) измельчение шкалы всегда увеличивает количест­ во информации в выходной величине АЦП относительно

входной;

интервалов квантования N

3) при стремлении числа

к бесконечности количество

информации . I'

х стре-

мится к постоянному пределу.

Докажем прежде всего второе утверждение. Пусть первоначально шкала включала АЦ интервалов кванто­ вания. Сформируем новую шкалу с числом интервалов NZ>,N1 так, чтобы новый интервал квантования включал в себя целое число прежних, т. е. второе разбиение множества возможных значений представляло собой дополнительное разбиение первого. Обозначим вели­

чину на выходе АЦП в

первом и во втором случае

соответственно zN и zN .

 

 

Тогда в силу (1-61) /

что

и требо­

валось доказать. Знак „•<“

вместо знака

указывает

119

на необратимость такого преобразования, как измельче­ ние шкалы.

Аналогичным образом может быть доказано первое утверждение. Для доказательства третьего утверждения необходимо рассмотрение некоторых весьма общих поло­ жений о разбиении измеримых пространств; из этих по­ ложений вытекает,, в частности, интересующий нас ре­ зультат (доказательство выполнено М. И. Гординым и С. М. Мандельштамом).

Формализуем задачу следующим образом:

1. Пусть (X, Q) — измеримое пространство, т. е. множество X с некоторой о-алгеброй Q его подмножеств, о-алгеброй на множе­

стве X называется такая система подмножеств X, которая вместе

скаждыми двумя подмножествами содержит их разность и вместе

скаждой последовательностью подмножеств содержит их объедине­ ние, и включающая в себя множество X.

Разбиением измеримого пространства (X, Q) называется такой конечный набор а = {А,}, і — 1,2, .. ., п множеств А>eQ , что А,- и А,- не пересекаются, если іф і, а объединение этих мьожеств совпадает

с X. Заметим, что некоторые множества, получаемые в результате разбиения, могут быть пустыми. Множества А,- называются элемен­ тами разбиения а. Если разбиение b получено путем подразбиения

элементов разбиения а, то

говорят,

что b мельче а

или а круп­

нее Ь.

заданы

две вероятностные

меры Рі и

Предположим, что на Q

Р2. Элемент А, разбиения а называется вырожденным, если Рі(А() =

= Рг(Аі)=0.

Разбиение,

содержащее

вырожденные элементы,

назы­

вается вырожденным.

 

 

 

оГ^О) как

 

 

Зададим функцию qі{и, о) (п^О,

 

 

 

 

 

и logs (и И ,

если /г > 0 ,

о > 0 ;

 

у

у) _

J

0,

 

если и =

О,

V. J 0;

 

 

 

I

— оо

если

0,

о = 0.

 

Заметим, что ср(и, ѵ)

является непрерывной функцией с областью

значений [0,

+ оо] во всех точках (и,

ѵ), где и ^О , ѵ ^О , кроме точки

(О, 0).

 

 

 

 

 

 

 

 

Введем формально некоторую функцию

 

 

 

 

 

 

п

 

 

 

 

 

 

Н Рг (Я„ а) = Ц

у (Р, {At},'P2 {А,}),

 

 

 

 

І=1

 

 

 

 

 

если а={А і), і=1, 2,

...,

п, и определим энтропию меры PY по мере

Р2 (см. [Л. 1-54]) равенством

 

 

 

 

 

 

 

Н РА р і ) =

SUP Н Р, (Л,

а),

 

 

 

 

 

1

а

 

 

 

 

где верхняя грань берется по всем разбиениям пространства

(X, Q).

120

Нам понадобятся следующие элементарные свойства введенных величин:

1) Н Рй[Р 1,а ) '- .0 , //р ,(Л )"= 0;

2) Если разбиение b мельче, чем разбиение а, то

Я Рі( Р „ а ) < Я Рі(Я1ІЬ).

Эти свойства хорошо известны (см., например, [Л. 1-33, 3-34]). Л ем м а 1. Пусть а °= {А 0,}, г=1, .. ., п — произвольное невы­

рожденное разбиение. Каково бы ни было в>0, найдется такое у>0,

что для любого разбиения а=

{А,}, t= l, ..., п, удовлетворяющего

условиям |Р| (А0,)—Р \(А,) I < у.

]Р2(А0і)—Рг(Аі) I <у, (і= 1 .......n),

выполнено неравенство

 

\Н р ^ Р и Ъ ° ) - Н Р2(Я ,, а) I < Е.

До к а з а т е л ь с т в о . Из сделанного выше замечания о точках непрерывности функции ср следует, что функция 2/і переменных фп,

определенная при «і^О,

равенством

 

 

 

 

 

 

 

 

п

 

 

 

 

Чп («I. о,....... ѵп) =

S

?("<■ уі).

 

 

 

 

 

 

 

 

i=i

 

непрерывна в точке (іі\, ѵі,

.. ., и„,

и„), если только ни при каком і

tit и Ѵі не равны 0 одновременно.

 

 

 

 

В силу невырожденности а0 точка (Рі(А°і), Р2(А°і), .. ., Pi(An),

Р2(А„))

обладает этим свойством, и так как

 

 

Н Рг (Р,, а) =фи (Яі (А,), Я*(А.)........Яі (А„), ЯДА*)),

то утверждение леммы становится очевидным.

ситуацию, когда

 

2.

 

Теперь мы

рассмотрим

более специальную

X — полное

сепарабельное

метрическое пространство с

расстоянием

г(х,

у),

а

Q—ст-алгебра

всех

борелевскнх подмножеств X (см.

[Л.

3-35]). Если А — подмножество

X, то определим диаметр А ра­

венством

diam А = sup

r(x, х'). Нам понадобятся две функции, оп-

 

 

 

х.х’^Х

 

 

 

f

ределенные на всех 'разбиениях пространства (X, Q)^'характеризую­ щие разбиения с точки зрения малости диаметров их элементов.

Пусть а — разбиение,

е>0 — число.

Обозначим

через и(а, е)

объединение

всех

тех элементов

А,-

разбиения а,

для которых

diam (A,)>e.

 

 

 

 

 

 

Положим,

р (а) = max

(inf max (е,Я; (иг ('а, е)))).

Эквивалентное

 

 

/=1,2

8>0

 

 

определение таково:

число р(а) удовлетворяет неравенствам

Pi (u(a,

p(a)))s£p(a);

P2(u(a, р(а))) s£p(a),

а никакое число, меньшее чем р(а), им не удовлетворяет. Положим

также для а={Л

,}, £= 1, ...,

п; diam a=max diam А(. Ясно, что

р(а) sgdiam а, так

как P](u(a,

diam a)) = P 2(u(a, diam a))=0. Заме­

тим, что р (а )^ 1, в то время как возможно равенство diama=oo.

121

Л е м м а 2. Пусть а={А ,}, (=1........«. Тогда для всякого е>0

найдется

такое (/>0, что для любого разбиения а', для которого

р(а')<(/,

найдется разбиение

а"={А",}, £=1, . . п. более крупное,

чем а', и

такое, что

 

 

|Л (А і)-Л (А " ,)

і <s; IP-i (A,) —P2(A'',) | < e

при /=1, ..., II.

 

Д о к а з а т е л ь с т в о . Зафиксируем e>0. Из теоремы 6 § 7 гл. 2

[Л. 3-34] следует, что каждое множество А,- содержит’ такой ком­

пакт 1 F;> что выполнены

неравенства

Л (Fi)

(А,) :=£/', (F .)+е/2«;

/MF,-) ^ Р Д Л ;) < /M F i) + e/2«.

Все компакты

Ft попарно

нс пересекаются, поэтому найдется

такое а>0, что min

inf

r(x, х')/г<х. Пусть разбиение а' таково,

іф І

xGEFt', x 'sF i

 

что выполнено неравенство p(a/)< i/ = max (а/3; е/2). Мы будем те­

перь строить разбиение а" со свойствами, указанными в формулиров­ ке леммы.

Пусть В,- (і = 1, . .., «) — множество, являющееся объединением всех множеств разбиения а', диаметры которых не превосходят р(а'), имеющих непустое пересечение с F,. Поскольку все точки В,- удале­

ны от Fi не более чем на р(«')^;а/3, то при любом і множество

В,-

не пересекается

со всеми

множествами

В,- и

Fj, если /¥='•

 

 

Положим,

A"t = Bt ( l < £ ' <

л —

1),

Л"„ =

Х \

И1

=

 

у

= в„и ( х \ и в,).

 

 

 

 

 

/=і

 

 

 

 

 

 

 

 

 

/=і

/=1

 

« — разбиение.

Положим, Аі=

 

Ясно, что

а"={А"і}, і=1, ... ,

= Fi \u (a ',

р(a')). Нетрудно установить, что Н ,=Р,ПВ,-. Очевид­

но,

что

 

Ні С Fi С Аі, Ні С В і С А 'і.

 

 

 

 

 

 

 

 

 

 

Поскольку различные

попарно не пересекаются, то

 

 

 

 

 

At =

Х \ U AjCX\U Hj;

 

 

 

 

А"

і с

Ві U (XV М В,) = Х \ U Ві С XV U Ні .

 

 

 

 

 

/=І

ІФі

 

ІФі

 

 

 

Так как Х \ (J HiZ3Ht (различные

Hi

попарно

не

пересекают-

ся),

то

 

 

 

 

 

 

 

 

 

IРг (At) -

Р \

(А"і) I <

Л ( Х \ и

Hi) -

Л (Hi) = Л ( Х \ U Hi).

 

 

 

 

Ш

 

 

 

 

/=і

 

1 Компактом называется топологическое пространство, в кото­ ром любые две различные точки имеют непересекающиеся окрестно­ сти, а любое его открытое покрытие содержит конечное подпокрытие,

122

Соседние файлы в папке книги из ГПНТБ