Методические указания

остается равномерным.

Таким образом, для реальной ситуации с произвольным распределением функции количество информации определяется как:

погрешности с эталонным (равномерным) распределением, которая эквивалентна реальной погрешности с точки зрения потерь информации.

Величину Э можно найти из условия равенства количества ин-

формации в реальной и эталонной ситуации: I(x)= I(x)Э;

где p( )– закон распределения погрешности.

Энтропийное значение погрешности Э позволяет сравнивать по-

грешности с различными законами распределения с точки зрения потерь информации.

Так,

108

На практике удобно пользоваться так называемым энтропийным коэффициентом kЭ, который определяется отношением энтропийного

значения Э для данного закона распределения к его среднеквадратическому отклонению σ :

kЭ = σЭ .

Максимально возможное значение kЭ =2,066 имеет нормальное

распределение. Поэтому погрешность с нормальным распределением обладает максимальным дезинформационным эффектом.

7.4. Количественная оценка интервала снятия отсчета.

Воспользуемся энтропией в качестве меры неопределенности снятия

неопределенность положения отсчета равна энтропии фактического распределения этого отсчета. Тогда, на основании выражения 7.4 с точностью до С можно записать:

или используя натуральный логарифм:

откуда

= 12eH (x).

При нормальном законе распределения вероятности отсчета, в соответствии с п.3 табл.2

109

Интервал неопределенности 2 можно рассматривать как эквивалент выбору доверительного интервала при соответствующей доверительной вероятности. Применимость изложенного подхода к способу выражения неопределенности отсчета в измерительной технике относится к сфере законодательной метрологии.

Пример 7.3. Найти энтропию непрерывной системы X с равномерным законом распределения ее состояний в интервале [α, β], т.е.

Решение.

110

Пример 7.5. Определить выигрыш полезного сигнала в случае источника помех с гауссовским распределением по сравнению с рав-

номерным в интервале [α, β].

Решение.

В соответствии с п.3 табл.2 Приложения дифференциальная энтропия источника помех с гауссовским распределением:

резисторе с сопротивлением в 1 Ом.

В соответствии с п.1 приложения 3 энтропия равномерного распределения:

h(u)=log(β −α)=log(σ 2 3).

Вычислим дисперсию σ2р равномерного распределения в интервале

[α, β]:

111

112

8.Передача информации.

8.1.Исходные положения.

Передача информации — процесс перемещения сообщений от источника к потребителю того или иного физического носителя. Сообщения, отображающие как измерительную, так и вычислительную информацию, а в случае их обобщения — измерительновычислительную информацию, могут передаваться в ИВС как в аналоговой, так и в цифровой форме с использованием различных физических носителей.

Вдальнейшем при определении информационных процессов, будем иметь в виду общий случай, относящийся к измерительновычислительной информации.

ВИВС передача информации может осуществляться как в аналого-

вой S , так и в цифровой N форме. Простейшим каналом передачи информации является обычная проводная линия. В общем случае каналами передачи информации могут быть узлы и блоки ИВК.

Общими требованиями при передаче информации в АВУ, ЦВУ и КВУ является обеспечение заданных значений точности, скорости и верности передачи.

Отличительной особенностью передачи аналоговых электрических сигналов в АВУ, представляемых в виде напряжения постоянного тока или огибающей амплитуды напряжения переменного тока, является стремление максимально возможно сохранить точность передачи сигналов, ограниченную погрешностью порядка 0,1 – 0,01%, создаваемой датчиками – измерителями. Наложение различного рода помех на полезные сигналы снижает точность и верность их передачи.

Ограничение аналоговых сигналов не только по точности, но и быстродействию позволяет рассматривать их как квантованные по уровню и по времени.

При передаче цифровой информации основной проблемой является обеспечение требуемой верности и скорости ее передачи, поскольку точность передачи обеспечивается числом разрядов, выбранных для представления чисел.

При передаче информации в ГВУ возникает проблема правильного согласования аналоговых и дискретных каналов в связи с ограничением точности аналоговых сигналов и отсутствием этого ограничения для дискретных сигналов. В этом случае необходимо обеспечить выбор числа разрядов, используемых для представления дискретных сигналов таким образом, чтобы существенно не увеличить погреш-

113

ность аналоговых сигналов. Излишнее завышение точности дискретных сигналов приведет лишь к необоснованному усложнению оборудования.

Процесс передачи информации неразрывно связан с преобразованием, хранением, распределением, переработкой, выделением и использованием информации. В этом проявляется обобщающий характер процесса передачи информации по отношению ко всем другим информационным процессам.

8.2. Обобщенные входные и выходные характеристики канала передачи информации.

Основными характеристиками канала передачи информации являются:

а) Форма представления информации на входе и на выходе канала;

•математическая форма представления информации Θk и физическая форма представления сигналов ψ k , которые в общем случае на входе и выходе канала могут не соответствовать друг другу, т.е.:

представления информации.

б) Физические характеристики канала, представленные в виде таких обобщенных входных и выходных параметров, как:

•время действия канала Tk(вх),Tk(вых);

•полоса пропускания канала Fk(вх), Fk(вых);

•динамическая составляющая канала Dk(вх), Dk(вых);

•эффективность использования канала по физическим пара-

метрам ϕ (V )k(вх),ϕ (V )k(вых).

Рассмотренные характеристики на входе и выходе канала также могут не соответствовать друг другу, т.е.

114

(T,F,D)k(вх)~ (T,F,D)k(вых);

ϕ (V )k(вх)~ϕ (V )k(вых).

в) Информационные характеристики:

•пропускная способность канала C(S)k , которая на входе и выходе может иметь различное значение из-за помех или наличия внутренней памяти, т.е.

C(S)k(вых) ≠C(S)k(вх);

•энтропия сигналов на входе и выходе канала Hr (S)k , которая может быть различной в зависимости от воздействия

помех, а также от алгоритма, выполняемого при передаче информации, т.е. в общем случае:

Hr (S)k(вх) ≠ Hr (S)k(вых);

• информационная избыточность на входе и выходе канала:

ϕ r(S)k(вх) ≠ϕ r(S)k(вых).

Условия согласования канала с источником и приемником информации могут быть выражены следующим образом:

• по математической форме представления информации ΘИ ~ Θk(вх); Θk(вых) ~ ΘП, что означает необходи-

мость соблюдения соответствия систем счисления, используемых для представления информации на выходе источника ΘИ и на входе канала Θk(вх), а также на выходе ка-

нала Θk(вых)и на входе приемника ΘП ;

•по физической форме представления информации, т.е. по физическим носителям, используемым для образования

сигналов: ψ И~ψ k(вх); ψ k(вых)~ψ П или в совмещен-

что справедливо при выполнении условий согласования по каждому из обобщенных параметров в отдельности, при этом: VИ =TИ FИ DИ – объем сигнала на выходе источника ин-

формации или выходная емкость источника;

115

V k(вх)=(T F D)k(вх) — емкость канала со стороны входа; V k(вых)=(T F D)k(вых) – объем сигнала на выходе канала

ϕr(S)И =ϕ r(S)k(вх); ϕ r(S)k(вых) =ϕ r(S)П.

Вслучае одноканальной передачи информации при допущении, что помехи отсутствуют, сигналы на выходе канала будут полностью соответствовать сигналам на входе. При этом неопределенность

входных сигналов H(x)после их приема будет полностью снята, а количество информации, полученное на приемном конце I(y,x) будет равно величине H(x), т.е.

I(y,x)′ = H (x).

При наличии помех степень неопределенности на приемном конце не будет полностью снята, так как необходимое для этого количество информации будет ограничено помехами, вследствие чего будет иметь место соотношение:

I(y,x)″ = H(x)−H (x y),

где величина H (x y характеризует интенсивность действия по-

мех. Таким образом, в рассматриваемом случае энтропия H (x)характеризует меру неопределенности информации до приема, а количество информации I(y,x)— меру снятия неопределенности после приема информации.

116