6. Избыточность источника с алфавитом м.
Энтропия источника зависимых сообщений всегда меньше энтропии источника независимых сообщений при прочих равных условиях.
Поэтому источник сообщений с объемом алфавита М характеризуется избыточностью
, (2.5)
которая показывает, какая доля от максимально возможной при данном М не используется источником. Поэтому при кодировании источника надо стремиться к максимуму энтропии ансамбля кодовых слов ak(ti) на выходе кодера источника (см. рис.1.1), т.е. их независимости и равной вероятности.
7. Производительность дискретного источника сообщений.
Производительность (бит за секунду) источника с фиксированной скоростью передачи определяется выражением
Н'(А)=Н(А)/ Тс=1/Тб , (2.6)
где Тс - время на передачу сообщения с энтропией Н(А).
8. Эффективность бесшумного кодирования (сжатия) укрупненного источника двоичным словом фиксированной длины.
Эффективность блокового кодирования определяется отношением
βк=Н(А)/R ≤ 1
9. За счет чего повышается эффективность сжатия при энтропий-ном кодировании?
Т.о. эффективность кодирования (2.10) укрупненного источника растет по сравнению с посимвольным кодированием за счет уменьшения знаменателя и увеличения числителя (на основании асимптотической равной вероятности типичных k-последовательностей укрупненного источника). Такое кодирование называют бесшумным (однозначным), позволяющим избыточность (2.5) источника свести к нулю и повысить скорость передачи информации.
10. Выражение для динамического диапазона речевого сигнала.
Аналоговый источник, например речь, является основной услугой в цифровых мобильных системах связи. Речь является случайным нестационарным процессом с меняющейся во времени дисперсией σ2 и формой спектральной плотности мощности. Реальные системы построены на упрощенной усредненной стационарной гауссовской модели распределения амплитуд сигнала с нулевым средним и корреляционной функцией (рис.2.2)
(2.12)
где R(τ) -коэффициент корреляции; τк =2·10-3с; α ≈1,2мс; f0 =500Гц - частота с максимальной амплитудой в спектре речевого сообщения.
Динамический диапазон речевого сигнала в дБ
D=10 lg(σ2max/ σ2min) (2.14)
11. Выражение для ряда Котельникова и условия при дискретиза-ции непрерывных сообщений.
Для дискретизации сигналов с ограниченным (финитным) спектром известна теореме Котельникова (Найквиста):
“Непрерывная
функция времени и(t) со спектром,
ограниченным полосой частот от 0 до FB,
полностью определяется последовательностью
своих мгновенных значений, взятых в
моменты времени, отсчитываемые через
интервалы
”,
т.
е. рядом Котельникова:
, (2.16)
где
u(kDt)
- значения выборок сообщения в моменты
времени kDt,
k=0,
±1,
±2
...;
- функция отсчётов; Ωв=2πFв
12. Условие некоррелированности отсчетов при дискретизации непрерывных сообщений по Котельникову.
Уместно отметить, что для случайного процесса W(t) с прямоугольным финитным энергетическим спектром (СПМ)
отсчеты U(k∆t) являются случайными величинами с корреляционной функцией (КФ) согласно преобразованию Винера-Хинчина для четной функции:
,
Рис.2.6.
КФ сигнала с прямоугольной СПМ.
КФ совпадает с функцией отсчетов по Котельникову и равна 0 при τ=±kDt =±k/2F. Таким образом, если спектр сигнала в полосе 0<│f│<F равномерный, то отсчеты случайного сигнала не коррелированны и разложение в ряд Котельникова является каноническим. При неравномерном спектре нельзя утверждать о абсолютной некоррелированности отсчетов, тем более об их независимости для не гауссовских процессов.