15.Предельные возможности экономного кодирования

До каких пределов можно сжать сообщение

После усреднения

Для повышения эффективности сжатия переходим от посимвольного к блоковому:

Выполним укрупнение алфавита источника путем объединения l символов в блоке.

Рис в тет

H(z)=H(XX)=2_{(колич симв в блоке)}H(x)=l*H(x)

|:L

Средняя длина кодового слова используется для кодирования укрупненного алфавита.

Эффективность можно повысить за счет укрупнения алфавита.

При неограниченном увеличении длины блока, он будет приближаться по своим свойствам к типичным последовательностям => каждый блок будет иметь одинаковую вероятность – источник блоков будет иметь нулевую избыточность и соответственно каждый блок представляется равномерным кодом.

16. Назначение и общие принципы помехоустойчивого кодирования

. Помехоустойчивое кодирование.

Назначение и общие принципы помехоустойчивого кодирования.

При передаче сообщения по реальному дискретному каналу связи возможно возникновение ошибок приводящих к недостоверной передачи информации.

Борьба с возникающими ошибками возможна за счет применения дополнительных средств или возможностей, т.е. введение избыточности передаваемого сообщения.

Виды избыточности:

1. Энергетическая избыточность – увеличения мощности передаваемого сигнала.

2. Временная избыточность – повторить сигнал.

Сократить время на время на передачу 1го символа, чтобы время на передачу всего сигнала не возросло.

Увеличивается ширина спектра, передаваемого сигнала.

3. Частотная избыточность.

Временная избыточность используется чаще для борьбы с ошибками , пусть медленнее, но надежнее.

Принципы помехоустойчивого кодирования.

ma=2^k – мощность.

i =1..k

Увеличив до n мощность m_c=2ⁿ

2ⁿ>>2^k

m_{c разр}=m_a

Мы создали код, где k-это количество инф. разр.

n-полное количество символов в кодовом слове. С(n,k)

Задача построения корректирующего кода заключается в выборе такого отображения множества исходных информационных слов А на множество С n-разр.слов, которое будет обеспечивать наилучшие корректирующие свойства кода.

Классификация корректирующих кодов

При использовании блоковых кодов, сообщение можно разделить на блоки , каждый из которых передается независимо от других блоков.

Корректирующие коды:

1. Непрерывные (сверхточные)

2. Блоковые

а.) неравномерные

б.) равномерные (длина кодового слова)

- неразделимые

- разделимые (четко разделены информационные и защитные)

-несистемные

-систематические -> линейные (каскадные, цикл CRC)

Непрерывные коды – нельзя выделить границы отдельных кодовых слов.

Для разделимых есть возможность построения системных и несистемных кодов. Для неразделимых нужна таблица.

Систематические – значение защитных разрядов, определены разрядами информационными.

Линейные – значение соответствующего защитного разряда описываются линейной зависимостью от значения информационных разрядов.

Каскад – для избегания ошибки.

Каскадные коды представляют собой одновременное применение нескольких способов кодирования, за счет чего результирующий способ кодирования получает новые более высокие корректирующие способности.