Задание 4 Эффективное кодирование

1. Рассматриваются 4 сообщения (х1, х2, х3, х4). Суммарная вероятность их появления равна 1. Вероятность сообщения х1 Р(х1) = 0.1* п1 + 0.05*п2. Вероятностями остальных сообщений задаться самостоятельно. Вычислить энтропию сообщений Н = ∑(Р(хк) * logРхк)). хк – это (х1, х2, х3, х4).

2. Закодировать сообщения кодом Шенонна-Фано (Ш.-Ф.). Вычислить среднюю длину кода п = ∑ а(хк)*Р(хк). а(хк) – количество знаков в коде Ш.-Ф. сообщения хк.

3. Сгруппировать сообщения по 2 (4*4 =16). Вычислить вероятности этих новых сообщений как произведение вероятностей соответствующих исходных сообщений. (Сообщения х1, х2 и х2, х1-это два разных соощения.)

4. Закодировать эти 16 сообщений кодом Ш.-Ф. и вычислить энтропию полученных сообщений и среднюю длину кода.

5. Закодировать эти 16 сообщений кодом Хаффмена. Найти среднюю длину кода?

Контрольные вопросы к заданию 4

1. Как и почему должны соотноситься средняя длина кода и энтропия?

2. Поясните, является ли неизбыточный код эффективным?

3. Поясните, какой существенный недостаток имеют эффективные коды?

4. Как осуществляется декодирование эффективных кодов?

5. Какой код «лучше» Ш.-Ф. или Хаффмена?

6. Применение эффективных кодов увеличивает или уменьшает скорость передачи информации?

7. В чём суть префикосности эффективных кодов?

8. С какой целью производят укрупнение сообщений (как в п. 3) задания?

9. Всегда ли целесообразно применять эффективное кодирование информации?

10. Поясните. Повышает ли помехоустойчивость сообщений эффективное кодирование?

11. Можно ли использовать эффективный код для целей cжатия текстовых сообщений? Поясните.

12. Почему в качестве меры количества информации не используют величину, равную количеству сообщений, генерируемых источником информации?

13. Поясните эффект размножения ошибок при декодировании эффективных кодов.

14. Почему коды Ш-Ф и Хаффмена называют эффективными?

Задание 5 Устройства умножения и деления многочленов

Введение. В теории кодирования часто используется многочленное представление кодовых комбинаций от переменной «х» в соответствующей степени. Коэффициенты многочлена – элементы поля Галуа второго порядка, т.е. коэффициентами являются числа «0» и «1». Переменную х можно считать фиктивной, а можно полагать, что это «2» в соответствующей степени. Например, кодовая комбинация двоичного кода имеет вид 101101. Её можно записать и так 1∙2⁵+ 0∙2⁴ +1∙2³ +1∙2²+ 0∙2¹+1∙2⁰ , или 1х⁵ + 0х⁴ +1х³ + 1х² +0х¹ +1х0. Здесь для удобства записи знак умножения опущен. Учитывая, что 1х = х и 0х = 0, кодовая комбинация записывается в виде х⁵ + х³ + х² + 1.

Арифметические операции умножения и деления многочленов выполняется по обычным правилам кроме операций сложения и вычитания. Операция сложения выполняется по модулю 2, а операция вычитания заменяется операцией сложения.

Аппаратурно операции умножения и сложения выполняются на регистрах сдвига с сумматорами по модулю 2. Операции производятся не с самими многочленами, а с их двоичным представлением. Регистр сдвига представляет собой последовательно соединённые ячейки памяти. Запись производится в первую ячейку памяти, и записанная информация под действием тактовых импульсов последовательно передаётся из одной ячейки в другую. Например, схема трёхразрядного регистра имеет вид.

Обычно линии подачи тактовых импульсов в подобных схемах не приводят, понимая, что они есть.

Аппаратурно умножение на многочлен и деление на многочлен осуществляется в регистрах сдвига с сумматорами. В таких схемах сумматоры ставятся перед значащими разрядами соответствующих многочленов. Ячейка регистра, соответствующая старшей степени многочлена, отсутствует, но сумматор перед ней в схемах умножения остаётся, а в схемах деления он переносится в начало регистра.

Условимся (для компактности записи) многочлен записывать в виде набора степеней его элементов, отличных от нуля. Так приведённый многочлен будет записан как( 6,4,3,1,0).

Схемы для умножения и деления на многочлен Х⁶ +Х⁴ +Х³ +Х +1 имеют следующий вид.

Схема умножения.

Схема деления.(Кружками обозначены сумматоры)

Задание

1.Для своего варианта многочлена составить схемы умножения и деления на него. Варианты многочлена приведены ниже.

2.С помощью составленных схем провести умножение и деление многочлена 8,7,4,3,1. Привести последовательно по тактам состояние ячеек схем умножения и деления, а также результат выполнения операции.

Варианты многочлена.

1)0,1,5,6; 2) 0,1,2,6; 3) 0,1,3,6; 4) 0,1,4,6; 5) 0,1,5,6; 6) 0,1,2,6; 7) 0,1,6; 8) 0,1,3,6; 9) 0,1,4,6; 10) 0,1,5,6;

11) 0, 2,3,6; 12) 0, 2,4,6; 13) 0,2,5,6; 14) 0,3,4,6; 15) 0,3,5,6; 16) 0,2,6; 17) 0,2,3,6; 18)0,2,4,6; 19) 0,2,5,6; 20) 0,3,6; 21) 0,4,6; 22) 0,5,6; 23) 0,3,4,6.

Защита задания заключается в пояснение процедуры работы схем умножения и деления в данном задании.