Задача 3.1.14
Построение кодов:
Рисунок 7. Построение кодов алгоритмом Шеннона-Фано
Рисунок 8. Построение кодов алгоритмом Хаффмана
Сравнение кодов:
Равномерный
код:
Шеннона-Фано:
Хаффмана:
Коды Шеннона-Фано и Хаффмана одинаково эффективны и более эффективны, чем равномерный код.
Возьмем произвольное сообщение, закодированное алгоритмом Хаффмана: 101110001001100
Декодирование:
x1 (остаток: 110001001100)
x1x5 (остаток: 0001001100)
x1x5x4 (остаток: 01001100)
x1x5x4x3 (остаток: 001100)
x1x5x4x3x4 (остаток: 1100)
x1x5x4x3x4x5 (остаток: 00)
x1x5x4x3x4x5x4 – полученное сообщение
Скорость передачи:
Код
Хаффмана (Шеннона-Фано)
Равномерный
код:
Таким образом, код Хаффмана (Шеннона-Фано) обеспечивает наибольшую скорость передачи информации – около 0,977 бит/ед. времени, что близко к энтропии источника (максимально возможной скорости).
Задача 3.2.4
Просуммировать по XOR
-
010101100011
111110001100
000010001010
---------------------
101001100101
Ответ: 101001100101
Задача 3.2.14
Исходное сообщение: 110010. В данном сообщении необходимо установить 3 контрольных бита на позиции под индексами 1,2,4,8.
Построим таблицу «контроля»:
Рисунок 9. Таблица контроля
Ответ: 1111100110
Список использованных источников
ГОСТ Р 7.0.97-2016. Система стандартов по информации, библиотечному и издательскому делу. Организационно-распорядительная документация. Требования к оформлению документов от 01.07.2018
ГОСТ 7.32-2017. Система стандартов по информации, библиотечному и издательскому делу. Отчет о научно-исследовательской работе. Структура и правила оформления от 01.07.2018
Информация с сайта. URL: https://disk.yandex.ru/d/dcEttL0o2VSBCg. Дата обращения: 14.05.2026
Информация с сайта. URL: https://habr.com/ru/articles/140611/. Дата обращения 14.05.2026
Контрольные вопросы:
1. Что понимают под кодированием?
Кодирование – это процесс получения из исходных данных других данных, представленных в дискретной форме, которые называются кодом.
2. Какие коды называются равномерными?
Равномерные коды – это коды, в которых все кодовые слова имеют одинаковую длину. Разделение кодовых слов при передаче происходит без использования специальных разделительных букв, так как длина каждого слова фиксирована.
3. Сформулировать основную теорему о кодировании.
Основная теорема для дискретного канала с помехами (вторая теорема Шеннона):
Пусть имеется источник информации X с энтропией H(X) в единицу времени и канал с пропускной способностью C.
Если H(X)>C, то при любом кодировании передача сообщений без задержек и искажений невозможна.
Если H(X)<C, то любое достаточно длинное сообщение можно закодировать так, что оно будет передано без задержек и искажений с вероятностью, сколь угодно близкой к единице.
4. Назначение и цели эффективного кодирования
Эффективное (экономное, оптимальное) кодирование – это кодирование источника, направленное на устранение избыточности сообщения с целью сжатия объёма данных.
Цели:
сократить объём данных для более рационального использования буферной памяти устройств при хранении
повысить пропускную способность канала связи при передаче данных