Цифровые системы связи и передачи данных

Основной принцип, положенный в основу кодирования по методу Шеннона — Фано, заключается в том, что при выборе каждой цифры кодового обозначения мы стараемся, чтобы содержащееся в ней количество информации было наибольшим, т. е. чтобы независимо от значений всех предыдущих цифр эта цифра принимала оба возможных для нее значения 0 и 1 по возможности с одинаковой вероятностью.

Процесс декодирования

Теперь рассмотрим алгоритм декодирования кодов Шеннона — Фано. Процесс усложняется тем, что невозможно, как в случае кодирования, заменять каждые 8 бит входного потока кодом переменной длины. При восстановлении исходной последовательности необходимо провести обратные операции — заменить код переменной длины символом длиной 8 бит. В данном случае лучше всего будет использовать бинарное дерево, ячейками которого будут являться символы.

Практическая часть

1. Запустить программный комплекс (рис. 2.2).

Рис. 2.2. Панель программного комплекса

71

2.Выбрать в меню пункт задания «Коды Шеннона — Фано». Изучить предложенную таблицу 16-символьного алфавита. Символы отсортированы в порядке убывания вероятностей их появления.

3.Пользуясь теоретическим материалом, найти двоичные коды для каждого из предложенных символов, записать их в графу «Код» кодовой таблицы, следуя правилу приписывания очередного символа, указанному в окне программы над кодовой таблицей (рис. 2.3–2.5).

Рис. 2.3. Кодовая таблица для данного сообщения

Рис. 2.4. Процесс проверки кодовой таблицы

72

Полученную последовательность в соответствии с таблицей символов декодировать самостоятельно и в результате получаем слово: «Видео» (рис. 2.7

и 2.8).

Рис. 2.7. Результат проверки

Рис. 2.8. Кодовое дерево

74

Преимуществом данного метода является его простота и, как следствие этого, высокая скорость кодирования и декодирования. Данный метод является простым в понимании, в реализации, а как следствие — довольно эффективным. В настоящее время не используется, так как был усовершенствован Хаффманом, алгоритм которого в данный момент широко используется в связках с другими алгоритмами при кодировании/декодировании информации.

2.3. ИССЛЕДОВАНИЕ АЛГОРИТМА ЛЕМПЕЛЯ — ЗИВА

Основная идея алгоритма Лемпеля — Зива состоит в замене появления фрагмента в данных (группы байт) ссылкой на предыдущее появление этого фрагмента. Существуют два основных класса методов, названных в честь Якоба Зива (Jakob Ziv) и Абрахама Лемпеля (Abraham Lempel), впервые предложивших их в 1977 (алгоритм LZ77) и 1978 гг. (алгоритм LZ78).

Алгоритм LZ77

LZ77 использует уже просмотренную часть сообщения как словарь. Чтобы добиться сжатия, он пытается заменить очередной фрагмент сообщения на указатель в содержимое словаря.

В качестве модели данных LZ77 использует «скользящее» по сообщению окно, разделенное на две неравные части. Первая, большая по размеру, включает уже просмотренную часть сообщения. Вторая, намного меньшая, является буфером, содержащим еще не закодированные символы входного потока. Обычно размер окна составляет несколько килобайтов. Буфер намного меньше, обычно не более ста байтов. Алгоритм пытается найти в словаре фрагмент, совпадающий с содержимым буфера.

Алгоритм LZ77 выдает коды, состоящие из трех элементов:

–смещение в словаре относительно его начала подстроки, совпадающей с содержимым буфера;

–длина подстроки;

–первый символ в буфере, следующий за подстрокой.

Пример. Размер окна — 20 символов, словаря — 12 символов, а буфе-ра

— 8. Кодируется сообщение «ПРОГРАММНЫЕ ПРОДУКТЫ ФИРМЫ MICROSOFT». Пусть словарь уже заполнен. Тогда он содержит строку «ПРОГРАММНЫЕ_», а буфер строку «ПРОДУКТЫ». Просматривая словарь, алгоритм обнаружит, что совпадающей подстрокой будет «ПРО», в словаре она

75

расположена со смещением 0 и имеет длину 3 символа, следующим символом в буфере является «Д». Таким образом, выходным кодом будет тройка (0, 3, «Д»). После этого алгоритм сдвигает влево все содержимое окна на длину совпадающей подстроки +1 и одновременно считывает столько же символов из входного потока в буфер. Получаем в словаре строку «РАММНЫЕ ПРОД», в буфере — «УКТЫ ФИР». В данной ситуации совпадающей подстроки обнаружить не удастся и алгоритм выдаст код (0, 0, «У»), после чего сдвинет окно на один символ. Затем словарь будет содержать «АММНЫЕ ПРОДУ», а буфер — «КТЫ ФИРМ» и т. д.

Проблемы LZ77. Очевидно, что быстродействие кодера LZ77 сильно зависит от того, каким образом будет осуществляться поиск совпадающей подстроки в словаре. Если искать совпадение полным перебором всех возможных вариантов, то очевидно, что сжатие будет очень медленным. Причем при увеличении размеров окна для повышения степени сжатия скорость работы будет пропорционально уменьшаться. Для декодера это неважно, так как при декодировании не осуществляется поиск совпадения.

Быстродействие и кодера, и декодера зависит от того, как реализовано «скольжение» окна по содержимому сообщения. Рационально было бы для работы с окном пользоваться кольцевым буфером, организованным на физически сплошном участке памяти, а не реальным сдвигом содержимого окна. Хотя для поддержания кольцевого буфера необходимы дополнительные затраты на сохранение целостности индексов в нем, в целом это дает очень существенный выигрыш потому, что отсутствует постоянное сдвигание большого блока памяти. Если размер кольцевого буфера равен степени двойки, то стандартная для кольцевого буфера операция «смещение по модулю размер», может быть заменена побитовой логической операцией, что еще больше повышает эффективность.

Помимо проблем с быстродействием, у алгоритма LZ77 возникают проблемы с самим сжатием. Они появляются, когда кодер не может найти совпадающую подстроку в словаре и выдает стандартный 3-компонентный код, пытаясь закодировать один символ. Если словарь имеет длину 4К, а буфер — 16 байтов, то код < 0, 0, символ > будет занимать 3 байта. Кодирование одного байта в три имеет мало общего со сжатием и существенно понижает производительность алгоритма.

Упрощенный алгоритм LZ77. Пока (буфер_предпросмотра не пуст), найти наиболее длинное соответствие (позиция_начала, длина) в буфере_предыстории и в буфере_предпросмотра; если (длина>минимальной_длины),

76

то вывести в кодированные данные пару (позиция_начала, длина); иначе вывести в кодированные данные первый символ буфера_предпросмотра; изменить указатель на начало буфера_предпросмотра и продолжить.

Алгоритм LZ78

Этот алгоритм генерирует на основе входных данных словарь фрагментов, внося туда фрагменты данных (последовательности байт) по определенным правилам, и присваивает фрагментам коды (номера). При сжатии данных (поступлении на вход программы очередной порции) программа на основе LZ78 пытается найти в словаре фрагмент максимальной длины, совпадающий с данными, заменяет найденную в словаре порцию данных кодом

фрагмента и дополняет словарь новым фрагментом. При заполнении всего словаря (размер словаря ограничен по определению) программа очищает словарь и начинает процесс заполнения словаря снова. Реализации этого метода различаются конструкцией словаря, алгоритмами его заполнения и очистки при переполнении.

Обычно при инициализации словарь заполняется исходными (элементарными) фрагментами — всеми возможными значениями байта от 0 до 255.

Это гарантирует, что при поступлении на вход очередной порции данных будет найден в словаре хотя бы однобайтовый фрагмент.

Алгоритм LZ78 резервирует специальный код, назовем его «Reset», который вставляется в упакованные данные, отмечая момент сброса словаря. Значение кода Reset обычно принимают равным 256.

Таким образом, при начале кодирования минимальная длина кода составляет 9 бит. Максимальная длина кода зависит от объема словаря — количества различных фрагментов, которые туда можно поместить. Если объем словаря измерять в байтах (символах), то очевидно, что максимальное количество фрагментов равно числу символов, а, следовательно, максимальная длина кода равна log2 (объем словаря в байтах).

Проведение эксперимента и обработка результатов

Кодирование фразы алгоритмом LZ77 со следующими размерами СЛОВАРЬ/БУФЕР (табл. 2.3).

77

Таблица 2.3

Варианты расчетных заданий

Используем ввод фразы с клавиатуры в программе LZ77.EXE для разных размеров словаря/буфера (рис. 2.9–2.12):

Рис. 2.9. Ввод фразы с клавиатуры для размеров 8/5

Рис. 2.10. Ввод фразы с клавиатуры для размеров 12/5

78

Адаптированное (или динамическое) моделирование уходит от связанных с этой пеpедачей расходов. Первоначально и кодировщик, и раскодировщик присваивают себе некоторую пустую модель, как если бы символы все были равновероятными. Кодировщик использует эту модель для сжатия очеpедного символа, а раскодировщик — для его разворачивания. Затем они оба изменяют свои модели одинаковым образом (например, наращивая вероятность рассматриваемого символа). Следующий символ кодируется и достается на основании новой модели, а затем снова изменяет модель. Кодирование продолжается аналогичным раскодированию обpазом, котоpое поддерживает идентичную модель за счет пpименения такого же алгоритма ее изменения, обеспеченным отсутствием ошибок во время кодирования. Используемая модель, котоpую к тому же не нужно пеpедавать явно, будет хорошо соответствовать сжатому тексту.

Адаптированные модели представляют собой элегантную и эффективную технику и обеспечивают сжатие, по крайней мере, не худшее, производимое неадаптированными схемами. Оно может быть значительно лучше, чем у плохо соответствующих текстам статичных моделей. Адаптированные модели, в отличие от полуадаптиpованных, не производят их предварительного просмотра, являясь поэтому более привлекательными и лучше сжимающими. Т.о., алгоритмы моделей, описываемые в подразделах, пpи кодиpовании и декодиpовании будут выполняться одинаково. Модель никогда не передается явно, поэтому сбой происходит только в случае нехватки под нее памяти» (рис. 2.13–2.16).

Рис. 2.13. Ввод текста из файла для размеров 32/5

80