Министерство образования Российской Федерации

ОМСКИЙ ГОСУДАРСТВЕННЫЙ ТЕХНИЧЕСКИЙ УНИВЕРСИТЕТ (ОмГТУ)

Кафедра «Автоматизированные системы обработки информации и управления»

ОТЧЕТ ПО ЛАБОРАТОРНОЙ РАБОТЕ

по дисциплине «Информационные технологии»

УНИВЕРСАЛЬНОЕ КОДИРОВАНИЕ. СЛОВАРНОЕ МОДЕЛИРОВАНИЕ. АНАЛИЗ ОПТИМАЛЬНОСТИ КОДОВ ХАФФМАНА

Принял:

преподаватель Юдин Е.Б.

______________________

подпись, дата

Выполнил:

студент гр. АС-530 Юдин Е. Б.

______________________

подпись, дата

Омск 2005

Реферат

Отчет по лабораторной работе 12 с., 2 части, 4 рис., 4 таб., 2 источника, 2 прил.

КОД ХАФФМАНА, ДИСКРЕТНЫЙ ИСТОЧНИК, ССЛОВАРНОЕ МОДЕЛИРОВАНИЕ, КОДИРОВАНИЕ, ЭНТРОПИЯ, ДЛИНА КОДА.

Предметом исследования лабораторной работы являлся принцип универсального кодирования, методы словарного моделирования дискретных источников и кодирование методом Д.А. Хаффмана.

Цель работы – универсальное кодирование дискретного нестационарного источника на примере словарного моделирования и оценка оптимальности кодов Хаффмана.

В ходе работы был сгенерирован псевдотекст (около 150 символов) с использованием четырёх букв и знака подчёркивания в качестве разделителя слов, Был проведён анализ первой трети текста на основании которого построен словарь подстрок, который использовался при кодировании оставшихся двух третей текста.

Были сделаны выводы

Содержание

Введение 4

1 Словарное моделирование 5

2Генерация псевдотекста 5

3Построение словаря повторяющихся подстрок 5

4Сравнительные характеристики энтропии 5

5 Кодирование на основе словарного моделирования 7

6Построение двоичных кодов Хаффмана 7

7Анализ графиков оптимальной длины кода и длины кода Хаффмана 8

Заключение 9

Список использованных источников 10

Приложение А Дерево подстрок псевдотекста 11

Приложение Б Таблицы для кодирования по методу Хаффмана 12

Введение

В 1981г. Й.Й. Риссанен и Г.Г. Лангдон предложили принцип универсального кодирования, разделяющий задачу кодирования источника на две составляющих: моделирование и кодирование. Задачей моделирования является получение распределения вероятностей текущего состояния источника. Результатом моделирования источника в момент времени k после получения сообщения s_k является множество вероятностей P_k = {p_k1, p_k2, … p_kN} того, какое значение из множества возможных сообщений X = {x₁, x₂, … x_N} выберет ожидаемое s_k+1.

После получения сообщения s_k+1, которое, например, приняло значение x_i, требуется построить для него как можно более короткий код из сообщений выходного алфавита Y = {y₁, y₂, … y_M} (чаще всего двоичного), что является задачей кодирования. Оптимальной длиной кода для s_k+1 будет величина

– log_M p(x_i), (1)

где M – мощность выходного алфавита, p(x_i) – объективная вероятность появления сообщения x_i. Поскольку объективные вероятности априорно неизвестны, для построения кода используется значение p_ki, полученное на этапе моделирования. Таким образом, эффективность универсального кодирования зависит и от точности оценки вероятностей при моделировании, и от оптимальности построения кода при кодировании.

Суть словарного моделирования заключается в использовании расширенного алфавита источника – словаря D = {d₁, d₂, … d_N+C}, состоящего из комбинаций элементарных сообщений алфавита X и называются подстроками. При кодировании источника элементарные сообщения принимаются до тех пор, пока не сформируют подстроку словаря D, которая кодируется на основе распределения вероятностей подстрок P = {p₁, p₂, … p_N+С}.

Для эффективного кодирования сообщений алфавита любой мощности может быть использован метод Д.А. Хаффмана, который позволяет построить для каждого сообщения уникальный префиксный код длины (), округлённой до большего целого [, 2].

Цель работы являлось универсальное кодирование дискретного нестационарного источника на примере словарного моделирования и оценка оптимальности кодов Хаффмана.