- •Министерство общего и профессионального образования российской федерации
- •А.А.Ожиганов, м.В.Тарасюк передача данных по дискретным каналам
- •30 Ноября 1998 г., протокол № 14
- •3 Февраля 1999 г., протокол № 2
- •Оглавление
- •2.4.Энтропийные и информационные характеристики случайных последовательностей 46
- •3.3. Кодирование в дискретных каналах с шумами 60
- •1.Сигналы и помехи в системах передачи информации
- •2.Дискретные каналы
- •2.1. Собственная информация. Взаимная Информация
- •2.2.Средняя собственная информация (энтропия)
- •2.3.Средняя взаимная информация
- •2.4.Энтропийные и информационные характеристики случайных последовательностей
- •3.Кодирование. Пропускная способность канала
- •3.1.Основные определения.
- •3.2.Кодирование в дискретных каналах без шумов
- •3.3. Кодирование в дискретных каналах с шумами
- •4.Передача непрерывных сообщений по дискретным каналам
- •5.Частотное согласование сигналов и каналов
- •6.Практические задания Задание 1 Решение задач по основным разделам теории информации
- •Задание 2 Анализ избыточности дискретных сообщений
- •Задание 3 Эффективное кодирование дискретных сообщений
- •Задание 4 Помехоустойчивое кодирование двоичных сообщений с использованием кодов Хемминга
- •Задание 5 Декодирование кодов Хемминга
- •Задание 6 Помехоустойчивое кодирование двоичных сообщений с использованием циклических кодов
- •Задание 7 Декодирование циклических кодов
- •Задание 8 Передача данных на основе импульсно-кодовой модуляции
- •Задание 9 Частотное согласование сигналов и каналов
- •Ответы, решения, методические указания
- •2.2.Средняя собственная информация (Энтропия)
- •2.3.Средняя взаимная информация
- •2.4.Энтропийные и информационные характеристики случайных последовательностей
- •Л и т е р а т у р а
Задание 3 Эффективное кодирование дискретных сообщений
Цель - овладение навыками статистического кодирования по методам Шеннона-Фано и Хаффмана.
Постановка задачи
Сообщение X с символами x1, x2, x3, x4, x5 передается по дискретному двоичному каналу. Полоса пропускания канала обеспечивает возможность передачи двоичных символов длительностью . Требуется выбрать наилучший способ кодирования.
Подготовка к выполнению практического задания
Ознакомиться с лекционным материалом по данной тематике, изучить содержание раздела 3 данного пособия, а также соответствующие разделы в литературных источниках [2,3,4].
Порядок выполнения задания
1.Закодировать двоичное сообщение Х пятью способами:
равномерным двоичным кодом;
кодом Шеннона-Фано;
кодом Шеннона-Фано с укрупнением (в качестве укрупненных символов использовать все возможные пары символов исходного сообщения);
кодом Хаффмана;
кодом Хаффмана с укрупнением (в качестве укрупненных символов использовать все возможные пары символов исходного сообщения).
2.Определить скорость передачи информации при каждом из способов кодирования и сравнить ее с пропускной способностью канала.
3.Выбрать наилучший способ кодирования и декодировать произвольное двоичное сообщение.
Состав отчета по заданию 3
Постановка задачи.
Расчет пропускной способности дискретного двоичного канала.
Закодированное пятью заданными способами сообщение (согласно номеру варианта).
Расчет скорости передачи информации для каждого из способов кодирования.
Декодированное на приемной стороне канала двоичное сообщение при кодировании его на передающей стороне кодами Шеннона-Фано без укрупнения и с укрупнением, а также кодом Хаффмана без укрупнения и с укрупнением.
Выводы по работе.
Варианты исходных данных
Таблица 3
Вероятности появления символов сообщения Х
|
Вариант |
p(x1) |
p(x2) |
p(x3) |
p(x4) |
p(x5) |
, с |
|
1 |
0,1 |
0,2 |
0,2 |
0,2 |
0,3 |
10-4 |
|
2 |
0,2 |
0,1 |
0,2 |
0,1 |
0,4 |
10-4 |
|
3 |
0,1 |
0,3 |
0,2 |
0,1 |
0,3 |
10-4 |
|
4 |
0,2 |
0,1 |
0,3 |
0,2 |
0,2 |
10-4 |
|
5 |
0,2 |
0,3 |
0,1 |
0,2 |
0,2 |
10-4 |
|
6 |
0,1 |
0,1 |
0,4 |
0,3 |
0,1 |
10-4 |
|
7 |
0,1 |
0,2 |
0,3 |
0,1 |
0,3 |
10-4 |
|
8 |
0,1 |
0,3 |
0,2 |
0,3 |
0,1 |
10-4 |
|
9 |
0,2 |
0,1 |
0,3 |
0,2 |
0,2 |
10-4 |
|
10 |
0,1 |
0,2 |
0,3 |
0,2 |
0,2 |
10-4 |
|
11 |
0,1 |
0,2 |
0,4 |
0,1 |
0,2 |
10-4 |
|
12 |
0,1 |
0,5 |
0,4 |
0,2 |
0,5 |
10-4 |
|
13 |
0,3 |
0,2 |
0,1 |
0,1 |
0,3 |
10-4 |
|
14 |
0,2 |
0,1 |
0,3 |
0,2 |
0,2 |
10-4 |
|
15 |
0,1 |
0,2 |
0,3 |
0,1 |
0,3 |
10-4 |
|
16 |
0,2 |
0,2 |
0,1 |
0,2 |
0,3 |
10-4 |
|
17 |
0,2 |
0,3 |
0,1 |
0,2 |
0,2 |
10-4 |
|
18 |
0,2 |
0,4 |
0,1 |
0,1 |
0,2 |
10-4 |
|
19 |
0,3 |
0,1 |
0,1 |
0,2 |
0,3 |
10-4 |
|
20 |
0,1 |
0,3 |
0,2 |
0,2 |
0,2 |
10-4 |