ЛРаб20j_o
.docx
Кафедра «Метрологии, стандартизации и измерений в инфокоммуникациях»
Лабораторная работа 20А
по дисциплине «Общая теория связи»
Выполнили: бригада группы БПАС №2351
Егорова Ульяна Андреевна.
Бобров Андрей Игоревич Гудков Алексей Алексеевич
Номер стенда 4
Принял: Кандидат технических наук, доцент Манонина И. В.
А. ЭФФЕКТИВНОЕ КОДИРОВАНИЕ
1.А. ЦЕЛЬ РАБОТЫ Изучить основные способы увеличения энтропии дискретного источника и принципы эффективного кодирования.
2.А. ДОМАШНЕЕ ЗАДАНИЕ
Задан дискретный источник двоичных сообщений, который производит слова, состоящие из двух букв А и М. Всего возможно четыре различных сообщения, слова: АА, АМ, МА, ММ. Рассчитайте вероятность каждого слова p(АА), p(АМ), p(МА), p(ММ), если заданы (см. таблицу А) безусловные вероятности p(А), p(М) и условные вероятности.
(p(А/М) – вероятность буквы А, если первой в слове была буква М; остальные обозначения аналогичны).
Рассчитайте энтропию источника H и его избыточность R.
Закодируйте слова четверичным кодом и рассчитайте его энтропию и избыточность.
Закодируйте четыре слова безызбыточным кодом с префиксными свойствами, построив кодовое дерево. Рассчитайте энтропию нового двоичного кода, его избыточность и среднюю длину кодовой комбинации.
Запишите выражения, соответствующие передаче нуля и единицы с помощью двоичной фазовой модуляции. Запишите выражения, соответствующие передаче различных комбинаций из двух символов, «дибитов», с помощью четырехпозиционной ФМ. Нарисуйте временные диаграммы сигналов двоичной и четырехпозиционной ФМ.
Определите максимальное значение энтропии для m = 2 и m = 4.
Пункт 1 — Вероятности слов
Из условия мы знаем слова:
Вычислим слова P(M), P(A/A), P(M/M):
P(M) = 1 − P(A) = 0.2
P(A/A) = 1 − P(M/A) = 0.9;
P(M/M) = 1 − P(A/M) = 0.7
Найдем Вероятность каждого слова:
Проверка: 0,72 + 0,08 + 0,06 + 0,14 = 1,00 ✓
Пункт 2 — Энтропия источника и избыточность
Энтропия рассчитывается по формуле для источника зависимых сообщений (делим на длину слова n=2):
Избыточность
(
бит/символ
для m=2):
Пункт 3 — Четверичный код
Кодируем слова как символы четверичного кода:
AM→0,
S1
MA→1,
S2
MM→2,
S3
AA→3,
S4
(m=4).
Энтропия считается по тем же вероятностям слов, но теперь это 1 символ (не делим на 2):
дв.ед./символ
Пункт 4 — Безызбыточный код Хаффмена
Сортировка по убыванию: AA(0,72) > MM(0,14) > AM(0,08) > MA(0,06)
Построение кодового дерева:
Рисунок 1. Кодовое дерево
Кодовые комбинации (1 = вверх, 0 = вниз от вершины):
Слово |
Вероятность |
Код |
Длина |
AA |
0,72 |
1 |
1 |
MM |
0,14 |
00 |
2 |
AM |
0,08 |
011 |
3 |
MA |
0,06 |
010 |
3 |
Средняя длина:
Подсчёт P(0) и P(1) из 100 среднестатистических сообщений:
AA×72 (код «1»): 0 нулей, 72 единицы
MM×14 (код «00»): 28 нулей, 0 единиц
AM×8 (код «011»): 8 нулей, 16 единиц
MA×6 (код «010»): 12 нулей, 6 единиц
Энтропия нового двоичного кода:
Пункт 5 — Фазовая модуляция и максимальная энтропия
Двоичная ФМ (m = 2):
Четырёхпозиционная ФМ (m = 4), дибиты:
Максимальная энтропия (при равновероятных символах):
Рисунок 2. Двоичная ФМ.
Рисунок 3. Четырёхпозиционная ФМ.