28. Арифметическое кодирование. Алгоритм. Преимущества и недостатки.

Арифметическое кодирование — один из алгоритмов энтропийного сжатия.

В отличие от алгоритма Хаффмана, не имеет жесткого постоянного соответствия входных символов — группам бит выходного потока. Это даёт алгоритму большую гибкость в представлении дробных частот встречаемости символов.

Характеристики

Обеспечивает почти оптимальную степень сжатия с точки зрения энтропийной оценки кодирования Шеннона. На каждый символ требуется почти бит, где  — информационная энтропия источника.

В отличие от алгоритма Хаффмана, метод арифметического кодирования показывает высокую эффективность для дробных неравномерных интервалов распределения вероятностей кодируемых символов. Однако в случае равновероятного распределения символов, например для строки бит 010101…0101 длины s метод арифметического кодирования приближается к префиксному коду Хаффмана и даже может занимать на один бит больше.[1]

Принцип действия

Пусть имеется некий алфавит, а также данные о частотности использования символов (опционально). Тогда рассмотрим на координатной прямой отрезок от 0 до 1.

Назовём этот отрезок рабочим. Расположим на нём точки таким образом, что длины образованных отрезков будут равны частоте использования символа, и каждый такой отрезок будет соответствовать одному символу.

Теперь возьмём символ из потока и найдём для него отрезок среди только что сформированных, теперь отрезок для этого символа стал рабочим. Разобьём его таким же образом, как разбили отрезок от 0 до 1. Выполним эту операцию для некоторого числа последовательных символов. Затем выберем любое число из рабочего отрезка. Биты этого числа вместе с длиной его битовой записи и есть результат арифметического кодирования использованных символов потока.

29. Коды Хэмминга. Принцип построения кодов Хэмминга для коррекции одиночных и обнаружения двоичных ошибок. Реализация кодирующего и декодирующего устройства. Корректирующие свойства.

Кодом Хемминга называется групповой (n,k)код, исправляющий одиночные ошибки и обнаруживающий двукратные ошибки.

30. Соотношение между скоростью передачи и шириной полосы канала, формула Шеннона. Критерий качества, отношение сигнал-шум.

  1. t=1мин выдаетДатчик температуры через дискретные интервалы времени значения температуры в пределах 160 … 360. Сколькими уровнями К можно отобразить (квантовать) шкалу температур, чтобы погрешность квантования не превысила по модулю 0,5? Сколькими различных сообщений может выдать такой дискретный во времени и квантованный по уровням источник, если длительность каждого сообщения Т=4 мин. 2. Построить код Хемминга (7.4). а) Нарисовать структурную схему кодера и декодера, исправляющего ошибку. б) Определить проверочный код для передаваемой кодовой комбинации 1011. в) Исправить ошибку, допущенную в четвертом элементе принятой кодовой комбинации 3. Нарисуйте структурную схему кодера циклического кода, заданного порождающим полиномом Р(х) = x3+х+1. Пояснить процесс кодирования. Найти проверочный код для кодовой комбинации 1011. 4. Нарисуйте структурную схему декодера, обеспечивающего обнаружение ошибок для кода (7,4) при производящем полиноме Р(х) = x3+х+1. Поясните принцип его работы. Принятая кодовая комбинация записывается в виде G(x)=x6+x5+x3. 5. Нарисуйте структурную схему декодера, обеспечивающего исправление однократной ошибки для кода (7,4) при производящем полиноме Р(х) = x3+х+1. Поясните принцип его работы. Принятая кодовая комбинация записывается в виде G(x)=x6+x5+x3. 6. Нарисуйте кодер сверточного кода (2.1.3) по полиномам Р1(х) = х2+х+1, Р2(х) = х2+1. Пояснить процесс кодирования, для кодовой комбинации 1001. 7. Нарисуйте решетчатую диаграмму для кода (2.1.3) по полиномам Р1(х) = х2+х+1, Р2(х) = х2+1. Поясните принцип декодирования по алгоритму Витерби. 8. Построить код Хаффмана для сообщений, имеющих вероятности: Р1=0,35; Р2=0,1; Р3=0,2; Р4=0,15; Р5=0,2. Определить среднюю длину кодовой комбинации. 9. Найти пропускную способность гауссовского канала, имеющего полосу F=3,1кГц, если на вход канала поступает сигнал, мощность которого Рс=1мВт, а в канале действует белый шум со спектральной плотностью мощности N0=10-7 Вт/Гц. 10. Найти скорость передачи в канале тональной частоты для четырехфазной фазовой манипуляции. 11. При QAM используется 4 градации фазы сигнала, так что образуются два независимых канала связи, синфазный и квадратурный, в каждом из которых используется L амплитудных значений сигнала (L/2 положительной полярности и L/2 отрицательной полярности), итого M=L2. При L=2 получаем известную ФМ-4. Требуется определить скорость передачи в канале тональной частоты для 16-QAM и 64-QAM. 12. Коэффициент нестабильности задающего генератора устройства синхронизации и передатчика k=10-5. Исправляющая способность приёмника μ=30%. Краевые искажения отсутствуют. Будут ли возникать ошибки спустя минуту после отказа фазового детектора, если скорость B= 4500 Бод. 13. В системе передачи данных используется устройство синхронизации без непосредственного воздействия на частоту задающего генератора. Скорость модуляции равна B=2400Бод. Шаг коррекции должен быть не менее δk=0,01. Определить частоту задающего генератора и число ячеек делителя частоты, если коэффициент деления каждой ячейки равен двум. 14. Построить временные диаграммы для системы с РОС-ОЖ (ошибки в канале независимы). В канал передаются кодовые комбинации 1,2,3,4,5,6. НетИскажена 2 кодовая комбинация. На 3-ей кодовой комбинации Да (искажение сигнала подтверждением). 15. Рассчитать скорость передачи информации для системы РОС-ОЖ. Ошибки в tбл. Блокканале не зависимы Pош=10-3. Если время ожидания tош=1,2 передаваемый в канал имеет значения: k=16. Число проверочных элементов: r=6. 16. Закодировать двоичным кодом Шеннона-Фано сообщение, состоящее из Р1=0,1; Р2=0,05; Р3=0,15; Р4=0,15; Р5=0,05; Р6=0,2; Р7=0,2; Р8=0,1. 17. Провести кодирование арифметическим кодом сообщение с вероятностями р(а1) = 0,3 р(а2) = 0,2 р(а3) =0,4 р(а4) =0,1. Кодируемый блок а4а2а3. Провести декодирование масштабированием архива. 18. Дискретный двоичный источник выдает последовательности из трех символов A(t1), А(t2), A(t3). Возможные реализации источника имеют вероятности P1=P(01 02 03)=0,17; P2=P(01 12 03)=0,2; P3=P(11 02 03)=0,15; P4=P(11 12 03)=0,15; P5=P(01 02 13)=0,1; P6=P(01 12 13)=0,13; P7=P(11 02 13)=0,07; P8=P(11 12 13)=0,03. Найти: вероятности появления 2-символьных реализаций P(0102); безусловные вероятности P(01), P(02), P(13); условные вероятности переходов P(13│0102), P(0102│13), P(02│01). 19. Определить, во сколько раз емкость первого сигнала превосходит емкость второго сигнала, если Т1=4 с, F1=4 кГц, D1=10 дБ и Т2=6 с, F2=10 кГц, D2=80 дБ. 20. Канал связи с полосой Fк=5 кГц предполагается использовать в течении 10 с. В канале действует шум с равномерной спектральной плотностью мощностью N0=10-4 мВт/Гц. Какова предельная мощность сигнала, который может быть передан по данному каналу, если объем канала Vк=106. 21. Определить избыточность кода, при m= 2, n = 7, К=32 22. Определить количество обнаруживаемых ошибок для двоичных кодов, при n = 5, k = 4 23. Источник сообщений выдает символы с вероятностями Р(а1)=0,25; Р(а2) = 0,25; Р(а3)= 0,5. Вычислить энтропию. 24. Двоичный код, предназначенный для кодирования восьми сообщений, содержит кодовые комбинации: b1 = 00000; b2 = 10011; b3 = 01010; b4 = 11001; b5 = 00101; b6=10110; b7 = 01111; b8 = 11100. Найти dмин. 25. В дискретном канале переданная двоичная последовательность 11000111, а вектор ошибки 10101010. Напишите принимаемую последовательность. Чему равен вес вектора ошибки. Для какого канала характерен такой вектор ошибки: с памятью или без памяти. 26. Найти отношение сигнал-шум в полосе сигнала F=4 кГц, полагая, что сигнал – узкополосный процесс со средним квадратом значения огибающей А2 = 4 мкВт, а флуктуационный шум порожден тепловым движением электронов при абсолютной температуре проводника Т=273. 27. Стационарный источник выдает за время Т=106 с двоичными посылками длительности τ=10 мс 107 бит информации. Определить избыточность источника. 28. По симметричному дискретному каналу связи со скоростью В=2000 Бод передается последовательность 0 и 1. Вероятность появления элементов одинаково и равна 0,5. Действие помех проявляется в том, что искажается 1% элементов. Определить пропускную способность канала. 29. Определить количество проверочных разрядов r, для кода с k=20, tи ош=2. 30. Выразите уровень мощности 100мВт в дБм. Преобразуйте коэффициент усиления 30дБ в абсолютное отношение мощностей.