
- •2. Задачи теории информации и кодирования
- •3. Формы представления информации. Модель системы передачи информации
- •4. Схема дискретной системы передачи
- •5. Понятие энтропии
- •6. Математические модели дискретных сигналов (абгш, канал с замиранием и т.Д.)
- •7.Понятие битовой ошибки (bit-error-rate)
- •8. Помехоустойчивое кодирование. Классификация помехоустойчивых кодов
- •Классификация помехоустойчивых кодов
- •9. Блоковые коды
- •10. Кодирующая способность блокового кода Расстояние Хэмминга
- •11. Примеры кодирования простыми блоковыми арифметическими кодами
- •12. Определение количества корректирующих символов блоковых кодов
- •13. Систематические групповые коды
- •14. Коды Хэмминга
- •15.Циклические коды. Представление двоичного кода в виде полинома
- •16. Идея построения циклических кодов
- •Алгебраическое описание
- •17. Порождающий полином циклического кода
- •18. Алгоритм получения разрешенных комбинаций циклического кода из простого линейного кода
- •19. Алгоритм определении я ошибки в цикличном коде
- •20. Схемная реализация циклического кодирования
- •21. Сверточные коды. Представление двоичного кода виде полинома
- •22. Схема сверточного кодера
- •23. Типы декодера сверточного кода.
- •24. Последовательные каскадные коды
- •25. Параллельные каскадные коды
- •26. Bpsk, qpsk модуляция
- •27. Система кодирования с адаптивной модуляцией
- •28. Система дискретной связи с адаптивной модуляцией и кодированием
9. Блоковые коды
Блочный код - в информатике тип канального кодирования. Он увеличивает избыточность сообщения так, чтобы в приемнике можно было расшифровать его с минимальной (теоретически нулевой) погрешностью, при условии, что скорость передачи информации (количество передаваемой информации в битах в секунду) не превысила бы канальную производительность.
Главная характеристика блочного кода состоит в том, что это – канальный код фиксированной длины (в отличие от такой схемы кодирования источника данных, как кодирование Хаффмана, и в отличие таких методов канального кодирования, как конволюционное кодирование («сверточное» кодирование) ). Обычно, система блочного кодирования получает на входе k-значное кодовое слово W, и преобразовывает его в n-значное кодовое слово C(W). Это кодовое слово и называется блоком.
Блочное кодирование было главным типом кодирования, используемого в ранних системах мобильной коммуникации.
Последовательность
входящих информационных символов
разбивается
на отрезки (блоки), каждый содержащий
символов:
В кодере производится преобразование каждого отдельного блока в новый блок :
Правило преобразования
(функциональная зависимость, обозначенная
здесь буквой
)
каждого входящего блока не зависит от
содержания других входящих блоков;
получающиеся в ходе преобразваний блоки
Пример.
Пусть алфавит языка состоит из пяти
букв: а,
в,
л,
о,
с
. Их кодирование в цифровую последовательность
возможно по правилу:
а
,
в
,
л
,
о
,
с
.
В этом случае длина кода
.
Получатель, которому по телефону диктуют
цифровые последовательности
или
однозначно декодирует
их — если знает правило кодирования.
Понятно, что для кодирования всего
русского алфавита потребуются уже
двузначные десятичные числа, т.е.
(и
отметим, на всякий случай, что кодирование
по правилу
а
,
б
я
уже
не будет правильным…). Пока остановимся
на примере пятибуквенного алфавита
чтобы показать две проблемы. Предположим,
что телефонная линия подвержена помехам
и какие-то сообщения могут теряться:
или же искажаться
Можно ли восстановить утраченную информацию? — Понятно, что ответ на этот вопрос зависит, в первую очередь, от передающих характеристик самого канала связи.
10. Кодирующая способность блокового кода Расстояние Хэмминга
Вопрос о минимально необходимой избыточности, при которой код обладает нужными корректирующими свойствами, является одним из важнейших в теории кодирования. Этот вопрос до сих пор не получил полного решения. В
настоящее время получен лишь ряд верхних и нижних оценок (границ), которые устанавливают связь между максимально возможным минимальным расстоянием корректирующего кода и его избыточностью.
Компромисс между эффективностью (большей скоростью передачи информации) и способностями исправления может также быть виден при попытке задать фиксированную длину ключевого слова, и фиксированную возможность исправления (представленную расстоянием Хемминга d) и максимизируют общее количество ключевых слов. [n, d] — максимальное число ключевых слов для данной длины ключевого слова n и расстояния Хемминга d..
Расстоянием
Хэмминга
между двумя кодовыми словами
и
называется
число разрядов, в которых эти слова
отличаются друг от друга. Как правило,
в дальнейшем элементами кодовых слов
будут рассматриваться символы двоичного
кода, т.е.
и
—
это векторы, состоящие из нулей и единиц.
Расстояние Хэмминга между такими
векторами равно
.
Для любого такого вектора
еговесом Хэмминга
называется число отличных от нуля
координат, т.е.
.
Пример.
Расстояние Хэмминга между векторами
и
равно
.
В дальнейшем двоичные векторы будем часто записывать, не отделяя их элементы запятыми.
Введенное определение
позволяет дать геометрическую
интерпретацию решению последнего
примера. Таблица кодирования из него
заключает в себя все двоичные векторы,
состоящие из пяти элементов, расстояние
от которых до вектора из верхней строчки
и соответствующего столбца равно
.
Можно сказать, что вектор каждого из
столбцов содержится в окрестности
размера
соответствующего
вектора
.
Последние так удачно подобраны, что эти
окрестности не пересекаются. Вектор на
выходе из канала проверяется на попадание
в какую-то из окрестностей, в случае
положительного ответа можно декодировать
его в соответствующую букву («центр»
окрестности), а вот в случае отрицательного
ответа можно попробовать сравнить
расстояния Хэмминга до всех этих центров
и декодировать в ближний…