6. Коди і кодування

Визначення кодів. Надмірність інформації. Основна теорема кодування. Оптимальне кодування. Оцінка ефективності кодування.

6.1. Визначення кодів

Правило (алгоритм), який співставляє кожному конкретному повідомленню визначену комбінацію різних символів (або відповідних їм сигналів), називається кодом, а процес перетворення повідомлення в комбінацію різних символів або сигналів називається кодуванням. Послідовність символів, яка в процесі кодування присвоюються кожній із множин повідомлень, називається кодовим словом. Символи, з допомогою яких записано повідомлення, що передається, складають первинний алфавіт, а символи, з допомогою яких повідомлення трансформується в код, - вторинний алфавіт. Процес відновлення змісту повідомлення по даному коду називається декодуванням. Необхідною умовою декодування є взаємно однозначна відповідність кодових слів у вторинному алфавіті кодованим символам первинного алфавіту. Коди, в яких повідомлення представлені комбінаціями з нерівною кількістю символів, називаються нерівномірними, або некомплектними, а при комбінаціях з рівною кількості символів – рівномірними, або комплектними.

Назву коду дають з урахуванням його основи – числа різних значень алфавіту m₂, які можуть приймати кожний кодовий символ: m₂=2 – двоїчний, m₂=3 – потрійний…Якщо код складено таким таким чином, що довільна перестановка якісних ознак в кодових словах приведе до виникнення комбінації, яка належить тому ж коду, то його називають повним. Кількість комбінацій повного коду

N = m₂^l, (6.1)

де l- кількість символів у кодовому слові (для рівномірних кодів визначає довжину кодових слів), тобто значність коду.

Способи зображення кодів базуються як на застосуванні теорії сполучень, так і на алгебраїчних перетвореннях і геометричних побудовах. Коди можуть бути зображені формулою, геометричною фігурою, таблицею, графом, многочленом, матрицею і т. д. Зображення коду у вигляді многочлена для довільної системи числення з основою х при наявності n різних цифрових знаків a_i від нуля до n-1 виглядає таким чином:

F(x)=a₀+a₁x+…+a_n-2x^n-2+a_n-1x^n-1, (6.2)

де і = n-1, n-2,… - показник при степені основи числення і порядковий номер чергового розряду. Зображення коду у вигляді геометричної моделі можливе тому, що кодові комбінації п–значного коду можуть розглядатись як визначені точки п–вимірного простору. Відстань між точками кодового простору називається кодовою відстанню. Кодова відстань d – параметр, який показує (незалежно від основи коду) кількість станів, через які повинні пройти якісні ознаки кодової комбінації, щоб опинитися у стані, ідентичному тому, в якому знаходяться якісні ознаки кодової комбінації, яка порівнюються з даною. Основним із параметрів, які визначають завадостійкість дискретного коду з довільною основою, є мінімальна кодова відстань d₀. Вона характеризує код в цілому і показує мінімальну кількість якісних ознак, в яких відрізняються одна від одної довільна пара комбінацій данного коду. Мінімальна кодова відстань є основним, але не єдиним параметром, який характеризує можливість даного коду в даному каналі зв’язку. Характер завад у каналі зв’язку, спектр відстаней – сукупність чисел, які показують кількість кодових слів, що відстоять від заданого на дану кодову відстань; спектр ваг – сукупність чисел, які показують скільки слів даної ваги має заданий код, також характеризує можливості даного коду в даних умовах. Для визначення кодової відстані між комбінаціями дискретного коду з основою m необхідно провести їх порозрядне віднімання по модулю m. Кодова відстань дорівнює вазі набору, складеного з різниці значень комбінацій, які порівнюються. Зображення коду у вигляді матриці, яка містить 2ⁿ рядків і n стовпців, можливо для рівномірних n-значних двоїчних кодів.

Наглядним способом зображення кодів є кодові дерева. У загальному вигляді кодове дерево може бути зображено як граф, складений із вузлів і гілок, з’єднуючих вузли, які розміщені на різних рівнях. Джерелом графа являється корінь. Кожний рівень містить mⁿ вузлів, де n – номер рівня, а m – значність коду. Для рівномірного двоїчного коду кількість вузлів на кожному рівні дорівнює 2ⁿ. З допомогою кодових дерев наглядно зображаються коди, які мають властивість префіксу, або префіксні коди, тобто коди, які можна одержати шляхом послідовного викреслювання останнього знаку кодової комбінації. Префіксом даної кодової комбінації є довільна послідовність, складена з її початкової частини, включаючи саму комбінацію. Та частина кодової комбінації, яка доповнює префікс до самої кодової комбінації, називається суфіксом, тобто кожну кодову комбінацію можна розбити на префікс і відповідні суфікси. Префіксне дерево називається повним, якщо з кожного його вузла виходить т₂ гілок. Кількість вузлів на кожному рівні повного п-кодового дерева дорівнює т₂^п, де п – ціле число, при цьому всі комбінації, які стоять у вершинах кодового дерева, являють собою повний рівномірний код. Висота кодового дерева дорівнює максимальній кількості вузлів, які зустрічаються при русі подовж кодового стовбура від корневої точки до вершини кодового дерева, або максимальній довжині комбінації коду, побудованого за даним кодовим деревом. Об’єм кодового дерева характеризує кількість кодових комбінацій, які можуть бути побудовані за допомогою даного дерева.

Пристрій, який реалізує кодування, називається шифратором або кодером. Пристрій, який реалізує декодування, називається дешифратором або декодером.