Запитання на колоквіум з дисципліни «Системи документального електрозв’язку»

1. Мета ефективного і корегуючого кодувань.

Існують два види кодування: ефективне(статистичне) і корегувальне(завадостійке). Метою ефективного кодування є підвищення швидкості передачі інформації і наближення її до пропускної здатності каналів. Метою корегувального кодування є підвищення вірності передачі інформації шляхом виявлення і виправлення помилок.

2. Умови ефективного кодування.

Суть ефективного кодування полягає у такому: кожен символ a алфавіту A кодується з використанням символів 0 і 1. При цьому необхідно задовольнити дві умови: 1. Код повинен забезпечити можливість однозначного декодування. 2. На передачу символів повинно бути витрачено мінімальне число двійкових символів, що дозволить передавати за одиницю часу максимальну кількість символів початкового алфавіту.

3. Алгоритм кодування Хаффмена.

Одним із методів ефективного кодування є метод Хаффмена. Нехай символи вхідного алфавіту A={a₁,a₂,...,a_k} мають ймовірності їх появи p₁,p₂,...,p_k, відповідно. Алгоритм кодування Хаффменаполягає у такому: 1. Символи повідомлення розташовуються в стовпець у порядку зменшення ймовірності їх появи; 2. Два найменш ймовірні символи a_k-1 і a_k об’єднуються в один символ b, який має ймовірність появи q, що дорівнює сумі ймовірностей появи символів a_k-1 і a_k , тобто p_k-1 і p_k . В результаті отримуємо множину символів {a₁,a₂,...,a_k-2,b} з ймовірностями {p₁,p₂,...,p_k-2,q}. Отримані символи знову розиашовуються у порядку зменшення ймовірностей; 3. Повторюються кроки 1 і 2 до тих пір, поки не залишиться один символ, ймовірність якого становитиме 1; 4. Проводячи лінії, які об’єднують символи і створюють послідовні підмножини, отримують дерево, в якому окремі символи є кінцевими вузлами. Відповідні їм кодові комбінації можна визначити, надаючи лівим гілкам символ «1», а правим «0».

4. Алгоритм кодування Шенона-Фіно

• Символи первинного алфавіту m1 виписують в порядку зменшення ймовірностей.

• Символи отриманого алфавіту ділять на дві частини, сумарні ймовірності символів яких максимально близькі один одному.

• У префіксному коді для першої частини алфавіту присвоюється двійкова цифра «0», другої частини - «1».

• Отримані частини рекурсивно діляться і їх частинам призначаються відповідні двійкові цифри в префіксному коді.

• Коли розмір підалфавіту стає рівним нулю або одиниці, то наступне подовження префіксних коду для відповідних йому символів первинного алфавіту не відбувається, таким чином, алгоритм привласнює різним символам префіксні коди різної довжини. На кроці ділення алфавіту існує неоднозначність, так як різниця сумарних ймовірностей p_0 - p_1 може бути однакова для двох варіантів поділу (враховуючи, що всі символи первинного алфавіту мають ймовірність більше нуля).

Алгоритм обчислення кодів Шеннона-Фано

Код Шеннона-Фано будується за допомогою дерева. Побудова цього дерева починається від кореня. Вся множина кодованих елементів відповідає кореню дерева (вершині першого рівня). Воно розбивається на дві підмножини з приблизно однаковими сумарними ймовірностями. Ці підмножини відповідають двом вершинам другого рівня, які з'єднуються з коренем. Далі кожна з цих підмножин розбивається на дві підмножини з приблизно однаковими сумарними ймовірностями. Їм відповідають вершини третього рівня. Якщо підмножина містить єдиний елемент, то йому відповідає кінцева вершина кодового дерева; така підмножина розбиттю не підлягає. Подібним чином поступаємо до тих пір, поки не отримаємо всі кінцеві вершини. Гілки кодового дерева розмічаємо символами 1 і 0, як у випадку коду Хаффмана.

При побудові коду Шеннона-Фано розбиття множини елементів може бути обрано, взагалі кажучи, декількома способами. Вибір розбиття на рівні n може погіршити варіанти розбиття на наступному рівні (n + 1) і призвести до неоптимальності коду в цілому. Іншими словами, оптимальна поведінка на кожному кроці шляху ще не гарантує оптимальності всієї сукупності дій. Тому код Шеннона-Фано не є оптимальним в загальному сенсі, хоча і дає оптимальні результати при деяких розподілах імовірностей. Для одного і того ж розподілу ймовірностей можна побудувати, взагалі кажучи, кілька кодів Шеннона-Фано, і всі вони можуть дати різні результати. Якщо побудувати всі можливі коди Шеннона-Фано для даного розподілу ймовірностей, то серед них будуть знаходитися і всі коди Хаффмана, тобто оптимальні коди.

5. За рахунок чого корегуючий код виявляє помилки.

Корегувальний код виявляє помилки за рахунок введення надмірності. Частина виявлених помилок збільшується зі збільшенням надмірності.

6. На яких операціях базується виявлення помилок корегуючи ми кодами.

Виявлення помилки корегувальними кодами базується на двох операціях: визначення відстані між кодовими комбінаціями і визначення мінімальної відстані.

7. Що таке кодова відстань рівномірного двійкового коду.

Для рівномірного двійкового коду кодова відстань – це число символів на яке відрізняється одна комбінація від іншої. Наприклад, якщо K_i=10111, K_j=01010, то d_ij=4.

8. Вимоги до коду лінії.

До коду лінії висувають такі вимоги: 1. Однозначність декодування; 2. У енергетичному спектрі сигналу повинні бути ослаблені низькочастотна і високочастотна складові; 3. У сигналі повинна бути забезпечена висока щільність імпульсів.

9. Квазітрійковий код.

Найпростішим кодом лінії є квазітрійковий. Перетворення вихідного дворівневого коду у квазітрійковий полягає у зміні полярності кожного наступного імпульсу на протилежну по відносно попереднього. Для передачі застосовують три рівні, «+» і «-» відповідають символу 1, а нульовий рівень – символу «0». Недоліком квазітрійкового коду є ускладнення виділення тактової частоти, оскільки щільність імпульсів є такою ж, як і у вихідного двійкового коду.