6.3 Задачі для самостійної роботи

6.3.1 Побудувати код Хаффмена для ансамблю повідомлень із ймовірностями . Визначити характеристики ефективного коду.

6.3.2 Побудувати код Хаффмена для ансамблю повідомлень із ймовірностями . Визначити характеристики ефективного коду.

6.3.3 Ансамбль повідомлень задано вектором - рядком ймовірностей . Закодувати повідомлення ефективним кодом Хаффмена й звичайним двійковим кодом. Визначити характеристики кодів і швидкість передачі по каналу за умови, що тривалість двійкового символу  сек.

6.3.4 Побудувати код Хаффмена для ансамблю повідомлень із ймовірностями . Визначити характеристики коду й швидкість передачі по каналу за умови, що тривалість двійкового символу  сек. Порівняти зі звичайним двійковим кодуванням

6.3.5 Повідомлення складається з послідовності трьох символів , імовірності появи яких не залежать від попереднього сполучення символів і рівні . Провести за алгоритмом Шеннона-Фано кодування окремих букв та двохсимвольних сполучень. Порівняти коди за ефективністю та надмірністю.

6.3.6 Джерело інформації задано матрицею . Закодувати ансамбль повідомлень : а) кодом Шеннона-Фано, б) нормальним двійковим кодом. Визначити основні характеристики ефективного коду.

6.3.7 Побудувати код Шеннона-Фано для ансамблю повідомлень із ймовірностями . Визначити характеристики коду.

6.3.8 Користуючись поняттям об'єму коду (об'єм коду – добуток розрядності або значності коду на його основу), показати, що двійкові та трійкові коди є найбільш економічними.

6.3.9 Повідомлення кодується за допомогою двох груп символів, причому в першій групі є символів, що зустрічаються з ймовірностями

,

а в другій групі є символів, що зустрічаються з ймовірностями

.

Вважаючи, що значення задано, визначити, при яких ймовірностях і ентропія максимальна. Побудувати оптимальний код для .

6.3.10 У повідомленнях використовуються символи алфавіту з ймовірностями відповідно . Для передачі повідомлення по каналу зв'язку можуть бути застосовані два коди. У першому символам алфавіту відповідають символи коду , у другому - . Тривалості елементів коду в умовних одиницях дорівнюють: . Визначити кількість інформації, яка передається кожним кодом в одиницю часу. Побудувати оптимальний код.

6.3.11 Для умов задачі 6.10 поряд із зазначеними кодами розглянути інші можливі коди й визначити найбільш ефективний з них.

6.3.12 За алгоритмом Хаффмена побудувати для ансамблю повідомлень із ймовірностями 0,18; 0,17; 0,16; 0,15; 0,1; 0,08; 0,05; 0,05; 0,04; 0,02: а) двійковий код, б) код з основою 4. Визначити характеристики кодів.

6.3.13 Переконаєтеся на прикладі, що коди, які побудовано по методах Шеннона-Фано й Хаффмена, є префіксними, тобто жодна з кодових комбінацій не є початком (префіксом) іншої.

6.3.14 Ансамблю повідомлень із ймовірностями 0,4; 0,4; 0,2 відповідає код 0‑ 1‑ 10. Визначити характеристики коду.

6.3.15 Ансамбль з дев'яти повідомлень представлено у вигляді чотирьох одноелементних і п'яти двохелементних кодових комбінацій. Визначити мінімальну кодову основу, при якій код однозначно декодується.

6.3.16 Повідомлення з ймовірностями 0,5; 0,25; 0,0625; 0,0625; 0,0625; 0,0625 кодуються одним із шести різних кодів: 1) 0‑ 10‑ 110‑ 1110‑ 1011‑ 1101; 2) 1‑ 011‑ 010‑ 001‑ 000‑ 110; 3) 0‑ 10‑ 110‑ 1110‑ 11110‑ 111110; 4) 111‑ 110‑ 101‑ 100‑ 011‑ 010; 5) 0‑ 01‑ 011‑ 0111‑ 01111‑011111; 6) 1‑ 01‑ 0011‑ 0010‑ 0001‑ 0000. Визначити, які коди є роздільними. Визначити характеристики кодів.

6.3.17 Повідомлення складається з незалежних елементів з імовірністю 0,89 і з імовірністю 0,11. Закодувати послідовність двійковим кодом так, щоб ефективність була не гірше 0,8.

6.3.19 Рівноймовірні елементи ( ) і ( ) утворюють послідовність . Задано умовні ймовірності . Закодувати послідовність двійковим кодом так, щоб ефективність була не гірше 0,85.

6.3.20 Повідомлення складається з послідовності трьох незалежних символів , , , імовірності появи яких рівні відповідно 0,7; 0,2 і 0,1. Зробити кодування ефективним кодом: а) окремих символів, б) двохсимвольних сполучень і порівняти характеристики кодів.

6.3.21 Для ефективної передачі послідовностей, які складаються з нерівноймовірних нулів та одиниць ( ), використовують кодування довжин серій. При цьому безпосередньо передаються тільки малоймовірні символи, а більш ймовірні елементи передаються у вигляді двійкового коду, який відображує їх число. Визначити основні характеристики такого способу кодування, якщо відомо середнє число двійкових символів , які використано при кодуванні.

6.3.22 Маємо 12 монет одного номіналу. З них 11 мають однакову вагу, а одна - фальшива, що відрізняється по вазі від інших. Яке найменше число зважувань на важільних вагах без гир, що дозволяє виявити фальшиву монету та з'ясувати, легше вона, ніж інші монети, або важче? Побудувати «кодове дерево» зважувань.

6.3.23 Скільки в середньому можна передати літер російського алфавіту за секунду по каналу з пропускною здатністю біт/с, якщо відомо, що середня ентропія російської мови на одну літеру з урахуванням усіх кореляційних зв'язків  біт/літеру.

6.3.24 В інформаційному каналі без перешкод для передачі повідомлень використовується алфавіт із чотирма різними символами. Тривалості всіх символів однакові і дорівнюють мс. Визначити пропускну здатність каналу передачі інформації.

6.3.25 Джерело інформації генерує символи з ймовірностями ; ; ; кореляційні зв'язки між повідомленнями відсутні. Передача інформації здійснюється двійковим кодом, тривалість символів якого дорівнює мс. Визначити швидкість передачі інформації по каналу без перешкод при використанні рівномірного коду.

6.3.26 Для виявлення несправностей приладу здійснюється послідовність перевірок, результати яких відображуються нулем (відсутність несправності) або одиницею (наявність несправності). Зв'язок між перевірками та несправностями задається за допомогою табл.6.3. Скласти послідовність з мінімального числа перевірок та побудувати кодове дерево системи перевірок.

Таблиця 6.3 Система перевірок

Перевірки	Несправності
	0	1	0	0
	0	0	1	0
	1	0	1	0
	0	0	0	1
	0	1	1	0

6.3.27 Побудувати кодове дерево системи перевірок для виявлення блоку пристрою, який відмовив. Пристрій складається з шести блоків. У процесі пошуку дефектного блоку контролюються шість різних параметрів. Зв'язок між елементами, що відмовили, і контрольованими параметрами задано за допомогою табл.6.4.

Таблиця 6.4 Система перевірок

Блоки пристрою Імовірності відмов		0,2	0,1	0,15	0,1	0,2	0,25
Перевірки		1	0	1	0	1	0
		0	1	0	1	1	0
		1	0	1	1	1	0
		0	0	1	0	0	1
		1	0	0	0	0	1
		0	1	1	1	1	0

Одиниця в клітині вказує на виявлення блоку , який відмовив, за результатами ї перевірки. Для блоків задані ймовірності відмов. Визначити середню довжину коду несправності.

6.3.28 Джерело інформації, що генерує чотири символи з апріорними ймовірностями ; ; ; , підключено до каналу передачі інформації з пропускною здатністю  біт/с. Передача інформації здійснюється рівномірним двійковим кодом. З якою швидкістю буде здійснюватися передача інформації?

6.3.29 Джерело інформації генерує 16 різних повідомлень. Ентропія джерела біт. Показати, що рівномірне двійкове кодування не є оптимальним.

6.3.30 Джерело інформації генерує два незалежні повідомлення з апріорними ймовірностями й . Здійснити кодування за методом Хаффмена: а) окремих повідомлень; б) повідомлень, які складено по два у групі; в) повідомлень, які складено по три у групі. Порівняти коди по середній довжині повідомлення, швидкості передачі інформації та надмірності.

6.3.31 Закодувати методом Хаффмена повідомлення джерела інформації, яке відображується наступним ансамблем:

у кодовому алфавіті, що містить три різних символи . Обчислити середню довжину повідомлення отриманого коду.

6.3.33 Лектор вимовляє в середньому біля сорока слів з шести літер у хвилину. Розглядаючи лектора як джерело дискретних повідомлень, визначити його продуктивність. Для простоти прийняти, що всі літери алфавіту є рівноймовірними та статистично незалежними.

6.3.34 Визначити пропускну здатність симетричного каналу з матрицею .

6.3.35 Двійкове джерело з рівноймовірними елементами має продуктивність 1000 біт/с. При передачі по каналу в середньому один зі 100 символів передається хибно. Визначити швидкість передачі інформації з даного каналу.