Лабораторна робота №2 узгодження дискретного джерела інформації з дискретним каналом зв'язку без шуму
Мета роботи: вивчити особливості узгодження дискретних джерел повідомлень із дискретним каналом зв'язку без шуму.
Задачі роботи:
Вивчити причини й способи оцінки надмірності дискретних повідомлень.
Вивчити способи мінімізації різних причин надмірності дискретних повідомлень.
Освоїти методики побудови статистичних кодів Шеннона-Фано й Хаффмена.
Загальні положення
Дана лабораторна робота присвячена розгляду методів ощадливого (ефективного) кодування. Основною метою даних методів є максимально ефективне використання канальних ресурсів середовища передачі за рахунок видалення надмірності з переданих повідомлень.
Основними причинами виникнення надмірності є:
- нерівномірність імовірності символів переданого повідомлення (статистична надмірність);
- наявність статистичної (кореляційної) зв'язку між символами повідомлення (кореляційна надмірність);
- непогодженість вхідного й вихідного алфавіту кодера (надмірність від округлення).
Для мінімізації надмірності першого типу використаються оптимальні нерівномірні коди. Основна ідея даних кодів полягає в тім, що більше ймовірні символи вхідного (первинного) алфавіту передавалися за допомогою більше коротких комбінацій коду (вторинного алфавіту), а менш імовірні - за допомогою більше довгих. У результаті зменшується середня довжина кодової групи в порівнянні з випадком рівномірного кодування. Прикладами таких кодів є код Шеннона-Фано й код Хаффмена.
Для видалення останніх двох типів надмірності використаються словникові методи кодування (LZ77, LZ78), кодування довжин повторень (RLE), а також блокове кодування.
Схема інформаційного каналу, використовуваного в даній лабораторній роботі, представлена на рис. 2.1.
Джерело повідомлень використає алфавіт U з об'ємом N (див. таблицю варіантів). Задано ймовірності виникнення символів на виході джерела повідомлень P(ui) і тривалість видачі символів джерелом tu, (всі символи джерела мають однакову тривалість). Відома частка втрати інформації (Hs), що виникає внаслідок статистичного взаємозв'язку між символами алфавіту U.
К
одер
джерела проводить узгодження джерела
повідомлень із каналом зв'язку. По каналі
зв'язку передається алфавіт Z з об'ємом
M. Перешкоди в каналі зв'язку відсутні.
Хід виконання роботи.
1. Побудувати простий рівномірний код для перекладу алфавіту U в алфавіт Z. Оцінити надмірність від округлення, що виникає при даному переході (посимвольне кодування).
2. Розглянути варіант поблочного кодування символів джерела. Розмір блоку вибирати на основі критерію мінімізації надмірності при обмеженні часу затримки кодера (Td). Розглянути три варіанти при різних розмірах блоків символів.
3. Обчислити повну інформаційну надмірність алфавіту U. З'ясувати які основні причини інформаційної надмірності й запропонувати способи її мінімізації шляхом формування алгоритму роботи кодера джерела.
4. Побудувати код Шеннона-Фано й код Хаффмена для перекладу первинного алфавіту U в алфавіт Z. Оцінити ефективність даних кодів з використанням коефіцієнтів статистичного стиску (Ксс) і коефіцієнта відносної ефективності (Коэ), і на підставі цього вибрати найбільш ефективний із цих двох кодів.
5. Поставити вимоги до пропускної здатності каналу зв'язку для кожного розглянутого способу кодування (пункт 1, 2 і 4). Визначити максимально можливу тривалість передачі символу алфавіту Z у кожному зі способів. Зрівняти результати між собою.
6. Для обраного в пункті 4 коду показати процес кодування й декодування повідомлення S, представленого за допомогою або первинним алфавітом, або вторинного алфавіту.
7. Запропонувати свої способи подальшого вдосконалювання кодера джерела.
8. Зробити висновки по роботі.
Таблиця 2.1 - Варіанти завдань
№ варіанта |
N |
Первинний алфавіт U |
tu, мс |
Hs, % |
M |
Td, мс |
S |
1 |
10 |
U2 |
1 |
7 |
3 |
7 |
BGHIC |
2 |
12 |
U7 |
0.5 |
5 |
2 |
5 |
11100100011 |
3 |
9 |
U1 |
2 |
10 |
3 |
10 |
DEFCA |
4 |
11 |
U3 |
0.7 |
8 |
2 |
9 |
DEFCA |
5 |
10 |
U8 |
0.5 |
17 |
3 |
7 |
2011021 |
6 |
11 |
U9 |
1 |
12 |
2 |
15 |
BACEK |
7 |
10 |
U2 |
0.7 |
13 |
2 |
5 |
1011100111 |
8 |
12 |
U6 |
3 |
2 |
3 |
25 |
KLEACD |
9 |
9 |
U12 |
0.4 |
5 |
2 |
3 |
11011001110 |
10 |
11 |
U3 |
0.8 |
3 |
3 |
4 |
BACEK |
11 |
10 |
U8 |
0.1 |
4 |
2 |
3 |
110010111 |
12 |
10 |
U4 |
0.7 |
8 |
3 |
4 |
EACIAB |
13 |
12 |
U7 |
2 |
6 |
2 |
20 |
LECDIJ |
14 |
11 |
U5 |
3 |
2 |
2 |
16 |
1000100101011 |
15 |
10 |
U2 |
0.5 |
17 |
3 |
7 |
1100220 |
16 |
12 |
U10 |
0.4 |
1 |
3 |
5 |
KELCAD |
17 |
11 |
U9 |
0.8 |
10 |
2 |
10 |
FIDAC |
18 |
9 |
U1 |
0.3 |
9 |
3 |
5 |
FIDAC |
19 |
11 |
U3 |
3 |
20 |
2 |
17 |
10101110 |
20 |
10 |
U4 |
0.4 |
7 |
3 |
3 |
2101020110 |
21 |
12 |
U6 |
0.8 |
5 |
2 |
5 |
EILCKA |
22 |
11 |
U5 |
0.1 |
10 |
3 |
1 |
JAEICDA |
23 |
10 |
U8 |
0.7 |
8 |
2 |
6 |
FBACDI |
24 |
9 |
U12 |
2 |
17 |
3 |
12 |
FBIJACD |
25 |
12 |
U10 |
0.7 |
12 |
2 |
4 |
1100101010110 |
26 |
10 |
U2 |
0.5 |
13 |
3 |
6 |
BAECIDJ |
27 |
12 |
U6 |
0.4 |
2 |
2 |
8 |
DAKLIC |
28 |
11 |
U11 |
0.8 |
5 |
3 |
9 |
AKFCBEI |
29 |
10 |
U4 |
0.3 |
3 |
2 |
4 |
10110110111110 |
30 |
9 |
U12 |
1 |
4 |
3 |
10 |
IADFCEB |
31 |
12 |
U7 |
0.5 |
8 |
2 |
6 |
EILCKA |
32 |
11 |
U5 |
2 |
6 |
3 |
15 |
221012100 |
33 |
10 |
U8 |
0.7 |
9 |
2 |
4 |
EADLKI |
34 |
12 |
U10 |
0.5 |
20 |
3 |
9 |
201011102 |
35 |
11 |
U9 |
1 |
7 |
2 |
12 |
FBACDI |
36 |
12 |
U6 |
0.7 |
5 |
3 |
7 |
2011101102 |
37 |
9 |
U1 |
3 |
10 |
2 |
30 |
111011101110 |
38 |
12 |
U10 |
0.5 |
6 |
3 |
8 |
DAEFLK |
39 |
11 |
U11 |
0.1 |
4 |
2 |
0.8 |
01011010111011 |
40 |
10 |
U4 |
0.8 |
12 |
3 |
9 |
BAECIDJ |
Таблиця 1.2 - Імовірнісні характеристики первинного алфавіту
Алфавіт |
U1 |
|
Алфавіт |
U2 |
|
Алфавіт |
U3 |
A |
0,1 |
|
A |
0,2 |
|
A |
0,04 |
B |
0,25 |
|
B |
0,25 |
|
B |
0,15 |
C |
0,25 |
|
C |
0,25 |
|
C |
0,25 |
D |
0,05 |
|
D |
0,05 |
|
D |
0,05 |
E |
0,01 |
|
E |
0,01 |
|
E |
0,01 |
F |
0,1 |
|
F |
0,1 |
|
F |
0,1 |
G |
0,19 |
|
G |
0,05 |
|
G |
0,19 |
H |
0,04 |
|
H |
0,04 |
|
H |
0,13 |
I |
0,01 |
|
I |
0,01 |
|
I |
0,01 |
|
|
|
J |
0,04 |
|
J |
0,01 |
|
|
|
|
|
|
K |
0,06 |
|
|
|
|
|
|
|
|
Алфавіт |
U4 |
|
Алфавіт |
U5 |
|
Алфавіт |
U6 |
A |
0,1 |
|
A |
0,04 |
|
A |
0,1 |
B |
0,01 |
|
B |
0,1 |
|
B |
0,09 |
C |
0,25 |
|
C |
0,28 |
|
C |
0,12 |
D |
0,15 |
|
D |
0,05 |
|
D |
0,05 |
E |
0,06 |
|
E |
0,01 |
|
E |
0,1 |
F |
0,1 |
|
F |
0,1 |
|
F |
0,09 |
G |
0,19 |
|
G |
0,16 |
|
G |
0,19 |
H |
0,1 |
|
H |
0,04 |
|
H |
0,04 |
I |
0,03 |
|
I |
0,01 |
|
I |
0,01 |
J |
0,01 |
|
J |
0,01 |
|
J |
0,05 |
|
|
|
K |
0,2 |
|
K |
0,1 |
|
|
|
|
|
|
L |
0,06 |
|
|
|
|
|
|
|
|
Алфавіт |
U7 |
|
Алфавіт |
U8 |
|
Алфавіт |
U9 |
A |
0,3 |
|
A |
0,1 |
|
A |
0,4 |
B |
0,07 |
|
B |
0,15 |
|
B |
0,06 |
C |
0,04 |
|
C |
0,1 |
|
C |
0,08 |
D |
0,05 |
|
D |
0,05 |
|
D |
0,05 |
E |
0,01 |
|
E |
0,01 |
|
E |
0,01 |
F |
0,1 |
|
F |
0,1 |
|
F |
0,1 |
G |
0,15 |
|
G |
0,08 |
|
G |
0,19 |
H |
0,04 |
|
H |
0,18 |
|
H |
0,03 |
I |
0,01 |
|
I |
0,15 |
|
I |
0,04 |
J |
0,2 |
|
J |
0,08 |
|
J |
0,02 |
K |
0,01 |
|
|
|
|
K |
0,02 |
L |
0,02 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Алфавіт |
U10 |
|
Алфавіт |
U11 |
|
Алфавіт |
U12 |
A |
0,08 |
|
A |
0,08 |
|
A |
0,2 |
B |
0,06 |
|
B |
0,05 |
|
B |
0,19 |
C |
0,04 |
|
C |
0,1 |
|
C |
0,05 |
D |
0,05 |
|
D |
0,05 |
|
D |
0,05 |
E |
0,05 |
|
E |
0,01 |
|
E |
0,1 |
F |
0,1 |
|
F |
0,1 |
|
F |
0,13 |
G |
0,16 |
|
G |
0,1 |
|
G |
0,19 |
H |
0,04 |
|
H |
0,12 |
|
H |
0,05 |
I |
0,14 |
|
I |
0,15 |
|
I |
0,04 |
J |
0,2 |
|
J |
0,14 |
|
|
|
K |
0,05 |
|
K |
0,1 |
|
|
|
L |
0,03 |
|
|
|
|
|
|