Кодирование
Алфавитное кодирование
A={a1,…, an} – алфавит языка сообщений, B={0,1} – алфавит канала связи.
F |
A B* |
F(ai)=Bi |
A* |
F ai1 ,ai2 ,..., aik |
F ai1 F ai2 ...F aik . |
F-1.
Если слово |
α = a1...ak A*, |
то количество букв в слове называется длиной слова: a1...ak k.
Пустое слово обозначается : A*, |
|
|
|
0, A. |
||
|
|
|||||
Если |
1 2 , |
|
|
|
|
|
|
|
|
|
|||
то 1 |
называется префиксом слова , а |
2 - |
||||
постфиксом слова .
Алфавитное (или побуквенное) кодирование задается схемой (или таблицей кодов) :
: 
a1 1,...,an n 
,ai A, i B * .
V i
Пример. Пусть
A = {0,1,2,3,4,5,6,7,8,9},B = {0,1}
и дана схема = |
0 |
→ 0, 1 → 1, 2 → 10, 3 → 11, 4 → 100, 5 → 101, 6 → 110, 7 → 111, |
|
8 |
→ 1000, 9 → 1001 |
Эта схема однозначна, но она не имеет однозначного декодирования:
F (22) =1010 = F (50).
= |
0 |
→ 0000,1 → 0001, 2 → 0010, 3 → 0011, 4 → 0100, 5 → 0101, 6 → 0110, |
, |
7 |
→ 0111, 8 → 1000, 9 → 1001 |
Схема называется разделимой, если
i1 ... ik = j1 ... jl k = l & t 1,...,k it = jt.
Схема называется префиксной, если элементарный код одной буквы не является префиксом элементарного кода другой буквы:
( i ≠ j i, j V) ( B* i ≠ j ).
Пример. Следующая схема разделимая, но не префиксная
A{a,b}, B={0,1}, ={a 0, b 01}.
Неравенство Макмиллана. Теорема 1: Для того, что бы схема
= 
ai → i 
ni=1
была разделима необходимо и достаточно,
что бы |
n |
1 |
|
|
|
|
|
|
1, где |
li |
i |
. |
|
|
li |
|||||
|
i 1 |
2 |
|
|
|
|
Пример. Азбука Морзе - эта схема алфавитного кодирования.
A → 01, B → 1000, C → 1010, D → 100, E → 0,F → 0010, G → 110, H → 0000 I → 00, J → 0111, K → 101, L → 0100, M → 11, N → 10, O → 111, P → 0110, Q → 1101, R → 010, S → 000, T → 1, V → 001, W → 011, X → 1001, Y → 1011, Z → 1100
1 |
+ 1 |
|
+ 1 |
|
|
+ |
1 |
+ 1 |
|
+ 1 |
|
+ 1 |
+ 1 |
+ 1 |
4 |
+ 1 |
+ 1 |
+ 1 |
+ 1 |
4 |
+ |
|||||||||||||
|
4 |
|
|
|
16 |
|
16 |
|
|
8 |
|
2 |
|
16 |
|
8 |
|
16 |
|
|
16 |
8 |
|
16 |
|
|
|
|||||||
+ |
1 |
4 |
+ |
1 |
|
+ 1 |
|
|
+ 1 |
|
+ |
1 |
+ |
1 |
|
+ 1 |
|
+ 1 |
+ 1 |
|
|
+ 1 |
+ 1 |
|
+ 1 |
|
+ |
|
|
|||||
|
|
|
|
|
8 |
|
16 |
|
16 |
|
|
8 |
|
8 |
2 |
8 |
16 |
8 |
16 |
16 |
|
|
|
|||||||||||
+ |
1 |
|
= 3 + 5 |
8 |
>1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
|
|
16 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
Теорема 2: Для того, что бы схема
= |
|
→ |
n , l = |
|
|
|
, , |
|
|
|
|||||
|
i |
|
i i=1 i |
|
i |
|
|
|
|
|
|
обладала свойством самосинхронизации, то есть, чтобы ошибки при декодировании автоматически локализовались с вероятностью 1, необходимо и достаточно, что бы выполнились два условия:
1)неравенство Макмиллана;
2)НОД (l1,l2,…,ln)=1.