Теория информации / Заочн. фак / Метод. обеспечение / Сб.зад.и упр

, (5.17)

где =/_x , а =_C- параметр(круговая частота _C) процесса Баттерворта.

ЗАДАЧИ.

5.1.Двоичный стационарный источник Х описывается простой цепью Маркова с матрицей переходных состояний

Определить энтропию и избыточность X полагая, что :

а) память источника отсутствует;

б) память определяется вышеприведенной матрицей.

Решение 5.1.

а).

P(x₂)=

H(X)= 0.541 (бит/сообщение),

R(X)= 0.459;

б).=

0.51 (бит/сообщение),

R(X)=0.49.

5.2.Сообщения дискретного источника X описывается матрицей

Закодировать сообщения равномерным двоичным кодом и кодом Хаффмена.

Определить :

1)избыточность на входе X и выходе Y кодеров;

2)среднюю длину кодовых слов для указанных способов кодирования и их границы.

Решение 5.2.

=[бит/сообщение]

Равномерный код:

x₁ - 000

x₂ - 001 =3(бит/сообщение)

x₃ - 010

x₄ - 011

x₅ - 100

x₆ - 101

Кодовое дерево сообщений имеет вид: 1

1.0

1 0

0.55

0.25

0.25 1 0.45 0

0.2

0.15 1 0

0.1 1 0.15 0.3

0.05 0 0

Рис 5.1

Неравномерное кодирования:

(бит/сообщение);

5.3.Источник дискретных сообщений с памятью первого порядка описывается графом переходных вероятностей вида:

1)

2)

Рис 5.2

Определить :

1) избыточность и энтропию источника;

2) алгоритм оптимального двоичного кодирования и избыточность кода;

границы средней длины кодового слова.

Решение 5.3.

а).

1).

[бит /сообщение]

2). Поскольку при то для блокового(L=2) способа

кодирования имеем: ; Избыточность кода равна

3).

5.4.Имеется двоичный источник X с единичной памятью, описываемый графом переходных вероятностей вида:

рис.5.3

Определить :

1) энтропию и избыточность источника;

2) существует ли двоичный код сообщений с избыточностью не хуже 10%;

3) алгоритм двоичного кодирования с условием п.2.

Решение 5.4.

;

;