ТИК_2_БойцоваМП_321Б

Практична робота 2

Завдання 2.5.1

Якщо є чотири рівно ймовірних події, то ймовірність кожної з них дорівнює 1/4.

Таким чином, ентропія буде максимальною:

біт/повідомлення

Завдання 2.5.2

Н=

Тоді абсолютна надмірність джерела дорівнює 0.

Обчислимо відносну надмірність:

Завдання 2.5.3

Х3 х3 = 1

1 Х2 х2 = 01

0 1 х1 = 001

!х3 х1 х4 = 000

0 1

!х2 0

!х1=х4

Завдання 2.5.4

Для задачі 1

I = біт для всіх Х

Для задачі 3

I(x1) = 3 (кодується 3-знаковою комбінацією)

I(x2) = 2

I(x3) = 1

I(x4) = 3

Завдання 2.5.5

Обчислимо середню довжину як математичне сподівання:

0.25*3*2 + 0.25*2 + 0.25 = 2.25 біт/символ

H(X) =

Завдання 2.5.6

Обчислимо продуктивність джерела:

R=

R = 88888888.9 біт/с = 11111111.1 байт/с = 10850.69 Кбайт/с = 10.5964 Мбайт/с

Завдання 2.5.7

X1

0.2 X2

0.8 0.375

!x1 x3

0.625 0.8

!x2 0.2

!x3=x4

Розрахунки наведено нижче:

P1(x2) = 0.3 : 0.8 = 0.375

P1(x3) = 0.4 : 0.8 = 0.5

P1(x4) = 0.1 : 0.8 = 0.125

Перевірка: 0.375 + 0.5 + 0.125 = 1

P2(x3) = 0.5 : 0.625 = 0.8

P2(x4) = 0.125 : 0.625 = 0.2

Перевірка: 0.8 + 0.2 = 1

Перевірка правильності розкладу (рухаємось за графом):

Р(х4) = 0.8*0.625*0.2 = 0.1

Р(х3) = 0.8*0.625*0.8 = 0.4

Р(х2) = 0.8*0.375 = 0.3

Р(х1) = 0.2

Обчислимо ентропію (рухаємось за графом):

H = біт/повідомлення

Максимальна ентропія з завдання 1 буде більшою за обчислену вище

2>1.84652