ТИК_3_БойцоваМП_321б

Варіант 2

Завдання 1

Р(Х1) = 0.24

Р(Х2) = 0.28

Р(Х3) = 0.20

Р(Х4) = 0.18

Р(Х5) = 0.03

Р(Х6) = 0.02

Р(Х7) = 0.02

Р(Х8) = 0.01

Р(Х9) = 0.01

Р(Х10) = 0.01

Обчислимо власну інформацію для кожної події:

Обчислимо ентропію, абсолютну та відносну надмірності даного джерела:

Сума всіх імовірностей дорівнює 1.

Ентропія :

H(X) = 0.24*2.059 + 0.28*1.837 + 0.2*2.322 + 0.18*2.474 + 0.03*5.059 + 0.02*5.644 + 0.02*5.644 + 0.01*6.644 + 0.01*6.644 + 0.01*6.644 = 0.49416 + 0.45925 + 0.4644 + 0.44532 + 0.15177 + 0.11288 + 0.11288 + 0.06644*3 = 2.43998 (біт/повідомлення)

Абсолютна надмірність:

(біт/повідомлення)

∆H = H(X) = 3.322 – 2.43998 = 0.88202

Відносна надмірність:

Х =

Завдання 2

Крок 0.097

Нижня границя зміни ймовірності появи повідомлення дорівнює 0.01

P1 P2 H (P1) H (P2) H (X) I (x)

1) 0.01 0.99 0.06644 0.01386 0.0803 6.644

2) 0.107 0.893 0.344968 0.145559 0.490527 3.224

3) 0.204 0.796 0.460893 0.261884 0.722777 2.293

4) 0.301 0.699 0.521332 0.361383 0.882715 1.732

5) 0.398 0.602 0.528942 0.440664 0.969606 1.329

6) 0.495 0.505 0.50193 0.49793 0.99986 1.014

7) 0.592 0.408 0.447552 0.527544 0.975096 0.756

8) 0.689 0.311 0.369993 0.524035 0.894028 0.537

9) 0.786 0.214 0.272742 0.475936 0.748678 0.347

10) 0.883 0.117 0.15894 0.362115 0.521055 0.18

11) 0.98 0.02 0.02842 0.11288 0.039708 0.029

Кількість інформації більша, коли ймовірність повідомлення менша.