Пример 1.

Получено

сообщение, объём

которого равен

45 битам. Определить, чему равен объём сообщения в Кбайтах.

Решение:

45бит

45

байт 5,625байт

5,625

Кбайт 0,0055Кбайт.

10

8

2

С

Пример 2.

Сколько файлов размером по 120 Кбайт каждый

можно разместить на диске ёмкостью 210 Мбайт?

Решен е: 210Мбайт 210 210 Кбайт.

210 210

215040

1792 (файла).

другие

120

120

Практические задания

1.

байта

информации в

Перевести з одной

единицы измерения

:

a)

72

= … ит;

b)

2048 М айт = …Г айт;

c)

А

5 Кбайт = …

айт;

d)

…

= 126

ит;

e)

…Кбайт = … айт = 12 288бит;

f)

…М айт = 512 К айт = … байт = …бит.

2. Получено сообщение, объём которого равен 1 Мбайт.

Определить, чему равен объём сообщения в байтах.

2.3. Основные подходы к измерению информации

И

Известно несколько подходов к измерению информации:

1.

Алфавитный подход.

Д

2.

Содержательный подход.

3.

Вероятностный подход.

мощность алфавита можно посчитать по формуле

С

N 2i.

(5)

Пр веденная формула (5) является показательным уравнением

бит

относительно не звестной i. Решение такого уравнения имеет вид

i log2 N – логарифм от N по основанию 2.

(6)

б

ледовательно, в 2-символьном алфавите каждый символ несет

1

нформац

(log2 2 1), в 4-символьном – 2 бита информации

(log2 4 2),

в

8-с мвольном – 3

бита (log2 8 3), в компьютерном

алфав те – 8

т (log2

256 8).

А

Если весь текст состоит из

K

символов, то для расчета

содержащейся в нем информации используется формула

I K i.

(7)

Пример 1. Сообщение записано 32-символьным алфавитом и

содержит 30 символов. Какой объём информации оно несёт?

Решение:

i log2 32 5бит

информации

содержит

каждый

символ данного

алфавита [по

формуле

(6)].

Так

как

в тексте

содержится

K

=

30

символов,

то

по

И

формуле

(7)

получим

I 30 5 150бит информации содержитДвсе сообщение.

Пример 2. Книга, набранная с помощью компьютера, содержит

250

страниц,

на

каждой странице 40 строк,

в каждой

строке

50 символов. Каков объем информации в книге в килобайтах?

Решение: мощность компьютерного алфавита равна 256. Один

символ несет 1 байт (8 бит) информации. Таким образом, страница

содержит 40 50 2000байт информации. Объем информации во всей

книге равен:

2000 250 500000байт или

500000

488,28125Кбайт.

1024

С

символ несет

10

13

13

1/2

Кбайт

1/2 2

8

бит

1 2

2

22 4бит.

1024

1024

2 1024

2 2

Тогда мощность алфавита, с помощью которого записано

записанное

сообщен е, равна 24

16 символов.

Практические задания

Сообщение

1. ообщен е,

из 64-символьным алфавитом,

содерж т 75 с мволов. Какой ъём информации оно несёт?

2.Для зап

си

текста, каждая страница которого состоит из

20 строк по 60

с мволов,

использовался 128-символьный алфавит.

А

Какой объем информации содержат 3 страницы текста?

3.

, записанное с помощью 32-символьного алфавита,

занимает 4 страницы по 24 строки каждая. Все сообщение содержит

42 байта информации. Сколько символов в строке?

4.Два сообщения содержат одинаковое количество символов.

Д

Во втором сообщении количество информации в 2 раза больше, чем в

первом. Сколько символов содержит первый алфавит, с помощью

которого записано сообщение, если известно, что размер второго

алфавита равен 32?

5.Пользователь компьютера,

хорошо

владеющий навыками

И

i = log2N.

(8)

Для задач с применением данной формулы используется табл. 2.

Таблица 2

Зависимость количества информации от числа равновероятных событий

N

i

N

i

N

i

N

i

и

33

5,04439

49

5,61471

1

0.00000

17

4,08746

2

1.00000

18

4,16993

34

5,08746

50

5,64386

С

3 1.58496

19

4,24793

35

5,12928

51

5,67243

4

2.00000

20

4,32193

36

5,16993

52

5,70044

5

2,32193

21

4,39232

37

5,20945

53

5,72792

6

2,58496

бА

54

5,75489

22

4,45943

38

5,24793

7

2,80735

23

4,52356

39

5,28540

55

5,78136

8

3,00000

24

4,58496

40

5,32193

56

5,80735

9

3,16993

25

4,64386

41

5,35755

57

5,83289

10

3,32193

26

4,70044

42

5,39232

58

5,85798

11

3,45943

27

4,75489

43

5,42626

59

5,88264

12

3,58496

28

4,80735

44

5,45943

60

5.90689

13

3,70044

29

4,85798

45

5,49185

61

5,93074

14

3,80735

30

4,90689

46

5,52356

62

5,95420

15

3,90689

31

4,95420

47

5,55459

63

5,97728

16

4,00000

32

5,00000

Д

6,00000

48

5,58496

64

Пример 1. В корзине 16 мячей разного цвета. Сколько

информации несет сообщение о том, что из корзины достали мяч

синего цвета?

И

количество нформац

библиотекарь передал Андрею?

С

2.В коробке лежат 7 цветных карандашей. Какое количество

содерж т соо щение, что из коробки достали красный

карандаш?

3.Сколько

т

информации несет угадывание числа из

что нужный файл находится на одной из четырех дискет?

5.После прочтения

статьи

неопределенность знаний

уменьшаетсябв 8 раз. Какое количество информации содержит текст?

2.3.3. Вероятностный подход к измерению информации

Вероятность p

выражает

степень возможности

наступления

А

события и вычисляется по формуле

pA

m

,

(9)

n

где m – количество

исходов,

Д

А;

благоприятствующих

событию

n – общее количество исходов.

Рассмотрим ряд примеров.

Пример 1. На ровную поверхность мы бросаем монету. При

этом она окажется в одном из двух положенийИ: «орел» или «решка».

Каждое из этих событий произойдет с равной вероятностью.

Решение: обозначим рр –

вероятность выпадения «решки»,

ро – вероятность выпадения «орла».

p

p

1

0,5.

p

o

2

С

2

i и число равновероятных событий N

Количество информации

связаны между собой формулой Хартли

i log2 N .

(10)

Пр мер 3. В вазе лежат 16 конфет разного вида. Сколько

несет соо щение о том, что из вазы взяли конфету

б

«Ромашка»?

Решен е: то, что из вазы возьмут любую из 16 конфет,

равновероятноинформац, следовательно, количество информации об одной

такой конфете наход тся по формуле i log2

16 4 бита.

А

Зависимость вероятности со ытия и общего числа этих событий

определяется по формуле

Д

N

1

.

(11)

p

Отсюда формула Хартли (10) примет вид [1]

1

И

i log2

.

p

pж

6

1

;

i log2

5 2,32193;

30

5

pк

10

1

;

i log2

3 1,58496;

30

3

pc

8

;

i log2

30

log2

3,75 1,90689;

8

30

и

p

з

6

1

;

i log

2

5 2,32193.

С30 5

Вероятностный метод используется и для алфавитного подхода.

бАp ; p ; p ; p .

В этом случае

спользуется формула Шеннона [1]

N

I pi log2 pi .

(12)

i 1

1

Д

1

4

2

8

3

8

4

4

Решение: количество информации, полученное при реализации

одного из четырех возможных событий, равно

1

1

3

3

1

1

1

1

I

log

2

log2

log

2

log2

4

4

8

8

4

8

8

4

1

3

3

1

1,58

0,7825.

2

8

8

2

И