3. Алфавитный подход к измерению информации

Алфавитный подход к измерению информации позволяет определить количество информации, заключенной в тексте. Алфавитный подход является объективным, т.е. он не зависит от субъекта (человека), воспринимающего текст.

Множество символов, используемых при записи текста, называется алфавитом. Полное количество символов в алфавите называется мощностью (размером) алфавита. Если допустить, что все символы алфавита встречаются в тексте с одинаковой частотой (равновероятно), то количество информации, которое несет каждый символ, вычисляется по формуле:

I=log₂(N)

где N – мощность алфавита. Следовательно, в 2-х символьном алфавите каждый символ «весит» 1 бит; в 4-х символьном алфавите каждый символ несет 2 бита информации; в 8-ми символьном – 3 бита и т.д.

Один символ из алфавита мощностью 256 (2⁸) несет в тексте 8 бит информации. Такое количество информации называется байт.

Если весь текст состоит из К символов, то при алфавитном подходе размер содержащейся в нем информации равен: I = К *i,

где i – информационный вес одного символа в используемом алфавите.

Если символы в тексте встречаются с разной частотой, как например, в русском алфавите (неравновероятно), тогда i – частота (вероятность появления букв (символов) в тексте.

Для измерения информации используются и более крупные единицы:

1 Кбайт (килобайт) = 2¹⁰ байт = 1024 байта

1 Мбайт (мегабайт) = 2²⁰ байт = 1024 Кбайта= 1048576 байт

1 Гбайт (гигабайт) = 2³⁰ байт = 1024 Мбайта= 1073741824 байта

Пример 8. Книга, набранная с помощью компьютера, содержит 150 страниц; на каждой странице – 40 строк, в каждой строке – 60 символов. Каков объем информации в книге?

Решение. Вся книга содержит 150*40*60=360000 символов. Мощность компьютерного алфавита равна 256. Один символ несет I=log₂(256) = 8 бит=1 байт информации. Тогда объем информации в книге:

I = К i = 360000*1= 360 000 байт.

Объем всей информации в книге (в разных единицах):

360000/1024 = 351,5625 Кбайт.

351,5625/1024 = 0,34332275 Мбайт.

Пример 9: Объем информации в книге 80 Кбайт, всего в книге 16384 символов. Какова мощность алфавита, которым написана книга?

Решение: Задача обратная задаче из примера 8. Объем информации в книге 80*1024= 81920 бит, тогда информационный вес одного символа в используемом алфавите 81920/16384=5 бит. А мощность алфавита 5=log₂(N) или 2⁵=N, то есть N=32 символа мощность алфавита.

Пример 10:

Определить количество информации в слове «дом», если частота появления букв д-0,025; о-0,09;м-0,026.

Решение: В слове «дом» каждая буква встречается один раз, тогда общее количество информации в слове «дом» будет равно:

I = К i=1*0,025+1*0,09+1*0,026=0,141 бита.

Составление таблиц истинности

Решение логических выражений принято записывать в виде таблиц истинности, в которых по действиям (отдельным логическим операциям) показано, какие значения принимает логическое выражение при всех возможных наборах его переменных.

Для составления таблицы необходимо:

1. Разделить исходное выражение на отдельные логические операции;

2. Установить количество и последовательность выполнения логических операций.

3. Построить таблицу, указывая названия столбцов и возможные наборы значений исходных логических переменных;

4. Выполняя соответствующие логические операции заполнить таблицу истинности по столбцам.

Пример 1. Составим таблицу истинности для выражения, , которая содержит две переменные x и y. Разделим выражение на отдельные операции и определим последовательность их выполнения. Первая операция – отрицание х – ; вторая – отрицание дизъюнкции , третья конъюнкция – , пятая – дизъюнкция и шестая – дизъюнкция В первых двух столбцах таблицы запишем четыре возможных пары значений этих переменных, в последующих столбцах — значения промежуточных операций и в последнем столбце окажется итоговое значение – результат выполнения логического выражения. В результате получим таблицу:

Переменные		Промежуточные логические операции					Выражение
0	0	1	0	0	1	1	1
0	1	1	1	1	0	1	1
1	0	0	0	1	0	0	1
1	1	0	0	1	0	0	1

При переводе числа из двоичной (восьмеричной, шестнадцатеричной) системы в десятичную надо это число представить в виде суммы степеней основания его системы счисления.

Примеpы:

При переводе целого десятичного числа в систему с основанием q его необходимо последовательно делить на q до тех пор, пока не останется остаток, меньший или равный q–1. Число в системе с основанием q записывается как последовательность остатков от деления, записанных в обратном порядке, начиная с последнего.

Пример: Перевести число 75 из десятичной системы в двоичную, восьмеричную и шестнадцатеричную:

Ответ: 75₁₀ = 1 001 011₂ = 113₈ = 4B₁₆ (в шестнадцатеричной системе символ В соответствует числу 11 в десятеричной системе).