«Главная формула» информатики

Сформулируем одно очень важное условие, относящееся к рассмотренным примерам. Во всех ситуациях предполагается, что все возможные варианты событий равновероятны. Равновероятно, что учитель может быть мужчиной или женщиной; равновероятен любой исход футбольного матча, равновероятен выбор одного из четырех кандидатов в меры города. То же относится и к примерам с оценками и вагонами.

Тогда полученные нами результаты описываются следующими формулировками:

- сообщение об одном из двух равновероятных результатов некоторого события несет 1 бит информации;

- сообщение об одном из четырех равновероятных результатов некоторого события несет 2 бита информации;

- сообщение об одном из восьми равновероятных результатов некоторого события несет 3 бит информации.

Обозначим буквой N количество возможных результатов события, или, как мы это еще называли, — неопределенность знаний. Буквой i будем обозначать количество информации в сообщении об одном из N результатов.

В примере с учителем N=2 , i=1 бит;

в примере с оценками N=4 , i=2 бита;

в примере с вагонами N=8 , i=3 бита.

Нетрудно заметить, что связь между этими величинами выражается следующей формулой:

2 ⁱ = N.

Действительно: 2¹ = 2 ; 2² = 4 ; 2³ = 8 .

С полученной формулой вы уже знакомы из курса информатики для 8 класса и еще не однажды мы с ней встретимся. Значение этой формулы столь велико, что мы назвали ее главной формулой информатики. Если величина N известна, а i - неизвестно, то данная формула становится уравнением для определения i. В математике оно называется показательным уравнением.

Пусть в поезде не 8, а 16 вагонов. Чтобы ответить на вопрос, сколько информации содержится в сообщении о номере искомого вагона, нужно решить уравнение:

2ⁱ = 16.

Поскольку 16 = 2⁴ , то i = 4 бита.

Количество информации (i), содержащееся в сообщении об одном из N равновероятных результатов некоторого событий, определяется из решения показательного уравнения: 2 ⁱ = N

Пример 1. В кинозале 16 рядов, в каждом ряду 32 места. Сколько информации несет сообщение о том, что вам купили билет на 12-й ряд, 10-е место?

Решение задачи: в кинозале всего 16×32=512 мест. Сообщение о купленном билете однозначно определяет выбор одного из этих мест. Из уравнения 2 ⁱ = 512=2⁹ получаем: i=9 бит.

Но эту же задачу можно решать иначе. Сообщение о номере ряда несет 4 бита информации, т.к. 2⁴=16. Сообщение о номере места несет 5 бит информации, т.к. 2⁵=32. В целом сообщение про ряд и место несет: 4+5=9 бит информации.

Данный пример иллюстрирует выполнение закона аддитивности информации (правило сложения): количество информации в сообщении одновременно о нескольких результатах независимых друг от друга событий равно сумме количеств информации о каждом событии отдельно.