1.2. Количество информации

Как измерить количество информации? Человек воспринимает информацию с помощью органов чувств. Вкус, цвет, звук, тепло, изображение – все это непрерывная, т.е. аналоговая информация. В то же время, компьютеры работают только с числом, т.е. с цифровой информацией. Однако аналоговую информацию можно преобразовать в цифровую, если, например, разным цветам поставить в соответствие номера, а разным звукам – ноты. В цифровую форму можно также преобразовать и изображения. Преобразование информации из аналоговой формы в цифровую называется аналогово-цифровым преобразованием.

Конечный набор символов, которые используются для аналого-цифрового преобразования, называется алфавитом. Например, это может быть русский, латинский алфавит, ноты, числа и т.д.

Кодирование – представление символов одного алфавита символами другого. Простейшим алфавитом, достаточным для кодирования любого другого является двоичный алфавит (двоичный код, двоичная система счисления), состоящий всего из двух символов: 0 и 1. Информация в вычислительной машине представляется в двоичном коде. Любую информацию, представленную в цифровом виде компьютер легко превращает в последовательности нулей и единиц, а дальше уже работает с ними. Любое число можно преобразовать в двоичную форму.

Таким образом, компьютер работает с двоичным кодом. По-английски двоичный знак звучит как binary digit. Сокращенно получается бит.

Бит – это наименьшая единица информации , которая выражает значение Да или Нет и обозначается двоичным числом 0 или 1.

После того как информация преобразована из аналоговой в цифровую, ее уже можно измерить. Для этого существует специальная теория информации, – это раздел математики, исследующий процессы хранения, преобразования и передачи информации. В ее основе лежит предложенный в 1948 году К. Шенноном способ измерения количества информации, который приводит к выражению количества информации числом. Рассмотрим его на простейших примерах.

Пример. Человек бросает монету и наблюдает, какой стороной она упадет. Обе стороны монеты равноправны, поэтому одинаково вероятно, что выпадет одна или другая сторона. Такой ситуации приписывается начальная неопределенность, характеризуемая двумя возможностями. После того, как монета упадет, достигается полная ясность и неопределенность исчезает (становится равной нулю).

Бит — минимальная единица количества информации, ибо получить информацию меньшую, чем 1 бит, невозможно. При получении информации в 1 бит неопределенность уменьшается в 2 раза. Таким образом, каждое бросание монеты дает нам информацию в 1 бит.

В качестве других моделей получения такого же количества информации могут выступать электрическая лампочка, двухпозиционный выключатель, магнитный сердечник, диод и т. п. Включенное состояние этих объектов обычно обозначают цифрой 1, а выключенное — цифрой 0.

Рассмотрим систему из двух электрических лампочек, которые независимо друг от друга могут быть включены или выключены. Для такой системы возможны следующие состояния:

Лампа А 0 0 1 1

Лампа  В 0 1 0 1

Чтобы получить полную информацию о состоянии системы, необходимо задать два вопроса типа «да-нет» — по лампочке А и лампочке В соответственно. В этом случае количество информации, содержащейся в данной системе, определяется уже в 2 бита, а число возможных состояний системы — 4. Если взять три лампочки, то необходимо задать уже три вопроса и получить 3 бита информации. Количество состояний такой системы равно 8 и т. д.

Одним битом можно закодировать два значения Да и Нет (1 и 0). Двумя битами можно закодировать уже 4 значения: 00, 01, 10,11. Тремя битами – 8 значений. А если битов I, то количество значений, которое можно закодировать, равно N=2^I. Это выражение иногда называют формулой Хартли и записывают в одном из следующих видов:

i=log₂N, или N =2ⁱ,

где i — количество информации в битах; N —. число возможных состояний.

Бит – очень маленькая величина, работать с которой малопроизводительно. Обработкой информации в компьютере занимается специальная микросхема, которая называется процессором. Эта микросхема может обрабатывать сразу несколько битов информации. Процессоры в калькуляторах 70-х гг. могли обрабатывать сразу 4 бита, поэтому их называли четырехразрядными. Один из первых в мире персональных компьютеров (Altair, 1974) был восьмиразрядным, он мог обрабатывать сразу 8 бит. Поэтому в ВТ появилась новая единица измерения информации – байт.

Байт – это группа из восьми битов.

Если бит — минимальная единица информации, то байт ее основная единица. Существуют производные единицы информации: килобайт (кбайт, кб), мегабайт (Мбайт, Мб) и гигабайт (Гбайт, Гб).

1 кб =1024 байта - 2¹⁰ (1024) байтов.

1 Мб = 1024 кбайта ⁼ 2²⁰(1024 x 1024 = 1048576) байтов.

1 Гб = 1024 Мбайта - 2³⁰ (1024х1024 х 1024)байтов.

Эти единицы чаще всего используют для указания объема памяти ЭВМ.

Как следует из формулы Хартли, 1 байтом можно закодировать 2⁸=256 значений. Таким образом, осталось договориться, каким именно кодом (от 0 до 255) закодировать разные буквы, цифры, знаки препинания. Поскольку языков в мире много, договорились так: первую половину (128 кодов от 0 до 127) назвали таблицей ASCII и стандартизовали для всех стран и народов. А вторую половину отдали на откуп самим странам. В России содержание этой второй половины может подчиняться четырем различным стандартам.