1.4. Измерение информации: количество, единицы измерения, энтропия

Сообщение как совокупность знаков с точки зрения семиотики может изучаться на трех уровнях:

- синтаксическом (структура данной знаковой системы);

- семантическом (смысловое содержание сообщения);

- прагматическом (потребительское содержание сообщения).

На синтаксическом уровне для измерения информации используют:

- объем информации (V_g) – количество символов (разрядов) в сообщении;

- количество информации (I) – мера уменьшения неопределенности состояния данной системы после получения сообщения.

Объем информации измеряется в битах (двоичная система) и дитах (десятичная система). Так четырехразрядное десятичное число имеет объем данных 4 дит, а восьмиразрядный двоичный код – 8 бит.

Более крупные единицы информации

- 1 байт = 8 бит,

- 1 слово = 2 байта,

- 1 Килобайт = 1024 байт = 2¹⁰ байт,

- 1 Мегабайт = 1024 Кбайт = 2²⁰ байт,

- 1 Гигабайт = 1024 Мбайт = 2³⁰ байт,

- 1 Терабайт = 1024 Гбайт = 2⁴⁰ байт,

- 1 Петабайт =1024 Тбайт = 2⁵⁰ байт.

Для измерения количества информации в качестве меры неопределенности вводится энтропия (H):

I = H_apr - H_aps,

где H_apr – априорная энтропия, а H_aps – апостериорная энтропия.

Если система A описывается полной совокупностью (N) состояний a_i и равными вероятностями их появлений p_i, составляющими в сумме единицу:

.

Энтропия такого объекта равна логарифму числа состояний (Р.Хартли). В зависимости от основания логарифма применяют следующие единицы измерения:

- биты - ;

- наты - ;

- диты - .

Если вероятности наступления событий разные, то энтропия такой системы вычисляется по формуле К.Шеннона:

.

На семантическом уровне для измерения информации используют тезаурусную⁵ меру – способность пользователя принимать поступившее сообщение.

На прагматическом уровне используют меру ценности информации – количество информации, необходимое для достижения поставленной цели. Так, если до получения информации вероятность достижения цели равнялась p₀, а после ее получения стала равна p₁, то ценность информации определяется по формуле:

.

Единицы измерения – биты, наты, диты.

1.5. Свойства информации

Информация характеризуется тремя категориями свойств: атрибутивными, прагматическими и динамическими.

Атрибутивные свойства - необходимые свойства, те, без которых информация не может существовать:

• это неотрывность от физического (материального) носителя,

• языковая природа,

• дискретность⁶,

• непрерывность⁷.

Прагматические свойства характеризуют степень полезности информации для практики:

• наличие смысла,

• новизна,

• ценность (полезность),

• кумулятивность⁸.

Динамические свойства характеризуют изменение информации во времени:

• свойство роста,

• повторяемости⁹,

• многократная используемость¹⁰,

• старение,

• способность рассеиваться по различным источникам.

Динамические свойства информации в значительной мере влияют на характеристики информационных процессов.

1.6. Виды информации

Все многообразие окружающей нас информации можно классифицировать по различным признакам. В автоматизированных информационных системах выделяют:

• структурную (преобразующую) информацию объектов системы, заключенную в структурах системы, ее элементов управления, алгоритмов и программ переработки информации;

• содержательную (специальную, главным образом осведомляющую, измерительную и управляющую, а также научно-техническую, технологическую и др.) информацию, извлекаемую из информационных массивов (сообщений, команд и т.п.) относительно индивидуальной модели предметной области получателя (человека, подсистемы).

Один из возможных вариантов классификации информации представлен в табл.1.1.

Таблица 1.1

Классификация информации в автоматизированных системах

Классификационный признак	Виды
По сфере возникновения	Элементарная, биологическая, социальная
По способу передачи и восприятия	Визуальная, аудиальная, тактильная
По сфере общественного назначения	Массовая, специальная11, личная
По качеству проявления	Полезная, бесполезная (пустая), дезинформация
По содержанию источника информации	О состоянии управляемого объекта, о внешней среде, о целях, о других системах
По полноте отображения	Полная, неполная
По характеру генерирования	Объективная, субъективная
В зависимости от вида носителя	Документальная, акустическая (речевая), телекоммуникационная
По отношению к элементу системы	Статическая, динамическая
По степени стабильности	Условно-постоянная, переменная
По целям использования	Нормативная, справочная, плановая, отчетная аналитическая, оперативно-технологическая
По форме представления	Аналоговая, дискретная