2. Информационная метрика

(измерение количества информации)

Важнейшим свойством информации является её измеримость, то есть возможность точного количественного подсчёта или учёта информации. В настоящее время существует несколько направлений или подходов в теории информации, в которых по-разному определяется число информации различных типов. Рассмотрим основные из них.

2. 1. Три подхода при измерении информации

Соответственно направлениям в теории информации можно различать структурный, статический и семантический подходы при измерении информации.

При структурном подходе измерение информации осуществляется простым подсчетом числа сообщений (информационных элементов), составляющих информационный массив, или количеством преобразований сообщений (связей между информационными элементами), или числом комбинаций, которые можно реализовать из этих сообщений (элементов). Этот подход применяется для оценки ёмкости информационных систем без учёта условий их применения. К таким системам относят средства формирования, передачи, обработки, преобразования и хранения сообщений.

При статическом подходе количество информации ставится в зависимость от вероятности появления сообщений. Такой подход позволяет оценить информационные возможности систем с учетом конкретных статистических свойств сообщений и помех. Подчеркнём, что статистическая теория передачи сообщений, называемая обычно (статистической) теорией информации, является в настоящее время наиболее развитым направлением в общей теории информации. Однако этот подход описывает далеко не все информационные явления даже в технических системах. Сфера его применения ограничена статистическим (случайным, неупорядоченным) характером анализируемых информационных явлений, в то время как большая часть явлений, объектов природы и техники не только не случайны, но либо закономерно реализуются, либо существуют как факты в виде упорядоченных и организованных структур. Статистический подход получил широкое распространение для информационных оценок во многих областях человеческой деятельности, но это только лишний раз указывает на необходимость и возможность более общей теории для анализа информационных явлений.

Семантический подход предназначен для учёта целесообразности, ценности, полезности, существенности и содержательности информации, для оценки эффективности логического опыта. Например, более ценной можно считать ту информацию, которая содержится в более короткой программе из возможных программ, ведущих к одной и той же цели из заданного исходного положения. Так как это направление в настоящее время недостаточно разработано, то далее не будут рассматриваться связанные с ним вопросы.

Вопросы для закрепления и углубления материала

1. Какие направления в теории информации следует различать и какие в связи с этим возможны подходы при измерении информации?

2. Определите область применения структурного подхода при измерении информации.

3. Каковы преимущества и недостатки подхода при измерении информации в котором учитываются статистические свойства сообщений и помех.

4. Для чего используется семантический подход?