- •Вопрос 1. Количество информации. Обоснование меры неопределенности. Меры неопределенности р. Хартли и к.Шеннона.
- •1.1. Количество информации.
- •1.2. Обоснование меры неопределенности.
- •1.3. Информационная мера неопределённости р. Хартли (энтропия комбинаторная).
- •1.4. Энтропия к. Шеннона.
- •Вопрос 2. Основы семиотической теории информации
- •Вопрос 3. Определение ценности информации. Апостериорный подход
- •Вопрос 4. Мера ценности информации (а.Харкевича)
Вопрос 3. Определение ценности информации. Апостериорный подход
Поскольку информация предназначена для удовлетворения определенных потребностей пользователей, важным вопросом является исследование ее на прагматическом уровне.
Может ли существовать единое определение ценности (и мера ценности) информации?
По-видимому, нет. Существует множество совершенно не сходных между собой ситуаций (и соответственно разных мер информации), в которых использование информации приносит (или может принести) выгоду. Этим объясняется, что уже сейчас существует немало определений понятия ценности информации, а появление новых продолжается.
Однако, даже при самом поверхностном взгляде ясно, что между понятиями ценности и количества информации (рассматривая оба понятия на интуитивном уровне) много общего и что трудно провести между ними четкую границу.
Действительно, если ценность информации (для определенности – ценность каждого из нескольких возможных сообщений) так или иначе установлена, то возникает вопрос, нельзя ли просто отождествить количество информации с ее ценностью, измерять, количество информации, скажем, не в битах, а в рублях.
Количество информации, как известно, выражается уменьшением неопределенности (энтропии), что можно рассматривать как выигрыш особого (важного именно для задач связи) вида. Таким образом, понятия ценности информации и ее количества взаимосвязаны и определенным образом переходят друг в друга.
Рассмотрим некоторую целесообразно действующую систему.
Вместо того чтобы количественно оценивать информационные сообщения, поступающие в систему, можно оценивать действия (их выгоду или невыгоду), осуществляемые системой на основании (как предполагается) поступившей информации, не заботясь о том, что представляет собой и как измеряется поступившая информация.
Естественно считать, что действия системы (и связанный с ними выигрыш) косвенно характеризуют и информацию, на основании которой эти действия совершаются.
Иными словами, рассматривается только «реализованная» системой информация. Реализация же представляет собой акт выбора системой одного из допустимых действий, вариантов поведения и т. д. Такой подход к оценке количества (или ценности) информации называется апостериорным.
Апостериорный подход не нов: вопрос о том, знал или не знал некто определенные обстоятельства, часто с большой достоверностью может быть решен на основании действий субъекта, их успеха или неуспеха.
Отметим интересную особенность апостериорного подхода. Он позволяет – наряду с полезной информацией – рассматривать (и количественно оценивать) и «дезинформацию», и «псевдоинформацию» поступающие в систему. Поступление «дезинформации» проявляется в таких действиях, которые ухудшают положение системы, ведут к росту проигрыша и т. д., «псевдоинформация» не влияет на положение системы.
Следует обратить внимание, что статистическая теория информации (К. Шеннона) имеет дело только с неотрицательными величинами — энтропией и количеством информации, а потому и не может описать важный случай поступления дезинформации3.
Апостериорный подход является, конечно, лишь общим принципом – слишком общим, чтобы применяться непосредственно..
Можно выделить три направления изучения количественных и ценностных свойств информации, три группы теорий.
1. «Чистые теории информации». Выигрыш или проигрыш измеряется степенью уменьшения или увеличения неопределенности — специальной величины, характеризующей, грубо говоря, степень незнания (или неуверенности в знании) состояния среды или системы4. Понятие неопределенности, в свою очередь, допускает различные уточнения.
Это как правило, теории, оперирующие на синтаксическом уровне информации, в системах передачи информации. Классическая теория информации Шеннона является примером «чистой» теорией информации.
2. «Теории абсолютной ценности информации». Рассматривается только «материальный» выигрыш или проигрыш (т. е. выраженный, например, в рублях, тоннах сэкономленного горючего и т. п.). При этом, количественные и структурные аспекты информации игнорируются.
Применимы в тех случаях, когда можно пренебречь ограничениями на пропускную способность каналов, емкость запоминающих устройств, затраты, связанные с передачей и хранением информации, время и сложность ее обработки и т. п. Например, в тех случаях, когда ожидается поступление редких, но важных сообщений, выигрыш от применения которых неизмеримо превосходит эти затраты, обычно игнорируются (хотя бы в первом приближении) вопросы экономного использования средств передачи, хранения (а часто – и обработки) информации. Так, «полная информированность центра» в теории исследования операций может означать на практике получение центром как одного бита информации, так и огромных таблиц, в которых существенны все символы! В этой теории важен факт информированности или не информированности подсистем – факт, непосредственно проявляющийся в законах функционирования подсистем, а не количество информации. Теории второго направления, таким образом, игнорируют ограничения, связанные с реальным процессом передачи и обработки информации.
3. «Теории ценности количества информации». Апостериорный принцип применяется одновременно и к материальному выигрышу и к выигрышу в смысле уменьшения неопределенности.
Здесь имеется случай векторной оптимизации (два оптимума). Фиксацией одного параметра и экстремализацией другого он сводится к одной из следующих задач:
−установление максимальной материальной пользы, которую способно принести данное фиксированное количество информации (т. е. фиксированное уменьшение неопределенности);
−определение минимального количества информации, необходимого (при условии наилучшего использования этого количества) для обеспечения уровня материального выигрыша не ниже заданного.
Мера количества информации (или мера неопределенности) в этом случае вовсе не обязана быть сходной с Шенноновской; важно лишь наличие в теории этого направления не менее двух характеристик, двух способов измерения информации.
Теории третьего направления имеют достаточно ясно очерченную область применения: изучение таких моделей, в которых информационные ограничения существенны. Роль этих ограничений определяется на практике в основном следующими двумя (не исключающими друг друга) причинами:
1) затраты на передачу, хранение и обработку информации становятся сравнимыми с возможным выигрышем от ее использования;
2) существуют неустранимые (для данной системы) ограничения (любой природы — от физических законов до прозаического отсутствия лишнего блока памяти) на емкость устройств, скорость передачи и сложность обработки — ограничения, заставляющие искать наиболее выгодные способы использования данного фиксированного (или ограниченного сверху) количества информации.
Именно в этих случаях четкое различие между ценностью информации и количеством информации становится необходимым.
Если первое понятие связано главным образом с внешним эффектом (выигрышем или штрафом), то второе — с внутренними затратами на передачу, хранение, воспроизведение, обработку информации.
Как отмечалось выше, количество информации можно рассматривать как выигрыш особого вида — выигрыш в уменьшении неопределенности. Это означает, что произвол в выборе меры количества информации переносится на выбор меры неопределенности. Последнее понятие обычно формализуют в виде безразмерной величины, допускающей интерпретацию как степени богатства, разнообразия, неожиданности состояний среды или системы, являющейся источником информации.
В отношении материального выигрыша, входящего, наряду с количеством информации, в число основных понятий третьей группы теорий, заметим следующее: одной функции выигрыша далеко не всегда достаточно для удовлетворительного отражения цели функционирования системы. Как правило, требуется оптимизация по многим критериям, а вместо простой экстремальности приходится часто рассматривать те или иные виды компромисса. При анализе систем высокой сложности вообще трудно говорить о критериях, о цели.
