13. Понятие разнообразие, энтропия, ограничения. Абстрактное определение количества информации в сигнале и сообщении. Роль информации

В управлении, рассматриваемом с позиции кибернетики, понятие информации не эквивалентно смысловой интерпретации этого слова с точки зрения естественной речи. Здесь информация рассматривается в логической форме.

Вводится понятие «количество информации», содержащееся в сигналах и сообщениях. Сформулированы также такие понятия, как «разнообразие, энтропия, ограничение».

Информация рассматривается как способ погашения неопределенности, которая содержится в той или иной ситуации. Неопределенность ситуации связана с ее разнообразием. Разнообразие - это количество различных возможностей или элементов в некотором их множестве. Противоположное понятие - энтропия - мера неопределенности, которая в зависимости от конкретных условий может интерпретироваться как: мера мера неупорядоченности, мера превращения возможностей в действительность, мера разнообразия сложности или новизны. Чем больше разнообразие, тем шире выбор возможностей, тем меньше вероятность выбора каждой из них.

Следовательно энтропия, неопределенность и дезорганизация увеличиваются с ростом разнообразия, но с увеличением организации разнообразие уменьшается.

Уменьшить энтропию можно за счет наложения ограничений. А для наложения ограничений используется информация, которая противодействует тенденциям увеличения энтропии и дезорганизации.

Информация

Дезорганизация  накладывает ограничения  организация

Энтропия ограничивает число степеней свободы  регулирование

Разнообразие уменьшает разнообразие  управление

Для определения количества И ее рассматривают в абстрактной логической форме. Вводится функция вероятности передаваемых сигналов сообщения. Каждый информационный сигнал может содержаться в сообщении с определенной вероятностью, определяемой его практической возможностью проникновения.

Сигнал - сообщение, истинное для к-либо события (1 - соб. произошло, 0 - не произошло)

Сообщение - символ. форма представления И на естественных или искусственных языках.

Ожидаемое количество информации выражается следующим образом:

H_i = -log₂p_i, бит - формула Шеннона

00000100

H = -log₂2^-3=3 бит

Ожидаемое кол-во И в сообщении выражается следующим образом:

H = -p_ilog₂p_i, бит

Данная мера есть сумма, каждое слагаемое которой является произведением количества И, содержащейся в сигнале и вероятности присутствия этого сигнала в сообщении.

Н представляет ожидаемую или среднюю меру присутствия количества И, содержащейся в сигнале.

Величина Н с од. ст. характеризует степень неопределенности, степень разнообразия или кол-во энтропии, содержащейся в исходной ситуации, с др ст - кол-во И, требующейся для устранения неопределенности, т.е. для выбора варианта. ТО только разнообразие управления может компенсировать исходное разнообразие.

Закон необходимого разнообразия и условия эффективного управления системой.

Управляющий орган для эффективного управления системой должен быть способен к восприятию по крайней мере того же количества возможных сигналов, которое может появиться на выходе управляемой им системы. Это значит, что он должен обладать разнообразием не меньше, чем управляемая им система.

Как определить разнообразие управляемой и управляющей системы?

Разнообразие управляемой системы или объекта может быть оценено по количеству возможных состояний, в которых она может находиться. О сложности управляемой системы можно судить по числу комбинации переменных (характеристик свойств, которые определяют управляемый процесс, если пр-сс зависит от единственной переменной, то его сложность определяется количеством значений, принимаемых этой переменной). Управляющий орган должен подобрать надлежащую реакцию на каждый сигнал, получаемый от объекта управления или управляемой системы и своевременно отреагировать. В связи с этим важнейшей задачей исследования является выбор наилучшего набора характеристик системы, позволяющих получить формальное (математическое) описание управляемого пр-сса, т.е построить его модель. Управляющий орган должен обладать 3мя свойствами:

1. Иметь по возможности столько же возможных действий, как и управляемая система. Эти действия называются степенями свободы

2. Иметь точный, наилучший в каком-то смысле, по отношению к цели управления набор возможных действий их всех возможных ответов на действия управляемой системы

3. Иметь возможность производить ответные действия со скоростью (дискретностью) не ниже скорости (дискретности) изменений управляемой системы. Это называется быстродействие.