2. Расчет энтропии системы

В качестве меры априорной неопределенности системы (или прерывной случайной величины X) в теории информации применяется специальная характеристика, называемая энтропией. Понятие об энтропии является в теории информации основным.

Энтропия - энтропией системы называется сумма произведений вероятностей различных состояний системы на логарифмы этих вероятностей, взятая с обратным знаком:

Система должна отвечать следующим условиям:

• обеспечение принципа эргодичность функционирования ИС (при монотонном без разрывов второго рода изменении энтропии);

• обеспечение принципа соответствия;

• обеспечение принципа аддитивности.

При переходе из одной иерархии в другую первые два принципа в общем случае не подвержены ломке, однако аддитивность прежней иерархии нарушается, но в новой иерархии возникает новое равновесное состояние системы, позволяющее считать аддитивность восстановленной. Особые сложности могут возникнуть в настоящей проектируемой динамической системе при ее исследовании и проектировании, которым свойственны нелинейные процессы, сопровождающие изменения и развитие ИС. Нелинейность прежде всего означает не сохранение принципа аддитивности в процессе развития, что обуславливает необходимость четкого очертания временных и иных количественных рамок в оценке энтропии ИС и делает уместным расчет обобщенной энтропии ИС.

Обобщенная (объединенная) энтропия - при исследовании информационных систем существенное значение имеют вероятностные характеристики структур и функций информационных систем в их самом общем виде по отношению к окружающему информационному пространству, условная вероятность достижения цели, неопределенность, то есть обобщенная энтропия. Информация является функцией процесса, связи между двумя относительно большими системами, при которой хотя бы у одной системы увеличивается объединенная негэнтропия и уменьшается объединенная энтропия. В зависимости от числа сопоставляемых уровней и систем обобщенная энтропия может быть одномерной, двумерной и многомерной. Основная формула записывается в виде H(А) = - ln Y(Cа(X))dY(X), здесь индекс а = А. Приведенная здесь формула есть формула обобщенной энтропии разбиения существенных ИС.

При анализе был составлен ряд распределения случайной величины. Система может принимать конечное число состояний с вероятностями. События, рассматриваемые в данном случае, не являются равновероятными, при учете этого энтропия системы рассчитывается по формуле Шеннона: , где p_i - вероятность события.

В проекте рассматриваются 5 состояний системы:

• запуск системы;

• ожидание (ожидание запросов);

• работа с запросами (поступление и обработка запросов);

• работа с базой данных (поступление данных и их последующая обработка в базе данных);

• отказ (критическая остановка системы);

• обработка транзакции;

• работа системы без обращения к БД.

Таблица 5.2

Состояние системы	pi
Запуск	0,1	-1
Ожидание	0,05	-1,3011
Работа с запросами	0,8	-0,0970
Работа с БД	0,7	-0,1549
Отказ	0,1	-1
Обработка транзакции	0,8	-0,0970
Работа системы без обращения к БД	0,2	-0,6990

В результате анализа работы системы были получены данные изменения энтропии по фьючерсам (таблица 5.3) и построен график зависимости.

Таблица 5.3