42.Эпсилон-энтропия случайной величины

Ранее было показано, что неопределенность реализации непрерывным источником информации состояния в конкретный момент времени (отсчёта) равна бесконечности. Тем более равна бесконечности неопределенность реализации непрерывным источником конкретного сигнала длительности .

Однако такой результата получен в предположении возможности фиксировать любые сколь угодно малые различия между реализациями. На практике такая возможность отсутствует. Это объяснятся тем, что воспринимающие информацию датчики, включая человека, обладают ограниченной чувствительностью и конечной разрешающей способностью, а также тем, что процесс восприятия сопровождается помехами.

Если учесть, что нас интересует приближенное восприятие реализации, то количество информации, приходящееся на отсчёт или на единицу времени, можно вычислить.

Ограничимся рассмотрением простейшего случая, когда отдельные состояния источника информации представляют собой независимые реализации случайной величины . (Эпсилон-энтропия случайного процесса рассмотрена ниже).

Ансамбль реализаций случайной величины описывается плотностью распределения вероятностей . О значениях случайной величины можно судить по значениям другой случайной величины , если мера их различия не превышает заданной верности воспроизведения. В этом случае говорят, что воспроизводит .

Для количественной оценки степени сходства сигналов целесообразно ввести какую-либо функцию , которая имеет природу "расстояния". Тогда удобным критерием верности является среднее значение функции , взятое по всему множеству значений и :

,

где плотность совместного распределения вероятностей величин и .

Наиболее широко используется среднеквадратический критерий, при котором представляет собой квадрат обычного евклидова расстояния между точками в соответствующем пространстве.

Требование к верности в данном случае задается с использованием критерия :

,

где условная плотность распределения – функция правдоподобия того, что конкретный сигнал будет воспроизведён как сигнал ; заданное значение верности.

Так как плотность определена, то для выполнения условия (42.1) варьировать можно только условной плотностью распределения .

Если случайная величина воспроизводит случайную величину с некоторой верностью , то количество информации, которое содержится в воспроизводящей величине относительно , конечно и в соответствии с (41.10), т.е.

,

может быть записано в форме

,

где - плотность воспроизводящей величины .

Желательно обеспечить заданную верность воспроизведения при минимальном количестве получаемой информации. Поэтому среди множества функций , которые удовлетворяют (42.2), целесообразно выбрать такую, которая обеспечивает наименьшее .

Минимальное количество информации в одной случайной величине относительно другой , при котором удовлетворяется заданное требование к верности воспроизведения величины , называется энтропией величины и обозначается :

при

.

Используя безусловную и условную дифференциальные энтропии величины , выражение (42.5) можно представить в виде

,

где - условная плотность вероятности того, что в тех случаях, когда был принят сигнал , передавался сигнал .