Лекции, разбитые по вопросам экзамена (2008) / 8

Мера информации как случайная величина

– не обычные случайные величины, т. к. зависят от вероятностной меры

Они являются числовыми функциями элементов выборочного пространства.

Собственная информация на множестве X () принимает значение и имеет своё собственное распределение вероятности, НЕ

Взаимная информация на декартовом произведении множеств XY принимает значение

для каждой упорядоченной пары и имеет своё распределение вероятности

Пример.

		1
		3
		3
		4
		4
		4
		4

1

½

0

1 2 3 4

1 2 3 4

1

½

0