Лекции, разбитые по вопросам экзамена (2008) / 5

Теорема кодирования последовательности статистически зависимых событий, порождаемых дискретным стационарным источником.

Теорема 7. Основная теорема кодирования для случайного (стохастического источника). Пусть => Последовательность событий, порожденных стационарным дискретным источником, может быть так закодирована последовательностью символов заданного алфавита, что для среднего числа символов алфавита, приходящихся на одно сообщение, справедливо неравенство

Доказательство

ИИ

Для предыдущего случая