
Теорема Шеннона. Ненадежность передачи по каналу.
Если ,
то сообщения по каналу могут быть
переданы со сколь угодно малой
ненадёжностью.
Иначе -
такой способ кодировки, обеспечивающий
ненадежность передачи меньше
такого способа кодирования, Который
обеспечивал бы ненадежность передачи
меньше, чем
,
т. е.
Рассмотрим канал с шумом. Ненадёжность
Канал (1% loss)
ДСК, у которого
0,919
)
Избыточность реализует построение
корректирующего кода, что снижает
ненадёжность
до нуля.