23. Пропускная способность дискретных каналов с помехами.
Реальные каналы характеризуются тем, что на каналы всегда воздействуют помехи. Пропускная способность канала с помехами определяется как максимально возможная скорость передачи при заданных ограничениях, накладываемых на передаваемых сигналы. Пропускная способность дискретного канала с помехами вычисляется по формуле C=n[H(Y)-H(Y/X)]max .
Где средняя, условная энтропия со стороны приемника сигналов
А энтропия принимаемых сигналов определяется из условия максимального значения H(y)= log m.
*см. также билет 11.
24. Циклические линейные коды.
Несмотря на то, что исправление ошибок в линейных кодах уже значительно проще исправления в большинстве нелинейных, для большинства кодов этот процесс все ещё достаточно сложен. Циклические коды, кроме более простого декодирования, обладают и другими важными свойствами.
Циклическим
кодом является линейный код, обладающий
следующим свойством: если
является
кодовым словом, то его циклическая
перестановка также является кодовым
словом. Слова циклического кода удобно
представлять в виде многочленов.
Например, кодовое слово
представляется
в виде полинома
v(x) = v0 + v1x + ... + vn−1xn − 1. При этом циклический сдвиг кодового слова эквивалентен умножению многочлена на x по модулю xn−1. дальнейшем, если не указано иное, мы будем считать, что циклический код является двоичным, то есть v0,v1… могут принимать значения 0 или 1.
*см. также билет 14.
25. Теоремы для пропускной способности дискретного канала с помехами.
Теоремы Шеннона:
Для дискретных каналов с помехами Шеннон доказал теорему, имеющую фундаментальное значение в теории передачи информации. Эта теорема может быть сформулирована следующим образом.
Если производительность источника Rи ≤ C-ε, где ε- сколь угодно малая величина, то существует способ кодирования, позволяющий передавать все сообщения источника со сколь угодно малой вероятностью ошибки. При Rи>C такая передача невозможна.
1) Если имеется источник информации с энтропией Н(х) и канал связи с пропускной способностью С, то если С>H(X), то всегда можно закодировать достаточно длинное сообщение таким образом, что оно будет передано без задержек. Если же, напротив, С<H(X), то передача информации без задержек невозможна.
2) Пусть имеется источник информации X, энтропия которого в единицу времени равна H(X), и канал с пропускной способностью C. Если H(X)>C, то при любом кодировании передача сообщений без задержек и искажений невозможна. Если же H(X)<C, то любое достаточно длинное сообщение можно всегда закодировать так, что оно будет передано без задержек и искажений с вероятностью сколь угодно близкой к единице.
26. Критерии оптимального приёма информации
Смотри билет 58.
27. Математическая модель дискретного канала с помехами.
Простейшей
моделью двоичного канала с памятью
является Марковская, определяемая
матрицей переходных вероятностей
где Р1 – условная вероятность принять (i+1)–й символ ошибочно, если предыдущий принят правильно; 1- Р1 – условная вероятность принять (i+1)–й символ правильно, если предыдущий принят правильно; Р2 - условная вероятность принять (i+1)–й символ ошибочно, если предыдущий принят ошибочно; 1- Р2 – условная вероятность принять (i+1)–й символ правильно, если предыдущий принят ошибочно.
Формула модели дискретного канала с независимыми ошибками.Ошибки несут пакетный характер, поетому вводится коефициент. По этой модели можно определить зависимость вероятности появления искаженной комбинации от ее длины n и вероятность появления комбинаций длиной n с t ошибками(t<n). Вероятность P( >1,n) является неубывающей функцией n. При n=1 P(>1,n)=pош При n вероятность P(>1,n) Вероятность появления искажений кодовой комбинации длиной n Где -- показатель группирования ошибок.
При 0 имеем случай независимого появления ошибок, а при 1 появление групповых ошибок (при =1 вероятность искажений кодовой комбинации не зависит от n, так как в каждой ошибочной комбинации все елементы приняты с ошибкой) Наибольшее значение d(0,5 до 0,7) наблюдается, на КЛС, поскольку кратковременное прерывание приводит к появлению групп с большей плотностью ошибок. В радиорелейных линиях, где наряду с интервалами большой плотности ошибок наблюдается интервалы с редкими ошибками, значение d лежит в пределах от 0,3 до 0,5. В КВ радиотелеграфных каналах показатель группирования ошибок самый небольшой(0,3-0,4). Распределение ошибок в комбинациях различной длины оценивает не только вероятность появления искаженных комбинаций(хотя бы одна ошибка), но и вероятность комбинаций длиной n с t наперед заданными ошибками P(>t,n). Следовательно, группирование ошибок приводит к увеличению числа кодовых комбинаций, пораженную ошибками большей кратности. Анализируя все выше сказанное, можно заключить, что при группирование ошибок уменьшается число кодовых комбинаций заданной длины n. Это понятно также из чисто физических соображений. При одном и том же числе ошибок пакетирование приводит к сосредоточению их на отдельных комбинациях, (кратность ошибок возрастает), а число искаженных кодовых комбинаций уменьшается.
28. Теория помехоустойчивых систем.
Помехоустойчивые коды – одно из наиболее эффективных средств обеспечения высокой верности передачи дискретной информации. Создана специальная теория помехоустойчивого кодирования, быстро развивающаяся в последнее время.
Бурное развитие теории помехоустойчивого кодирования связано с внедрением автоматизированных систем, у которых обработка принимаемой информации осуществляется без участия человека. Использование для обработки информации электронных цифровых вычислительных машин предъявляет очень высокие требования к верности передачи информации.
Дальше смотреть вопрос 58 и желательно 30