СКОРОСТЬ ПЕРЕДАЧИ И ПРОПУСКНАЯ
СПОСОБНОСТЬ
Скорость• передачи информации по каналу связи зависит от многих факторов — от энергии сигнала, числа символов в алфавите избыточности, полосы частот, способа кодирования и декодирования. Если имеется возможность изменять некоторые из них, то, естественно, следует делать это так, чтобы максимально увеличить скорость. Оказывается, что обычно существует предел, выше которого увеличение скорости невозможно. Этот предел называется пропускной способностью канала:
где — скорость передачи информации при условиях А, {A} — множество вариантов условий, подлежащих перебору.
СКОРОСТЬ ПЕРЕДАЧИ И ПРОПУСКНАЯ СПОСОБНОСТЬ
•
SUP Х - точная верхняя граница (верхняя грань)
обобщение понятий максимума и минимума множества
Так как множество {A} можно определить по-разному, то имеет смысл говорить о нескольких типах пропускных способностей. Наиболее важным является случай, когда мощность сигнала (объем алфавита) фиксирована, а варьировать можно только способ кодирования. Именно таким образом пропускную способность определил К. Шэннон.
ТЕОРЕМА ШЕННОНА-ХАРТЛИ
•В данной теореме определено, что достичь максимальной скорости (бит/с) можно путём увеличения полосы пропускания и мощности сигнала и, в то же время, уменьшения шума.
•Теорема Шеннона — Хартли ограничивает информационную скорость для заданной полосы пропускания и отношения «сигнал/шум». Для увеличения скорости необходимо увеличить уровень полезного сигнала, по отношению к уровню шума.
•Если бы существовала бесконечная полоса пропускания, бесшумовой аналоговый канал, то можно было бы передать неограниченное количество безошибочных данных по ней за единицу времени. Реальные каналы имеют ограниченные размеры и в них всегда присутствует шум.
ТЕОРЕМЫ ШЕННОНА ДЛЯ КАНАЛА
СВЯЗИ С ШУМАМИ
• Теоремы Шеннона для канала с шумами (теоремы Шеннона для передачи по 
каналу с шумами) связывают пропускную способность канала передачи информации и существование кода, который возможно использовать для
передачи информации по каналу с ошибкой, стремящейся к нулю (при увеличении длины блока).
• Если скорость передачи сообщений меньше пропускной способности канала связи
то существуют коды и методы декодирования такие, что средняя и максимальная вероятности ошибки декодирования стремятся к нулю, когда длина блока стремится к бесконечности.
• Если же
то кода, на основе которого можно добиться сколько угодной малой вероятности возникновения ошибки, не существует.
•Удивительно, но не только ограничения полосы пропускания влияют на количество передаваемой информации. Если мы комбинируем шум и ограничения полосы пропускания, мы действительно видим, что есть предел количества информации, которую можно было передать, даже используя многоуровневые методы кодирования. В канале, который рассматривает теорема Шеннона — Хартли, шум и сигнал дополняют друг друга. Таким образом, приёмник воспринимает сигнал, который равен сумме сигналов, кодирующего нужную информацию и непрерывную случайную, которая представляет шум.
ТЕОРЕМА ШЕННОНА-ХАРТЛИ
•Это дополнение создает неуверенность относительно ценности оригинального сигнала. Если приёмник обладает информацией о вероятности ненужного сигнала, который создает шум, то можно восстановить информацию в оригинальном виде, рассматривая все возможные влияния шумового процесса. В случае теоремы Шеннона — Хартли шум, как таковой, произведен гауссовским процессом с некоторыми отклонениями в канале передачи. Такой канал называют совокупным белым гауссовским шумовым каналом, так как гауссовский шум является частью полезного сигнала. «Белый» подразумевает равное количество шума во всех частотах
в пределах полосы пропускания канала. Такой шум может возникнуть при воздействии случайных источников энергии, а также быть связан с ошибками, возникшими при кодировании. Знание о вероятности возникновения гауссовского шума значительно упрощает определение полезного сигнала.
ПРОПУСКНАЯ
СПОСОБНОСТЬ ГАУССОВА КАНАЛА СВЯЗИ
Гауссовым каналом называется канал связи, для которого выполняются следующие условия
1)сигналы и шумы в нем непрерывны;
2)канал занимает ограниченную полосу частот шириной F,
3)шум n(t ) в канале распределен нормально ("гауссов шум");
4)спектр мощности шума равномерен в полосе частот канала и равен N единиц мощности на единицу полосы частот;
5) средняя мощность полезного сигнала x(t) фиксирована и равна Р ,
6)сигнал и шум статистически независимы;
7)принимаемый сигнал y(t) есть сумма полезного сигнала и шума:
y(t)
=x(t)+ n(t) ("шум аддитивен").
Иогаа́нн Карл Фриа́дрих (1777 — 1855) — немецкий математик, механик, физик, астроном и геодезист
ВЫВОД ФОРМУЛЫ ШЕННОНА-ТАЛЛЕРА
•Эти предположения позволяют вычислить пропускную способность гауссова канала.
•Во-первых, ограниченность полосы частот позволяет применить теорему отсчетов и вести рассуждения для каждого отсчета в отдельности.
•Теореа́ма Котеа́льникова (в англоязычной литературе — теорема Найквиста — Шеннона, теорема отсчётов) — фундаментальное утверждение в области цифровой обработки сигналов, связывающее непрерывные и дискретные сигналы и гласящее, что «любую функцию s(t), состоящую из частот от 0 до F, можно непрерывно передавать с любой точностью при помощи чисел, следующих друг за другом 1/2F секунд».
ВЫВОД ФОРМУЛЫ ШЕННОНА-ТАЛЛЕРА
•Далее, аддитивность шума и его независимость от Х позволяют представить количество информации в объекте Y об объекте Х в виде
I(X,Y) = h(Y) – h(Y|X) = h(Y) – h(X+N|X) = h(Y)-h(N), [1]
•где h (N) — дифференциальная энтропия шума. Следовательно, пропускная способность такова:
С = max R =max[ h(Y)-h(N) ] [2]
ВЫВОД ФОРМУЛЫ ШЕННОНА-ТАЛЛЕРА
• Согласно условиям 3- 4 имеем: [3]
В силу условий 4 — 7 мощность принимаемого сигнала есть: [4]
Максимум h(Y) при условии 10 достигается в случае нормального распределения, т.е.:
[5]