29.Среднее количество принятой информации

а) В случае, если символы источника сообщения появляются равновероятно и взаимно независимо, то для подсчета энтропии такого рода сообщений используют формулу Хартли:

I = n * m (бит); = m (бит/ символ)

где m – объем алфавита источника дискретных сообщений.

б) Если же символы источника сообщения генерируются с различными вероятностями, но взаимно независимы, то используют формулу Шеннона:

I = - n* (бит)

= - (бит/символ),

где - вероятность появления символа ai.

в) В случае же неравновероятного появления источника сообщения и наличия статистических зависимостей между соседними символами энтропию такого рода источника можно определить с помощью формулы Шеннона с условными вероятностями:

/ )* ( / ) (бит/ символ),

где Р ( / ) – условная вероятность появления символа после символа .

30. Техническая скорость передачи

По аналогии с информационными характеристиками источников сообщений (§ 1.6), для каналов передачи сообщений так же можно использовать информационные параметрами, характеризующие их качество. Одной из важнейших характеристик, определяющих качество канала, является скорость передачи информации (Q), под которой понимают среднее количество информации передаваемое по каналу в единицу времени. Для вычисления значения Q можно использовать соотношение:

,

где - техническая скорость передачи символов сообщений, под которой подразумевают число элементарных сигналов (символов), передаваемых по каналу в единицу времени (символ / сек.).

H – среднее количество информации, приходящиеся на один элементарный сигнал или символ (бит / символ).

Техническая скорость передачи символов сообщений (W) зависит от свойств и технических средств канала. С учетом возможных различий в длительностях символов, можно считать, что

,

где - среднее значение длительности символа.

За единицу измерения скорости передачи информации (Q) принимается бот = [бит/сек].

31. Скорость передачи информации

По аналогии с информационными характеристиками источников сообщений (§ 1.6), для каналов передачи сообщений так же можно использовать информационные параметрами, характеризующие их качество. Одной из важнейших характеристик, определяющих качество канала, является скорость передачи информации (Q), под которой понимают среднее количество информации передаваемое по каналу в единицу времени. Для вычисления значения Q можно использовать соотношение:

,

где - техническая скорость передачи символов сообщений, под которой подразумевают число элементарных сигналов (символов), передаваемых по каналу в единицу времени (символ / сек.).

H – среднее количество информации, приходящиеся на один элементарный сигнал или символ (бит / символ).

Техническая скорость передачи символов сообщений (W) зависит от свойств и технических средств канала. С учетом возможных различий в длительностях символов, можно считать, что

,

где - среднее значение длительности символа.

32. Пропускная способность дискретных каналов связи

Для теории и практики важно знать, до какого предела и каким путем можно повысить скорость передачи информации по конкретному каналу, а поэтому другой важнейшей характеристикой канала является предельное количество информации, которое может быть передано по нему за единицу времени. Данная характеристика получила название пропускной способности канала (С), т.е.

,

где m – объём алфавита передаваемого сообщения.

Пропуская способность канала измеряется также как и скорость передачи информации в ботах.

Пропускная способность канала имеет ограниченное значение, как при передаче дискретных сообщений, так и непрерывных сигналов. Это объясняется тем, что при увеличении числа возможных значений сигнала (x_k) увеличение количества передаваемой информации возможно лишь до тех пор, пока возможно уверенное распознавание этих значений. Если же отличия между соседними значениями сигнала (Δx) становится меньше среднего уровня шума, то увеличение числа возможных значений сигнала не увеличивает количества передаваемой информации. Поэтому пропускная способность канала растет с увеличением отношения полезного сигнала к шуму (отношение сигнал / шум). Количественное соотношение между пропускной способностью канала связи ( ) при передаче непрерывных сообщений, его частотными характеристиками и средними мощностями сигнала и шума ( и P_ш) определяется соотношением:

(бит/сек)

(3.26)

де – верхняя граничная частота в спектре частот канала.