
- •Характерные особенности современных информационных систем. Основные определения. Задачи теории систем.
- •2. Краткая историческая справка. Терминология теории систем. Понятие информационной системы. Системный анализ.
- •3. Качественные и количественные методы описания информационных систем. Кибернетический подход. Динамические описание информационных систем.
- •5. Принципы минимальности информационных связей агрегатов. Агрегат как случайный процесс.
- •6. Анализ и синтез информационных систем. Формализация результатов изучения систем. Выделение функций систем.
- •7. Методология постановок и алгоритмизация задач задач на макро-и микро-уровнях.
- •8. Методы синтеза структур информационных систем. Задача оптимизации структур. Интеллектуализация информационных систем.
- •9. Информационные процессы-основа информационных систем.
- •10. Понятие и структура информационного процесса.
- •11. Математические модели сигнала.
- •12. Частотная форма представления детерминированных сигналов.
- •13. Классификация методов дискретизации. Дискретизация по времени.
- •14. Выбор точности отсчетов по теореме Котельникова. Квантование по уровню.
- •2. Виды импульсной модуляции.
- •3. Импульсные и цифровые методы в системах автоматического управления
- •15. Модели процесса. Измерение информации.
- •16. Модель непрерывного и дискретного каналов связи.
- •17. Пропускная способность дискретного и непрерывного каналов связи
- •18. Оценки потерь информации. Понятие избыточности информации.
- •19. Рассмотрение информационного процесса на физическом уровне. Назначение и содержание процедур модуляции и демодуляции.
- •Гармоническая модуляция
- •3. Импульсная модуляция
- •4. Широтно-импульсная модуляция
- •5. Дискретная модуляция
- •20. Сравнительные характеристики по помехоустойчивости различных видов модуляции.
- •21. Цифровые методы модуляции. Информационные характеристики сигнала и канала.
- •Цифровая модуляция
- •22. Согласование статистических свойств источника сообщений и канала связи.
- •23. Сети передачи данных. Пропускная способность сети связи.
- •24. Методы решения задачи статистической маршрутизации. Рассмотрение информационного процесса на канальном уровне.
- •Связь между офисами на канальном уровне
- •Проблема шифрования на сетевом уровне
- •Детальное рассмотрение прозрачного шифратора
- •Аналогии с режимами шифрования блочных шифров
- •25. Общие понятия теории кодирования. Фундаментальные теоремы Шеннона о кодировании.
17. Пропускная способность дискретного и непрерывного каналов связи
Непрерывного
Пусть
сигнал
на
выходе канала представляет собой сумму
полезного сигнала
и
шума
,
т.е.
,
причем
и
статистически
независимы. Допустим, что канал имеет
ограниченную полосу пропускания
шириной
.
Тогда в соответствии с теоремой
Котельникова (см. п. 1.5) функции
,
и
можно
представить совокупностями отсчетов
,
,
и
,
,
где
.
При этом статистические свойства
сигнала
можно
описать многомерной ПРВ
,
а свойства шума – ПРВ
.
Пропускная способность непрерывного канала определяется следующим образом:
|
|
где
–
количество информации о какой-либо
реализации сигнала
длительности
T, которое в среднем содержит реализация
сигнала
той
же длительности
,
а максимум ищется по всем возможным
распределениям
.
Когда
сигнал на входе канала имеет нормальное
распределение и отсчеты независимы
величина
максимизируется
[6]. Поэтому пропускная способность
гауссовского канала с дискретным
временем, рассчитанная на единицу
времени, с учетом (4.16) может быть записана
в виде
|
(4.17) |
Полученное
выражение показывает, что пропускная
способность гауссовского канала с
дискретным временем определяется
числом импульсов, передаваемых в
секунду, и отношением сигнал/шум (
).
С учетом взаимосвязи скорости передачи информации и полосы частот непрерывного канала от (4.17) можно перейти к формуле Шеннона, которая устанавливает связь пропускной способности гауссовского канала с полосой пропускания непрерывного канала и отношением мощности сигнала к мощности помехи:
|
(4.18) |
График
отношения
изображен
на рис. 4.6. Заметим, что при малом
отношении
|
|
а пропускная способность канала связи прямо пропорциональна этому отношению.
При
большом отношении
в
(4.18) можно пренебречь единицей и считать,
что
|
|
т.е. зависимость пропускной способности непрерывного канала от отношения сигнал/шум логарифмическая.
Пропускная способность канала, как предельное значение скорости безошибочной передачи информации, является одной из основных характеристик любого канала.
Определим
пропускную способность стандартного
канала тональной частоты, имеющего
границы эффективно передаваемых
частот
кГц,
среднюю мощность сигнала на выходе 56
мкВт при средней мощности помехи
69000 пВт.
Дискретного
Основной задачей систем связи является передача информации от источника к получателю. Решение этой задачи сопряжено с определенными трудностями, связанными не только с представлением информации в виде сообщения, пригодного для восприятия и обработки, но и с преобразованием данного сообщения в сигнал, пригодный для передачи по линии связи. Представим графически процесс передачи информации по каналу связи (рис.4.2) и учтем при этом возможное влияние помех.
Пусть дискретный канал определяется:
– алфавитом
источника сообщений;
– алфавитом
получателя сообщений;
– «потерями»
информации;
– ложной
информацией, создаваемой помехами;
–
количеством
информации, переданной по каналу.
Условная энтропия характеризует среднюю степень неопределенности принимаемых сигналов, обусловленную действием помех.
При
сопряжении входа канала с любым
источником двоичной информации на вход
могут поступать двоичные символы
и
с
вероятностями
и
соответственно
(рис.4.3). На выходе канала появляются
двоичные символы
и
.
Обозначим вероятность ошибки при
передаче любого символа через
.
Тогда,
,
а
.
В общем случае, для
-ичного
дискретного канала [5]:
|
|
Тогда «шумовая» энтропия будет определяться выражением [5]:
|
(4.6) |
Из
полученного выражения следует, что
энтропия определяемая только помехой
не зависит от вероятности
появления
символов на входе канала.
Если
символы на входе канала выбираются
независимо от предыдущих символов с
одинаковыми вероятностями, то энтропия
выходных символов достигает своего
максимального значения, равного:
.
Таким образом, количество информации, переданной по каналу, это разность между энтропией на выходе и энтропией шума:
|
(4.7) |
Количество информации, переданной по каналу связи, обладает следующими основными свойствами:
,
причем
тогда
и только тогда, когда входные и выходные
сообщения в канале взаимно независимы;
,
причем
тогда
и только тогда, когда входная
последовательность определяется
однозначно по выходной последовательности,
например, когда в канале нет помех;
следует
из того, что количество информации не
изменится, если входную и выходную
последовательность поменять местами.