- •1. Понятие информация.
- •2. Этапы преобразования (обращения) информации.
- •3. Структура системы передачи информации.
- •4. Предмет исследования теории информации.
- •5. Вероятностное определение количества информации по Шеннону
- •5. Количественная оценка информации.
- •Комбинаторное определение количества информации по Хартли.
- •Вероятностное определение количества информации по Шеннону.
- •6. Случайный процесс, как модель источника сообщений.
- •7. Виды дискретных источников.
- •8. Характеристики источника дискретных сообщений.
- •11. Модели непрерывных каналов связи.
- •12. Виды дискретных каналов связи.
- •13. Характеристики дискретного канала связи.
- •10 Взаимная информация. Средняя взаимная информация.
- •13. Назначение и виды кодирования.
- •14. Назначение, принципы и свойства экономного кодирования
- •14. Экономное кодирование
- •15.Предельные возможности экономного кодирования
- •16. Назначение и общие принципы помехоустойчивого кодирования
- •18.Декодирование корректирующих кодов по максимуму апостериорной вероятности и по минимуму кодового расстояния.
- •17.Основные характеристики корректирующих кодов.
- •19.(Построение и примеры линейных корректирующих кодов)
- •16. Характеристики источника непрерывных сообщений.
- •17. Характеристики непрерывных каналов связи.
3. Структура системы передачи информации.
ИИ – источник информации, исследуемый (наблюдаемый) объект.
ПП – первичный преобразователь, реализует этап восприятия и подготовки формирует сообщение из информации из ИИ.
Мод – модулятор.
ИП – источник помех.
Сообщение – информация представленная в виде, пригодном для хранения и передачи.
Сообщение может быть представлено в виде последовательных символов или документированных значений некоторой физической величины.
Дискретные сообщения формируются в результате последовательной выдачи источником отдельных элементов – символов.
Непрерывные сообщения не могут быть разделены на элементы. Чтобы доставить сообщение до получателя необходимо их связать линией связи.
Линия связи – некоторая физическая среда пригодная для передачи, распространения сигналов определенного вида.
Сигнал – это физический процесс, отображающий (несущий) передаваемое сообщение.
Для передачи сигнала необходимо изменять его параметры по закону передаваемого сообщения.
Модуляция – это процесс изменения одного или нескольких параметров сигнала по закону передаваемых сообщений. В точке приема должна быть выполнена обратная операция называемая демодуляцией.
Демодуляция – процесс анализа принятого сигнала, в результате которого принимается решение о переданном по линии связи сообщении.
Процесс приема сигнала усложняется искажением, вследствие действия помех.
При построении системы связи необходимо обеспечить точное воспроизведение переданного сообщения на выходе приемника или с заданной степенью точности.
Для этого необходимо научиться работать с информацией так же, как с другими физическими величинами:
измерение количества информации в сообщении
количество информации, вырабатываемой в единицу времени (производительность источника) – для оценки требований к транспортировке.
количество информации, передаваемой по каналу связи.
Данные, которые можно получить:
предельная скорость передачи по каналу (пропускная способность),
предельные возможности источника при формировании сообщения (макс. производительность).
4. Предмет исследования теории информации.
(в тетрадке – согласование информационных характеристик источника и каналы связи)
Согласование обеспечивается путем кодирования (декодирование на приемной стороне)
Кодирование – это процессы введения сообщения в канал связи.
Средствами теории информации осуществляется анализ информационных характеристик сигналов, выбор сигналов для передачи.
Линия связи на таблице – непрерывный от МОД к ДЭК – дискретный канал. Преобразование сигналов – КОД и ДЭК.
Виды кодирования:
-первичное (простое) – согласовать алфавит источника с алфавитом получателя.
-экономное кодирование – сохранить время передачи либо место на носителе кодирования источника
-помехоустойчивое (корректирующее) – компенсировать недостатки канала связи, связанные с действием помех (канальное кодирование)
-криптографическое кодирование – обеспечить секретность сообщения.
4
Xi
I(xi)
. Комбинаторное определение количества информации по Хартли
ИС
|
|
1.Кол-во инф-ии которое несёт в себе состояние источника I=f(mx). Чем больше состояний в источнике тем больше информации в каждом из кол. mx1>mx2, I1>I2
2.Источник имеет лишь одну инф-ию,то кол-во инф-ии =0. I=0 если mx=1
3. Если есть некоторый источник Z=XY то кол-во инф-ии реализации I(Z)=I(x)+I(Y) источника z(I(z))
I=logamx,где а-единица кол-ва инф-ии.
если а=2 то кол-во инф-ии в битах
если а=10 –дит
если а=с -пит
если mx=аn то формула I=logamx стала такой: I=n·logaa=n
