Добавил:
Upload Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:

Voprosy_k_ekzamenu_po_teorii_informatsii

.doc
Скачиваний:
11
Добавлен:
27.03.2015
Размер:
27.14 Кб
Скачать

Вопросы к экзамену по теории информации

  1. Теория информации. Основные положения и задачи теории. Схема системы связи.

  2. Энтропия как мера неопределенности. Формулы Хартли и Шеннона. Энтропия дискретного источника сообщений.

  3. Энтропия сложной системы, как объединения простых источников. Теорема сложения энтропий независимых систем.

  4. Условная энтропия. Энтропия объединения стохастически связанных систем.

  5. Количество информации для дискретных систем. Частная и полная информации.

  6. Взаимная и полная взаимная информация двух систем. Частные случаи взаимной информации.

  7. Частная информация о системе, содержащаяся в сообщении о событии. Частная информация о событии, содержащаяся в сообщении о другом событии.

  8. Энтропия и информация непрерывных систем (систем с несчетным множеством состояний).

  9. Общая структурная схема системы связи. Виды каналов связи.

  10. Модели источника дискретных сообщений. Эргодические источники. Источники с памятью.

  11. Свойства эргодических последовательностей знаков. Типичные и нетипичные последовательности.

  12. Избыточность и производительность источника.

  13. Модели дискретных каналов. Двоичный симметричный канал.

  14. Скорость передачи и пропускная способность дискретного канала без помех.

  15. Пропускная способность дискретного канала с помехами. Потери информации.

  16. Согласование физических характеристик сигнала и канала.

  17. Согласование статистических свойств источника и канала и повышение эффективности системы передачи данных (стр.156).

  18. Основные понятия кодирования. Эффективное кодирование при отсутствии помех.

  19. Код Шеннона-Фано. Код Хаффмана. Префиксность кода.

  20. Кодирование в условиях наличия помех. Основная теорема Шеннона

  21. Алгебраические блоковые коды. Обнаруживающая способность. Исправляющая способность.

  22. Кодовое расстояние и его связь с исправляющей способностью. Относительная избыточность.

  23. Линейные коды. Алгебраические системы. Понятия группы, кольца, поля. Линейное векторное пространство.

  24. Построение группового кода. Код Хемминга.

  25. Матричный способ построения групповых кодов.

  26. Построение циклических кодов.

Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]