3. Методические указания

Для изучения данного пособия необходимо предварительно усвоить количественные меры информации для дискретных (цифровых) и непрерывных (аналоговых) источников [1]: мера Хартли, энтропия, условная энтропия, количественная мера информации при неполной достоверности сообщений и их свойства.

Для контроля самостоятельного усвоения составлены вопросы для самопроверки.

Материал пособия может быть использован при выполнении курсового проекта, требования к которому и его особенности излагаются в лекционном материале (10 часов) и на практических занятиях (8 часов) в 6-м семестре.

4. Контрольные вопросы для самопроверки

Раздел 1

4.1.1. Дайте определение энтропии источника дискретных (цифровых) сообщений.

4.1.2. Перечислите свойства энтропии.

4.1.3. Дайте определение условной энтропии.

4.1.4. Запишите выражение для определения количества информации при неполной достоверности получаемых сообщений.

4.1.5. Как определяется энтропия источника непрерывных (аналоговых) сообщений?

4.1.6. Как определяется условная энтропия непрерывных (аналоговых) источников?

4.1.7. Как определяется скорость передачи информации?

4.1.8. От каких факторов зависит скорость передачи информации в дискретных (цифровых) и непрерывных (аналоговых) каналах?

4.1.9. Дайте определение пропускной способности непрерывных и дискретных каналов.

4.1.10. Что такое дискретный канал без помех?

4.1.11. Какое кодирование называется эффективным?

4.1.12. Как построить код Шеннона  Фано?

4.1.13. Как доказать, что код Шеннона  Фано может быть эффективным?

4.1.14. Чем отличается равномерный код от неравномерного?

4.1.15. Почему код Шеннона  Фано можно декодировать без введения дополнительных разделительных символов?

4.1.16. Чем можно объяснить (без формул) увеличение скорости передачи информации при использовании эффективного кода ШеннонаФано?

4.1.17. В каком случае двоичный равномерный код может быть эффективным?

4.1.18. В каких случаях код Шеннона  Фано становится неэффективным?

4.1.19. Что такое поток информации?

4.1.20. Сформулируйте теорему Шеннона для канала без помех.

4.1.21. Что такое дискретный канал с шумами?

4.1.22. Как определяются скорость передачи информации в дискретном канале с шумами и его пропускная способность?

4.1.23. Что такое двоичный канал без памяти?

4.1.24. Какие функции выполняет решающее устройство в двоичном канале с шумами?

4.1.25. Может ли решающее устройство принимать ошибочные решения?

4.1.26. Как определяется скорость передачи информации и пропускная способность двоичного симметричного канала без памяти?

4.1.27. Как изменяется пропускная способность двоичного симметричного канала без памяти в зависимости от вероятности ошибки в канале? Приведите график этой зависимости.

4.1.28. Каково условие обеспечения максимальной скорости передачи в симметричном канале с шумами?

4.1.29. Чем объясняется снижение скорости передачи информации и пропускной способности двоичного канала с шумами по сравнению с двоичным каналом без помех?

Раздел 2

4.2.1. Приведите структуру непрерывного (аналогового) канала.

4.2.2. Как определяется скорость передачи информации в непрерывном канале?

4.2.3. Как определяется пропускная способность непрерывного канала?

4.2.4. Как вычисляется энтропия источника непрерывного сообщения с нормальным законом распределения?

4.2.5. Приведите формулу Шеннона для непрерывного канала.

4.2.6. От чего зависит пропускная способность непрерывного канала?

4.2.7. Почему в идеальном канале по Шеннону при увеличении его полосы частот пропускания требуемая мощность полезного сигнала уменьшается?

4.2.8. Какова ширина спектра частот при тональной АМ?

4.2.9. Как выбирается минимальная полоса частот пропускания в канале с АМ?

4.2.10. Как находится шумовая среднеквадратическая погрешность в канале с АМ?

4.2.11. Почему полосу частот пропускания канала с АМ нецелесообразно увеличивать относительно минимального значения?

4.2.12. Как находится полоса частот пропускания канала с ЧМ?

4.2.13. Как определяется шумовая среднеквадратическая погрешность в канале с ЧМ?

4.2.14. Почему полосу частот пропускания канала с ЧМ, в отличие от АМ, можно увеличивать?

4.2.15. Дайте сравнительную оценку реальных каналов с АМ и ЧМ и идеального канала по Шеннону по использованию их полосы частот пропускания.

4.2.16. Какие реальные каналы приближаются к идеальному каналу по Шеннону?