Вопросы для самопроверки

1. Охарактеризуйте содержание и задачи теории информации.

2. В каких формах может быть представлена информация?

3. Дайте характеристику вклада отечественных ученых в развитие теории информации.

4. Раскройте смысл понятий (терминов): материя, отражение, информация.

5. Какой смысл имеют понятия «информация», «сигнал», «канал связи», «линия связи»?

6. Приведите примеры процессов, используемых для передачи информации, и связанных с ними сигналов.

7. Приведите примеры неоднозначного и однозначного соответствий между сообщением и содержащейся в нем информацией.

8. В чем состоит различие понятий «приемник сообщения» и «приемник информации»?

9. Что такое сигнал? Какие существуют виды сигналов?

10. Приведите как минимум пять разных примеров алфавитов. Из них только один может содержать знаки-буквы какой-нибудь известной письменности.

11. Охарактеризуйте различия мер неопределенности Р. Хартли и К. Шеннона.

12. Поясните необходимость требований аддитивности к мере неопределенности выбора.

13. Что такое энтропия сообщений, источника сообщений? Укажите, как ее рассчитать:

- в случае равновероятных дискретных сообщений;

- для неравновероятных дискретных сообщений.

14. Охарактеризуйте свойства энтропии дискретного источника сообщений.

15. Как определяется дифференциальная энтропия непрерывной случайной величины? Разновидности энтропии непрерывной случайной величины.

16. Чему равна максимальная дифференциальная энтропия, если случайная величина ограничена в объёме, при каком законе распределения она максимальна?

17. Чему равна максимальная дифференциальная энтропия, если случайная величина не ограничена в объёме?

18. Как влияет математическое ожидание случайной величины на её энтропию?

19. Что такое энтропия непрерывного случайного процесса?

20. Как в энтропии проявляется свойство эргодичности случайного процесса?

21. Как определяется энтропия непрерывного эргодического случайного процесса, её размерность?

22. Как определяется производительность непрерывного эргодического случайного процесса, её размерность?

23. Что такое пропускная способность канала связи, как она определяется?

24. Чему равна пропускная способность канала связи без помех?

25. Как влияют помехи на величину пропускной способности?

26. Что утверждает теорема Шеннона для канала связи без помех?

27. Что утверждает теорема Шеннона для канала связи с помехами?

28. От чего зависит пропускная способность дискретного канала связи с помехами?

29. Как определяется пропускная способность дискретного канала связи с помехами?

30. Как влияют помехи на величину пропускной способности канала связи?

31. Чему равна пропускная способность двоичного канала связи при вероятности искажения элемента сообщения, равной 0,5 ?

32. От чего зависит пропускная способность непрерывного канала связи?

33. Приведите формулу для нахождения пропускной способности непрерывного канала связи.

34. Как изменяется пропускная способность непрерывного канала связи при увеличении эффективной полосы пропускания канала?

35. Какие предъявляются требования к сигналу (его статистической структуре), чтобы приблизить скорость передачи непрерывного сигнала к пропускной способности канала?

36. Что такое эпсилон- энтропия?

37. Как вычисляется эпсилон -энтропия источника непрерывных сигналов?

38. Как определяется эпсилон -производительность источника стационарных сигналов?

39. Как определяется эпсилон- энтропия и производительность гауссовского источника?

40. Что утверждает теорема Шеннона для канала связи, на входе которого подключен источник с известной эпсилон- производительностью?

41. Что такое обмен мощности сигнала на полосу частот?

42. Каким образом можно уменьшить мощность сигнала при заданной пропускной способности канала в случае передачи сигналов на большие расстояния?

43. Как изменяется пропускная способность дискретного канала связи при увеличении мощности сигнала?

44. Как изменяется пропускная способность непрерывного канала связи при увеличении мощности сигнала?

45. В чём состоит идея дискретизации? Каково ее практическое значение?

46. Сформулируйте теорему Котельникова.

47. Запишите ряд Котельникова.

48. Какую форму имеют базисные функции ряда, каковы их свойства?

49. В чём причина погрешностей при дискретизации финитных сигналов?

50. Как оценивается среднеквадратическая погрешность, возникающая при дискретизации сигнала, спектр которого не ограничен?

51. Как восстанавливается дискретизированный сигнал?

52. Что называется идеальным фильтром нижних частот?

53. Что называется импульсной характеристикой?

54. Какова форма импульсной характеристики идеального фильтра нижних частот?

55. В чём состоят основные отличия формы импульсных характеристик идеального и реального фильтра нижних частот?

56. В чём причина погрешностей, возникающих при восстановлении сигнала?

57. Как производится дискретизация радиосигналов?

58. В чем особенности дискретизации случайных сигналов?

59. Почему пропускная способность непрерывного канала выше, чем пропускная способность дискретных каналов при любых значениях h  0?

60. Что такое эффективность систем связи?

61. Что такое бета – эффективность?

62. Что такое гамма – эффективность?

63. Что такое эта – эффективность?

64. Какой вид дискретной модуляции целесообразно использовать в системах связи при ограниченной мощности сигнала и при ограниченной полосе частот ?

65. Какие системы связи по эффективности ближе к пределу, определяемому формулой Шеннона?

66. Какая цель достигается при оптимальном кодировании дискретных сообщений?

67. Почему оптимальное кодирование называется оптимальным и почему статистическим?

68. В чём заключается идея оптимального кодирования?

69. Как осуществляется процесс кодирования дискретных сообщений оптимальным кодом по методу Шеннона - Фано - Хаффмена?

70. Почему код Шеннона - Фано должен быть неравномерным и неприводимым.

71. Какая цель достигается объединением букв в слова при оптимальном кодировании источников независимых сообщений?

72. Что является математической моделью источников сообщений с корреляционными связями?

73. Какая цель достигается объединением букв в слова при оптимальном кодировании источников зависимых сообщений, как выбирается длина кодовых слов?

74. Как осуществляется оптимальное кодирование сообщений с корреляционными связями?

75. В чём отличия алгоритмов оптимального кодирования кодовых слов для источников независимых и зависимых сообщений?

76. Как могут быть классифицированы корректирующие коды?

77. Каким образом исправляются ошибки в кодах, которые толь­ ко их обнаруживают?

78. В чем состоят основные принципы корректирования ошибок?

79. Дайте определение кодового расстояния.

80. При каких условиях код может обнаруживать или исправлять ошибки?

81. Как используется корректирующий код в системах со стиранием?

82. Какие характеристики определяют корректирующие способности кода?

83. Как осуществляется построение кодовых комбинаций в систематических кодах?

84. На чем основан принцип корректирования ошибок с использованием контрольного числа?

85. Объясните метод построения кода с четным числом единиц.

86. Как осуществляется процедура кодирования в семизначном коде Хемминга?

87. Выполните классификацию методов сжатия по возможности адаптации к сжимаемым данным, симметричности операций кодирования и декодирования данных, допустимости искажений информации.

88. Опишите алгоритм RLE – кодирования.

89. Опишите алгоритм сжатия данных с представлением целых чисел. Приведите пример адаптивного варианта такого сжатия.

90. Опишите алгоритм энтропийного сжатия по Хаффмену. Приведите адаптивный вариант сжатия с использованием метода кодирования Шеннона–Фано.

91. Опишите арифметический метод сжатия.

92. Почему метод контекстного моделирования является более эффективным для длинных последовательностей символов, чем методы Хаффмена и арифметического сжатия?

93. Опишите метод словарного сжатия. Приведите пример его использования.

94. Приведите вариант сжатия с потерями информации.

95. В чем заключается ДКП?

96. Как применяется ДКП для сжатия графики?

97. Опишите основные принципы сжатия звука?

98. Назовите основные стандарты сжатия видео?