ТЕСТ 1
На выходе дискретного источника информации:
а) реализация непрерывного случайного процесса
б) детерминированный дискретный процесс
в) реализация дискретного случайного процесса.
Выбери правильный ответ.
Один из символов дискретного источника появляется на его выходе с вероятностью
.
Найти его собственную информацию в
битах.
Ответ: 1.514.
Дискретный источник без памяти имеет объем алфавита
. Чему равна максимально возможная
энтропия такого источника.
Ответ: 1.585
Даны три дискретных источника с объемом алфавита
.
Один – источник без памяти с вероятностями
выхода символов
,
другой – стационарный источник с
равновероятными символами, третий –
источник без памяти с равновероятными
символами. Какой из указанных источников
обладает большей энтропией.
Источник без памяти с равновероятными символами – это пример максимальной энтропии для заданного алфавита. А так как эта энтропия будет максимальна, то и смысла считать их все - нет. Ответ: 3.
Дискретный источник без памяти имеет алфавит из 5 символов, каждый из которых появляется с вероятностью 1/5. Выход источника кодируется равномерным двоичным кодом (каждому символу ставится в соответствие кодовая комбинация, соответствующая номеру символа от 1 до 5). Какова эффективность данного способа кодирования?
Ответ: 0.774.
Выход дискретного источника без памяти с объемом алфавита
кодируется уникальным кодом фиксированной
длины
(каждому символу источника ставится в
соответствие уникальная кодовая
комбинация). Определить длину кода.
Ответ: 3.
Стационарный дискретный источник целесообразно кодировать
а) кодом Хаффмена
б) кодом Фано
в) используя алгоритм Лемпела-Зива
Выход непрерывного источника информации представляет собой реализацию случайного процесса со спектральной плотностью мощности, ограниченной частотой
кГц.
Определите минимально возможную частоту
дискретизации сигнала на выходе
источника.
Ответ: 10 кГц.
Выход непрерывного источника информации представляет собой реализацию случайного процесса со спектральной плотностью мощности, ограниченной частотой
кГц.
Определите максимально возможный шаг
дискретизации
сигнала
на выходе источника.
Ответ:
Выход непрерывного источника информации кодируется ИКМ сигналом. Сигнал источника имеет верхнюю частоту спектра равную
кГц,
количество уровней квантования
.
Определите ширину полосы ИКМ сигнала.
Ответ:
Выход непрерывного источника информации кодируется ИКМ сигналом. Сигнал источника имеет верхнюю частоту спектра равную
кГц,
количество уровней квантования
.
Определите битовую скорость на выходе
кодера ИКМ.
Ответ: 10 Кбит/сек.
Определите дисперсию шума квантования, если равномерный квантователь имеет шаг квантования
В.
Предполагается, что шум квантования
распределен равномерно в интервале
.
Ответ: 0.03
Определите дифференциальную энтропию (бит) гауссовского источника информации, если известна дисперсия сообщения
.
Так как источник гауссовский, то его дифференциальная энтропия может посчитана так:
Ответ: 3.547
Найти значение эпсилон-энтропии равномерного источника, если мощность сообщения на его выходе равна 3 мВт (
),
а мощность шума воспроизведения 0.5 мВт
(
)?
Ответ: 1.037
Найти избыточность непрерывного источника, выдающего сообщение с равномерным законом распределения и независимыми отсчетами при отношении сигнал/шум
.
Ответ: 0.1969
ТЕСТ 2
Энтропия дискретного источника измеряется
а) в битах
б) в битах в секунду
в) величина безразмерная
Один из символов дискретного источника появляется на его выходе с вероятностью . Найти его собственную информацию в битах.
Ответ: 4.454
Дискретный двоичный источник информации без памяти выдает символы с вероятностями
.
Найти энтропию источника, если
.
Ответ: 0
Дискретный источник без памяти имеет объем алфавита . Чему равна максимально возможная энтропия такого источника.
Ответ: 3
Даны три дискретных источника без памяти. У одного объем алфавита
,
символы на его выходе равновероятны,
у второго
,
символы источника равновероятны, у
третьего -
,
символы появляются с вероятностями
.
Какой их этих источников обладает
большей энтропией.
Ответ: 2
Выход дискретного источника без памяти кодируется кодом Хаффмена переменной длины. В первом случае используется посимвольное кодирование, во втором – блочное. Эффективность кодирования:
а) выше в первом случае
б) выше во втором случае
в) одинакова в обоих случаях
Выход дискретного источника без памяти с объемом алфавита кодируется уникальным кодом фиксированной длины (каждому символу источника ставится в соответствие уникальная кодовая комбинация). Определить длину кода.
Ответ: 3
Выход дискретного источника без памяти с объемом алфавита
кодируется кодом фиксированной длины
следующим образом: блоку из
символов
источника ставится в соответствие
уникальная кодовая комбинация длиной
.
Определите длину кодового слова, если
.
Ответ: 4
Выход непрерывного источника информации представляет собой реализацию случайного процесса со спектральной плотностью мощности, ограниченной частотой кГц. Определите минимально возможную частоту дискретизации сигнала на выходе источника.
Ответ: 14 кГц
Выход непрерывного источника информации представляет собой реализацию случайного процесса со спектральной плотностью мощности, ограниченной частотой кГц. Определите максимально возможный шаг дискретизации сигнала на выходе источника.
Ответ: 0.2
Выход непрерывного источника информации кодируется ИКМ сигналом. Сигнал источника имеет верхнюю частоту спектра равную кГц, количество уровней квантования
.
Определите битовую скорость на выходе
кодера ИКМ.
Ответ: 24
Определите десятичное число, закодированное двоичным кодом 10011010.
Ответ: 154
Определите дифференциальную энтропию (бит) гауссовского источника информации, если известна дисперсия сообщения
.
Ответ: 2.708
Какой из трех непрерывных источников информации обладает наибольшей энтропией:
а) источник с равномерным распределением сигнала на выход
б) гауссовский источник
в) источник Лапласа.
Дискретный источник информации без памяти с объемом алфавита
обладает
энтропией
.
Найти избыточность данного источника.
(Бля, легчайшая задача, по сравнению с прошлым тестом)
Ответ: 0.25
Тест 3.
Взаимная информации двух независимых величин равна
а) 0
б) собственной информации
в) 1
Один из символов дискретного источника появляется на его выходе с вероятностью . Найти его собственную информацию в битах.
Ответ: 3.32
Дискретный двоичный источник информации без памяти выдает символы с вероятностями . Найти энтропию источника, если
.
Ответ: 0.881
Энтропия двоичного дискретного источника без памяти максимальна при
а)
б)
в) не зависит от вероятности.