Дырда, Иващенко Учебн пособие рус

51

ЗАДАЧИ для самостоятельной работы студентов

7.1.Канал связи между пунктами А и Б составлен из каскадного соединения трех парциальных каналов с пропускными способностями: первого канала 1200 дв.ед./с; второго канала 1500 дв.ед./с; третьего канала 2000 дв.ед./с. Найти пропускную способность составного канала связи.

7.2.Условия те же, что и в задаче 7.1, но соединение трех парциальных каналов параллельное. Найти пропускную способность составного канала связи.

7.3.Вычислить пропускную способность двоичного симметричного канала без памяти

сзаданной вероятностью ошибки p = 0,001 и скоростью модуляции Bмод = 600 Бод.

7.4.Вычислить пропускную способность четверичного симметричного канала без памяти с заданной вероятностью ошибки p = 0,01 и скоростью модуляции Bмод = 1200 Бод.

7.5.Рассмотрим канал (практически не реальный), в котором спектральная плотность

мощности шума на определенном участке частот от f1 к f2 равна нулю (f1 f2 ). Чему равна его пропускная способность?

7.6.Вычислить пропускную способность гауссовского канала с заданными полосой пропускания Fк = 4,0 кГц и отношением средних мощностей сигнала и шума Ps/Pn = 33 дБ.

7.7.Вычислить пропускную способность гауссовского канала с неограниченной поло-

сой пропускания и спектральной плотностью мощности шума в нем N0 = 10–9 В2/Гц, которым передается сигнал с мощностью Ps = 0,015 В2.

Словарь основных терминов и понятий

Энтропия шума в канале (синоним – ошибочная информация) – определяет ту посто-

роннюю информацию, которая содержится в полученном сигнале на выходе канала вследствие действия помех.

Канал электросвязи – совокупность технических средств, которые обеспечивают передачу сигналов на расстояние.

–ДСК – двоичный симметричный канал, в котором вероятности ошибок символов 0 и 1 одинаковые.

–с АБГШ – канал с аддитивным белым гауссовским шумом.

Математическая модель канала связи – описание преобразований сигнала в канале, которое учитывает наиболее важные особенности канала (отброшены второстепенные особенности, которые не влияют на решение задачи, ради которой создается модель).

Ненадежность канала связи – среднее количество информации (дв.ед./симв. для цифрового канала или дв.ед./отсчет для непрерывного канала), которая теряется в канале из-за действия помех.

Обрыв канала связи – такое состояние канала, при котором пропускная способность канала равна нулю, в частности, в случае ДСК это имеет место при р = 0,5.

Пропускная способность канала– максимально возможная скорость передачи информации каналом связи при заданных ограничениях.

Лекция 8. Потенциальные возможности передачи информации каналами связи

Тематика лекции

1.Потенциальные возможности передачи информации по скорости каналами связи.

2.Потенциальные возможности передачи информации по качеству цифровыми каналами связи.

3.Потенциальные возможности передачи информации по качеству непрерывными каналами связи с помехами.

52

Таблица Л8.1 – Расчетные формулы для потенциальных возможностей передачи информации каналами связи

Скан – пропускная способность канала;

Rи – производительность источника сообщений; Pо.д – вероятность ошибочного декодирования; Tк.к – длительность кодовой комбинации;

– сколь угодно малая величина

Потенциальные возможности передачи информации по скорости каналами свя-

зи. Задача определения максимальной скорости передачи информации каналами связи решается довольно просто: введенное К. Шенноном понятие пропускной способности канала дает четкий ответ.

Скорость передачи информации каналом связи не может превышать его пропу-

!скную способность, поскольку по определению пропускная способность – это максимально возможная скорость передачи информации каналом

Пример 8.1. С какой максимальной скоростью можно передавать информацию четверичным симметричным каналом связи, параметры которого вычислены в примере 7.2.

Решение. Поскольку пропускная способность этого канала C.кан = 1903 дв.ед./с, то это число и определяет максимальную скорость передачи информации каналом.

Потенциальные возможности передачи информации по качеству цифровыми ка-

налами связи. Потенциальные возможности передачи информации по качеству цифровыми каналами определяются теоремами К. Шеннона, которые рассмотрены в [1, разд. 8.2, 8.6], [2, разд. 6.2.3] и др. Поскольку в разных источниках их формулировки несколько разные, приведем ниже наиболее простые.

Количественной мерой качества передачи сообщений цифровыми каналами

!связи является вероятность ошибки в последовательности символов, которые поступают получателю

Теорема 1. Кодирование источника дискретных сообщений

Любой источник дискретных сообщений без памяти можно закодировать двоич-

ной последовательностью при среднем количестве двоичных символов на знак

!источника n как угодно близкой к энтропии, и невозможно добиться средней длины кода, меньшей, чем энтропия источника

Доказательство этой теоремы приведено в [2, разд. 7], он довольно сложный. Прикладной смысл этой теоремы дает возможность более быстрой передачи сообщений за счет устранения избыточности источника неравномерным кодированием. Такое кодирование кодами Шеннона-Фано и Хаффмана рассмотрено в лекции 3.

53

Теорема 2. Кодирование цифрового канала связи с помехами

Если производительность источника сообщений Rи меньше пропускной способности канала Скан, т.е. Rи Cкан , где – сколь угодно малая величина, то существует способ кодирования (преобразование сообщения в цифровой сигнал на

!входе канала) и декодирования (преобразование цифрового сигнала в сообщение на выходе канала), при котором вероятность ошибочного декодирования (нена-

дежность канала) может быть как угодно малой. Если же Rи Cкан, то такого способа не существует

Эту теорему часто называют основной теоремой кодирования Шеннона. Она описа-

на в любой литературе по теории информации и учебниках, в частности, [1, с. 319], [2, с. 252], [3, с. 283]. Строгое математическое доказательство этой теоремы основано на понятиях

– типичные и нетипичные последовательности символов и случайное кодирование. В типичных последовательностях частота появления символов или групп символов как угодно мало отличаются от их вероятностей. Под случайным кодированием понимают, что выбор последовательностей символов длины n, которые используются для кодирования, ведется случайно. Один фрагмент доказательства дает упражнение 8.1.

Основная теорема кодирования Шеннона доказывает интересный факт – помехи в канале и приобретенные через них ошибки ограничивают только скорость пере-

!дачи информации, качество передачи может быть как угодно высокой, т.е. большинство ошибок можно найти и исправить корректирующим кодом

При основательном доказательстве теоремы [5]:

-во-первых, доказано, что оптимальный код должен быть случайным и кодовые комбинации должны иметь большую длину;

-во-вторых, получена формула для вероятности ошибочного декодирования оптимальным случайным кодом (формула (8.4)).

Пример 8.1. Какой запас пропускной способности Cкан – Rи должен иметь канал, чтобы при использовании оптимального кода с длительностью кодовой комбинации Тк.к = 200 мс вероятность ошибочного декодирования Ро.д не превысила величину 10–6?

Решение. Из формулы (8.4) получаем запас пропускной способности канала

Подчеркнем, что чем больше запас пропускной способности, тем легче реализуется система связи, но вместе с тем ухудшается использование пропускной способности канала.

Пример 8.2. Во сколько раз изменится длительность кодовой комбинации Ткк оптимального кода, если при неизменной вероятности ошибки Ро.д = const запас пропускной способности канала Cкан – Rи уменьшается в два раза?

Решение. Из формулы (8.4) вытекает, что при Ро.д = const

Поэтому, при сохранении вероятности ошибочного декодирования (качества передачи) уменьшение запаса пропускной способности вдвое приводит к увеличению длительности кодовой комбинации вдвое, что ведет к увеличению задержки сообщений при передаче.

Вывод. Из формулировки теоремы видно, что она является теоремой существования: не указывает конкретный метод кодирования, т.е. выбор последовательностей для кодирования. Теорема только гарантирует существование такого способа.

54

Сразу же вслед за опубликованием теоремы Шеннона среди теоретиков развернулись исследования по поиску таких методов кодирования. «Руководящей» идеей была идея «случайного кодирования», положенная за основу доказательства теоремы, но на протяжении нескольких лет энтузиазм теоретиков уменьшился, поскольку практика требовала не абстрактных разговоров о некоторых «случайных кодах», а конкретных методах кодированиядекодирования. Требования практики вывели теоретиков на поиск конструктивных методов кодирования (предоставляющих конкретные принципы построения кодов для корректирования ошибок в реальных каналах). Возникла важная теоретическая наука “Теория корректирующих кодов”. Подробно основы этой теории изложены в модуле 4 дисциплины ТС.

Потенциальные возможности передачи информации по качеству непрерывным каналом связи с помехами

Количественной мерой качества передачи сообщений непрерывным каналом

!связи является среднеквадратическая погрешность 20 между аналоговыми сигна-

лами на выходе и входе канала

Теорема 3. Кодирование непрерывного канала связи с помехами

Если при заданной среднеквадратической погрешности 20 восстановления сооб-

щений источника его производительность Rи меньше пропускной способности канала Скан, т.е. Rи Cкан , где – сколь угодно малая величина, то существует

!способ кодирования (преобразования сообщения в сигнал на входе канала) и декодирования (преобразования сигнала в сообщение на выходе канала), который позволяет передавать все непрерывные сообщения источника с погрешностью воспроизведения на выходе канала, который как угодно мало отличается от 20

Из формулировок теорем 2 и 3 вытекает – их сущность почти одинаковая (при одном и том же условии можно достичь высокого качества передачи сообщений), разница в следующем:

–количественная мера качества передачи сообщений цифровым и непрерывным каналами разная;

–под кодированием непрерывного источника понимают не только аналого-цифровое преобразование, а и методы модуляции;

–производительность непрерывного источника Rи вычисляется по эпсилон-энтропии.

Контрольные вопросы

8.1.Если в m-ичной системе связи с ортогональными сигналами средняя мощность сигнала и спектральная плотность мощности шума зафиксированы, то, как обеспечить приближение к нулю вероятности ошибки при сохранении скорости передачи информации?

8.2.Что такое кодирование и декодирование в цифровом и непрерывном каналах связи? Что в них общего и чем они отличаются между собой?

8.3.Какое практическое значение имеет основная теорема кодирования Шеннона в канале с помехами? Можно ли, используя доказательство этой теоремы, строить реальные схемы кодирования и декодирования?

8.4.Сформулировать теоремы Шеннона для цифровых каналов без ошибок и с ошибками. Сопоставить содержание и суть этих теорем и важность их результатов для практики.

ЗАДАЧИ для самостоятельной работы студентов

8.1. Какой запас пропускной способности Скан = Cкан Rи должен иметь канал, что-

бы при использовании оптимального по Шеннону корректирующего кода с длительностью

кодовой комбинации Tк.к = 100 мс вероятность ошибочного декодирования Pо.д не превышала

10–5?

55

8.2. Во сколько раз изменится длительность кодовой комбинации оптимального по Шеннону корректирующего кода, если при неизменной вероятности ошибочного декодиро-

Словарь основных терминов и понятий

Случайное кодирование – выбор последовательностей символов длины n, используемых для кодирования, ведется случайно.

Нетипичная последовательность – такая последовательность символов в кодовой комбинации, что частота появления отдельных символов или групп символов не совпадает с их вероятностью.

Ошибочное декодирование – наличие ошибок в последовательности символов, которые поступают получателю из декодера.

Основная теорема кодирования Шеннона – устанавливает соотношение между производительностью источника Rи и пропускной способностью канала с помехами Скан.

Типичная последовательность – такая последовательность символов в кодовой комбинации, что частота появления отдельных символов или групп символов сколь угодно мало отличаются от их вероятности.

3 ТЕМЫ ПРАКТИЧЕСКИХ ЗАНЯТИЙ И ЛАБОРАТОРНЫХ РАБОТ

Согласно программе дисциплины ТС для закрепления содержания лекций предусмотрены как упражнения, так и лабораторные работы. Но конкретный перечень упражнений и лабораторных работ определяется на каждый учебный год рабочим учебным графиком ОНАС им. А.С. Попова и закрепляются рабочей учебной программой-технологической картой дисциплины ТС.

3.1Перечень рекомендованных тем упражнений

1.Информационные характеристики источников сообщений.

2.Изучение кодирования дискретных сообщений эффективными кодами.

3.Изучение кодирования непрерывных сообщений с предсказанием.

4.Информационные характеристики каналов связи.

3.2Перечень рекомендованных тем лабораторных работ

1.Исследование кодирования дискретных сообщений эффективными кодами.

2.Дискретизация первичных сигналов электросвязи.

3.Исследование кодирования непрерывных сообщений методом ИКМ.

4.Исследованиекодирования непрерывных сообщенийметодом ДИКМи ДМ. Методические указания к выполнению перечисленных выше упражнений и лабора-

торных работ приведены в выданных кафедрой ТЭС им. А.Г. Зюко ОНАЗ им. А.С. Попова методуказаниях к лабораторным работам.

4 РЕКОМЕНДАЦИИ К САМОСТОЯТЕЛЬНОЙ РАБОТЕ

4.1 Общие положения

Самостоятельная работа студентов над материалом модуля имеет такие составляю-

щие:

–отработка дополнительного материала, который дается на лекциях, лабораторных и практических занятиях;

–выполнение индивидуальных заданий ИЗ № 2.1 и № 2.2;

–подготовка к тестированию.

56

4.2 Индивидуальное задание ИЗ № 2.1 – Кодирование дискретного сообщения

Исходные данные:

–сообщение – Фамилия и имя студента, который выполняет задание;

–таблица вероятности букв в содержательных украинских текстах.

Необходимо:

1. Составить алфавит из букв, которые используются для построения заданного сооб-

щения.

2.Для букв, которые вошли в алфавит, выписать их вероятности из таблицы вероятностей букв в содержательных украинских текстах и выполнить нормирование этих вероятностей.

3.Вычислить энтропию заданного сообщения.

4.Для полученного алфавита построить кодовую таблицу кода Шеннона-Фано или Хаффмана (по вариантам) при условии, что буквы в сообщении независимые.

5.Вычислить среднюю длину кодовых комбинаций полученного кода и сравнить ее с длиной кодовой комбинации при равномерном кодировании.

6.Сравнить числовые значения энтропии и средней длины кодовых комбинаций полученного кода. В каком соотношении они должны быть? Чем объясняется отличие числовых значений?

7.Вычислить коэффициенты сжатия сообщения и эффективности полученного кода.

Методические указания к выполнению ИЗ № 2.1

1.Информационные характеристики источника дискретных сообщений детально описанные в [1, разд. 8], [3, разд. 18].

2.Построение кода Шеннона-Фано приведено в [1, с. 309], кода Хаффмана [4, с. 879...881] и в лекции 3 этого учебного пособия. Вариант кода выбирается по последней цифре номера зачетной книжки студента: нечетная – код Шеннона-Фано, четная – код Хаффмана.

3.Вероятности букв в содержательных украинских текстах приведены в табл. 4.1 этого учебного пособия.

4.Для расчетов энтропии и средней длины кодовых комбинаций полученного кода вероятности использованных букв “Фамилии и имени” и пробела между ними должны быть нормированы, т.е. сумма вероятностей должна равнять единице. Для этого необходимо вероятности букв, взятых из табл. 4.1, поделить на сумму вероятностей использованных букв.

5.Средняя длина кодовых комбинаций вычисляется как математическое ожидание количества двоичных символов в кодовых комбинациях полученного неравномерного кода Шеннона-Фано или Хаффмана.

6.В выполненном задании обязательно указывать, из какого литературного источника (номер подраздела или номера страниц) взяты конкретные сведения для выполнения этого индивидуального задания.

Таблица 4.1 – Вероятности букв в содержательных украинских текстах

57

4.3ИндивидуальноезаданиеИЗ№2.2–Кодированиенепрерывного сообщения Непрерывное сообщение источника преобразуется в непрерывный первичный сигнал

и дальше передается каналом связи методом ИКМ с использованием равномерного квантования.

Необходимо:

1.Составить и описать структурные схемы АЦП и ЦАП.

2.Определить такие параметры АЦП и ЦАП:

–частоту дискретизации fд;

–число уровней квантования L;

–длину двоичного кода n;

–скорость цифрового сигнала на выходе АЦП R;

–отношение сигнал/шум квантования кв для рассчитанных и выбранных параметров

АЦП;

–допустимую вероятность ошибки символа (бита) р на входе ЦАП;

–параметры интерполирующего фильтра ЦАП;

–порядок фильтра Баттерворта, который можно использовать в качестве интерполирующего фильтра ЦАП.

Исходные данные для расчетов АЦП и ЦАП заданны в табл. 4.2:

–максимальная частота спектра первичного сигнала Fmax;

–средняя мощность первичного сигнала Pb;

–коэффициент амплитуды первичного сигнала KА2 ;

–допустимое отношение сигнал/шум квантования ρкв.доп;

–отношениесигнал/погрешностьнавыходеЦАПρвыхвзятьна3дБменьшимρкв.доп.

Таблица 4.2 – Исходные данные для выполнения индивидуального задания ИЗ №2.2

Методические указания к выполнению ИЗ №2.2 изложены в лекции 5. Номер варианта конкретному студенту определяется указаниями лектора.

В выполненном задании обязательно указывать, из какого литературного источника (номер подраздела или номера страниц) взяты конкретные данные для выполнения этого индивидуального задания.

58

5 ЗАДАНИЯ ДЛЯ ПРОВЕРКИ ЗНАНИЙ И УМЕНИЙ МОДУЛЯ

5.1 Рекомендации относительно использования заданий

В этом разделе приведен согласно действующей программе дисциплины ТС перечень заданий к экзамену и объяснения к фонду тестовых заданий по модулю. Целесообразность представления перечня экзаменационных вопросов тривиальная – студент должен знать объем учебного материала, который выносится на экзамен. Фонд тестовых заданий кафедры может быть использован для разных назначений:

-проверки подготовленности студентов к текущим занятиям (упражнений и лабораторных работ, индивидуальных заданий);

-проверки подготовленности студентов к экзамену;

-ректорской и отраслевой проверок остаточных знаний по модулю.

Количество тестовых заданий и баллов за каждое из них определяется назначением конкретной проверки.

5.2 Перечень экзаменационных задач

Экзамен по модулю проводится в письменной форме с дальнейшим собеседованием. В экзаменационном билете пять заданий – теоретическое, схемное и три задания по темам модуля, полный ответ на каждое из них оценивается в 20 баллов. Модуль считается сданым при условии получения не меньше 60 баллов.

5.2.1 Теоретические задания

1.Вывести формулу для вычисления энтропии источника А дискретных независимых сообщений и провести ее анализ.

2.Вывести формулу для вычисления условной, общей или взаимной энтропий двух источников дискретных зависимых сообщений и провести ее анализ.

3.Вывести формулу для вычисления дифференциальной энтропии источника непрерывных сообщений, если плотность вероятности источника имеет распределение вероятностей: гауссовское, одностороннее или двустороннее экспоненциальное, равномерное и провести ее анализ.

4.Вывести формулу для вычисления эпсилон-энтропии источника непрерывных сообщений, если плотность вероятности источника имеет распределение вероятностей: гауссовское, одностороннее или двустороннее экспоненциальное, равномерное и провести ее анализ.

5.Доказать, что количество информации в сообщении и энтропия дискретного источника всегда неотрицательные.

6.Доказать, при каких условиях энтропия двоичного источника независимых сообщений равняется нулю или единице.

7.Вывести формулу для вычисления пропускной способности канала связи с АБГШ или ДСК и провести ее анализ.

8.Доказать, при каких условиях пропускная способность ДСК или канала с АБГШ равняется нулю или максимальная.

5.2.2 Структурные схемы преобразований сообщений, сигналов

1. Структурные схемы систем электросвязи для передачи дискретных сообщений или непрерывных сообщений цифровыми методами.

2. Структурные схемы АЦП, ЦАП, кодеров и декодеров ИКМ, ДИКМ, ДМ. Объяснить принцип работы этих устройств.

5.2.3 Задачи Блок 1. Расчеты информационных характеристик источников дискретных и непре-

рывных сообщений

2.1. Дискретный источник для выдачи сообщений использует знаки с заданными вероятностями. Вычислить количество информации в каждом знаке сообщения, энтропию, производительность и избыточность источника (длительность каждого знака задана).

59

2.2.Для двух источников сообщений A и B заданы энтропии: Н(A), Н(A/B), Н(B), Н(B/A). Вычислить общую и взаимную энтропию заданных источников.

2.3.Рассчитать эпсилон-энтропию, избыточность и эпсилон-производительность источника непрерывных сообщений при заданных его вероятностных характеристиках.

Блок 2. Кодирование источников дискретных и непрерывных сообщений

2.1.Сообщение источника кодируются двоичным равномерным кодом длины n символов, длительность выдачи каждого знака источника Тзн. Определить максимальный объем алфавита источника, чтобы знаки можно было закодировать этим кодом, длительность одного двоичного символа и скорость цифрового сигнала.

2.2.Заданы вероятностные характеристики источника дискретных сообщений, т.е. вероятности знаков. Построить кодовую таблицу неравномерного двоичного кода ШеннонаФано или Хаффмана. Для полученного кода вычислить среднее число двоичных символов в кодовых комбинациях и сравнить его с вычисленной энтропией источника.

2.3.Определить параметры цифрового сигнала на выходе АЦП с равномерным квантованием (скорость цифрового сигнала и отношение сигнал/шум квантования), если заданы параметры непрерывного первичного сигнала: максимальная частота спектра Fmax, коэффициент амплитуды КА, число уровней квантования в АЦП L.

Блок 3. Расчеты информационных характеристик каналов связи

3.1.Вычислить пропускную способность двоичного симметричного канала без памяти с заданной вероятностьюошибки символаp и скоростью модуляции Bмод.

3.2.Вычислить пропускную способность гауссового канала с заданными: полосой пропускания канала, спектральной плотностью мощности шума в нем, мощностью сигнала.

3.3.Определить, можно ли сообщение от источника с заданной производительностью передавать с высоким качеством каналом связи с заданной пропускной способностью? Ответ пояснить.

5.3 Объяснение к фонду тестовых заданий по модулю

5.3.1Принципа построения тестовых заданий. Фонд тестовых заданий по модулю

2 подготовлен преподавателями кафедры на основе рекомендаций Института инновационных технологий и содержания образования МНОУ и содержит тестовые задания как закрытого, так и открытого типа.

Содержание тестовых заданий упорядочено (содержит 5 содержательных блоков) и обеспечивает системность по темам и отвечает:

- объему информации, полученной студентом на лекциях; - уровню усвоения информации: знать основные понятия, термины, определения,

применение в телекоммуникациях; уметь вести расчеты основных информационных характеристик и параметров кодов источников сообщений.

В этом учебном пособии не приведен полный объем тестовых заданий, а приведены только тематика и отдельные примеры. Это связано с тем, что:

- с течением времени фонд тестовых заданий кафедры совершенствуется, т.е. изменяются формулировки, изымаются и дополняются отдельные задания;

- студенты должны запоминать не конкретные ответы, а сущность поставленных тестовых заданий.

5.3.2Блок1.Информационныехарактеристикиисточников дискретныхсообщений.

1. Закрытые тестовые задания составлены на такие понятия, термины и определения: количество информации, энтропии (собственная, условная, общая, взаимная) и их свойства, избыточность и производительность источника.

Примеры Выбрать номер правильного, на Ваш взгляд, ответа:

1 Один бит информации, это – количество информации, которая содержится в сообщении, вероятность которого (0; 0,5; 1).

2. Утверждения, что количество информации в сообщении аk может быть меньше единицы,

60

например, 0,83 бит (правильное, ошибочное).

3 Среднее количество информации на одно сообщение источника А, которую можно получить, наблюдая источник В, характеризуется (безусловной энтропией, условной энтропией, совместной энтропией, взаимной энтропией).

2. В открытых тестовых заданиях необходимо провести расчеты: количества информации

(ф-лы (1.1), (1.2), (2.1)), энтропии (ф-лы (1.4), (1.7), (2.4), (2.5)), избыточности (ф-ла (1.8)) и про-

изводительности источника (ф-лы (1.9), (1.2), (2.6), (2.7)).

Примеры

Провести вычисление и записать ответ:

4Источник дискретных сообщений выдает сообщение ak с вероятностью Р(аk) = ____. Количество информации в этом сообщении будет _____, дв.ед. (бит).

5. Источник дискретных сообщений имеет энтропию 2,0 дв.ед./знак. Длительность каждого знака сообщения Tзн = ___ мс. Производительность этого источника будет ______, дв.ед./с (бит/с).

5.3.3 Блок 2. Кодирование источников дискретных сообщений

1. Закрытые тестовые задания составлены на такие понятия, термины и определения: классификация и параметры кодов источника, стандартные и эффективные коды.

Примеры

Выбрать номера правильных, на Ваш взгляд, ответов:

6.В теории кодирования синонимом термина разрядность кода есть термин (длина кода, основание кода, значность кода, кодовое слово).

7.Неравномерный код, который не требует разделительных знаковх между кодовыми комбинациями, получил название (стандартный код, код Хаффмана, код Шеннона-Фано, префиксний код, код без запятой).

Выбрать номер правильного, на Ваш взгляд, ответа:

8.Для эффективных кодов между энтропией источника H(A) и средней длиной кодовой комбинации n согласно теореме Шеннона существует соотношение (n = H(A), n > H(A),

n< H(A)).

2.В открытых тестовых заданиях необходимо провести расчеты: средней длины равномерного и неравномерного кодов (ф-лы (3.2), (3.5)), коэффициентов сжатия и эффективности неравномерных кодов (ф-лы (3.6), (3.7)).

Примеры

Провести вычисление и записать ответ:

9.Кодер источника выдает двоичные кодовые комбинации равномерного кода длины ___

разрядов. Максимальное число знаков, которое можно закодировать этим кодом, будет

___ знаков.

10.Если объем алфавита источника МА = __ знаков, то разрядность равномерного кода для этого источника будет ___ символов.

5.3.4Блок3.Информационныехарактеристикиисточниковнепрерывныхсообщений.

1. Закрытые тестовые задания составлены на такие понятия, термины и определения: энтропии (дифференциальная, эпсилон-энтропия) и их свойства, избыточность и эпсилонпроизводительность источника.

Примеры

Выбрать номера правильных, на Ваш взгляд, ответов:

11. Дифференциальная энтропия источника непрерывного сигнала с плотностью вероятности

p(b) вычисляется по формуле ( p(b)log2(p(b))db , log2 2 eD(B) , log2 12D(B) ,

p(b)log2(1/ p(b))db).