Контрольная работа
Выполнение контрольной работы предполагает изложение теоретических вопросов и решения трех заданий.
Номер варианта задания выбирается по модулю 25 двух последних цифр номера студенческого билета (индивидуального плана).
Необходимым условием допуска к экзамену по дисциплине является качественно выполненные и защищенные контрольные задания №1- №3.
Консультации по всем видам работ, предусмотренных рабочей программой дисциплины «Теория информации и кодирования», проводит преподаватель по нечетным субботам осеннего (седьмого) семестра. Время консультаций определяется, исходя из расписания занятий ведущего дисциплину преподавателя.
4. Список вопросов для подготовки к экзамену
Понятие «информация». Разделы теории информации. Типичные задачи теории информации. [1,4,5,9]
Блок-схема системы связи. Основные понятия и определения. [1,4,5]
Понятие сигнала. Структурное определение сигнала. Информативные параметры. Параметры отбора. [1,4,5,9]
Классификация сигналов. [1,4,5,9]
Модели дискретных сигналов. [1,4,9]
Модели непрерывных сигналов. [1,5]
Энтропия объектов с дискретным множеством состояний. [1,8,9,11]
Свойства энтропии. [1,4,9]
Единицы измерения энтропии. [1,8,9]
Энтропия сложной системы. Теорема сложения энтропий. [1,8,9]
Условная энтропия. Объединение зависимых систем. [1,8,9]
Теорема единственности функционала энтропии. [5]
Количество информации по Р. Хартли. [1,5,9,10]
Количество информации по К. Шеннону. [1,5,9,10]
Вычисление количества информации при учете зависимости между символами. [1,4,5]
Вычисление количества информации при наличии шумов. [1,5,8,9]
Частная информация. [1,8,9]
Основные свойства количества информации в дискретных системах. [1,5,8,9]
Основные свойства частной информации в дискретных системах. [1,8,9]
Энтропия системы с непрерывным множеством состояний. [1,5]
Энтропия объединенных систем с непрерывным множеством состояний. [1,5]
Принцип экстремума энтропии. [5]
Количество информации в непрерывных системах. [1,5]
Дискретизация непрерывных сигналов. Квантование по уровню. [1,4,5]
Дискретизация непрерывных сигналов по времени. Функции отсчетов. [1,4,5]
Теорема В.А. Котельникова. Свойства функции отсчетов. [1,4,5]
Характеристики систем связи. Избыточность. [1,4,5,8,9]
Характеристики систем связи. Скорость создания информации. Скорость передачи информации. [1,4,5,8,9]
Характеристики систем связи. Пропускная способность канала связи. [1,4,5,8,9]
Характеристики систем связи. Помехоустойчивость. Эффективность. [1,5,8,9]
Основная теорема К.Шеннона для канала без шума. [1,5]
Кодирование информации. Общие понятия и определения. [1,9]
Кодирование информации. Модель системы связи. [1,5,9]
Кодирование информации. Префиксные коды. [1,8,9]
Кодирование информации. Неравенство Крафта. [5]
Код Шеннона-Фано. Оценки эффективности кодов. [1,8,9,11]
Оценки качества эффективных кодов. [1,8,9]
Эффективное кодирование. Теорема Хаффмена об упорядочении букв алфавита.
Эффективное кодирование. Теорема Хаффмена об оптимальности кода.
Эффективное кодирование. Методика Хаффмена для двоичного алфавита. Оценки эффективности кодов. [1,8,9,11]
Эффективное кодирование. Методика Хаффмена для недвоичного алфавита. Оценки эффективности кодов. [1,9]
Эффективное кодирование. Блочное кодирование. Оценки эффективности кодов. [1,8,9]
Передача информации при наличии шума. Первая теорема К.Шеннона. [1,5]
Передача информации при наличии шума. Вторая теорема К.Шеннона. [1,5]
Помехоустойчивое кодирование. Блоковые коды. Общие принципы введения избыточности. [1,8,9]
Помехоустойчивое кодирование. Исправление ошибок. [1,8,9]
Помехоустойчивое кодирование. Связь корректирующей способности кода с кодовым расстоянием. [1,4,8,9]
Помехоустойчивое кодирование. Показатели качества корректирующего кода. [1,8,9]
Групповые коды. Основные алгебраические понятия и термины. [1,8,9]
Групповые коды. Векторы ошибок. Определение числа информационных и избыточных символов. [1,8,9]
Построение группового кода (7,4). [1,4,8,9]
Технические средства кодирования кода Хэмминга (7,4). [1]
Технические средства декодирования кода Хэмминга (7,4). [1]
Код, исправляющий одиночные и двойные ошибки. [1]