- •4.5 Контрольні питання 87
- •5.5 Контрольні питання 97
- •6.5 Контрольні питання 127
- •2Основні поняття теорії інформації
- •2.1Загальні положення
- •2.2Кругообертання інформації
- •2.3Класифікація інформації
- •2.4Структурні перетворення інформації
- •2.5Фази усунення надлишковості інформації
- •2.6Контрольні питання
- •3Інформаційна метрика
- •3.1Якісні і кількісні оцінки інформації
- •3.2Структурні міри інформації
- •3.2.1Загальна характеристика структурної метрики
- •3.2.2Геометрична міра інформації
- •3.2.3Комбінаторна міра інформації
- •3.2.4Адитивна міра (міра Хартлі)
- •3.2.5Специфіка структурної оцінки кількості інформації
- •3.2.6Інформаційна ємність
- •3.3Статистичні міри інформації
- •3.3.1Відповідність між ймовірністю і інформацією
- •3.3.2Ентропія як міра невизначеності
- •3.3.3Ентропія ансамблю (безумовна ентропія)
- •3.3.4Ентропія об’єднання, умовна ентропія
- •Ентропія безперервного джерела інформації (диференціальна ентропія)
- •3.3.5Кількість інформації як міра зняття невизначеності
- •3.4Кількість інформації і її надлишковість
- •3.5Оцінка якості виміру н контролю
- •3.6Семантичні міри інформації
- •3.6.1Поняття семиотика
- •3.6.2Змістовність інформації
- •3.6.3Доцільність інформації
- •3.6.4Динамічна ентропія
- •3.6.5Істотність інформації
- •3.7Контрольні питання
- •4Характеристики дискретних джерел інформації
- •4.1Продуктивність дискретного джерела та швидкість передачі інформації
- •4.2Інформаційні втрати при передачі інформації по дискретному каналу
- •4.3Пропускна здатність дискретного каналу
- •4.4Теорема Шеннона
- •4.5Контрольні питання
- •5Характеристики неперервних джерел інформації
- •5.1Квантування сигналів
- •5.2Інформаційні втрати при дискретизації неперервних джерел
- •5.3Продуктивність неперервного джерела та швидкість передачі інформації
- •5.4Пропускна здатність неперервного каналу
- •5.5Контрольні питання
- •6Кодування інформації
- •6.1Загальні поняття і визначення
- •6.2Кодування як процес представлення інформації в цифровому вигляді
- •6.3Ефективне кодування
- •6.4Кодування інформації для каналу з завадами
- •6.4.1Загальні поняття теорії завадостійкого кодування
- •6.4.2Різновиди завадостійких код
- •6.4.3Загальні принципи використання надлишковості
- •6.4.4Кодова відстань
- •6.5Контрольні питання
- •Перелік використаних джерел
6.5Контрольні питання
Що розуміється під кодуванням повідомлень?
Яка різниця між буквами і символами?
Що таке кодова комбінація і її розмірність?
Що таке кодер і декодер повідомлень?
Коли доцільне введення кодера каналу?
Що таке модулятор, демодулятор?
Кодування на основі позиційної системи числення?
Яка система числення є найбільш ефективною, і яка є найбільш практичною?
Алгоритм переводу числа з двійкової системи в десяткову систему?
Сутність коду Грея.
Сутність теореми Шенона.
Методи побудови ефективних кодів на основі алгоритму Шенона – Фено.
Сутність методики побудови коду Хаффмена?
Сутність префіксного коду.
Сутність кодуванні по методу l-грам.
Основні положення теорії завадостійкого кодування за Шеноном?
Що таке завадостійки і коректуючи коди?
Сутність блокових кодів?
Роздільні і нероздільні блокові коди?
Що таке кодова відстань?
Зв'язок між кратністю виявлених помилок і кодовою відстанню?
Поняття дозволених і заборонених комбінацій?
Геометрична інтерпретація кодової відстані?
Умови виявлення і виправлення помилок?
Організація контролю по парності?
Побудова коректуючих кодів за рахунок збільшення кодової відстані?
Перелік використаних джерел
Темников В.Е., Афонин В.А., Дмитриев В.И. Теоретические основы информационной техники, М., Энергия, 1971. – 424 с. с илл.
Колесник В.Д., Полтырев Г.Ш. Курс теории информации: Уч. пос. - М.: Наука, 1982. - 416 с.
Советов Б.Я. Теория информации: Уч. пос. - Л.: Изд-во Ленингр. ун-та, 1977. - 184 с.
Кодирование информации /двоичные коды/. Справочник /Под. ред. Н.Т.Березюка. - Харьков: Вища шк., 1978. - 252 с.
Цымбал В.П. Теория информации и кодирования: Учебник для вузов. - К.: Вища шк., 1992. -304 с.
Жураковский Ю.П. Передача информации в ГАП Уч. пос - К.: Вища шк., 1991. - 216 с.
Лагутенко О.И. Модемы. Справочник пользователя. - С.-П.: Лань, 1997. - 368 с.
Емельянов Г. А., Шварцман В.О. Передача дискретной информации. - М.:Радио и связь, 1982. -240 с.
Стратанович Р.Л. Теория информации. - М: Сов.радио, 1975. - 424 с.
Игнатов В.А. Теория информации и передачи сигналов: Учебник. - М.: Радио и связь, 1992.-280 с.
Кузьмин И.В., Кедрус В.А. Основы теории информации и кодирования: Учебник для вузов. - К.: Вища шк.,1986. - 238 с.
Цымбал В.П. Задачник по теории информации и кодированию: Уч.пос. - К.:Вища шк.,1976.-276 с.