- •7. Інформаційні характеристики каналів…………….36
- •1. Предмет і задачі теорії інформації
- •1.1. Основні поняття і визначення
- •1.2. Кількісна оцінка інформації
- •2. Безумовна та умовна ентропії
- •2.1 Безумовна ентропія і її властивості
- •2.2 Умовна ентропія
- •2.3 Ентропія об’єднання
- •Умовні ймовірності вигляду p(ai/bj) I p(bj/ai) обчислюються як
- •3. Диференціальна ентропія
- •3.1. Диференціальна ентропія
- •3.2. Епсилон-ентропія
- •4. Канали передачі інформації
- •4.1. Види каналів передачі інформації
- •4.2. Обчислення інформаційних втрат при передачі повідомлень по дискретним каналам зв’язку з шумами
- •5. Джерела повідомлень
- •5.1. Моделі сигналів
- •Спектр амплітуд є парною функцією k
- •5.2. Перетворення сигналів
- •5.3. Інформаційні характеристики джерела
- •Тоді повна ентропія джерела повідомлень
- •5.4. Інформаційні характеристики джерела
- •Модульна контрольна робота 1
- •6. Коди і кодування
- •6.1. Визначення кодів
- •6.2. Надмірність інформації
- •6.3. Оптимальне кодування
- •Для двоїчних кодів
- •Очевидно, що ця рівність вірна при умові, що довжина коду у вторинному алфавіті
- •У випадку нерівноймовірних і взаємозалежних символів
- •7. Інформаційні характеристики каналів зв’язку
- •7.1. Інформаційні характеристики дискретних каналів зв’язку
- •У випадку нерівноймовірних і взаємозалежних символів різної тривалості
- •7.2. Інформаційні характеристики неперервних каналів зв’язку
- •7.3. Узгодження фізичних характеристик сигналу і каналу
- •8. Ефективність і надійність систем передачі інформації.
- •8.1. Завадостійкість систем передачі інформації
- •8.2. Надійність систем передачі інформації
- •Для практичних розрахунків можна користуватись виразом
- •8.3. Цінність інформації
- •8.4. Інформаційна оцінка автоматизованих систем управління
- •В усталеному режимі буде додержуватись умова
- •Модульна контрольна робота 2
- •6.9.Як визначається ефективність онк?
- •Додатковий
Додатковий
Стратанович Р.Л. Теория информации. – М.:Сов. Радио, 1975. – 420 с.
Фано Р. Передача информации. Статистическая теория связи. – М. : Мир, 1965. – 483 с.
Шеннон К. Работы по теории информации и кибернетики. – М. : Изд-во иностр. лит., 1963. – 830 с.
Навчальне видання
ФЕЛЬЗЕР Михайло Семенович, СИТНИК Олександр Георгієвич
ТЕОРІЯ ІНФОРМАЦІЇ
Конспект лекцій
Технічний редактор А.І. Лавринович
Коректор Л.М. Романова
Підп. до друку Формат 60х84/16. Папір офс.
Офс друк. Ум. Фарбовідб. 25. Ум. друк. арк. Обл.-вид. арк.
Тираж 50 пр. Замовлення № Вид. №
Видавництво НАУ
03680. Київ-680, Проспект Космонавта Комарова, 1
Свідоцтво про внесення до Державного реєстру №997 від 05.07.2002