Примітка: Кількість амплітудних градацій, що розрізняється в сигналі з одного елемента зображення:

Кількість інформації, що знімається одним скануючим елементом з одного елемента зображення:

Кількість елементів, що розрізняються по горизонталі та по вертикалі :

Кількість елементів у кадрі:

Інформації у кадрі:

Швидкість передачі інформації за кадр:

Смуга частот, необхідна для передачі отриманого потоку інформації одержувачу :

Питомі витрати енергії сигнала при передачі 1 біту інформації через канал

Код двійковий	Код Грея	Манчестерський код

Завдання 19

Спектр каналу зв’язку простягається від . Відношення сигналу до шуму . Знайти пропускну здатність каналу, та визначити, скільки для цього знадобиться рівнів сигналу.

Розв’язок:

Полоса пропускання



Пропускна здатність каналу зв’язку:

За формулою Найквіста: 

Завдання 20

Сигнал формується у вигляді двійкового коду з ймовірностями появи символів 1 і 0, які дорівнюють відповідно . Появи символів пов’язані умовними ймовірностями:

Знайти ентропію.

Розв’язок:

Завдання 21

Повідомлення передається у двійковому коді ( ). Тривалість передачі . Знайти швидкість передачі інформації для випадків:

а) символи рівно ймовірні та незалежні

б)

в)

г)

Розв’язок:

а)

б)

в)

г)

Завдання 22

Джерелом інформації є вимірювальний датчик випадкового процесу X, рівномірно розподіленого в межах від 0 до 1024 нормованих одиниць. Визначити кількість інформації, яку отримують в результаті одного заміру значення цього випадкового процесу, якщо похибка вимірювання розподілена за нормальним законом і середнє квадратичне значення похибки .

Розв’язок:

Диференційна ентропія випадкової величини X:

Диференційна ентропія похибки вимірювання:

Кількість інформації, яку можливо отримати після одного вимірювання, визначається наступним чином:

Завдання 23

За методикою Шеннона-Фано закодувати оптимальним статистичним кодом ансамбль повідомлень джерела для передачі статистично незалежних повідомлень з 8 символів, якщо задані апріорні ймовірності їх появи на виході джерела дорівнюють:

Визначити параметри коду.

Розв’язок:

Кодування за методом Шеннона-Фано здійснюється у такій послідовності:

- усі повідомлення записуються у таблицю в порядку зменшення їх ймовірності,

- уся сукупність розбивається на дві приблизно рівні групи,

- усім повідомленням першої (верхньої) групи приписується перший кодовий символ «1», а повідомлення другої (нижньої) групи – символ «0»,

- кожна група аналогічно розбивається на підгрупи з однаковими (найближчими) ймовірностями,

- верхнім підгрупам в обох групах приписується другий символ кодової комбінації – символ «1», а нижній – символ «0», ця процедура здійснюється доти, доки у кожній групі не залишиться по одному повідомленню. Процес кодування наведений у таблиці.

Повідомлення		Кодування	Кодова комбінація	Кількість знаків
	0,25	11	11	2
	0,2	10	10	2
	0,2	011	011	3
	0,18	010	010	3
	0,05	0011	0011	4
	0,04	0010	0010	4
	0,04	0001	0001	4
	0,04	0000	0000	4

Жодна кодова комбінація не є початком більш довгої. Середня довжина кодової комбінації обчислюється так:

При оптимальному двійковому кодуванні, з урахуванням ймовірності комбінації, ентропія:

У процесі розв’язання задачі завжди виконується умова:

Недолік коду у тому, що він не завжди проводить однозначної побудови коду. Під час розбивки на підгрупи дозволено зробити більшою по ймовірності як верхню, так і нижню підгрупи.

Завдання 24

Побудувати оптимальній код за методикою Хаффмана з символів з ймовірностями:

Побудувати кодове дерево.

Розв’язок:

Символ
Код	01	11	10	001	00010	00001	00000	00011

Завдання 25

Повідомлення дискретного джерела кодуються рівномірним кодом і передають симетричним каналом зв’язку з перешкодами. Визначити пропускну здатність каналу зв’язку за умови, що тривалість двійкових сигналів , середня ймовірність помилки на один двійковий символ .

Розв’язок:

Пропускна здатність двійкового симетричного каналу обчислюється за формулою:

Завдання 26

Розробити код Хемінга з кількістю інформаційних символів , контрольних символів та загальною довжиною кодової комбінації . Вибір значень інформаційних символів перешкодо захищеного десяти розрядного двійкового коду з виконується у відповідності до номеру студента у списку групи: №4 – 000100. Під час прийому коду Хемінга із каналу зв’язку мав місце одиничний збій у розряді, який треба визначити по прийнятій кодовій комбінації відраховуючи зліва на право. Знайти, виправити збій, записати вірний код Хемінга.