Вариант 3

1. Теоретический вопрос: Кодирование дискретной информации при отсутствии помех и штрафов

2. Ваш друг живет на 2 этаже 8-миэтажного дома. Какое количество информации несет это сообщение?

3. Докажите свойство энтропии: Энтропия минимальна и равна нулю, если хотя бы одно из состояний системы достоверно известно: H = Hmin = 0.

4. Определите энтропию (неопределенность) системы, состояние которой описывается случайной величиной Х с рядом распределения

   X	x1	x2	x3	x4	x5
   P	0,25	0,15	0,3	0,25	0,05

5. Канал связи описан следующей канальной матрицей:

	0,16	0,25	0,59
P(Y/X)=	0,35	0,25	0,4
	0,49	0,5	0,01

Вычислите среднее количество информации, которое переносится одним символом сообщения, если вероятности появления символов источника сообщений равны р(х₁) = 0,2; р(х₂) = 0,2; р(х₃) = 0,6. Чему равны информационные потери при передаче сообщения из 500 символов алфавита х₁, x₂, x₃? Чему равно количество принятой информации?

6. Алфавит состоит из букв а, b, с, d. Вероятности появления букв равны соответственно 0,25; 0,25; 0,34; 0,16. Определите количество информации, приходящееся на символ сообщения, составленного с помощью такого алфавита. Закодируйте данный алфавит методом Шеннона-Фано и определите эффективность полученного кода.

7. Закодировать методом Хаффмана алфавит, состоящий из восьми букв, вероятности появления которых равны

Х	х1	х2	х3	х4	х5	х6	х7	х8
Р(х)	0,02	0,08	0,25	0,25	0,1	0,15	0,1	0,05

Найти эффективность полученного кода.

8. Перевести в код Грея число 118

9. Перевести целое число, закодированное кодом Грея в десятичную систему счисления 111110

10. Закодировать циклическим кодом число N=233 при d=4 .

Вариант 4

1. Теоретический вопрос: Кодирование при наличии штрафов. Первая вариационная задача

2. Чему равно количество информации, если  получили сообщение о выходе из строя одного из восьми станков в данном цехе?

3. Докажите свойство энтропии: «Энтропия есть величина вещественная, ограниченная и неотрицательная:    Н0».

4. Необходимо считать, что имеется три системы, каждая из которых имеет по четыре состояния. Задайтесь различными распределениями вероятностей, например:

Система 1 0,5; 0,2; 0,25; 0,05;

Система 2 0,25; 0,25; 0,25; 0,25;

Система 3 0,2; 0,3, 0,28, 0,22.

Определите, при каких распределениях вероятностей энтропия максимальна. Сделайте соответствующие выводы.

5. По некоторому каналу связи передаются сообщения. Алфавит первичного языка состоит из четырех букв a, b, c, d, вероятности появления которых равны р(a) = 0,5; р(b) = 0,25; р(c) = 0,1, р(d) = 0,15. В канале связи при передаче возникают помехи.

Канал связи описан следующей канальной матрицей:

	0,2	0,3	0,1	0,4
P(Y/X)=	0,1	0,3	0,1	0,5
	0,4	0,3	0,2	0,1
	0,3	0,1	0,6	0

Вычислите среднее количество информации, которое переносится одним символом сообщения, если Чему равны информационные потери при передаче сообщения из 100 символов алфавита a, b, c, d? Чему равно количество принятой информации?

6. А	а1	а2	а3	а4	а5	а6
   Р(х)	0,2	0,04	0,06	0,25	0,3	0,15

   Закодировать методом Шеннона-Фано алфавит, состоящий из шести букв, вероятности появления которых равны:

Найти эффективность полученного кода.

7. Закодировать методом Хаффмана алфавит из задания 5. Найти и сравнить эффективность полученного кода. Сравнить с эффективностью Кода в задании 5.

8. Перевести в код Грея число 221

9. Перевести целое число, закодированное кодом Грея в десятичную систему счисления 1001011

10. Закодировать многочлен х⁷+x⁴+х³+х+1 циклическим кодом.