Основы теории информации / лаб № 2

Лабораторная работа № 2

Кодирование, информации. Вычисление объема сообщения, количество информации.

Цель: Приобрести навыки расчета объема сообщения и пропускной способности канала связи

Задание

1. Прочитать учебную информацию, разобрать примеры решения задач.

2. В соответствии со своим номером варианта, решить задания из каждого блока.

3. В отчет включить решенные задачи.

Учебная информация

Математическая теория передачи сообщений, или теория информации, была сформулирована в работах знаменитого американского учёного и инженера Клода Элвуда Шеннона(191б—2001).

Шеннон широко использовал идеи и методы теории вероятностей и ввёл важнейшее понятие энтропии как количества информации.

Один из наиболее популярных примеров кодирования источника - азбука (или код) Морзе, применяемая в телеграфии. Здесь с разными буквами сопоставляются различные двоичные слова (тире и точки заменены на нули и единицы),буквам с большой частотой появления (таким, как «А», «О») соответствуют короткие слова, а буквам с малой частотой употребления (как«Ы») —длинные. Это позволило Морзе сделать среднюю длину двоичных слов близкой к минимально возможной. Буквам алфавита ставятся в соответствие двоичные слова. На -пример, при соотнесении с буквой «Т» слово (0), «Ы»—слово (1), «Я»— слово (01) получится следующая неразрешимая ситуация. Из начала некоторой двоичной записи в виде (01) неизвестно, что же закодировано— слово «Я» или слово «ТЫ».

Наиболее простой способ обеспечить однозначное декодирование - это рассматривать только префикс­ные коды, когда никакое кодовое слово не является началом другого ко­дового слова. Приведённый выше пример несомненно не является префиксным кодом. Простейший префиксный код — это равномерный код, где все слова одной и той же длины. Чуть более сложный пример префиксного кода - с неравной длиной кодовых слов:

А-0, B-10, C-110, D-111

Так, для двоичной последовательности 100111 полу­чится:

100111=(10) 0111=(B)(A)(111)=( B)(A)(D)= BAD.

Варианты заданий к работе

№ варианта	№ задачи	№ варианта	№ задачи	№ варианта	№ задачи
1	1, 10,8	11	11, 10,8	21	13,8,9
2	2,4,6	12	12, 5,1	22	12,10,3
3	3,2,1	13	13, 8, 2	23	9,5,4
4	4, 8, 2	14	2,4,64	24	9,10,8
5	5, 3,3	15	6, 9, 4	25	5,10,7
6	6, 9, 4	16	9,6,3	26	1,4,10
7	7,5,1	17	13,7,9	27	11,2,6
8	8,7,9	18	10,2,8	28	2,4,6
9	9,6,5	19	4, 8, 2	29	3,2,1
10	10,1,10	20	7,5,1	30	12, 5,1

Блок 1

Задания

1. Для передачи по каналу связи сообщения, состоящего только из символов А, Б, В и Г, используется посимвольное кодирование: А — 00, Б —11, В — 010, Г — 011. Через канал связи передается со­общение: ВАГБГВ. Закодируйте это сообщение данным кодом. По­лученную двоичную последовательность переведите в шестнадцатеричный вид.

2. Для кодирования букв А, Б, В, Г используются двухразрядные последовательные двоичные числа (от 00 до 11 соответственно). Если таким способом закодировать последовательность символов БАВГ и записать результат шестнадцатеричным кодом

3. Для пяти букв латинского алфавита заданы их двоичные коды (для некоторых букв — из двух бит, а для некоторых — из трех). Эти коды представлены в таблице:

А	В	С	D	Е
000	01	100	10	011

Определить, какой набор букв закодирован двоичной строкой 0110100011000.

4. Для передачи по каналу связи сообщения, состоящего только из букв А, Б, В, Г, использован неравномерный по длине код: А = О, Б = 10, В = 110. Как нужно закодировать букву Г, чтобы длина кода была минимальной и допускалось однозначное разбиение кодиро­ванного сообщения на буквы?

1)1 3)111

2)1110 4)11

5. Черно-белое растровое изображение кодируется построчно, начиная с левого верхнего угла и заканчивая в правом нижнем углу. При кодировании 1 обозначает черный цвет, а 0 — белый.

6. Для компактности результат записали в шестнадцатеричной системе счисления. Выберите правильную запись такого кода.

1. BD9AA5 3) BDA9D5

2. BDA9B5 4) DB9DAB

7. Для кодирования букв А, Б, В, Г используются последова­тельные двухразрядные двоичные числа (от 00 до 11 соответствен­но). Если таким способом закодировать последовательность симво­лов ГБВА и записать результат шестнадцатеричным кодом, то по

8. Для пяти букв латинского алфавита заданы их двоичные коды (для некоторых букв — из двух бит, а для некоторых — из трех). Эти коды представлены в таблице:

а	b	с	d	е
000	110	01	001	10

Определите, какой набор букв закодирован двоичной строкой 1100000100110:

9. Для кодирования букв К, L, М, N используются последова­тельные четырехразрядные двоичные числа от 1000 до 1011 соответ­ственно. Если таким способом закодировать последовательность символов KMLN и записать результат в восьмеричном коде, то полу-

10. Для кодирования сообщения, состоящего только из букв А, В, С, D и Е, используется неравномерный по длине двоичный код:

А	В	С	D	Е
000	11	01	001	10

Какое (только одно!) из четырех полученных сообщений было пе­редано без ошибок и может быть декодировано?

1)110000010011110 2)110000011011110

3)110001001001110 4) 110000001011110

11. Для передачи по каналу связи сообщения, состоящего толь­ко из букв А, Б, В, Г, используется неравномерный по длине код: А = 0, Б = 01, В = 001. Как нужно закодировать букву Г, чтобы дли­на кода была минимальной и допускалось однозначное разбиение закодированного сообщения на буквы?

1)0001 2)000

3)11 4)101

12. Для передачи по каналу связи сообщения, состоящего только из символов А, Б, В и Г, используется посимвольное кодирование: А — О, Б — 11, В — 100, Г — 011. Через канал связи передается со­общение ГБАВАВГ. Закодируйте это сообщение данным кодом. По­лученную двоичную последовательность переведите в восьмерич­ный код.

Блок 2

Где р- вероятность возникновения событий, N –общее число событий, m – число выпавших событий

N=Kⁱ ,

k- чаще всего -2 , при двух равновероятных исходах: 0 и 1.

Например , 4=2² (00 01 10 11)

Формула Шеннона: i = log₂p,

Пример

В велокроссе участвуют 119 спортсменов. Специальное устройство регистрирует прохождение промежуточного финиша каждым из участников, записывая его номер с использованием ми­нимально возможного количества бит, одинакового для каждого спортсмена. Каков информационный объем сообщения, записанно­го устройством после того, как промежуточный финиш прошли 70 велосипедистов ?

Дано

N=119

R=70

Решение

Для регистрации номера каждого из 119 спортсменов необходимо 7 бит, поскольку с помощью 7 бит можно представить 2⁷ = 128 различных номеров (т.е. 6 бит бу­дет недостаточно). Таким образом, i = 7 бит.

I = 70*7 = 490 (бит).

Ответ: информационный объем искомого сообщения равен 490 бит.

Задания

1. В некоторой стране автомобильный номер состоит из 7 симво­лов. В качестве этих символов используют 18 различных букв и деся­тичные цифры в любом порядке. Каждый такой номер в компьютер­ной программе записывается минимально возможным одинаковым целым количеством байт. При этом используют посимвольное коди­рование и все символы кодируются одинаковым и минимально воз­можным количеством бит. Определите объем памяти, отводимый в этой программе для записи 60 номеров.

2. Световое табло состоит из лампочек. Каждая лампочка может находиться в одном из трех состояний («включено», «выключено» или «мигает»). Какое наименьшее количество лампочек должно быть на табло, чтобы с его помощью можно было передать 18 различ­ных сигналов?

3. В корзине лежат 32 клубка шерсти, из них 4 красных. Сколько бит информации несет сообщение о том, что из корзины достали клу­бок красной шерсти?

4. В корзине лежат 8 черных шаров и 24 белых. Сколько бит ин­формации несет сообщение о том, что из корзины достали черный шар?

1)24 бит 2) 2 бит 3)8 бит 4) 4 бит

5. В корзине лежат 8 черных шаров и 24 белых. Сколько бит ин­формации несет сообщение о том, что из корзины достали черный шар?

1)24 бит 2) 2 бит 3)8 бит 4) 4 бит

6. В корзине лежат черные и белые шары. Среди них 18 черных шаров. Сообщение о том, что из корзины достали белый шар, несет 2 бита информации. Сколько всего шаров в корзине?

1)18

2)24

3)36

4)48

7. В закрытом ящике лежат 32 карандаша, некоторые из них — синего цвета. Наугад вынимается один карандаш. Сообщение «этот карандаш — НЕ синий» несет 4 бит информации. Сколько синих ка­рандашей в ящике?

1)16

2)24

3)30

4)32

8. Некоторый алфавит содержит четыре различных символа. Сколько трехбуквенных слов можно составить из символов этого ал­фавита, если символы в слове могут повторяться?

9. В некоторой стране автомобильный номер длиной 6 символов составляется из заглавных букв (всего используется 12 букв) и деся­тичных цифр в любом порядке. Каждый символ кодируется одина­ковым и минимально возможным количеством бит, а каждый но­мер — одинаковым и минимально возможным количеством байт. Определите объем памяти, необходимый для хранения 32 автомо­бильных номеров.

1)192 байта 2) 128 байт 3)120 байт 4) 32 байта

10. В базе данных хранятся записи, содержащие информацию о датах. Каждая такая запись содержит три поля: год (число от 1 до 2100), номер месяца (число от 1 до 12) и номер дня в месяце (число от 1 до 31). Каждое поле записывается отдельно от других полей с по­мощью минимально возможного числа бит. Определите минималь­ное количество бит, необходимых для кодирования одной подобной записи.

Блок 3

Пример

У Васи есть доступ к Интернету по высокоскоростному одно­стороннему радиоканалу, обеспечивающему скорость получения информации 256 Кбит в секунду. У Пети нет скоростного доступа в Интернет, но есть возможность получать информацию от Васи по низкоскоростному телефонному каналу со средней скоростью 32 Кбит в секунду. Петя договорился с Васей, что тот будет скачи­вать для него данные объемом 5 Мбайт по высокоскоростному кана­лу и ретранслировать их Пете по низкоскоростному каналу.

Компьютер Васи может начать ретрансляцию данных не рань­ше, чем получит первые 512 Кбайт этих данных. Каков минимально возможный промежуток времени (в секундах) с момента начала ска­чивания данных Васей и до полного их получения Петей?

Дано:	Решение
v1 = 256 Кбит/с	v1 = 256 Кбит/с = 28 Кбит/с.
v2 = 32 Кбит/с	v2 = 32 Кбит/с = 25 Кбит/с.
1 = 5 Мбайт	1 = 5 Мбайт = 5 • 210 Кбайт = 5 • 213 Кбит.
I1 = 512 Кбайт	I1 = 512 Кбайт = 29 Кбайт = 212 Кбит.
	Воспользуемся формулой: t=I/v
	t1=I1/v1 => t1 = 212/28 = 24 = 16 (с) — время, -
	которое затратит Вася на получение первых
	512 Кбайт данных.
	t2 = I/v2 => t2 = 5 *213/ 25 = 5 • 28 = 1280 (с) —
	время, которое затратит Петя на скачивание
	5 Мбайт данных.
	t = t1 + t2 => t = 16 + 1280 = 1296 (с).
Найти: t — ?	Ответ: 1296.

Задания

1. Скорость передачи данных через ADSL-соединение равна 128 000 бит/с. Через данное соединение передают файл размером 525 Кбайт. Определите время передачи этого файла в секундах.

2. Скорость передачи данных через это соединение равна 1 024 000 бит/с. Передача файла через это соединение заняла 5 се­кунд. Определите размер файла в килобайтах.

3. Сколько секунд потребуется обычному модему, передающему сообщения со скоростью 28 800 бит/с, чтобы передать цветное рас­тровое изображение размером 640 х 480 пикселей при условии, что цвет каждого пикселя кодируется тремя байтами?

4. Скорость передачи данных через модемное соединение равна 51 200 бит/с. Передача текстового файла через это соединение заня­ла 10 с. Определите, сколько символов содержал переданный текст, если известно, что он был представлен в 16-битной кодировке Unicode.

5. Информационное сообщение объемом 2,5 Кбайт передается со скоростью 2560 бит/мин. За сколько минут будет передано данное сообщение?

6. Модем передает данные со скоростью 7680 бит/с. Передача текстового файла заняла 1,5 мин. Определите, сколько страниц со­держал переданный текст, если известно, что он был представлен в 16-битной кодировке Unicode, а на одной странице содержится 400 символов.

7. Средняя скорость передачи данных с помощью модема равна 36 864 бит/с. Сколько секунд понадобится модему, чтобы передать 4 страницы текста в 8-битной кодировке КОИ8, если считать, что на каждой странице в среднем содержится 2304 символа?

8. Сколько секунд потребуется модему, передающему сообще­ния со скоростью 28 800 бит/с, чтобы передать 100 страниц текста в 30 строк по 60 символов каждая при условии, что каждый символ кодируется одним байтом?

9. Сколько секунд потребуется модему, передающему сообще­ния со скоростью 14 400 бит/с, чтобы передать цветное растровое изображение размером 640 х 480 пикселей при условии, что цвет каждого пикселя кодируется 24 битами?

10. Предположим, что длительность непрерывного подключения к сети Интернет с помощью модема для некоторых АТС не превышает 10 минут. Определите максимальный размер файла в килобайтах, ко­торый может быть передан за время такого подключения, если модем передает информацию в среднем со скоростью 32 Кбит/с.

Форма отчета

ОТЧЕТ

Лабораторная работа №2

Тема:

Выполнил студент группы ИС-31

Иванова И.И.

Цель работы: <сформулировать цель работы>

Задание

<написать задание>

Выполнение

<описать выполнение>

Отчет представить в печатном виде. В верхнем колонтитуле указать Ф.И.О., номер группы и дату выполнения работы.