Добавил:
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:

Теория информации. Учебно-методическое пособие

.pdf
Скачиваний:
0
Добавлен:
07.09.2026
Размер:
1 Мб
Скачать
☆
11
№ п/п
Тема лекции
Основные понятия,
алгоритмы
и способы действий
Рекомендуемая литература
http://www.iprbookshop.ru/10863.html
Будаева А.А. Теория информации. Мето­дические указания к лабораторным рабо­там для студентов направления 230100.62 «Информатика и вычислительная техни­ка» — Владикавказ, 2013.
Горячкин О.В. Теория информации и ко­дирования. Часть 2 [Электронный ресурс] : учебное пособие / О.В. Горячкин. — Элек­трон. текстовые данные. — Самара: По- волжский государственный университет телекоммуникаций и информатики,
2017. — 138 c. — 2227-8397. — Режим до- ступа: http://www.iprbookshop.ru/75413.html
Овчаренко И.Н. Методические указания к выполнению лабораторных работ по дис­циплине «Теория информации». — Калуга,
2012.
Панин В.В. Основы теории информа­ции. — М.: Лаборатория знаний, 2015.
Лекция
№ 7
Способы передачи
данных по
линиям связи
Общая схема передачи
информации в линии
связи, характеристики
канала связи, влияние
шумов на пропускную
способность канала,
постановка задачи
обеспечения
надежности передачи,
вторая теорема
Шеннона
Балюкевич Э.Л. Теория информации [Электронный ресурс] : учебное пособие / Э.Л. Балюкевич. — Электрон. текстовые данные. — М. : Евразийский открытый ин­ститут, 2009. — 215 c. — 978-5-374-00219-
5. — Режим доступа: http://www.iprbookshop.ru/10863.html
Будаева А.А. Теория информации. Мето­дические указания к лабораторным рабо­там для студентов направления 230100.62 «Информатика и вычислительная техни­ка» — Владикавказ, 2013.
Горячкин О.В. Теория информации и ко­дирования. Часть 2 [Электронный ресурс] : учебное пособие / О.В. Горячкин. — Элек­трон. текстовые данные. — Самара: По- волжский государственный университет телекоммуникаций и информатики,
12
№ п/п
Тема лекции
Основные понятия,
алгоритмы
и способы действий
Рекомендуемая литература
2017. — 138 c. — 2227-8397. — Режим до- ступа: http://www.iprbookshop.ru/75413.html
Овчаренко И.Н. Методические указания к выполнению лабораторных работ по дис­циплине «Теория информации». — Калуга,
2012.
Панин В.В. Основы теории информа­ции. — М.: Лаборатория знаний, 2015.
Лекция
№ 8
Коды,
исправляющие
ошибки
Свойства ошибок,
расстояние Хэмминга,
код Хэмминга,
групповые коды,
матрица проверки,
матрица генератора
кода
Балюкевич Э.Л. Теория информации [Электронный ресурс] : учебное пособие / Э.Л. Балюкевич. — Электрон. текстовые данные. — М. : Евразийский открытый ин­ститут, 2009. — 215 c. — 978-5-374-00219-
5. — Режим доступа: http://www.iprbookshop.ru/10863.html
Будаева А.А. Теория информации. Мето­дические указания к лабораторным рабо­там для студентов направления 230100.62 «Информатика и вычислительная техни­ка» — Владикавказ, 2013.
Горячкин О.В. Теория информации и ко­дирования. Часть 2 [Электронный ресурс] : учебное пособие / О.В. Горячкин. — Элек­трон. текстовые данные. — Самара: По­волжский государственный университет телекоммуникаций и информатики,
2017. — 138 c. — 2227-8397. — Режим до- ступа: http://www.iprbookshop.ru/75413.html
Овчаренко И.Н. Методические указания к выполнению лабораторных работ по дис­циплине «Теория информации». — Калуга,
2012.
Панин В.В. Основы теории информа­ции. — М.: Лаборатория знаний, 2015.
13
ЧАСТЬ II. ПРАКТИЧЕСКИЕ
И ЛАБОРАТОРНЫЕ РАБОТЫ
Практическая работа № 1.
Вычисление количества информации
Цель: Формирование умений и навыков по использованию расчетных
формул для количества информации текстового файла, графического изобра­жения и звукового файла.
1. Производится одноканальная (моно) звукозапись с частотой дискрети-
зации 256 Гц. При записи использовались 4096 уровней дискретизации. Запись длится 10 минут, её результаты записываются в файл, причём каждый сигнал кодируется минимально возможным и одинаковым количеством битов. Какое из приведённых ниже чисел наиболее близко к размеру полученного файла, вы­раженному в килобайтах?
1) 16;
2) 25;
3) 64;
4) 225.
2. Производилась четырехканальная (квадро) звукозапись с частотой дис-
кретизации 24 кГц и 16-битным разрешением. В результате был получен файл размером 1800 Мбайт, сжатие данных не производилось. Определите прибли­зительно, сколько минут производилась запись. В качестве ответа укажите ближайшее к времени записи целое число минут.
3. Документ объёмом 60 Мбайт можно передать с одного компьютера на
другой двумя способами.
А. Сжать архиватором, передать архив по каналу связи, распаковать. Б. Передать по каналу связи без использования архиватора. Какой способ быстрее и насколько, если: – средняя скорость передачи данных по каналу связи составляет 222 бит в
секунду;
– объём сжатого архиватором документа равен 70 % исходного; – время, требуемое на сжатие документа, — 15 секунд, на распаковку —
7 секунд?
14
4. Производится двухканальная (стерео) звукозапись с частотой дискре-
тизации 48 кГц и 24-битным разрешением. Запись длится 36 секунд, её резуль­таты записываются в файл, сжатие данных не производится. Какая из приве­дённых ниже величин наиболее близка к размеру полученного файла?
1) 5 Мбайт;
2) 10 Мбайт;
3) 15 Мбайт;
4) 20 Мбайт.
5. Документ объёмом 20 Мбайт можно передать с одного компьютера на
другой двумя способами:
А. сжать архиватором, передать архив по каналу связи, распаковать. Б. сжать суперархиватором, передать суперархив по каналу связи, рас-
паковать.
Какой способ быстрее и насколько, если: – средняя скорость передачи данных по каналу связи составляет 220 бит в
секунду;
– объём сжатого архиватором документа равен 20 % от исходного; – при использовании архиватора время, требуемое на сжатие докумен-
та, — 18 секунд, на распаковку — 2 секунды;
– объём сжатого суперархиватором документа равен 10 % от исходного; – при использовании суперархиватора время, требуемое на сжатие доку-
мента, — 26 секунд, на распаковку — 4 секунды.
6. Музыкальный фрагмент был оцифрован и записан в виде файла без ис-
пользования сжатия данных. Получившийся файл был передан в город А по ка­налу связи за 30 секунд. Затем тот же музыкальный фрагмент был оцифрован повторно с разрешением в 2 раза выше и частотой дискретизации в 1,5 раза меньше, чем в первый раз. Сжатие данных не производилось. Полученный файл был передан в город Б; пропускная способность канала связи с городом Б в 4 раза выше, чем канала связи с городом А. Сколько секунд длилась передача файла в город Б?
7. Скорость передачи данных через ADSL-соединение равна 128000 бит/c.
Через данное соединение передают файл размером 625 Кбайт. Определите вре­мя передачи файла в секундах.
8. Каково время (в минутах) передачи полного объема данных по каналу
связи, если известно, что передано 150 Мбайт данных, причем первую полови­ну времени передача шла со скоростью 2 Мбит в секунду, а остальное время — со скоростью 6 Мбит в секунду?
9. Каково время (в минутах) передачи полного объема данных по каналу
связи, если известно, что передано 1200 Мбайт данных, причем треть времени
15
передача шла со скоростью 60 Мбит в секунду, а остальное время — со скоро­стью 90 Мбит в секунду?
10. Сколько секунд потребуется модему, передающему сообщения со
скоростью 28800 бит/с, чтобы передать растровое изображение размером 800*600 пикселей, при условии, что в палитре 224 цветов?
11. Сколько секунд потребуется модему, передающему сообщения со
скоростью 28 800 бит/с, чтобы передать 100 страниц текста в 30 строк по 60 символов каждая, при условии, что каждый символ кодируется 1 байтом?
12. Сколько секунд потребуется модему, передающему сообщения со
скоростью 19200 бит/с, чтобы передать цветное растровое изображение разме­ром 1280*800 пикселей, при условии, что цвет каждого пикселя кодируется 24 битами?
Ответы
1 2 3 4 5 6 7 8 9
10
11
12
4
164
А14
2
Б6
10
40 5 2
400
50
1280
Критерии оценивания: Работа оценивается в 4 балла. Каждое задание —
1/3 балла. Округление производится в сторону студента до десятых долей.
Лабораторная работа № 1.
Подсчёт промежуточного количества информации
Цель: Формирование умений и навыков по использованию расчетных
формул количества информации, необходимого для хранения информации о пользователях в компьютерных системах.
1. Автоматическое устройство осуществило перекодировку информаци-
онного сообщения на русском языке, первоначально записанного в 16-битном коде Unicode, в 8-битную кодировку КОИ-8. При этом информационное сооб­щение уменьшилось на 480 бит. Какова длина сообщения в символах?
2. На производстве работает автоматическая система информирования
склада о необходимости доставки в цех определенных групп расходных материа­лов. Система устроена так, что по каналу связи на склад передается условный но­мер расходных материалов (при этом используется одинаковое, но минимально возможное количество бит в двоичном представлении этого числа). Известно, что был послан запрос на доставку 9 групп материалов из 19 используемых на произ­водстве. Определите объем посланного сообщения. (Ответ дайте в битах.)
16
3. В одной небольшой стране Индивидуальные Номера Налогоплатель-
щиков представляют собой целые числа от 1 до 4000, На некотором предприя­тии в этой стране работают 300 человек. Главный бухгалтер этого предприятия переписала ИНН всех сотрудников последовательно без разделителей в один файл, при этом использовалось представление целых чисел с одинаковым ми­нимально возможным количеством бит. Оцените объем получившегося файла. (Ответ дайте в байтах.)
4. Метеорологическая станция ведет наблюдение за влажностью воздуха.
Результатом одного наблюдения является целое число от 0 до 100 %, записыва­емое при помощи минимально возможного количества бит. Станция сделала 800 измерений. Определите информационный объем результатов наблюдений. (Ответ дайте в байтах.)
5. В велокроссе участвуют 276 спортсменов. Специальное устройство ре-
гистрирует прохождение каждым из участников промежуточного финиша, за­писывая его номер с использованием минимально возможного количества бит, одинакового для каждого из участников. Какой объём памяти будет использо­ван устройством, когда промежуточный финиш прошли 240 велосипедистов? (Ответ дайте в байтах.)
6. B некоторой стране автомобильный номер длиной 6 символов состав-
ляют из заглавных букв (используются только 33 различных буквы) и десятич­ных цифр в любом порядке. Каждый такой номер в компьютерной программе записывается минимально возможным и одинаковым целым количеством бай­тов (при этом используют посимвольное кодирование и все символы кодиру­ются одинаковым и минимально возможным количеством битов). Определите объём памяти, отводимый этой программой для записи 125 номеров. (Ответ дайте в байтах.)
7. При регистрации в компьютерной системе каждому пользователю вы-
даётся пароль, состоящий из 11 символов и содержащий только символы А, Б, В, Г, Д, Е. Каждый такой пароль в компьютерной программе записывается ми­нимально возможным и одинаковым целым количеством байт, при этом ис­пользуют посимвольное кодирование и все символы кодируются одинаковым и минимально возможным количеством бит. Определите, сколько байт необхо­димо для хранения 20 паролей.
8. При регистрации в компьютерной системе каждому пользователю вы-
даётся пароль, состоящий из 15 символов и содержащий только символы из 12­символьного набора: А, В, C, D, Е, F, G, H, К, L, M, N. В базе данных для хра­нения сведений о каждом пользователе отведено одинаковое и минимально возможное целое число байт. При этом используют посимвольное кодирование паролей, все символы кодируют одинаковым и минимально возможным коли­чеством бит. Кроме собственно пароля, для каждого пользователя в системе
17
хранятся дополнительные сведения, для чего отведено 12 байт на одного поль­зователя. Определите объём памяти (в байтах), необходимый для хранения све­дений о 50 пользователях.
9. При регистрации в компьютерной системе каждому пользователю вы-
даётся пароль, состоящий из 9 символов и содержащий только символы А, В, И, П, Р, Ф, Э, Ю, Я (таким образом, используется 9 различных символов). Каж­дый такой пароль в компьютерной системе записывается минимально возмож­ным и одинаковым целым количеством байт (при этом используют посимволь­ное кодирование и все символы кодируются одинаковым и минимально воз­можным количеством бит). Укажите объём памяти в байтах, отводимый этой системой для записи 12 паролей.
10. При регистрации в компьютерной системе каждому пользователю
выдаётся пароль, состоящий из 15 символов и содержащий только символы из 12-символьного набора: А, В, C, D, Е, F, G, H, K, L, M, N. В базе данных для хранения сведений о каждом пользователе отведено одинаковое и минимально возможное целое число байт. При этом используют посимвольное кодирование паролей, все символы кодируют одинаковым и минимально возможным коли­чеством бит. Кроме собственно пароля, для каждого пользователя в системе хранятся дополнительные сведения, для чего выделено целое число байт; это число одно и то же для всех пользователей. Для хранения сведений о 20 поль­зователях потребовалось 400 байт. Сколько байт выделено для хранения допол­нительных сведений об одном пользователе?
11. В некоторой стране автомобильный номер длиной 10 символов со-
ставляют из заглавных букв (используются только 21 различная буква) и деся­тичных цифр в любом порядке. Каждый такой номер в компьютерной програм­ме записывается минимально возможным и одинаковым целым количеством байтов (при этом используют посимвольное кодирование и все символы коди­руются одинаковым и минимально возможным количеством битов). Определи­те объём памяти, отводимый этой программой для записи 81 номера. (Ответ дайте в байтах.)
Ответы
1 2 3 4 5 6 7 8 9
10
11
60
45
450
700
270
625
100
1000
60
12
567
Критерии оценивания: Работа оценивается в 4 балла. Каждое задание —
0,35 балла. Округление производится в сторону студента до десятых долей.
18
Практическая работа № 2.
Энтропия и информация
Цель: Формирование навыков и умений использования формул Шеннона
и Хартли для вычисления количества информации как меры уменьшения не­определенности системы.
1. Сколько вопросов необходимо задать, чтобы отгадать задуманное со-
беседником целое положительное число, не превышающее 10. Отвечающий да­ет ответы «да» или «нет»
2. Какую степень неопределенности с точностью до сотых имеет угады-
вание месяца рождения случайно встреченного человека?
3. Сколько вопросов следует задать, чтобы быстрее отгадать конкретный
месяц? Отвечающий говорит «да» или «нет». Предложите вариант системы во­просов.
4. При угадывании целого числа в диапазоне от 1 до N было получено
8 бит информации. Чему равно N?
5. Одна из составных частей бензинового двигателя имеет форму валика,
для измерения толщины которого используется стальная лента с 15 шаблонны­ми отверстиями диаметром от 10 мм до 10,56 через каждые 0,04 мм. Калибров­ка калика заключается во вкладывании валика в отверстия контрольного стен­да. За какое наименьшее число испытаний обязательно удастся найти диаметр валика? (знание данного метода позволит автослесарю работать эффективнее)
6. Человек живет в пятиэтажном доме с четырьмя подъездами и четырьмя
квартирами на каждом этаже. За какое наименьшее число вопросов можно определить точно номер квартиры, если на все вопросы человек будет отвечать «Да» или «Нет»? Предложите вариант системы вопросов.
7. Имеются 2 урны. Первая содержит 20 шаров — 10 белых, 5 черных и
5 красных; вторая содержит 16 шаров: 4 белых, 4 черных и 8 красных во вто-
рой. Из каждой урны вытаскивают по одному шару. Исход, какого из этих двух опытов следует считать более неопределенным? Чему равны неопределенности каждого опыта?
8. Из многолетних наблюдений за погодой на определенной территории
известно, что 15 июня вероятность осадков равна 0,4; а 15 ноября вероятность осадков равна 0,8. Какой из прогнозов является более неопределенным?
9. Проводят две лотереи: «4 из 32» и «5 из 64». Сообщение о результатах,
какой из лотерей несет больше информации?
10. В школьной библиотеке 16 стеллажей с книгами. На каждом стеллаже
8 полок. Библиотекарь сообщил Пете, что нужная ему книга находится на пя-
19
том стеллаже на третьей сверху полке. Какое количество информации библио­текарь передал Пете?
11. В классе 30 человек. За контрольную работу по информатике получе-
но 15 пятерок, 6 четверок, 8 троек и 1 двойка. Какое количество информации несет сообщение о том, что Андреев получил пятерку?
12. Сколько бит информации несет сообщение о том, что из колоды в
32 карты достали «даму пик»?
13. В коробке лежат 8 разноцветных карандашей. Какое количество ин-
формации содержит сообщение, что из коробки достали красный карандаш?
14. При угадывании карты из колоды в 32 карты задается вопрос, «выпала
ли дама пик?». Какое количество информации с точностью до десятых содер­жит ответ?
15. При угадывании результатов броска игрального кубика задается во-
прос, выпало ли число 6. Какое количество информации с точностью до сотых содержит ответ?
Ответы
1 2 3 4 5 6 7 8 9
10
11
12
13
14
15
4
3,58
4
256
4 7 1,5
Первый
Второй
7 1 5 3 0,2
0,65
Критерии оценивания: Работа оценивается в 4 балла. Каждое задание —
0,25 балла. Округление производится в сторону студента до десятых долей.
Лабораторная работа № 2.
Энтропия как мера степени неопределенности системы
Цель: Формирование навыков и умений использования формул Шеннона
и Хартли для вычисления энтропии.
Пояснение к заданиям: Работа выполняется в табличном процессоре
MS Excel, каждое задание — на отдельном листе.
1. Получить таблицу значений функции (p) = –p* log2p при изменении р
от 0,01 до 0,99 с шагом 0,01.
2. Система может находиться в двух состояниях. Вероятность одного со-
стояния Р. Определить значения энтропии при изменении Р от 0,01 до 0,99 с шагом 0,01. Определить максимальное значение энтропии. Построить график. Привести примеры, подтверждающие вид графика (не менее трех). Перенести график в тетрадь.
20
3. Пользуясь таблицей частот русского языка, определить энтропию каж-
дой буквы русского текста и энтропию всего алфавита.
Символ
Вероятность
Символ
Вероятность
Символ
Вероятность
Символ
Вероятность
Пробел
0,175
р
0,040
я
0,018
х
0,009
о
0,090
в
0,038
ы
0,016
ж
0,007
е
0,072
л
0,035
з
0,016
ю
0,006
а
0,062
к
0,028
ъ
0,014
ш
0,006
и
0,062
м
0,026
б
0,014
ц
0,004
н
0,053
д
0,025
г
0,013
щ
0,003
т
0,053
п
0,025
ч
0,012
э
0,003
с
0,045
у
0,021
й
0,010
ф
0,001
4. Определить энтропию источника сообщений, если статистика распре-
деления вероятностей появления символов на выходе источника сообщений представлена следующей таблицей.
xi
x1
x2
x3
x4
x5
x6
x7
x8
x9
x10
p
0,35
0,035
0,07
0,15
0,07
0,07
0,14
0,035
0,01
0,07
5. Алфавит состоит из пяти букв. Определить количество информации на
символ сообщения, составленного из этого алфавита, если
а) символы алфавита встречаются с равными вероятностями; б) символы алфавита встречаются с вероятностями р1 = 0,8; р2 = 0,15;
р3 = 0,03; р4 = 0,015; р5 = 0,005.
Ответы
1
p
1-p
η
0,01
0,99
0,080793
0,02
0,98
0,141441
0,03
0,97
0,194392
… … …
0,97
0,03
0,194392
0,98
0,02
0,141441
0,99
0,01
0,080793
2
3
4,36
4
2,82
5
а) 2,32; б) 0,95.
0
0,2
0,4
0,6
0,8
1
0 0,1 0,2 0,3 0,4 0,5 0,6 0,7 0,8 0,9 1
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]