i-764369815
.pdfСРЕДНЕЕ ПРОФЕССИОНАЛЬНОЕ ОБРАЗОВАНИЕ
__________________________________________________________________
Министерство образования и науки РФ
КАЛУЖСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ ИМЕНИ К. Э. ЦИОЛКОВСКОГО
В. Ю. Белаш
ОСНОВЫ ТЕОРИИ ИНФОРМАЦИИ
УЧЕБНО-МЕТОДИЧЕСКОЕ ПОСОБИЕ
Рекомендовано Учебно-методическим отделом СПО в качестве учебно-методического пособия для использования в учебном процессе образовательными учреждениями среднего профессионального образования по специальностям
09.02.05«Прикладная информатика (по отраслям)»,
09.02.02«Компьютерные сети»
Профобразование Саратов • 2019
УДК 004
ББК 32.81 Б43
Автор:
Белаш Виктория Юрьевна — ст. преподаватель Калужского государственного университета им. К. Э. Циолковского
Белаш, В. Ю.
Б43 Основы теории информации [Электронный ресурс] : учебно-методическое пособие для СПО / В. Ю. Белаш. — Электрон. дан. и прогр. (6 Мб). — Саратов: Профобразование, 2019. — 45 с. — (Среднее профессиональное образование).
ISBN 978-5-4488-0284-3
Учебно-методическое пособие включает в себя общие сведения о дисциплине «Основы теории информации», практические и лабораторные работы, а также контрольные работы и тесты.
Подготовлено в соответствии с требованиями Федерального государственного образовательного стандарта среднего профессионального образования.
Предназначено для изучения дисциплины «Основы теории информации» по специальностям среднего профессионального образования 09.02.05 «Прикладная информатика (по отраслям)», 09.02.02 «Компьютерные сети». Кроме того, учебнометодическое пособие будет полезно студентам всех специальностей, изучающим дисциплины «Информатика» и «Информационные технологии».
Учебное электронное издание
© Белаш В. Ю., 2019 © ООО «Профобразование», 2019
Издано в авторской редакции
Технический редактор, компьютерная верстка А.А. Агешкин
Обложка С.С. Сизиумовой
Для создания электронного издания использовано:
Приложение pdf2swf из ПО Swftools, ПО IPRbooks Reader,
разработанное на основе Adobe Air
Подписано к использованию 06.05.2019. Объем данных 6 Мб.
Издание представлено в электронно-библиотечных системах
IPR BOOKS (www.iprbookshop.ru), Библиокомплектатор (www.bibliocomplectator.ru)
Бесплатный звонок по России: 8-800-555-22-35
Тел.: 8 (8452) 24-77-97, 8 (8452) 24-77-96
Отдел продаж и внедрения ЭБС:
доб. 206, 213, 144, 145 E-mail: sales@iprmedia.ru
Отдел комплектования ЭБС:
доб. 224, 227, 208
E-mail: mail@iprbookshop.ru
По вопросам приобретения издания обращаться:
доб. 208, 201, 222, 224
E-mail: izdat@iprmedia.ru, author@iprmedia.ru
ОГЛАВЛЕНИЕ |
|
Часть I. Общие сведения ................................................................................................................ |
5 |
Основные образовательные результаты, отраженные в заданиях............................................. |
5 |
Технологическая карта дисциплины ............................................................................................ |
5 |
Структура лекционного курса....................................................................................................... |
6 |
Часть II. Практические и лабораторные работы .................................................................... |
13 |
Практическая работа № 1. Вычисление количества информации .......................................... |
13 |
Лабораторная работа № 1. Подсчёт промежуточного количества информации ................... |
15 |
Практическая работа № 2. Энтропия и информация ................................................................ |
18 |
Лабораторная работа № 2. Энтропия как мера степени неопределенности системы ........... |
19 |
Практическая работа № 3. Системы счисления ........................................................................ |
21 |
Лабораторная работа № 3. Самостоятельная работа |
|
по темам «Количество информации. Системы счисления» ..................................................... |
22 |
Практическая работа № 4. Двоичное кодирование................................................................... |
24 |
Лабораторная работа № 4. Определение избыточности кода. |
|
Оптимальное неравномерное кодирование ............................................................................... |
27 |
Практическая работа № 5. Часть 1. Оптимальное кодирование. |
|
Неравенство Макмиллана............................................................................................................ |
28 |
Практическая работа № 5. Часть 2. Алфавитное неравномерное кодирование..................... |
29 |
Лабораторная работа № 5. Сравнение оптимальных кодов..................................................... |
30 |
Практическая работа № 6. Алгоритм Лемпела-Зива. Блочное кодирование ......................... |
32 |
Лабораторная работа № 6. Кодирование информации ............................................................. |
33 |
Практическая работа № 7. Код Хэмминга ................................................................................. |
35 |
Лабораторная работа № 7. Код Хэмминга ................................................................................. |
36 |
Часть III. Контрольные мероприятия ....................................................................................... |
37 |
Тест по дисциплине «Основы теории информации». Вариант 1............................................. |
37 |
Тест по дисциплине «Основы теории информации». Вариант 2............................................. |
38 |
Контрольная работа по дисциплине «Основы теории информации». Вариант 1 .................. |
40 |
Контрольная работа по дисциплине «Основы теории информации». Вариант 2 .................. |
41 |
Список вопросов для коллоквиума............................................................................................ |
44 |
Библиографический список......................................................................................................... |
45 |
4
ЧАСТЬ I. ОБЩИЕ СВЕДЕНИЯ
Основные образовательные результаты, отраженные в заданиях
В результате освоения дисциплины «Основы теории информации» студенты должны:
знать:
единицы измерения информации;
формулы для расчета количества информации;
алгоритмы перевода чисел из одной системы счисления в другую;
алгоритмы оптимального, алфавитного и группового кодирования;
определение расстояния Хэмминга.
уметь:
определять количество информации для файла;
переводить числа между различными системами счисления;
применять алгоритмы кодирования данных;
рассчитывать расстояние Хэмминга.
|
Технологическая карта дисциплины |
|||
|
|
|
|
|
Вид работы |
Критерии оценивания |
|
Максимальное |
|
|
количество баллов |
|||
|
|
|
||
|
|
|
|
|
|
Верно даны два определения |
2б |
|
|
|
по теме лекции |
|
||
|
|
|
||
|
|
|
|
|
Лекции |
Верно дано только одно |
|
2б*8лк=16б |
|
определение по теме лекции, либо |
1б |
|||
|
|
|||
|
в определениях допущены ошибки |
|
|
|
|
|
|
|
|
|
Определения даны неверно |
0б |
|
|
|
|
|
|
|
Лабораторные |
Критерии оценивания приведены |
4б |
4б*7л/р=28б |
|
работы |
ниже |
|||
|
|
|||
|
|
|
|
|
Практические |
Критерии оценивания приведены |
4б |
4б*7л/р=28б |
|
работы |
ниже |
|||
|
|
|||
|
|
|
|
|
|
Верные ответы на оба |
14б |
|
|
Коллоквиум |
теоретических вопроса |
|
||
|
14б |
|||
|
|
|
||
по теории |
Допущена ошибка (за каждую) |
-1б |
||
|
||||
|
|
|
|
|
|
Верный ответ только на один вопрос |
7б |
|
|
|
|
|
|
|
5
Вид работы |
Критерии оценивания |
|
Максимальное |
|
|
количество баллов |
|||
|
|
|
||
|
|
|
|
|
|
Верный ответ на вопрос |
0,2б |
|
|
|
с выбором ответа |
|
||
|
|
|
||
|
|
|
|
|
Тест |
Верный ответ на вопрос |
|
|
|
на соответствие (засчитывается |
0,4б |
6*0,2+2*0,4+2*1=4б |
||
по теории |
||||
полностью правильный ответ) |
|
|
||
|
|
|
||
|
|
|
|
|
|
Верный ответ на вопрос |
1б |
|
|
|
с открытым ответом |
|
||
|
|
|
||
|
|
|
|
|
|
Верное решение заданий 1–9 |
0,5б |
|
|
|
|
|
|
|
Контрольная |
Верное решение задач 10–12 |
1б |
9*0,5+3*1+2,5=10б |
|
работа |
|
|
||
Дополнительный балл |
2,5б |
|||
|
||||
|
за верно решенные 12 задач |
|
||
|
|
|
||
|
|
|
|
|
|
|
|
100б |
|
|
|
|
|
Структура лекционного курса
|
|
Основные понятия, |
|
№ п/п |
Тема лекции |
алгоритмы |
Рекомендуемая литература |
|
|
и способы действий |
|
|
|
|
|
Лекция |
Информация. |
Информация, |
Балюкевич Э.Л. Теория информации |
№ 1 |
Теория |
информатика, теория |
[Электронный ресурс] : учебное пособие / |
|
информации |
информации, |
Э.Л. Балюкевич. — Электрон. текстовые |
|
|
информационные |
данные. — М. : Евразийский открытый ин- |
|
|
процессы, |
ститут, 2009. — 215 c. — 978-5-374-00219- |
|
|
информационные |
5. — Режим доступа: |
|
|
революции, единицы |
http://www.iprbookshop.ru/10863.html |
|
|
измерения |
|
|
|
информации, расчет |
Будаева А.А. Теория информации. Мето- |
|
|
|
|
|
|
количества |
дические указания к лабораторным рабо- |
|
|
|
|
|
|
информации |
там для студентов направления 230100.62 |
|
|
|
|
|
|
|
«Информатика и вычислительная техни- |
|
|
|
ка» — Владикавказ, 2013. |
|
|
|
Зверева Е.Н. Сборник примеров и задач по |
|
|
|
основам теории информации и кодирова- |
|
|
|
ния сообщений [Электронный ресурс] / |
|
|
|
Е.Н. Зверева, Е.Г. Лебедько. — Электрон. |
|
|
|
текстовые данные. — СПб. : Университет |
|
|
|
ИТМО, 2014. — 76 c. — 2227-8397. — |
|
|
|
Режим доступа: |
|
|
|
http://www.iprbookshop.ru/68114.html |
|
|
|
|
6
|
|
Основные понятия, |
|
№ п/п |
Тема лекции |
алгоритмы |
Рекомендуемая литература |
|
|
и способы действий |
|
|
|
|
|
|
|
|
Гультяева Т.А. Основы теории информа- |
|
|
|
ции и криптографии [Электронный ре- |
|
|
|
сурс] : конспект лекций / Т.А. Гультяе- |
|
|
|
ва. — Электрон. текстовые данные. — Но- |
|
|
|
восибирск: Новосибирский государствен- |
|
|
|
ный технический университет, 2010. — |
|
|
|
88 c. — 978-5-7782-1425-5. — Режим до- |
|
|
|
ступа: http://www.iprbookshop.ru/44987.html |
|
|
|
Овчаренко И.Н. Методические указания к |
|
|
|
выполнению лабораторных работ по дис- |
|
|
|
циплине «Теория информации». — Калуга, |
|
|
|
2012. |
|
|
|
Панин В.В. Основы теории информа- |
|
|
|
ции. — М.: Лаборатория знаний, 2015. |
|
|
|
|
Лекция |
Информация |
Энтропия как мера |
Балюкевич Э.Л. Теория информации |
№ 2 |
и энтропия |
неопределенности, |
[Электронный ресурс] : учебное пособие / |
|
|
свойства энтропии, |
Э.Л. Балюкевич. — Электрон. текстовые |
|
|
бит, формула Хартли, |
данные. — М. : Евразийский открытый ин- |
|
|
формула Шеннона, |
ститут, 2009. — 215 c. — 978-5-374-00219- |
|
|
условная энтропия |
5. — Режим доступа: |
|
|
и ее свойства |
http://www.iprbookshop.ru/10863.html |
|
|
|
Будаева А.А. Теория информации. Мето- |
|
|
|
дические указания к лабораторным рабо- |
|
|
|
там для студентов направления 230100.62 |
|
|
|
«Информатика и вычислительная техни- |
|
|
|
ка» — Владикавказ, 2013. |
|
|
|
Зверева Е.Н. Сборник примеров и задач по |
|
|
|
основам теории информации и кодирова- |
|
|
|
ния сообщений [Электронный ресурс] / |
|
|
|
Е.Н. Зверева, Е.Г. Лебедько. — Электрон. |
|
|
|
текстовые данные. — СПб. : Университет |
|
|
|
ИТМО, 2014. — 76 c. — 2227-8397. — |
|
|
|
Режим доступа: |
|
|
|
http://www.iprbookshop.ru/68114.html |
|
|
|
Гультяева Т.А. Основы теории информа- |
|
|
|
ции и криптографии [Электронный ре- |
|
|
|
сурс] : конспект лекций / Т.А. Гультяе- |
|
|
|
|
7
|
|
Основные понятия, |
|
№ п/п |
Тема лекции |
алгоритмы |
Рекомендуемая литература |
|
|
и способы действий |
|
|
|
|
|
|
|
|
ва. — Электрон. текстовые данные. — Но- |
|
|
|
восибирск: Новосибирский государствен- |
|
|
|
ный технический университет, 2010. — |
|
|
|
88 c. — 978-5-7782-1425-5. — Режим до- |
|
|
|
ступа: http://www.iprbookshop.ru/44987.html |
|
|
|
Горячкин О.В. Теория информации и ко- |
|
|
|
дирования. Часть 2 [Электронный ресурс] : |
|
|
|
учебное пособие / О.В. Горячкин. — Элек- |
|
|
|
трон. текстовые данные. — Самара: По- |
|
|
|
волжский государственный университет |
|
|
|
телекоммуникаций и информатики, |
|
|
|
2017. — 138 c. — 2227-8397. — Режим до- |
|
|
|
ступа: http://www.iprbookshop.ru/75413.html |
|
|
|
Овчаренко И.Н. Методические указания к |
|
|
|
выполнению лабораторных работ по дис- |
|
|
|
циплине «Теория информации». — Калуга, |
|
|
|
2012. |
|
|
|
Панин В.В. Основы теории информа- |
|
|
|
ции. — М.: Лаборатория знаний, 2015. |
|
|
|
|
Лекция |
Информация |
Дискретные |
Балюкевич Э.Л. Теория информации |
№ 3 |
и алфавит |
сообщения, постановка |
[Электронный ресурс] : учебное пособие / |
|
|
задачи кодирования, |
Э.Л. Балюкевич. — Электрон. текстовые |
|
|
свойства кодирования, |
данные. — М. : Евразийский открытый ин- |
|
|
первая теорема |
ститут, 2009. — 215 c. — 978-5-374-00219- |
|
|
Шеннона, |
5. — Режим доступа: |
|
|
относительная |
http://www.iprbookshop.ru/10863.html |
|
|
избыточность кода |
|
|
|
|
Будаева А.А. Теория информации. Мето- |
|
|
|
дические указания к лабораторным рабо- |
|
|
|
там для студентов направления 230100.62 |
|
|
|
«Информатика и вычислительная техни- |
|
|
|
ка» — Владикавказ, 2013. |
|
|
|
Гультяева Т.А. Основы теории информа- |
|
|
|
ции и криптографии [Электронный ре- |
|
|
|
сурс] : конспект лекций / Т.А. Гультяе- |
|
|
|
ва. — Электрон. текстовые данные. — Но- |
|
|
|
восибирск: Новосибирский государствен- |
|
|
|
|
8
|
|
Основные понятия, |
|
№ п/п |
Тема лекции |
алгоритмы |
Рекомендуемая литература |
|
|
и способы действий |
|
|
|
|
|
|
|
|
ный технический университет, 2010. — |
|
|
|
88 c. — 978-5-7782-1425-5. — Режим до- |
|
|
|
ступа: http://www.iprbookshop.ru/44987.html |
|
|
|
Горячкин О.В. Теория информации и ко- |
|
|
|
дирования. Часть 2 [Электронный ресурс] : |
|
|
|
учебное пособие / О.В. Горячкин. — Элек- |
|
|
|
трон. текстовые данные. — Самара: По- |
|
|
|
волжский государственный университет |
|
|
|
телекоммуникаций и информатики, |
|
|
|
2017. — 138 c. — 2227-8397. — Режим до- |
|
|
|
ступа: http://www.iprbookshop.ru/75413.html |
|
|
|
Овчаренко И.Н. Методические указания к |
|
|
|
выполнению лабораторных работ по дис- |
|
|
|
циплине «Теория информации». — Калуга, |
|
|
|
2012. |
|
|
|
Панин В.В. Основы теории информа- |
|
|
|
ции. — М.: Лаборатория знаний, 2015. |
|
|
|
|
Лекция |
Системы |
Система счисления, |
Балюкевич Э.Л. Теория информации |
№ 4 |
счисления |
основание системы |
[Электронный ресурс] : учебное пособие / |
|
|
счисления, |
Э.Л. Балюкевич. — Электрон. текстовые |
|
|
классификация систем |
данные. — М. : Евразийский открытый ин- |
|
|
счисления, алгоритм |
ститут, 2009. — 215 c. — 978-5-374-00219- |
|
|
перевода целых и |
5. — Режим доступа: |
|
|
дробных чисел в |
http://www.iprbookshop.ru/10863.html |
|
|
различных системах |
|
|
|
счисления |
Будаева А.А. Теория информации. Мето- |
|
|
|
|
|
|
|
дические указания к лабораторным рабо- |
|
|
|
там для студентов направления 230100.62 |
|
|
|
«Информатика и вычислительная техни- |
|
|
|
ка» — Владикавказ, 2013. |
|
|
|
Овчаренко И.Н. Методические указания к |
|
|
|
выполнению лабораторных работ по дис- |
|
|
|
циплине «Теория информации». — Калуга, |
|
|
|
2012. |
|
|
|
Панин В.В. Основы теории информа- |
|
|
|
ции. — М.: Лаборатория знаний, 2015. |
|
|
|
|
9
|
|
Основные понятия, |
|
№ п/п |
Тема лекции |
алгоритмы |
Рекомендуемая литература |
|
|
и способы действий |
|
|
|
|
|
Лекция |
Кодирование |
Алфавитное |
Балюкевич Э.Л. Теория информации |
№ 5 |
информации |
кодирование, |
[Электронный ресурс] : учебное пособие / |
|
|
неравномерный код с |
Э.Л. Балюкевич. — Электрон. текстовые |
|
|
разделителями, |
данные. — М. : Евразийский открытый ин- |
|
|
префиксный код, код |
ститут, 2009. — 215 c. — 978-5-374-00219- |
|
|
|
|
|
|
Шеннона-Фано, код |
5. — Режим доступа: |
|
|
|
|
|
|
Хаффмана, байтовый |
http://www.iprbookshop.ru/10863.html |
|
|
|
|
|
|
код, код Морзе. |
Будаева А.А. Теория информации. Мето- |
|
|
|
|
|
|
|
дические указания к лабораторным рабо- |
|
|
|
там для студентов направления 230100.62 |
|
|
|
«Информатика и вычислительная техни- |
|
|
|
ка» — Владикавказ, 2013. |
|
|
|
Гультяева Т.А. Основы теории информа- |
|
|
|
ции и криптографии [Электронный ре- |
|
|
|
сурс] : конспект лекций / Т.А. Гультяе- |
|
|
|
ва. — Электрон. текстовые данные. — Но- |
|
|
|
восибирск: Новосибирский государствен- |
|
|
|
ный технический университет, 2010. — |
|
|
|
88 c. — 978-5-7782-1425-5. — Режим до- |
|
|
|
ступа: http://www.iprbookshop.ru/44987.html |
|
|
|
Горячкин О.В. Теория информации и ко- |
|
|
|
дирования. Часть 2 [Электронный ресурс] : |
|
|
|
учебное пособие / О.В. Горячкин. — Элек- |
|
|
|
трон. текстовые данные. — Самара: По- |
|
|
|
волжский государственный университет |
|
|
|
телекоммуникаций и информатики, |
|
|
|
2017. — 138 c. — 2227-8397. — Режим до- |
|
|
|
ступа: http://www.iprbookshop.ru/75413.html |
|
|
|
Овчаренко И.Н. Методические указания к |
|
|
|
выполнению лабораторных работ по дис- |
|
|
|
циплине «Теория информации». — Калуга, |
|
|
|
2012. |
|
|
|
Панин В.В. Основы теории информа- |
|
|
|
ции. — М.: Лаборатория знаний, 2015. |
|
|
|
|
Лекция |
Сжатие данных |
Блочное кодирование, |
Балюкевич Э.Л. Теория информации |
№ 6 |
|
алгоритм Лемпела-Зива |
[Электронный ресурс] : учебное пособие / |
|
|
|
Э.Л. Балюкевич. — Электрон. текстовые |
|
|
|
данные. — М. : Евразийский открытый ин- |
|
|
|
ститут, 2009. — 215 c. — 978-5-374-00219- |
|
|
|
|
10