Добавил:
Upload Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:
Теория информации - курс лекций.doc
Скачиваний:
428
Добавлен:
13.03.2015
Размер:
4.65 Mб
Скачать

Оглавление

Предисловие 2

Лекция 1. Информация. Начальные понятия и определения 3

Лекция 2. Необходимые сведения из теории вероятностей 15

Лекция 3. Понятие энтропии 23

Лекция 4. Энтропия и информация 30

Лекция 5. Информация и алфавит 38

Лекция 6. Постановка задачи кодирования. Первая теорема Шеннона. 42

Лекция 7. Способы построения двоичных кодов. Алфавитное неравномерное двоичное кодирование сигналами равной длительности. Префиксные коды. 48

Лекция 8. Способы построения двоичных кодов. Другие варианты 57

Лекция 9. Системы счисления. Представление чисел в различных системах счисления. Часть 1 66

Лекция 10. Системы счисления. Представление чисел в различных системах счисления. Часть 2. 75

Лекция 11. Кодирование чисел в компьютере и действия над ними 81

Лекция 12. Передача информации в линии связи 91

Лекция 13. Обеспечение надежности передачи информации. 99

Лекция 14. Способы передачи информации в компьютерных линиях связи 105

Лекция 15. Классификация данных. Представление данных в памяти компьютера 110

Лекция 16. Классификация структур данных 118

Лекция 17. Организация структур данных в оперативной памяти и на внешних носителях 126

Контрольные вопросы 132

Список литературы 134

Предисловие

Во второй половине XX века началась и по настоящее время продолжается стремительная информатизация общества. Информатизация – это процесс создания, развития и всеобщего применения информационных средств и технологий, обеспечивающих достижение и поддержание уровня информированности всех членов общества, необходимого для улучшения качества труда и жизни в обществе. Научным фундаментом процесса информатизации является научная дисциплина – теоретическая информатика.

Целями данного учебного пособия являются:

  • осуществить четкое изложение основных понятий теории инфорации;

  • рассмотреть математические основы информатики как инструмент для решения прикладных задач;

  • сформировать у студентов представление о прикладных аспектах дисциплины, наболее глубоко изучаемых на последующих ступенях обучения.

Среди учебной литературы имеется множество книг по курсу информатики. Однако, круг вопросов, рассматриваемых в имеющихся учебных пособиях, зачастую не вполне соответствует учебной программе по дисциплине «Теория информации», утвержденной вузом для конкретного направления подготовки. Отличие данного пособия от имеющихся состоит, прежде всего, в ориентации на конкретную программу обучения студентов направления подготовки 230700.62 «Прикладная информатика». Данное учебное пособие представляет собой конспект лекций, читаемых студентам, обучающимся по указанному направлению подготовки.

Данный курс может быть использован как лекторами, так и студентами при самостоятельной работе.

Лекция 1. Информация. Начальные понятия и определения

  1. Информация и данные.

  2. Формы адекватности информации.

  3. Качество информации.

  4. Понятие об информационном процессе.

  5. Формы представления информации.

  6. Преобразование сообщений.

1. Информация и данные

Термин «информация» происходит от латинского informatio, что означает разъяснение, осведомление, изложение. Информация есть отражение реального мира с помощью сведений (сообщений).

Сообщение – это форма представления информации в виде речи, текста, изображения, цифровых данных, графиков, таблиц и так далее

В широком смысле информация – это общенаучное понятие, включающее в себя обмен сведениями между людьми, обмен сигналами между живой и неживой природой, людьми и устройствами.

Информация – это сведения об объектах и явлениях окружающей среды, их параметрах, свойствах и состоянии, которые уменьшают имеющуюся о них степень неопределенности, неполноты знаний.

Наряду с понятием информации в информатике часто употребляется понятие «данные». Между «информацией» и «данными» есть отличие.

Данные могут рассматриваться как признаки или записанные наблюдения, которые не используются, а только хранятся. В том случае, когда эти данные используются для уменьшения неопределенности о чем-либо, данные превращаются в информацию. Таким образом, информацией являются используемые данные.

Пример. Напишите на листе десять номеров телефонов в виде последовательности десяти чисел и покажите их Вашему другу. Он воспримет эти цифры как данные, так как они не предоставляют ему никаких сведений. Затем после каждого номера укажите имя и фамилию. Для Вашего друга непонятные сначала цифры обретут определенность, и превратятся из данных в информацию, которую можно использовать.

При работе с информацией всегда имеется ее источник и потребитель (получатель). Пути и процессы, обеспечивающие передачу сообщений от источника информации к потребителю, называются информационными коммуникациями.