Содержание

Предисловие 3

Введение 4

Раздел 1. ТЕОРИЯ ИНФОРМАЦИИ 7

Глава 1. Исходные понятия информатики 8

1.1. Начальные определения 8

1.2. Формы представления информации 12

1.3. Преобразование сообщений 13

Глава 2. Понятие информации в теории Шеннона 17

2.1. Понятие энтропии 17

2.1.1. Энтропия как мера неопределенности 17

2.1.2. Свойства энтропии 19

2.1.3. Условная энтропия 21

2.2. Энтропия и информация 24

2.3. Информация и алфавит 28

Глава 3. Кодирование символьной информации 32

3.1. Постановка задачи кодирования, Первая теорема Шеннона 32

3.2. Способы построения двоичных кодов 36

3.2.1. Алфавитное неравномерное двоичное кодирование сигналами равной длительности. Префиксные коды 36

3.2.2. Равномерное алфавитное двоичное кодирование. Байтовый код 40

3.2.3. Алфавитное кодирование с неравной длительностью элементарных сигналов. Код Морзе 42

3.2.4. Блочное двоичное кодирование 43

Глава 4. Представление и обработка чисел в компьютере 45

4.1. Системы счисления 45

4.2. Представление чисел в различных системах счисления 47

4.2.1. Перевод целых чисел из одной системы счисления в другую 47

4.2.2. Перевод дробных чисел из одной системы счисления в другую 50

4.2.3. Понятие экономичности системы счисления 52

4.2.4. Перевод чисел между системами счисления 2 ↔ 8 ↔ 16 54

4.2.5. Преобразование нормализованных чисел 56

4.3. Кодирование чисел в компьютере и действия над ними 59

4.3.1. Кодирование и обработка в компьютере целых чисел без знака 60

4.3.2. Кодирование и обработка в компьютере целых чисел со знаком 61

4.3.3. Кодирование и обработка в компьютере вещественных чисел 65

Глава 5. Передача информации 69

5.1. Общая схема передачи информации в линии связи 69

5.2. Характеристики канала связи 71

5.3. Влияние шумов на пропускную способность канала 73

5.4. Обеспечение надежности передачи и хранения информации 75

5.4.1. Постановка задачи 75

5.4.2. Коды, обнаруживающие ошибку 77

5.4.3. Коды, исправляющие одиночную ошибку 77

5.5. Способы передачи информации в компьютерных линиях связи 79

5.5.1. Канал параллельной передачи 79

5.5.2. Последовательная передача данных 80

5.5.3. Связь компьютеров по телефонным линиям 81

Глава 6. Хранение информации 83

6.1. Классификация данных. Проблемы представления данных 83

6.2. Представление элементарных данных в ОЗУ 85

6.3. Структуры данных и их представление в ОЗУ 88

6.3.1. Классификация и примеры структур данных 88

6.3.2. Понятие логической записи 91

6.3.3. Организация структур данных в ОЗУ 92

6.4. Представление данных на внешних носителях 95

6.4.1. Иерархия структур данных на внешних носителях 95

6.4.2. Особенности устройств хранения информации 96

Раздел 2. Алгоритмы. Модели. Системы 98

Глава 7. Элементы теории алгоритмов 99

7.1. Нестрогое определение алгоритма 99

7.2. Рекурсивные функции 102

7.3. Алгоритм как абстрактная машина 106

7.3.1. Общие подходы 106

7.3.2. Алгоритмическая машина Поста 107

7.3.3. Алгоритмическая машина Тьюринга 109

7.4. Нормальные алгоритмы Маркова 113

7.5. Сопоставление алгоритмических моделей 115

7.6. Проблема алгоритмической разрешимости 116

7.7. Сложность алгоритма 117