
- •160001, Г. Вологда, ул. Челюскинцев, 3.
- •Предисловие
- •Введение
- •Раздел 1. Теория информации
- •Глава 1. Исходные понятия информатики
- •1.1. Начальные определения
- •1.2. Формы представления информации
- •1.3. Преобразование сообщений
- •Контрольные вопросы и задания
- •Глава 2. Понятие информации в теории Шеннона
- •2.1. Понятие энтропии
- •2.1.1. Энтропия как мера неопределенности
- •2.1.2. Свойства энтропии
- •2.1.3. Условная энтропия
- •2.2. Энтропия и информация
- •2.3. Информация и алфавит
- •Контрольные вопросы и задания
- •Глава 3. Кодирование символьной информации
- •3.1. Постановка задачи кодирования, Первая теорема Шеннона
- •3.2. Способы построения двоичных кодов
- •3.2.1. Алфавитное неравномерное двоичное кодирование сигналами равной длительности. Префиксные коды
- •3.2.2. Равномерное алфавитное двоичное кодирование. Байтовый код
- •3.2.3. Алфавитное кодирование с неравной длительностью элементарных сигналов. Код Морзе
- •3.2.4. Блочное двоичное кодирование
- •Контрольные вопросы и задания
- •Глава 4. Представление и обработка чисел в компьютере
- •4.1. Системы счисления
- •4.2. Представление чисел в различных системах счисления
- •4.2.1. Перевод целых чисел из одной системы счисления в другую
- •4.2.2. Перевод дробных чисел из одной системы счисления в другую
- •4.2.3. Понятие экономичности системы счисления
- •4.2.4. Перевод чисел между системами счисления 2 ↔ 8 ↔ 16
- •4.2.5. Преобразование нормализованных чисел
- •4.3. Кодирование чисел в компьютере и действия над ними
- •4.3.1. Кодирование и обработка в компьютере целых чисел без знака
- •4.3.2. Кодирование и обработка в компьютере целых чисел со знаком
- •4.3.3. Кодирование и обработка в компьютере вещественных чисел
- •Контрольные вопросы и задания
- •Глава 5. Передача информации
- •5.1. Общая схема передачи информации в линии связи
- •5.2. Характеристики канала связи
- •5.3. Влияние шумов на пропускную способность канала
- •5.4. Обеспечение надежности передачи и хранения информации
- •5.4.1. Постановка задачи
- •5.4.2. Коды, обнаруживающие ошибку
- •5.4.3. Коды, исправляющие одиночную ошибку
- •5.5. Способы передачи информации в компьютерных линиях связи
- •5.5.1. Канал параллельной передачи
- •5.5.2. Последовательная передача данных
- •5.5.3. Связь компьютеров по телефонным линиям
- •Контрольные вопросы и задания
- •Глава 6. Хранение информации
- •6.1. Классификация данных. Проблемы представления данных
- •6.2. Представление элементарных данных в озу
- •6.3. Структуры данных и их представление в озу
- •6.3.1. Классификация и примеры структур данных
- •6.3.2. Понятие логической записи
- •6.3.3. Организация структур данных в озу
- •6.4. Представление данных на внешних носителях
- •6.4.1. Иерархия структур данных на внешних носителях
- •6.4.2. Особенности устройств хранения информации
- •Контрольные вопросы и задания
- •Раздел 2. Алгоритмы. Модели. Системы
- •Глава 7. Элементы теории алгоритмов
- •7.1. Нестрогое определение алгоритма
- •7.2. Рекурсивные функции
- •7.3. Алгоритм как абстрактная машина
- •7.3.1. Общие подходы
- •7.3.2. Алгоритмическая машина Поста
- •7.3.3. Алгоритмическая машина Тьюринга
- •7.4. Нормальные алгоритмы Маркова
- •7.5. Сопоставление алгоритмических моделей
- •7.6. Проблема алгоритмической разрешимости
- •7.7. Сложность алгоритма
- •Контрольные вопросы и задания
- •Глава 8. Формализация представления алгоритмов
- •8.1. Формальные языки
- •8.1.1. Формальная грамматика
- •8.1.2. Способы описания формальных языков
- •8.2. Способы представления алгоритмов
- •8.2.1. Исполнитель алгоритма
- •8.2.2. Строчная словесная запись алгоритма
- •8.2.3. Графическая форма записи
- •8.2.4. Классификация способов представления алгоритмов
- •8.3. Структурная теорема
- •Контрольные вопросы и задания
- •Глава 9. Представление о конечном автомате
- •9.1. Общие подходы к описанию устройств, предназначенных для обработки дискретной информации
- •9.2. Дискретные устройства без памяти
- •9.3. Конечные автоматы
- •9.3.1. Способы задания конечного автомата
- •9.3.2. Схемы из логических элементов и задержек
- •9.3.3. Эквивалентные автоматы
- •Контрольные вопросы и задания
- •Глава 10. Модели и системы
- •10.1. Понятие модели
- •10.1.1. Общая идея моделирования
- •10.1.2. Классификация моделей
- •Модели структурные и функциональные
- •Модели натурные и информационные
- •Модели проверяемые и непроверяемые
- •Модели по назначению
- •10.1.3. Понятие математической модели
- •10.2. Понятие системы
- •10.2.1. Определение объекта
- •10.2.2. Определение системы
- •10.2.3. Формальная система
- •10.2.4. Значение формализации
- •10.3. Этапы решения задачи посредством компьютера
- •10.4. Об объектном подходе в прикладной информатике
- •Контрольные вопросы и задания
- •Заключение
- •Приложение а. Элементы теории вероятностей
- •А.1. Понятие вероятности
- •А.2. Сложение и умножение вероятностей
- •A.3. Условная вероятность
- •Контрольные вопросы и задания
- •Приложение б. Некоторые соотношения логики
- •Глоссарий
- •Список литературы
- •Содержание
- •Глава 4. Представление и обработка чисел в компьютере 45
- •Глава 5. Передача информации 69
- •Глава 6. Хранение информации 83
- •Раздел 2. Алгоритмы. Модели. Системы 98
- •Глава 7. Элементы теории алгоритмов 99
- •Глава 8. Формализация представления алгоритмов 120
- •Глава 9. Представление о конечном автомате 134
- •Глава 10. Модели и системы 147
УДК 371.4
ББК 32.81
С77
Рецензенты: доктор физ.-мат. наук, профессор А. Н. Сесекин,
доктор физ.-мат. наук, профессор Е. К. Хеннер
Стариченко Б. Е.
С77 Теоретические основы информатики: Учебное пособие для вузов. - 2-е изд. перераб. и доп. - М.: Горячая линия - Телеком, 2003. - 312 с.; ил.
ISBN 5-93517-090-6
Рассматриваются вопросы теории информации Шеннона, теории кодирования, элементы теории алгоритмов и теории конечных автоматов, а также общие вопросы моделирования и описания систем. Отбор материала произведен в соответствии с программой подготовки студентов педагогических вузов по специальности «030100-Информатика». Каждая глава содержит многочисленные примеры решения задач, а также вопросы и задания для самоконтроля.
Для студентов педагогических вузов, изучающих информатику в качестве профильной дисциплины, а также школьных учителей информатики.
ББК 32.81
Адрес издательства в Интернет www.techbook.ru
Учебное издание
Стариченко Борис Евгеньевич
ТЕОРЕТИЧЕСКИЕ ОСНОВЫ ИНФОРМАТИКИ
Учебное пособие
Редактор Петкин А. Н.
Компьютерная верстка Ю. Н. Рысева
Обложка художника В. Г. Ситникова
ЛР №071825 от 16 марта 1999 г.
Подписано в печать 02.09.02. Формат 60x88/16. Гарнитура Arial.
Усл. печ. л.19,5 Уч. изд. 23,4 л.. Тираж 3000 экз. Изд. № 90
Отпечатано с готовых диапозитивов
в ООО ПФ «Полиграфист»,
160001, Г. Вологда, ул. Челюскинцев, 3.
Тел.: (8172) 72-55-31, 72-61-75. E-mail: pfpv@vologda.ru
ISBN 5-93517-090-6 © Стариченко Б. Е., 2003
© Оформление издательства
Предисловие
Любая наука начинается с определения круга рассматриваемых и решаемых в ней проблем теоретического и практического характера. Далее логика развития научного знания требует построения строгого понятийного аппарата - языка, принятого в данной науке и обеспечивающего однозначную трактовку дефиниций специалистами. В научном языке определение новых терминов возможно двумя путями: аксиоматическим и операционным. В первом случае, принятом, в частности, в математике, в виде постулатов вводится некоторый набор исходных определений, а уже через них выражаются все остальные понятия. Экспериментальные науки ввели другой тип определения - операционный, когда понятие задается описанием способа нахождения количественной меры, характеризующей это понятие. Например, когда определяют скорость как перемещение, совершаемое материальной точкой за единицу времени, то подразумевается, что имеются способы измерения перемещения и времени, а их отношение определит новую величину. Как правило, в естественнонаучных дисциплинах считается целесообразным вводить в научный язык только те величины (понятия), которые могут быть определены операционно.
После того как понятия и характеризующие их величины определены, необходимо выяснить наличие и характер связей между ними - в этом состоит основная задача любой науки. Связи эти могут иметь характер законов, закономерностей или тенденций. Использование этих законов для решения задач практики неизбежно связано еще с одним этапом научного исследования - выделением естественных или абстрактных систем и построением их моделей. Все прикладные, «технические» аспекты и решения основываются на построенном таким образом теоретическом фундаменте и, если угодно, являются его следствием.
Особенность информатики как научной и учебной дисциплины состоит в том, что прикладная ее составляющая оказывается востребованной многими людьми, в том числе весьма далекими от научной сферы. Такую ситуацию ни в коем случае не следует считать неправильной или нежелательной - напротив! Успехи информатики и технологий привели к возможности создания устройства - компьютера (и, в первую очередь, персонального), а также удобного программного обеспечения, позволяющего работать с ним в режиме черного ящика, т.е. решать с его помощью прикладные задачи, не вникая в реализацию механизма решения. Именно благодаря этому обстоятельству компьютер и получил столь широкое распространение в современном обществе; появился даже термин «пользовательский уровень владения компьютером». По-видимому, именно данным обстоятельством можно объяснить тот факт, что многие пособия по информатике ограничиваются лишь рассмотрением элементов устройства компьютера, его программного обеспечения и, в последнее время, работы в сети Internet. He умаляя важности и необходимости подобных книг, автор данного пособия поставил перед собой иную задачу - обсудить теоретические основы науки информатики (что отражено в названии), оставляя за рамками рассмотрения прикладные аспекты. При этом особое внимание автор постарался уделить понятийному аппарату информатики, стараясь построить возможно более строгие и корректные определения понятий и продемонстрировать логику взаимосвязи, развития и взаимообусловленности понятий.
Данное пособие написано на основе курса лекций, прочитанного студентам 1-го курса факультета информатики Уральского государственного педагогического университета (г. Екатеринбург). Это сказалось, в первую очередь, на уровне использованного математического аппарата - он сведен к минимально приемлемому, с точки зрения автора, уровню, когда доказательность соотношений не является самоцелью, а в качестве приоритетного выдвигается существо вопроса. Элементы теории вероятностей и математической логики, необходимые для понимания основного материала, изложены в приложениях.
Информатика - наука мировоззренческая уже хотя бы потому, что предметом ее изучения является одна из исходных категорий мироздания - информация. Учащиеся (любого уровня) должны осознать фундаментальность и универсальность законов информатики. Автор надеется, что данное пособие будет способствовать решению этой задачи.
Пособие ориентировано, в первую очередь, на студентов педвузов, изучающих информатику в качестве профильной дисциплины, а также школьных учителей информатики.
Для акцентирования внимания читателя на наиболее важных положениях в тексте приняты следующие обозначения:
- таким образом выделены определения понятий;
таким образом - формулировки и наиболее важные утверждения.
Автор выражает глубокую признательность заведующему кафедрой информатики и вычислительной техники Уральского государственного педагогического университета И.Е. Подчиненову за плодотворное обсуждение материалов и за помощь в издании пособия; доценту Московского государственного педагогического университета В.А. Стеценко за плодотворную критику, позволившую устранить многие недочеты начального варианта рукописи; доценту И.И. Данилиной за ряд идей, использованных при написании главы «Модели и системы»; факультету информатики Шадринского государственного педагогического института за апробацию первого варианта пособия и последующее обсуждение.
Автор будет благодарен читателям за отзывы, замечания и предложения по улучшению содержания пособия.
Адрес: 620219, г.Екатеринбург, ул. К.Либкнехта, 9 УрГПУ, НИТО
Тел. (3432)-598-363
e-mail: bes@uspu.ru