ФЕДЕРАЛЬНОЕ АГЕНТСТВО МОРСКОГО И РЕЧНОГО ТРАНСПОРТА

ФЕДЕРАЛЬНОЕ бюджетное ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ ВЫСШЕГО ПРОФЕССИОНАЛЬНОГО ОБРАЗОВАНИЯ

«САНКТ-ПЕТЕРБУРГСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ ВОДНЫХ КОММУНИКАЦИЙ»

В. Д. Чертовской

ТЕОРИЯ ИНФОРМАЦИИ

Рекомендовано редакционно-издательским советом

Санкт-Петербургского государственного университета водных коммуникаций

Санкт-Петербург

2012

УДК 355.01:510.21

ББК 68+22.16

Ч50

Рецензенты

доктор технических наук, профессор Падерно П. И.;

кандидат технических наук, доцент Егоров А. Н.

Чертовской В. Д.

Теория информации: учебное пособие. — СПб.: СПГУВК, 2012. — с.

Учебное пособие создано в соответствии с Федеральным государственным образовательным стандартом по специальности 230400.62 «Информационные системы и технологии».

Рассмотрены понятия «информация», «данные», «знания». Рассмотрено два понимания термина «теория информации»: классическое (в узком смысле) и современное (в широком смысле).

При обсуждении классического понимания теория связи дополнена теорией компьютерных сетей.

В рассмотрении современного понимания описаны такие этапы информационного цикла как извлечение, хранение, обработка, отображение и использование информации.

Показано, что на разных этапах используется разные виды математического описания, для согласования которых необходимо использовать методы системного анализа.

Теория всех этапов иллюстрируется на двух классах систем: адаптивной АСУП и экспертной системе реального времени.

Для студентов учреждений высшего профессионального образования специальностей 230400.62, 230201.65 «Информационные системы и технологии» и одноименной специальности.

Может быть полезна разработчикам и пользователям информационных систем; преподавателям и научным сотрудникам, сферой интересов которых является прикладная теория информационных процессов в различных предметных областях; менеджерам и руководителям; желающим самостоятельно ознакомиться с современным состоянием теории информации.

©В. Д. Чертовской, 2012

©Санкт-Петербургский государственный

университет водных коммуникаций, 2012

Введение

Формирование теории информации началось в 50-е годы XX века в виде теории связи. К 80-м годам прошлого века сформировалась теория информации, часто называемая классической [1 - 6].

Она из всего цикла преобразования информации охватывает только процедуру транспортировки.

Широкое распространение в 80-е годы компьютеров и компьютерных сетей для информационных процессов [7, 8] привело к необходимости расширения и развития классической теории информации с введением соответствующих инноваций в учебный процесс.

Потребность совершенствования учебного процесса по рассматриваемой дисциплине подчеркивается ее введением в учебный план бакалавров по специальности 230400.62 «Информационные системы и технологии».

Возникла необходимость в формировании обновленных учебных материалов.

Вместе с тем подавляющее большинство учебников и учебных пособий по теории информации сориентировано на классическую теорию.

Одним из первых учебных пособий, учитывающих современные веяния, является работа [9].

Настоящее пособие развивает эту современную линию, рассматривая изначально все этапы цикла преобразования информации.

Работа состоит из введения, заключения и 6 глав.

Раздел 1 (главы 1, 2) посвящен классической теории управления.

В главе 1 приводятся понятие «информация» и сопутствующие термины. Дается определение, постановка общей задачи теории информации, ее место среди других дисциплин. Вводится этапность информационного цикла. Определяется перечень классов кибернетических систем, используемых для иллюстрации этапов цикла.

В главе 2 рассматриваются вопросы классической теории информации: общая математическая теория; кодирование данных источника и сети передачи, защита данных.

Раздел 2 (главы 3 - 6) посвящен современной теории информации.

Глава 3 посвящена методам обработки информации на примерах адаптивной асуп и экспертной системы реального времени.

В главе 4 изучаются формы и методы хранения структурированных и неструктурированных данных

В главе 5 изучаются вопросы получения информации: особенности идентификации адаптивных автоматизированных систем управления производством и специфические процедуры получения информации для экспертной системы реального времени (ЭСРВ).

Глава 6 посвящена отображению и использованию информации. Раздел 1. Классическая теория информации Глава 1. Основные положения

1.1. Основные понятия и определения

Приведем основные определения.

Теория – совокупность математических методов исследования какой-либо предметной области.

Информация имеет две трактовки: атрибутивная (отображение материального мира) и функциональная (кибернетическая).

Далее рассматривается кибернетическая трактовка.

Понятие «информация» исследовалось в связи с появлением понятия «кибернетика» [1].

Кибернетика – наука об общих законах управления живой и неживой природы и общества.

Ее предмет исследования – системы, рассматриваемые абстрактно независимо от материальной природы.

Она разрабатывает общие принципы создания систем управления.

Родоначальниками кибернетики являются Н. Винер и К. Шеннон. Дата рождения кибернетики – 1948 год.

Винер ввел категорию «управление», которая подразумевает, что большие массы управляются небольшим количеством энергии, несущей информацию.

Из широкого спектра кибернетических систем далее будем рассматривать технические и человеко-машинные системы.

В силу введенного понимания кибернетика интегрирует в себе ряд разделов.

Теория информации – один из основных разделов кибернетики и изучает процедуры получения, хранения, передачи, переработки, отображения и использования информации (информационный цикл).

Общий информационный анализ очерченного круга кибернетических систем удобно проводить как раз с помощью информационного цикла (рис. 1.1).

Информация – совокупность сведений о каком-либо процессе или явлении, новых и полезных для получателя, пополняющая его знания, позволяющая ему подтверждать или опровергать положения, убеждения.

Информация носит субъективный характер и «привязана» к процедуре ее использования.

Теория информации [10] (в широком смысле слова) - математическая теория измерения информации, ее получения, преобразования и использования.

Теория информации является интегральной дисциплиной и связана с целой группой других дисциплин (рис. 1.2).

Теория информации по своему определению близка к таким понятиям, как «информационные технологии», «информатика», «информационные процессы и системы».

Технология – последовательность этапов выполнения работ для достижения поставленной цели.

Под информационными технологиями понимаются технологии сбора, регистрации, хранения, передачи, обработки, отражения, использования и защиты информации.

Информатика – дисциплина, изучающая процесс информатизации и компьютеризации общества. Под информатизацией [10] понимается процедура перехода к информационному обществу, в котором информация становится одним из значимых ресурсов. Его производство и потребление становится важнейшим видом деятельности.

В дисциплине «Информационные процессы и системы» изучается топология информационного цикла.

Из определений видно, что теория информации является сугубо теоретической дисциплиной, инвариантной к специфике технической ее реализации. Иными словами, теория информации не учитывает особенности инструментария своей прикладной реализации.

Остальные дисциплины являются прикладными, отражающими отдельные аспекты теории.

Информатика как дисциплина отражает информационные процедуры с позиций пользователя компьютеров.

Информационная технология делает акцент на полный технологический цикл преобразования информации от ее получения до использования (рис. 1.1).

Следует отметить, что теория информации начала формироваться в 50-е годы XX века и первоначально ориентировалась на процедуру связи, о чем свидетельствуют, например, классические работы Р. Шеннона [6]. В связи с этим первоначально теория информации (в узком смысле слова) понималась как теория связи и рассматривала только этап транспортировки информации информационного цикла.

В последнее время понятие «теория информации» расширилось и все чаще стало включать весь цикл преобразования информации.