Министерство образования и науки Российской Федерации

ГОСУДАРСТВЕННОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ

ВЫСШЕГО ПРОФЕССИОНАЛЬНОГО ОБРАЗОВАНИЯ

“Самарский государственный Аэрокосмический

университет имени академика С.П. Королева”

А. С. Овсянников, А. А. Ямович

ТЕОРИЯ ИНФОРМАЦИИ

Самара 2005

Министерство образования и науки Российской Федерации

ГОСУДАРСТВЕННОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ

ВЫСШЕГО ПРОФЕССИОНАЛЬНОГО ОБРАЗОВАНИЯ

“Самарский государственный Аэрокосмический

университет имени академика С.П. Королева”

А. С. Овсянников, А. А. Ямович

ТЕОРИЯ ИНФОРМАЦИИ

Учебное пособие

Самара 2005

УДК 681.323

Овсянников А.С., Ямович А.А. Теория информации: Учеб. пособие. Самар. гос. аэрокосм.ун-т.; Самара, 2005. 131 с.

ISBN 5-9585-0027-9

Учебное пособие посвящено теоретическим основам информационных процес-сов, протекающих в современных автоматизированных информационных системах и вычислительных сетях. Рассмотрены вопросы оценки количества информации источников, кодирования сообщений источников информации, помехоустойчивого кодирования. Приведены основные сведения о моделях аналоговых и дискретных каналов связи.

Пособие предназначено для студентов заочного факультета, обучающихся по специальности 22.02.00. “Автоматизированные системы обработки информации и управления”. Может быть рекомендовано для других ВУЗов, осуществляющих подготовку специалистов по этой и смежным специальностям по очной и заочной формам обучения.

Разработано на кафедре информационных систем и технологий СГАУ. Введение, главы 3 и 4 написаны Овсянниковым А.С. . Главы 1 и 2 написаны Ямовичем А.А.

Печатается по решению редакционно-издательского совета Самарского государствен-ного аэрокосмического универсистета

Рецензенты: д.т.н., проф. А.И. Жданов

д.т.н., проф. С.А.Пиявский

ISBN 5-9585-0027-9 Самарский государственный аэрокосмический университет

Введение

Теория информации- одна из немногих наук, год рождения которой можно указать точно1948публикация статьи основоположника этой науки Клода Шеннона “Математическая теория связи”. Возраст довольно приличный для человеческих мерок. Поэтому сейчас можно уверенно утверждать, что областью применения теории информации являются задачи обработки, передачи, представления и хранения информации в сосредоточенных и распределённых информационных системах и сетях.

Понятие информации тесно связано с такими понятиями как “информационный процесс” и “информационная система”.

Целью книги является анализ информационных процессов, протекающих в информационных системах различного назначения, в частности, телекоммуникацион-ных информационных системах, а также изучение основ телекоммуникационных систем.

1 Определение информации

Формирование понятия «Информация» имеет много различных подходов, из них количественный - предмет нашего изучения - самый фундаментальный.

На интуитивном уровне информации можно дать следующее определение:

Информация - это некие предопределенные сведения, содержащиеся в каких-то данных, схемах, объектах, необходимые для определенной цели.

Информация - характеристика внутренней организованности материальной сис-темы (по множеству состояний, которые она может принимать).

Информация существует независимо от того, воспринимается она или нет, но проявляетсяона только при взаимодействии объектов.

Пример.Телефонная книгасодержитинформацию о номерах телефонов организаций и граждан города. Но информация о номере телефона конкретного человекапроявляется(появляется) только тогда, когда вы по фамилии, имени и отчеству (может быть по адресу) нашли этот номер телефона.

Таким образом, информация - потенциальное свойствообъектов реального мира.

Н.Винер (основоположник вычислительной техники) считал, что «Информация- это информация, а не материя и не энергия». В отличие от них (которые переходят друг в друга) она может толькоисчезатьипоявляться.

Пример. В куске каменного угля содержится информация о давно прошедших временных событиях. Она исчезнет, если сгорит этот уголь.

Существует точка зрения, что информация- третья равноправнаясубстанция, наряду сматериейи энергией, существует объективно и переходит из одного состояния в другое.

Бесспорно одно: информацияможет быть представлена (проявлена) путем кодирования ее символами какого-либо алфавита, т.е. осуществится ее переход всообщение. При таком переходе часть информации теряется, так каксообщение есть одна реализацияиз бесчисленного множествареализаций информации. Из бесконеч-ности информации следует то, что с 48го года (как она изучается) нет точного метода количественного измерения информации.