Добавил:
Upload Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:
Основы теории инфю и кодир..doc
Скачиваний:
20
Добавлен:
14.08.2019
Размер:
2.03 Mб
Скачать

Н.К. Шавенько

Основы теории информации и кодирования

Рекомендовано УМО по образованию в области геодезии и фотограмметрии

в качестве учебного пособия для студентов высших учебных заведений,

обучающихся по специальностям направления подготовки

120200 «Фотограмметрия и дистанционное зондирование»

Москва

Издательство МИИГАиК

2010

УДК 621.391.

ББК

Рецензенты:

И.В. Починок

А.Ф.Стеценко

Шавенько Н.К.

Основы теории информации и кодирования. Учебное пособие. – М,: Изд-во МИИГАиК, 2010. – 87 с.

Содержит краткие теоретические положения курса «Основы теории информации и кодирования», а именно: основы теории информации, основы теории кодирования и передачи информации по каналам связи. Кроме этого пособие включает в себя лабораторный практикум, предназначенный для закрепления теоретического материала и представленный в виде подробного описания выполнения лабораторных работ. Для удобства пользования пособие содержит краткие справочные сведения по теории вероятностей, которые крайне необходимы при рассмотрении основных положений теории информации, теории кодирования и передачи информации по каналам связи.

Для студентов высших учебных заведений, обучающихся по направлению 120200 «Фотограмметрия и дистанционное зондирование».

УДК 621.391.

ББК

© Н.К. Шавенько, 2010

© Издательство МИИГАиК, 2010

Введение.

В настоящем учебном пособии рассматриваются основы теории информации, основы теории кодирования и передачи информации по каналам связи, которые служат теоретическим базисом для специализированных курсов, связанных с автоматической обработкой информации и её передачи.

Содержание пособия соответствует программе курса «Основы теории информации и кодирования» для студентов высших учебных заведений, обучающихся по специальностям направления 120200 «Фотограмметрия и дистанционное зондирование».

Пособие состоит из трёх теоретических глав, лабораторного практикума и приложения. В первой главе содержатся общие сведения по основам теории информации. Во второй главе рассматриваются основы теории кодирования и третья глава посвящена краткому изложению теории передачи информации по каналам связи. Изложение теоретических глав написано в предположении, что студенты знакомы с основными понятиями из курса высшей математики.

Лабораторный практикум включает в себя две лабораторные работы по основам теории информации и одну работу по основы теории кодирования. Описание лабораторных работ выполнено из расчета на то, что к моменту их выполнения студентами изучен соответствующий теоретический материал, а также приобретены навыки работы на персональном компьютере в программном продукте «MathСad». В конце каждой работы приведены контрольные вопросы.

Приложение содержит краткий справочный материал по основам теории вероятностей, знание, которого необходимо при изучении основного теоретического материала представленного в пособии.

При подготовке пособия использованы теоретические положения, отраженные в учебной литературе и монографиях.

Глава 1. Основы теории информации.

1.1. Информация. Общие понятия

При исследовании или наблюдении любого физического процесса, объекта или явления можно ввести понятие информации. Существует достаточно много определений понятия информация, существенно различающихся в зависимости от сферы деятельности в применении к которой даётся конкретное определение этого понятия. Такое положение, при котором существует множество различных определений и отсутствует единое общепринятое и точное определение этого понятия, вытекает из того, что понятие информации, наряду с такими фундаментальными понятиями как материя и энергия в физике или как множество или точка в математике, является первичным понятием и поэтому не может иметь четкого формализованного определения, т.е. не может быть определено через более простые известные объекты, имеющие четкие определения. Поэтому при определении основных фундаментальных первичных понятий используют интуитивный подход, определяя понятие через совокупность присущих ему свойств. Действительно, исходя из практического опыта, интуитивно, можно представить информацию как совокупность содержательных сведений, заключенных в том или ином объекте или явлении, и перечислить ее основные свойства, тем самым интуитивно, исходя из этих свойств, её определить.

Основные свойства информации:

1. Информация приносит знания об окружающем мире, которых в рассматриваемой точке пространства не было до ее получения.

2. Информация не материя, а свойство организованной материи. Информация такое же неотъемлемое свойство материи как масса и энергия, однако, в отличие от них она не подчиняется законам сохранения, подобным законам сохранения массы и энергии.

3. Информация не материальна, но она проявляется в виде материальных носителей — символов и сигналов. Причем символы — это реальные различимые получателем материальные объекты (буквы, цифры, изображения), а сигналы — это динамические процессы, т.е. изменяющиеся во времени или пространстве значения любой физической величины.

4. Информация может быть заключена как в самих символах, так ив их взаимном расположении (например, символы Т, Р, С, О могут принести информацию: торс, сорт, трос, рост и т.д.).

Символы и сигналы несут информацию только для получателя, способного их распознать, т.е. поставить в соответствие принятым символам и сигналам объекты реального мира и их отношения.

Исходя из вышеперечисленных свойств, информацию можно рассматривать как сведения (знания), полученные в результате моделирования (описания) реального мира или его исследуемой части, являющиеся объектом некоторых операций: передачи, распределения, преобразования, хранения или непосредственного использования.

Дальнейшее изложение требует определение некоторых устоявшихся понятий и терминов теории информации, которых необходимо строго придерживаться в дальнейшем.

Информация содержится в сообщениях, которые генерируются источниками сообщений.

Источник сообщений — любой процесс, объект или явление, который обладают способностью изменять свое состояние во времени или в пространстве.