МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ РОССИЙСКОЙ ФЕДЕРАЦИИ

Федеральное государственное автономное образовательное учреждение

высшего профессионального образования

«СЕВЕРО-КАВКАЗСКИЙ ФЕДЕРАЛЬНЫЙ УНИВЕРСИТЕТ»

Филиал СКФУ в г.Пятигорске

УТВЕРЖДАЮ

Зам. директора по учебной работе

_____________ М.В. Мартыненко

«___»___________________2014 г.

ТЕОРИЯ ИНФОРМАЦИОННЫХ ПРОЦЕССОВ И СИСТЕМ

Учебное пособие

Направление подготовки: 230400.62 Информационные системы и технологии

Профиль подготовки: Информационные системы и технологии

Квалификация выпускника бакалавр

СОГЛАСОВАНО:	РАЗРАБОТАНО:
Зав. выпускающей кафедрой информационных систем и технологий ___________________В.Ф. Антонов "__" ____________ 2014 г. Декан инженерного факультета ___________________Э.Г. Янукян "__" ____________ 2014 г. Рассмотрено УМК филиала СКФУв г. Пятигорске "__" _____________ 2014 г. протокол №____________ Председатель УМК ___________________А.Б. Нарыжная	Зав. кафедрой «Информационные системы и технологии» __________________В.Ф. Антонов "__" ____________ 2014 г. Профессор кафедры информационных систем и технологий __________________А.Б. Чернышев "__" ____________ 2014 г. Доцент кафедры информационных систем и технологий __________________В.Ф. Антонов "__" ____________ 2014 г.

Пятигорск

2014

МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ РОССИЙСКОЙ ФЕДЕРАЦИИ

Федеральное государственное автономное

образовательное учреждение высшего профессионального образования

«СЕВЕРО-КАВКАЗСКИЙ ФЕДЕРАЛЬНЫЙ УНИВЕРСИТЕТ»

Филиал СКФУ в г.Пятигорске

Чернышев Александр Борисович

Антонов Владимир Феохарович

ТЕОРИЯ ИНФОРМАЦИОННЫХ ПРОЦЕССОВ И СИСТЕМ

Учебное пособие

Направление подготовки: 230400.62 Информационные системы и технологии

Профили подготовки: Информационные системы и технологии

Квалификация выпускника бакалавр

Пятигорск

2014

УДК 004(075) ББК 32.233 Ч 49

Печатается по решению Учебно-методического совета Северо-Кавказского федерального университета

Рецензенты:

В.П. Иосифов

доктор технических наук, профессор

А.М. Макаров

доктор технических наук, профессор

Чернышев А.Б., Антонов В.Ф. Теория информационных процессов и систем: учебное пособие. – Пятигорск: Изд-во СКФУ, 2014. – 121 с.

Учебное пособие является составной частью учебно-методического комплекса по дисциплине «Теория информационных процессов и систем», составлено в соответствии с требованиями Федерального государственного стандарта высшего профессионального образования, рабочим учебным планом и программой дисциплины «Теория информационных процессов и систем» для студентов направления 230400.62 Информационные системы и технологии. В пособии дается характеристика основных компонентов информационных процессов и теории систем. Рассматриваются основы теории информации, элементы теории кодирования, модели систем с использованием случайных процессов, системы массового обслуживания, основы теории принятия решений в условиях неопределенности.

Учебное пособие предназначено для студентов, обучающихся по направлению подготовки «Информационные системы и технологии»

УДК 004(075)

ББК 32.233

© Чернышев А.Б., Антонов В.Ф.,2014 © ФГАОУ ВПО «Северо-Кавказский федеральный университет», 2014

СОДЕРЖАНИЕ:

ВВЕДЕНИЕ 6

1. ОСНОВНЫЕ ПОНЯТИЯ ИНФОРМАЦИОННЫХ ПРОЦЕССОВ И СИСТЕМ 8

1.1. Общие понятия информационных процессов 8

1.2. Основные понятия теории систем 12

1.3. Закономерности систем 18

1.4. Классификация систем 23

2. ОСНОВЫ ТЕОРИИ ИНФОРМАЦИИ 31

2.1. Сигналы и системы передачи информации 31

2.2. Параметры сигнала 36

2.3. Энтропия дискретного сигнала. Количество информации 38

2.4. Свойства энтропии дискретных сообщений 40

2.5. Энтропия непрерывных сообщений 42

2.6. Информационный канал, пропускная способность канала 43

3. ЭЛЕМЕНТЫ ТЕОРИИ КОДИРОВАНИЯ ИНФОРМАЦИИ 50

3.1. Алфавитное кодирование информации 50

3.2. Критерий взаимной однозначности алфавитного кодирования 54

3.3. Эффективное кодирование, избыточность сообщений 55

3.4. Метод Хаффмана 58

3.5. Основы помехоустойчивого кодирования 60

3.6. Линейные блочные коды. Код с проверкой на четность, итеративный код 63

3.7. Код Хемминга 68

3.8. Алгоритмы сжатия информации 71

4. МОДЕЛИ СИСТЕМ С ИСПОЛЬЗОВАНИЕМ СЛУЧАЙНЫХ ПРОЦЕССОВ 79

4.1. Марковские случайные процессы, классификация 79

4.2. Марковские цепи 80

4.3. Непрерывные цепи Маркова, уравнение Колмогорова 82

4.4. Система гибели и размножения 84

5. СИСТЕМЫ МАССОВОГО ОБСЛУЖИВАНИЯ 87

5.1. Компоненты и классификация моделей массового обслуживания 87

5.2. Одноканальная СМО с отказами 91

5.3. Одноканальная СМО с ожиданием и ограниченной очередью 93

5.4. Одноканальная СМО с ожиданием и неограниченной очередью 96

5.5. Многоканальная СМО с отказами 99

5.6. Многоканальная СМО с ожиданием 103

6. ОСНОВЫ ТЕОРИИ ПРИНЯТИЯ РЕШЕНИЙ 107

6.1. Современные методы принятия решений 107

6.2. Принятие решений в условиях неопределенности 108

6.3. Критерии принятия решений в условиях неопределенности 111

ЛИТЕРАТУРА 120