- •Предисловие
- •Введение
- •1. ИНФОРМАЦИЯ И ИНФОРМАЦИОННЫЕ СИСТЕМЫ
- •1.1. Основные понятия и концепции теории информации
- •1.2. Основные направления в современной теории информации
- •1.4. Информационные системы
- •1.5. Критерии оценки качества информационных систем
- •2. СИСТЕМЫ СВЯЗИ И ИХ ОСНОВНЫЕ ХАРАКТЕРИСТИКИ
- •2.1. Основные понятия и определения
- •2.2. Системы связи
- •2.3. Основные показатели качества функционирования системы связи
- •3. МАТЕМАТИЧЕСКИЕ МОДЕЛИ СИГНАЛОВ И ПОМЕХ
- •4. ДИСКРЕТИЗАЦИЯ И КВАНТОВАНИЕ НЕПРЕРЫВНЫХ СООБЩЕНИЙ
- •4.1. Способы квантования сигналов
- •4.2. Общая постановка задачи дискретизации
- •4.3. Способы восстановления непрерывного сигнала
- •4.6. Равномерная дискретизация. Теорема Котельникова
- •4.7. Адаптивная дискретизация
- •4.8. Квантование сигналов по уровню
- •5. ЭНТРОПИЯ, КОЛИЧЕСТВО ИНФОРМАЦИИ
- •5.3. Энтропия непрерывного источника информации (дифференциальная энтропия)
- •5.4. Фундаментальное свойство энтропии дискретных эргодических процессов
- •5.6. Статистическая мера количества информации
- •6.1. Основные определения
- •6.3. Связь между энтропией и числом различных последовательностей сообщений
- •6.4. Кодирование дискретных источников
- •7. ДИСКРЕТНЫЕ КАНАЛЫ БЕЗ ШУМОВ
- •7.2. Пропускная способность канала связи
- •7.4. Кодирование как средство криптографического закрытия информации
- •9. ИНФОРМАЦИОННЫЕ ХАРАКТЕРИСТИКИ СИСТЕМ, РАБОТАЮЩИХ С НЕПРЕРЫВНЫМИ СИГНАЛАМИ
- •9.1. Непрерывные ансамбли и источники
- •dxdy,
- •Эпсилон-энтропия
- •Эпсилон-энтропия гауссовского источника без памяти
- •10. ЭФФЕКТИВНОСТЬ ИНФОРМАЦИОННЫХ СИСТЕМ
- •10.1. Критерии оценки эффективности информационных систем
- •10.2. Способы повышения эффективности информационных систем
- •11.3. Способы повышения помехоустойчивости информационных систем
- •СПИСОК ЛИТЕРАТУРЫ
- •ОГЛАВЛЕНИЕ
- •Пахомов Герман Ильич
СПИСОК ЛИТЕРАТУРЫ
1. Колесник, В.Д., Курс теории информации /В.Д. Колесни Г.Ш. Полтырев. М.: Наука, 1982.
2.Теория электрической связи под редакцией Д. Д. Кловского. М.: Радио и связь, 1999.
3.Яглом, А.М., Вероятность и информация/А.М. Яглом, И.М. Яглом. М.: Наука, 1973.
4.Шеннон, К. Математическая теория связи /К. Шеннон// Работы по теории информации и кибернетике: сб.ст М.: ИЛ, 1963.
5.Перегудов, Ф.И., Введение в системный анализ / Ф.И. Перегудов,
Ф.П. Тарасенко. М.: Выс. шк., 1989.
6.Дмитриев, В.И. Прикладная теория информации / В.И. Дмитриев
— М.: Выс. шк., 1989.
7.Тарасенко, Ф.П. Введение в курс теории информации/ Ф.П. Тарасенко. Изд-во Томского университета, 1963.
8.Фано, Р. Передача информации. Статистическая теория связи Р. Фано. М.: Мир, 1965.
9.Левин, Б.Р. Вероятностные модели и методы в системах связи и управления./ Б.Р. Левин, Шварц В М.: Радио и связь, 1985.
10.Темников, Ф.Е. Теоретические основы информационной техники. Ф.Е. Темников, В.А. Афонин, В.И Дмитриев. М.: Энергия, 1979.
11.Вентцель, Е.С. Теория вероятностей./ Е.С. Вентцель. М.: Наука, 1964.
12.Сигорский, В.П. Математический аппарат инженера. Киев: Техника, 1975.
13.Кон, Е.Л.,. Основы теории систем: Метод, указания к курсовой работе / Е.Л. Кон, Г.И Пахомов; Перм. гос. техн. ун-т. Пермь, 1995.
14.Шрейдер, Ю.А. О семантических аспектах теории информации./ Ю.А. Шрейдер// Информация и кибернетика. М.: «Сов. радио», 1967.
15. Стратонович, Р.Л. О ценности информации Известия /
Р.Л.Стратонович// АН СССР, сер. Техническая кибернетика, - 1965
-№ 5 .
16.Бонгард, М.М. О понятии «полезная информация/ М.М. Бонгард// Проблемы кибернетики, - вып.9, 1963.
17.Эшби, У.Р. Системы и информации/У.Р. Эшби// Вопросы философии,. - 1964 - № 3
18.Мазур, М. Качественная теория информации/М.Мазур. М.: Мир, 1974.
19.Хинчин, А.Я. Об основных теоремах теории информации/
А.Я.Ханчин // УМН. - 1956-№ 1 (67).
20.Котоусов, А.С. Теория информации: учеб, пособие для вузов./ А.С.Котоусов. М.: Радио и связь, 2003.
21.Пахомов, Г.И. Теория передачи сигналов: учеб, пособие /Г.И. Пахомов; Перм. гос. техн. ун-т. Пермь, 2006.
22.Сергиенко, А.Р. Цифровая обработка сигналов: учеб. Для вузов/
А.Б Сергиенко. 2-е изд. СПб.: Питер, 2006.
23.Скляр, Б. Цифровая связь / Б. Скляр; пер. с англ. 2-е изд. М.: Вильямс, 2003.
ОГЛАВЛЕНИЕ |
|
Оглавление |
|
Предисловие................................................................................................... |
3 |
Введение.......................................................................................................... |
4 |
1. Информация и информационные системы |
7 |
1.1. Основные понятия и концепции теории информации................ |
7 |
1.2. Основные направления в современной теории информации......... |
10 |
1.3. Этапы обращения информации......................................................... |
19 |
1.4. Информационные системы................................................................. |
20 |
1.5. Критерии оценки качества информационных систем................. |
22 |
2. Системы связи и их основные характеристики.................................... |
25 |
2.1. Основные понятия и определения................................................... |
25 |
2.2. Системы связи........................................................................................ |
29 |
2.3.Основные показатели качества функционирования
системы связи................................................................................................ |
33 |
3. Математические модели сигналов и помех.......................................... |
38 |
3.1. Математическое описание сообщений, сигналов и помех........ |
38 |
3.2. Частотная форма представления сигнала...................................... |
44 |
3.3. Случайный процесс как модель реального сигнала................... |
50 |
3.4. Стационарные и эргодические случайные процессы................ |
55 |
3.5. Некоторые модели ансамбля реализаций....................................... |
58 |
3.6. Спектральное представление случайных сигналов................... |
60 |
3.7. Графическое представление сигналов............................................. |
62 |
3.8. Геометрическое представление сигналов...................................... |
64 |
4. Дискретизация и квантование непрерывных сообщений............... |
68 |
4.1. Способы квантования сигналов........................................................ |
68 |
4.2. Общая постановка задачи дискретизации...................................... |
72 |
4.3. Способы восстановления непрерывного сигнала....................... |
74 |
4.4. Критерии качества восстановления................................................ |
76 |
4.5. Методы дискретизации посредством выборок |
77 |
4.6. Равномерная дискретизация. Теорема Котельникова................ |
78 |
4.7. Адаптивная дискретизация............................................................. |
87 |
4.8. Квантование сигналов по уровню................................................... |
88 |
5. Энтропия, количество информации....................................................... |
93 |
5.1. Энтропия и ее свойства...................................................................... |
94 |
5.2. Условная информация. Условная энтройия................................. |
97 |
5.3. Энтропия непрерывного источника информации |
|
|
(дифференциальная энтропия)................................................................ |
ЮО |
|
5.4. Фундаментальное свойство энтропии дискретных эргодических |
||
процессов........................................................................................................ |
102 |
|
5.5. Мера количества информации в дискретном сигнале |
|
|
(по Р. Хартли)................................................................................................... |
104 |
|
5.6. Статистическая мера количества информации.............................. |
112 |
|
5.7. Количество информации как мера снятой |
|
|
неопределенности.......................................................................................... |
115 |
|
6. Информационные характеристики источников сообщений............. |
120 |
|
6.1. Основные определения......................................................................... |
120 |
|
6.2. Понятие об эргодическом источнике сообщений......................... |
126 |
|
6.3. Связь между энтропией и числом различных |
|
|
последовательностей сообщ ений......................................................... |
129 |
|
6.4. Кодирование дискретных источников............................................. |
132 |
|
6.5. Энтропия источника без памяти как скорость создания информа |
||
ции |
|
135 |
7. Дискретные каналы без шумов............................................................. |
138 |
|
7.1. Модель информационной системы передачи дискретных сообще |
||
ний в отсутствие шумов............................................................................ |
138 |
|
7.2. Пропускная способность канала связи......................................... |
140 |
|
7.3. Кодирование как процесс выражения информации |
|
|
в цифровом виде............................................................................................. |
144 |
|
7.4. Кодирование как средство криптографического |
|
|
закрытия информации................................................................................... |
148 |
|
7.5. Экономное кодирование сообщений в отсутствие шума.................. |
152 |
|
7.6. Основная теорема Шеннона для дискретного канала |
|
|
без шумов....................................................................................................... |
157. |
|
8. |
Дискретные каналы с шумами......................................................... |
159 |
8.1. Модель канала связи, в котором действуют шумы.................... |
159 |
|
8.2. Количество информации, передаваемой по каналу связи. |
|
|
Взаимная информация и ее свойства.................................................... |
163 |
|
8.3. Пропускная способность дискретного канала с шумом............. |
165 |
|
8.4. Теоремы о кодировании в присутствии шумов............................. |
169 |
|
9. Информационные характеристики систем, |
|
|
работающих с непрерывными сигналами.................................................. |
176 |
|
9.1. |
Непрерывные ансамбли и источники................................................. |
176 |
9.2. Определение плотности вероятности, |
|
доставляющей максимум относительной энтропии............................ |
179 |
9.3. Непрерывные каналы с шумами. Формула Шеннона.................. |
181 |
9.4. Передача сообщений с заданным критерием верности.............. |
185 |
10. Эффективность информационных систем........................................... |
190 |
10.1. Критерии оценки эффективности информационных систем.... |
190 |
10.2. Способы повышения эффективности |
|
информационных систем.................. |
193 |
11. Помехоустойчивость информационных систем............................... |
196 |
10.1. Общая характеристика помех и искажений в каналах связи........ |
196 |
11.2. Критерии оценки помехоустойчивости информационных |
|
систем.............................................................................................................
200
11.3. Способы повышения помехоустойчивости информационных
систем............................................................................................................... |
202 |
Список литературы......................................................................................... |
211 |