
- •Лекция №1. Теория информации.
- •1.2 Основные понятия комбинаторики.
- •1.3 Случайные модели в теории информации.
- •1.4 Основные понятия теории информации
- •Этапы обращения информации:
- •Практическое занятие
- •Лекция №2. Меры информации
- •1.Энтропия всегда неотрицательна.
- •3.Энтропия сообщения максимальна, если события равновероятны.
- •4.Энтропия аддитивна.
- •Аксиомы Хинчена
- •Аксиомы Фадеева
- •2.4 Понятие совместной энтропии.
- •Лекция №3 .Источники информации и их энтропия.
- •Лекция №4 оптимальное и эффективное кодирование
- •4.3.3. Арифметическое кодирование.
- •Лекция № 5 помехоустойчивое кодирование
- •5.1 Классификация помехоустойчивых кодов.
- •5.2 Параметры (характеристики) помехоустойчивых кодов и их границы. Корректирующие свойства кодов.
- •0 Запрещенные кодовые комбинации00
- •5.3.Линейные (систематические) коды.
- •5.3.1.Механизмы кодирования и синдромного декодирования.
- •100 → Ошибка в b1,
- •5.3.2. Матричное представление линейных (систематических) кодов.
1.4 Основные понятия теории информации
В середине 20-века происходит стремительный переход от индустриального общества к информационному. Этот процесс называется информатизацией. В Японии и странах Европы принимается программы информатизации. Целью таких программ явилось наиболее полное использование информационных ресурсов для ускорения экономического, социального, экологического и т.д. развития общества.
В России эта программа была принята в 1989 году. Её завершение планировалось в 2050-е годы. Если страна с любым уровнем индустриального развития опоздает с информатизацией всех сфер жизни, то она переходит в разряд стран третьего мира.
Базовым понятием процессов автоматизации, как и всей теории информации, является понятие информации. Информация трактуется как осведомленность. В широком смысле информация- это отражение реального мира, в узком - сведения, являющиеся объектом хранения, преобразования и передачи.
Теория информации (ТИ) – это наука о получении, накоплении, преобразовании, отображении и передачи информации.
В теории информации можно выделить три направления:
Структурная теория - рассматривает структуру построения информационных сообщений, массивов и их измерения подсчетом информационных элементов или комбинаторным методом. Основной структурной единицей информации считается квант.
Статистическая теория - оценивает информацию с точки зрения мер неопределенности. В этой теории оперируют понятием энтропии, которая учитывает вероятностные свойства и характеристики информационных элементов.
Семантическая теория - занимается изучением смысловых характеристик информации (ценность, содержательность информации).
Строго говоря, наука теории информации состоит из:
ТИ, где рассматривают характеристики информационных сообщений, меры измерения информации, а также модели и методы описания сообщений и их свойства.
Теория кодирования- рассматривает способы кодирования источников сообщений, сигналов, а также модели и особенности передачи информации по каналам связи, характеристики и свойства кодов.
Прикладная ТИ – рассматривает модели и способы организации базовых информационных процессов.
Возникновение ТИ, как науки, связано с появлением работы К.Шеннона « Математическая теория связи» в 1948 году. В 1933 году Котельников предложил теорию представления непрерывной функции виде её дискретных отсчетов.
Основной формой представления информации является сообщение. Под сообщением понимают информацию, представленную в определенной форме и подлежащую передачи. Сообщение может быть как непрерывным, так и дискретным. Сообщение само по себе передаваться не может. Носителем сообщений является сигнал. Сигнал- это материальный переносчик сообщений, т.е. это физическая величина, у которой один или несколько параметров изменяются в соответствии с отображаемым или предаваемым сообщением.
Этапы обращения информации:
ПЕРЕДАЧА
ХРАНЕНИЕ
И ОБРАБОТКА
ПОДГОТОВКА
ВОСПРИЯТИЕ
ОТОБРАЖЕНИЕ
ВОЗДЕЙСТВИЕ
ИСТОЧНИК
ИНФОРМАЦИИ
Информационная система (ИС) - есть совокупность средств (аппаратных и программных), реализующих базовые информационные процессы для достижения определенных целей. К базовым процессам относятся процессы, реализующиеся на этапах обращения информации. Если ИС включает в свой состав человека, то её называют автоматизированной. Если в ней не присутствует человек, то - автоматической. Если ИС связана с управлением, то её называют системой управления. В системах управления выделяют автоматизированные системы управления (АСУ) и систему автоматического управления (САУ).