- •Понятие информации
- •Основные определения.
- •Структурная схема системы передачи информации
- •Информационная метрика.
- •Геометрическая мера
- •Комбинаторная мера
- •Статистическая мера информации
- •Количество информации объединения
- •Формула совместного количества информации объединения независимых ансамблей
- •Формула совместного количества информации объединения двух зависимых ансамблей
Структурная схема системы передачи информации
-
Обьект управления – источник информации
Субьект управления – вычислительное устройство
Оптимальное кодирование
Кодер источника
Декодер
Помехоустойчивое кодирование
Кодер канала
Декодер канала
Физическое преобразавание информации
Модулятор
Демодулятор
К
анал
связи
Информационная метрика.
Информационные меры отвечают трем основным направлениям в теории информации:
Структурная мера – учитывает только дискретное строение информационного комплекса, как носителя неделимых элементов информации (квантов – в дискретных системах, букв алфавита – в числовых системах). Различают геометрическую, комбинаторную и аддитивную меры информации. Применяется для оценки возможностей аппаратуры (пропускная способность каналов связи, обьем запоминающих устройств и т.д.).
Статистическая мера – использует энтропию или меру неопределенности, учитывающую вероятность появления, а значит и информативность сообщений. Применяется для количественных оценок хранения и передачи конкретной информации в зависимости с ее статистических характеристик.
Семантическая мера – учитывает содержательность, целесообразность, ценность, существенность или полезность информации. Применяется при оценке эффективности логического опыта путем введения:
степени истинности или ложности информации;
пустой (нулевой), добротной (положительной) и дезинформацией (отрицательной);
динамической энтропии - положительной информация уменьшает неопределенность ситуации, отрицательная (дезинформация) – увеличивает;
функцией существенности информации для отражения степени ее важности с учетом времени и пространства;
тезауруса («запас знаний») для самообучения и восстановления информации в приемнике при передаче в условиях шумов.
Геометрическая мера
Определение количества информации геометрическим методом сводится к измерению длины линии, площади или объема геометрической модели данного информационного комплекса в количестве дискретных величин – определенных квантов или букв словаря, например метрах, фунтах, пинтах.
Если дискретные отчеты осуществляются по осям X, Y, Z соответственно через интервалы x; y; z то непрерывные координаты распадаются на элементы (кванты) количество которых составляет:
mx = X/x; my = Y/y; mz = Z/z;
Тогда количество информации в полном комплексе X, Y, Z , определенное геометрическим методом равно в квантах:
M = mx my mz
