6.2. Вероятностно-статистические характеристики

ИСТОЧНИКА СООБЩЕНИЙ [13], с. 82 ... 129, 177 ... 190.

В этом и следующих двух разделах рассматриваются основополагающие термины и определения, знать которые совершенно необходимо, так как они лежат в основе всего курса и формируют профессиональный язык и мышление. Особое внимание надо обратить на смысловые связи между понятиями и последовательность их введения.

Информация как продукт отражения, как мера разнообразия, имеет качественные и количественные характеристики. Количественные характеристики позволяют количественно описать разнообразие состояний отражаемого и отражающих объектов. Разработаны и используются различные подходы. Один из них это вероятностный подход, при котором ряд (закон) распределения вероятности нахождения объекта в заданном состоянии является исчерпывающим описанием разнообразия состояний.

Далее надо рассмотреть материал, ранее изучавшийся в теории вероятности и математической статистике, но интерпретируя математические закономерности с позиции источника информации (сообщений). Надо твердо усвоить различие числовых характеристик дискретного и непрерывного источника сообщений.

6.3. Энтропия [1], с. 120 ... 123, 135 ... 139; [2], с. 97 ... 119; [8], с. 259 ... 268.

Дальнейшее развитие вероятностный подход к количественному описанию информации находит в энтропии. Энтропия является мерой неопределенности состояний источника сообщений в среднем. Далее следует рассмотреть свойства энтропии для различных видов источников сообщений. Большую помощь для понимания свойств энтропии и наглядного представления этих свойств дают диаграммы Венна.

Необходимо обратить внимание на эпсилон - энтропию случайной величины, которая учитывает конечную разрешающую способность средств измерений.

6.4. Количество информации [9], с. 213 ... 223; [2], с. 119 ... 125; [8], с. 275 ... 332.

В этом разделе, прежде всего, необходимо рассмотреть существующие подходы к определению понятия "количество информации". Далее надо понять, что если энтропия есть мера неопределенности, то количество информации есть мера снятой неопределенности в результате полученного сообщения о состоянии объекта. Свойства "количества информации" необходимо рассмотреть применительно к дискретному и непрерывному источнику сообщений. Все, выше изложенное, характеризует количество синтаксической информации.

В современных информационных технологиях все больший интерес представляет количество семантической информации. Необходимо внимательно разобраться, как определяется количество семантической информации.

6.5. Информационные характеристики источников

СООБЩЕНИЙ И КАНАЛОВ [1], с. 23 ... 27, 120 ... 146; [2], с. 129 ... 154.

В практической деятельности наибольший интерес представляют информационные характеристики конкретных источников сообщений и связанных с ними каналов передачи информации. Рассмотрев классификацию источников сообщений и каналов, необходимо изучить информационные характеристики источников и каналов. После этого надо перейти к детальному изучению информационных характеристик для конкретных источников и каналов.

6.6. Измерительная информация [1], с. 145 ... 152; [4], с. 67 ... 72; [6], с. 54 ... 62; [10], с. 217 ... 229.

В этом разделе на основе ранее сформулированных положений и понятий анализируется измерительная информация. Измерение - начальный этап обращения информации, этап получения (восприятия) информации.

Далее необходимо обратить особое внимание на то, какая модель процесса измерения используется в классической метрологии. За основу в этой модели были положены следующие предпосылки: измеряемая физическая величина неизменна; время измерений неограниченно; внешние условия известны и могут контролироваться; неопределенность результата измерений характеризуется стандартным отклонением и доверительным интервалом. Классическая метрология рассматривает возможность проведения измерений только при использовании измерительных шкал отношений и интервалов.

Реальные условия измерения не всегда соответствуют этим предпосылкам. Измерение всегда выполняется на фоне помех, измеряемая величина есть случайный процесс, который содержит информацию о состояниях (свойствах) исследуемого объекта; измерение также является случайным процессом, время выполнения которого ограничено; истинное (действительное) значение измеряемой величины остается неизвестным; характеристики средств измерений меняются во времени, что, накладываясь на помехи, делает результат измерения всегда случайным.

Далее следует рассмотреть информационную модель, применение основных положений теории информации для характеристики процесса измерений, который рассматривается как уточнение значения измеряемой величины. В информационной теории результат измерения трактуется как выбор данного интервала из целого ряда возможных интервалов.

Необходимо рассмотреть особенности получения измерительной информации при использовании шкал порядка, шкал интервалов и шкал отношений. Особое внимание следует обратить на такие понятия, как энтропийный интервал неопределенности результата измерений, энтропийный коэффициент. На основе этих понятий необходимо изучить зависимости между энтропийным интервалом неопределенности измерений и стандартным отклонением (средним квадратическим отклонением); практические методы определения энтропийного интервала неопределенности измерений, числа различимых ступеней (градаций) измеряемой величины, которое позволяет получить данный прибор или метод измерения. В информационной теории измерительное устройство рассматривается как канал преобразования информации о значении измеряемой величины в результат измерения.

Заканчивается изучение раздела рассмотрением элементов измерительно- информационных систем (ИИС). В теории ИИС ранее рассмотренные информационные характеристики анализируются с точки зрения обеспечения точности, достоверности и быстродействия измерений. Необходимо рассмотреть развитие ИИС в двух аспектах: структурном и функциональном.