Общие подходы к представлению информации

Существует два основных подхода в определении «количества информации»:

1. вероятностный подход — развил американский математик Клод Шеннон

2. объемный подход— возник в результате работы по созданию ЭВМ.

Вероятностный подход

Здесь вводится термин энтропия — количественная мера неопределимости. Теория Шеннона описывалась на фундаментальном понятии энтропии и связанного с ней понятия — количества информации.

При отсутствии неопределенности энтропия = 0, при максимальной неопределенности энтропия должна достигать максимального значения.

Формула Шеннона , гдеN — число исходов опыта, i- номер исхода опыта, P_i — вероятность i-го исхода.

Эту формулу для вычисления количества информации для неравновероятных событий предложил К. Шеннон в 1948 году.

Для определения количества информации, содержащегося в сообщении об исходе случайного события в случае, когда все исходы равновероятны, т.е. р₁=р₂=…=р_N=1/N, формула принимает вид формулы Хартли:

.

Пример 1.1. Сколько бит информации будет получено при бросании пирамидки (четыре грани N=4), кубика (шесть граней N=6), при условии, что пирамидка и кубик симметричны и однородны, т.е. исходы N событий для них равновероятны.

Решение.

для пирамиды	I = log 24 = 2 бит
для кубика	I = log 26  2,6 бит

 

Объемный подход

В техническом устройстве наиболее просто реализовать 2 противоположный физических состояния: намагниченность в двух противоположных направлениях; прибор, пропускающий ток или нет; конденсатор, заряженный или разряженный. Поэтому создатели компьютеров отдают предпочтение двоичной системе счисления (0 и 1 — биты).

Бит— наименьшая единица информации.

Объем информации в двоичных знаках подсчитывается по количеству двоичных символов:

8 бит — 1 байт

1024 байт — 1 кбайт

1024 кбайт — 1 Мбайт

1024 Мбайт — 1 Гбайт

Между вероятностным и объемным количеством информации соотношение неоднозначное. Не всякий тест, записанный двоичными символами, допускает измерение объема информации в кибернетическом смысле, но заведомо допускает его в объемном. А если какое-то сообщение можно измерить 2-мя способами, то они не обязательно совпадают, при этом кибернетическое количество информации не может быть больше объемного.

Общая характеристика процессов сбора, обработки, передачи и хранения информации

Под сбором информации понимается процесс отбора ее из окружающей среды и вводе ее в информационную систему (ИС), которая будет ее обрабатывать, хранить и передавать. Целью процесса сбора информации является обеспечение готовности информации к дальнейшему продвижению в системе и представление ее в различных формах (кодирование сигнала в линии, символы на дисплее, отпечатанные символы и т.п.).

Условно процесс сбора информации можно разделить на два метода:

- механический сбор, который состоит в том, что источник информации (событие, опыт) вызывает изменение физического состояния некоторого объекта, что регистрируется механическим способом;

- наблюдение, осуществляемое человеком, с последующим воспроизведением по памяти — регистрацией.

В процессе сбора информация может поступать в информационные системы в следующих видах:

- аналоговом, т.е. в виде некоторой непрерывной функции времени, отображающей изменение информации;

- дискретной, в виде «Да», «Нет», 1, 0, и т.п., т.е. изменение состояния скачком;

- кодовой или цифровой, когда информация представляется в форме сочетаний «0» и «1», соответствующих определенным символам.

Под обработкой информации понимают ее преобразование в вид, удобный для дальнейшего продвижения в информационные системы. Информация, которая не может быть собрана механическими средствами, собирается человеком. При этом простейшим способом сбора информации является ее регистрация — запись на носителе. Такими носителями могут быть бумага для записи, перфокарты, перфоленты. Если используются вспомогательные средства, то используется клавиатура, световое перо графического дисплея, микрофон. Точность информации при таком сборе падает из-за того, что человек неизбежно интерпретирует информацию.

Обработка информации в информационный системах распадается на ряд этапов и осуществляется непосредственно после реализации процесса сбора информации.

Первым этапомявляется преобразование информации (кодирование) в вид, свойственный данной информационной системе.

Вторым этапом(наиболее важным) является идентификация, распознавание информации. Распознавание информации может осуществляться:

- по признакам

- по идентифицирующим ключам (время, сопроводительные сигналы и т.п.)

Наиболее распространенный метод распознавания по признакам. В этом случае в системе фиксируется набор признаков (например, набор сочетаний «0» и «1» в коде). Затем полученная информация сравнивается с фиксированными признаками и выносится решение о принадлежности информации к тому или иному типу. Проще всего подобный метод реализуется в виде дешифрации кодов и используется для распознавания символов.

Для идентификации речевых сигналов разработана специальная система признаков: частота основного тона, число формант и их расположение по частоте, нестационарность и т.д. Здесь идентификация не однозначная.

Третьим этапомявляется целенаправленное изменение информации. Сюда относят:

- выполнение арифметических операций — расчетов;

- дополнение и объединение информации с уже имеющейся в системе;

- реализация процедур принятия решения при оценке информации от различных источников (моделирования ситуаций, экспертные оценки и т.п.)

- представление информации в удобном для потребителя виде (изображение, звук и т.п.)

Реализация процедур передачи информации определяется типом носителя информации, структурой и задачами информационной системы, требованиями к надежности (помехозащищенности). Этими требованиями и определяется предельно допустимая пропускная способность информационной системы. Очевидно, что наименьшей скоростью передачи обладает информационной системе с носителями информации на бумаге, а наибольшей — информационные системы с оптическими линиями связи. Наиболее распространенным типом носителя является электромагнитное колебание (сигнал). Задачи, решаемые информационной системой, и ее структура тесно связаны. Передача внутри ЭВМ, при связи 2-х ЭВМ, сеть ЭВМ. Помехозащищенность реализуется путем избыточного кодирования. Здесь используются коды, указывающие на ошибки, исправляющие ошибки.

При хранении информации различают два основных метода:

- долговременное хранение;

- кратковременное хранение.

Различают память: внутреннюю и внешнюю. Основой сохранения информации является регистрация или запись, существо которой заключается в изменении физического состояния некоторого физического объекта, называемого носителем информации.