1.2. Измерение информации.

1.2.1 Содержательный подход .

Количество информации, заключенное в сообщении, определяется объемом знаний, который несет это сообщение получающему его человеку. Сообщение содержит информацию для человека, если заключенные в нем сведения являются для этого человека новыми и понятными и, следовательно, пополняют его знания.

Если учитывать смысловое содержание сообщение, то при таком подходе возможна качественная оценка информации: полезная, безразличная, важная, вредная. … Одну и ту же информацию люди могут оценить по-разному. В информатике очень важно количественно измерять информации, найти числовой эквивалент полученного сообщения, т.к. информатика по определению изучает все аспекты сбора, хранения, обработки, передачи и получения информации. Естественно, это требует оценка и учета количества передаваемой информации, ее объема.

Количеством информации называют, числовую характеристику сигнала, которая не зависит от его формы и содержания и характеризует степень неопределенности (энтропии), которая исчезает после выбора (получения) сообщения в виде данного сигнала.

Поясним эту идею на конкретных примерах. Пусть у нас имеется монета, которую мы бросаем на ров­ную поверхность. С равной вероятностью произойдет одно из двух возможных событий — монета окажется в одном из двух положений: «орел» или «решка». (можно говорить, что события равновероятны, если при возрастающем числе опы­тов число выпадений «орла» и «решки» постепенно сближа­ются, например, если мы бросим монету 10 раз, то «орел» может выпасть 7 раз, а «решка» — 3 раза, если бросим монету 100 раз, то «орел» может выпасть 60 раз, а «решка» — 40 раз, если бросим монету 1000 раз, то «орел» выпадет 520 раз, а «решка» — 480 и т.д., т.е. при очень большой серии опы­тов количество выпадений «орла» и «решки» сравняются).

Перед броском существует неопределенность нашего зна­ния (возможны два события), и как упадет монета — пред­сказать невозможно. После броска наступает полная определенность, так как мы видим (получаем зрительное сообщение), что монета в данных момент времени находится в определенном положении (например, «орел»). Это сообщение уменьшило степень неопределенности в два раза, т.к. из двух возможных равновероятных событий реализовалось одно.

В окружающей действительности достаточно часто встреча­ются ситуации, когда может произойти большее, чем два, чис­ло равновероятных событий. Так, при бросании равносторон­ней четырехгранной пирамиды существует 4 равновероятных события, а при бросании шестигранного игрального кубика — 6 равновероятных событий.

Чем больше начальное число возможных равновероятных событий, тем больше начальная неопределенность нашего знания и, соответственно, тем большее количество информа­ции будет содержать сообщение о результатах опыта.

1.2.2. Единица измерения количества информации.

Для количественного определения любой величины необходимо определить единицу измерения. Для определения количества информации необходимо также ввести единицу измерения. За единицу количества информации принято такое количество информации, которое содержит сообщение уменьшающее степень неопределенность в два раза. Такая единица названа бит. Сообщение, уменьшающее степень неопределенности в два раз, несет 1 бит информации. Сообщение об одном событии из двух равновероятных несет 1 бит информации.