Теоретические основы информатики. Учебное пособие

Другим важным понятием информатики является понятие «знания». Знание – продукт накопления, систематизации данных, их осмысления. Знание является результатом процесса познавательной деятельности. Пример: слушая и конспектируя лекцию, студент не получает знание, он получает информацию в виде сообщений и данных. Знания формируются в его мозгу в результате обработки и усвоения получен-

ной информации.

1.3. Свойства информации

Информация обладает следующими основными свойствами.

1.Невоспроизводимость. При повторном приёме сообщения, несущего информацию, принимающая сторона не получает дополнительной информации. Например, на вокзале пассажир ожидает отправление своего поезда и слышит объявление, в котором сообщается, что отправление задерживается на два часа. Если он повторно прослушает это объявление через некоторое время, он не получит никакой новой информации относительно отправления поезда.

2.Эмерджентность, т. е. неожиданность, внезапность. Сообщение

онекотором событии несёт тем больше информации, чем меньше возможность наступления этого события. Например, сообщение о том, что 12 июля в г. Нальчике ожидается температура –10° несёт больше информации, чем сообщение о том, что температура будет +30°. Сообщение об отправке поезда по расписанию несёт меньше информации, чем сообщение о задержке отправления. Сообщение, лишенное свойства эмерджентности, не является информацией. Например, сообщение «Ты – студент» не содержит информации для студента.

3.Операциональность означает, что информация побуждает к действию. Сообщение о задержке отправления поезда приводит к тому, что пассажир начинает действовать незапланированно, например, совершает звонки по телефону, сообщая о задержке, идет в привокзальный киоск, и т. п. Сообщение о падении курса акций на бирже приводит к попытке их продажи. Известие о возможном дожде заставляет пешехода взять зонт при выходе из дома.

4.Объективность – характеристика информации, выражающая степень её соответствия реальной действительности. Информация является объективной, если она не зависит ни от чьего субъективного мнения. Например, сообщение «На улице тепло» содержит необъективную информацию, так как она представляет собой чье-то субъективное мнение. В то же время сообщение «Температура на улице равна

11

+22 °C» содержит объективную информацию, поскольку для её получения использовался измерительный прибор – термометр.

1.4. Понятие информационного процесса

Очевидно, что если информация, которой обладает носитель, не распространяется, то это ограничивает возможности или делает использование невозможным ее использования. Например, если фармацевт, обладающий рецептом востребованного лекарства, скрывает его, то лекарство не может быть использовано для лечения от соответствующего заболевания. Возможность передачи информации является условием ее практического применения.

Технический процесс передачи информации может быть описан с помощью следующей схемы (рис. 1.2).

Рис. 1.2. Общая схема передачи информации

Источник информации – это субъект, процесс или устройство, порождающее информацию и представляющее ее в виде сообщения.

Приемник информации – субъект или устройство, принимающие сообщение и способные правильно его интерпретировать.

Канал связи – материальная среда, а также физический или иной процесс, посредством которого осуществляется передача сообщения, т. е. распространение сигналов в пространстве.

Таким образом, от источника к приемнику информация передается в виде сообщения, которое выступает в качестве материальной оболочки для представления информации при передаче. Следовательно, сообщение служит переносчиком информации, а информация является содержанием сообщения. Соответствие между сообщением и содержащейся в нем информацией называется правилом интерпретации сообщения.

Это соответствие может быть однозначным и неоднозначным. B первом случае сообщение имеет лишь одно правило интерпретации.

12

Например, по последовательности точек, тире и пауз в азбуке Морзе однозначно восстанавливается переданная буква.

Неоднозначность соответствия между сообщением и информацией возможна в двух вариантах:

−одна и та же информация может передаваться различными сообщениями (например, прогноз погоды может быть получен по радио, по сети интернет, и пр.);

−одно и то же сообщение может содержать различную информа-

цию для разных приемников. Примером может служить передача в 1936 г. по радио Мадрида фразы «Над всей Испанией безоблачное небо», которое для непосвященных людей имело смысл прогноза погоды, а для знакомых с правилом интерпретации – сигналом к началу военных действий.

В качестве примера реализации данной схемы можно привести процесс обмена сообщениями по телефону. Источник информации – один из абонентов. Кодирующим устройством является микрофон. Он преобразует звуковые колебания в электрические сигналы, которые затем передаются по телефонному кабелю. Кабель в данном случае является каналом связи, который также называют средой передачи данных. Во время передачи сигналов по каналу связи могут возникать различного рода помехи, которые искажают передаваемый сигнал. В этом случае мы слышим в телефонной трубке посторонние шумы. Декодирующее устройство – динамик телефонной трубки. Он совершает обратное преобразование электрических сигналов, полученных по кабелю, в акустические колебания, которые слышит другой абонент – приёмник информации.

Наиболее часто информация используется для выработки управляющих воздействий в автоматических (чисто технических) и автоматизированных (человеко-машинных) системах. В подобных системах можно выделить отдельные этапы обращения информации, каждый из которых характеризуется определенными действиями. Последовательность действий, производимых с информацией, называется информационным процессом.

Основными информационными процессами являются:

–сбор (восприятие) информации;

–подготовка (преобразование) информации;

–передача информации;

–обработка (преобразование) информации;

–хранение информации;

–отображение (воспроизведение) информации.

13

Понятно, что все перечисленные действия производятся не непосредственно с самой информацией, а с сообщением, т. е. ее материальным представлением. Последовательность применения информационных процессов в виде преобразования сигналов, являющихся материальными носителями информации, приведена на рис. 1.3.

Рис. 1.3. Последовательность применения информационных процессов

На этапе восприятия осуществляется целенаправленное извлечение и анализ информации о некотором объекте (процессе), в результате чего формируется образ объекта, проводятся его идентификация (опознание) и оценка. Главная задача этапа – отделить полезную информацию от посторонней (шумов), что в ряде случаев связано со значительными трудностями.

На этапе подготовки осуществляется первичное преобразование информации. Здесь производятся нормализация (приведение к определенному виду), аналого-цифровое преобразование, шифрование. Иногда этот этап рассматривается как вспомогательный на этапе восприятия. В результате информация принимает вид, удобный для передачи, хранения или обработки (данные).

На этапе передачи информация пересылается от отправителя получателю (адресату). Передача осуществляется по каналам различной физической природы, например электрическим электромагнитным и оптическим. Извлечение сигнала на выходе канала, подверженного действию шумов, носит характер вторичного восприятия.

На этапах обработки информации выявляются ее общие и существенные взаимозависимости, представляющие интерес для потребителя. Под обработкой информации понимается любое ее преобразование, проводимое по законам логики, математики, а также неформальным

14

правилам, основанным на «здравом смысле», интуиции, обобщенном опыте, сложившихся взглядах и нормах поведения. Результатом обработки является информация, либо представленная в иных формах (например, упорядоченная по некоторым признакам), либо содержащая ответы на поставленные вопросы (например, решение некоторой задачи). Если процесс обработки формализуем, он может выполняться техническими средствами. Преобразование информации на этом этапе осуществляется либо средствами компьютерной техники, либо человеком.

В качестве примера применения информационных процессов рассмотрим процедуру информирования пользователей о состоянии погоды. Потребителями информации о погоде являются не только (и не столько) отдельные люди, но и службы управления воздушным движением, сельскохозяйственные предприятия, МЧС и другие.

Этап сбора информации состоит в снятии показаний со всевозможных приборов (датчиков), с помощью которых производятся наблюдения за температурой и влажностью воздуха, атмосферным давлением, количеством осадков и т. п. На этапе подготовки эти показания приводятся к виду, удобному для их передачи. Здесь они становятся набором чисел, т. е. приобретают вид данных, которые могут быть закодированы необходимым способом.

На этапе передачи данные о погоде доставляются получателю одним из доступных способов, например, с помощью сети Интернет или по радио.

Обработка информации после получения состоит в том, что она приводится к виду, удобному для потребителя. Здесь полученные данные вновь становятся значениями температуры и влажности воздуха, атмосферного давления и т. д. После этого сведения о погоде отображаются (воспроизводятся) в виде звукового или видео сообщения, или распечатываются на бумаге. В таком виде их получает потребитель, например, диспетчерская служба аэропорта. Полученная информация может быть сохранена на доступных носителях для возможного дальнейшего использования.

15

2. ИЗМЕРЕНИЕ КОЛИЧЕСТВА ИНФОРМАЦИИ

Интуитивно понятно, что разные сообщения содержат различное количество информации. Очевидно, например, что таблица умножения содержит больше информации, чем сообщение о том, что дважды два равно четырем. Разное количество информации в различных сообщениях приводит к необходимости измерения количества информации в них.

Существует три уровня (аспекта) определения количества информации – синтаксический, семантический и прагматический.

2.1. Синтаксический уровень

На синтаксическом уровне для оценки количества информации используют вероятностные методы, которые принимают во внимание только вероятностные свойства информации и не учитывают другие, такие как смысловое содержание, полезность, актуальность и т. д. Вероятность – это показатель возможности наступления некоторого события при определенных условиях.

Количеством информации называется её числовая характеристика, отражающая степень неопределенности (неполноты знания), которая исчезает после получения данной информации. Эту меру неопределенности в теории информации называют энтропией. Говорят, что некоторое сообщение содержит информацию, если оно приводит к уменьшению неопределенности знаний. При этом события, о которых содержится информация в сообщении, могут реализоваться с различными вероятностями. Оценка количества информации определяется через вероятности событий.

Например, если бросить монету, то возможен один результат из двух: выпадет «орел» (О) или «решка» (Р). Каждое из этих двух событий окажется равновероятным, т. е. ни одно из них не имеет преимущества перед другим. Перед броском существует неопределенность знания о результате, так как неизвестно какая из сторон выпадет. После броска мы получаем зрительное сообщение о положении монеты, которое уменьшает неопределенность знания о результате в два раза, так как из двух равновероятных событий произошло одно. Значит, вероятность выпадения О или Р равна ½.

Говорят, что сообщение, уменьшающее неопределенность знаний в 2 раза, несет 1 бит информации. Таким образом, в сообщении о том, что выпал О или Р содержится 1 бит информации.

16

При бросании двух монет количество различных вариантов выпадения по две монеты равно четырем, т. е. 22: ОО, ОР, РО, РР. Вероятность появления одного варианта равна ¼. Сообщение, что выпал один из вариантов, содержит 2 бита информации.

Бросая три монеты, имеем восемь вариантов (23). Вероятность появления одного варианта равна 1/8. Сообщение о выпадении одного из восьми вариантов содержит 3 бита информации.

Обозначим через N число вариантов равновероятных событий, характеризующих неопределенность знания, через i – количество информации в сообщении о том, что произошло одно из N событий. Как было показано выше, N = 2i. При известном N и неизвестном i отсюда получаем формулу

i = log2N,

выражающую количество информации в сообщении о наступлении одного из N событий.

Пример. Сколько информации содержит сообщение о результате бросания игральной кости, т. е. кубика с шестью гранями? После падения кубика неопределенность наших знаний о результате броска уменьшается в шесть раз. Чтобы найти количество информации в зрительном сообщении о результате броска, необходимо решить уравнение 2i = 6. Отсюда по указанной формуле получаем i = log26 ≈ 2,58496 бит.

Наименьшая единица обработки и передачи информации называется байтом (byte) и состоит из 8 бит (bit). Один бит информациисоответствует символу или сигналу, который может принимать два значения: заряженный/незаряженный, включено/выключено, да/нет, высокий/низкий. В двоичной системе счисления этими значениями являются 1 или 0. Бит – это базовая единица измерения количества информации, равная количеству информации, содержащемуся в опыте, имеющем два равновероятных исхода. Это тождественно количеству информации в ответе на вопрос, допускающий ответ «да» или «нет» и никакого другого, то есть такое количество информации, которое позволяет однозначно ответить на поставленный вопрос.

Очень часто слово бит (bit) расшифровывают как binary digit (двоичная цифра). Однако английское слово bit переводится как «частица» или «кусочек». В XVII веке в Англии битом называли именно 1/8-ю часть монеты. Таким образом, бит – это частичка информации.

Наряду с байтами для измерения количества информации используются более крупные единицы:

1Килобайт (Кбайт) = 1024 байт = 210 байт,

1Мегабайт (Мбайт) = 1024 Кбайт = 220 байт,

17

1Гигабайт (Гбайт) = 1024 Мбайт = 230 байт.

1Терабайт (Тбайт) = 1024 Гбайт = 240 байт,

1Петабайт (Пбайт) = 1024 Тбайт = 250 байт,

1Экзабайт (Эбайт) = 1024 Пбайт = 260 байт.

Битами и байтами описываются как элементы данных, обрабатываемые компьютером, так и элементы памяти. В табл. 2.1 приведены некоторые единицы измерения памяти в ЭВМ и их размер в байтах и битах.

Таблица 2.1

Единицы измерения информации

Машинное слово представляет собой фрагмент данных фиксированного размера, обрабатываемый как единое целое с помощью набора команд или аппаратного обеспечения процессора. Это наименьшая единица памяти, которую может адресовать процессор. Страница памяти – область памяти фиксированной длины, которая является минимальной единицей выделяемой памяти. Таким образом, запрос даже на 1 байт от приложения приведёт к выделению ему страницы памяти,

т. е. 4096 байт.

2.2. Семантический уровень

На семантическом уровне информация рассматривается по ее содержанию, отражающему состояние отдельного объекта или системы в целом. При этом не учитывается ее полезность для получателя информации. На данном уровне изучаются отношения между знаками, их предметными и смысловыми значениями, что позволяет осуществить выбор смысловых единиц измерения информации. Как известно, со-

18

держание информации передается от источника информации к приемнику с помощью сообщения, т. е. в виде совокупности знаков (символов), образующих сигнал. В силу этого для измерения смыслового содержания информации используется её тезаурус, т. е. совокупность информации (сведений), которой располагает приемник информации.

В общем смысле тезаурус – специальная терминология (словари, справочники), полномерно охватывающая понятия, определения и термины специальной области знаний или сферы деятельности.

Семантический подход предполагает, что для понимания (осмысливания) и использования полученной информации ее получатель должен обладать априорной информацией, т. е. тезаурусом. Это может быть определенный набор знаков, наполненных смыслом, а также названий явлений и объектов, слов, понятий, между которыми установлены связи на смысловом уровне. Если принять знания о данном объекте или явлении за тезаурус, то количество информации, содержащееся в новом сообщении о данном предмете, можно оценить по изменению индивидуального тезауруса под воздействием данного сообщения. В зависимости от соотношений между смысловым содержанием сообщения и тезаурусом пользователя изменяется количество семантической информации. Характер такой зависимости не поддается строгому математическому описанию. Она сводится к трем условиям, при которых тезаурус пользователя:

−стремится к нулю, т. е. пользователь не воспринимает поступившее сообщение. Например, сообщение, полученное в виде китайского иероглифа, абсолютно не понятно нам, как и большинству людей. Тезаурус пользователя, т. е. количество знакомых нам иероглифов, равен нулю. Поэтому такое сообщение не содержит информации для не знакомых с китайской письменностью;

−стремится к бесконечности, т. е. пользователь досконально знает все об объекте или явлении и поступившее сообщение его не интересует. Например, получателю информации поступает сообщение о том,

что 2 × 2 = 4. Если получатель знает таблицу умножения, т. е. обладает соответствующим тезаурусом, то полученное сообщение для него не содержит информации;

− согласован со смысловым содержанием сообщения, т. е. поступившее сообщение понятно пользователю и несет новые сведения. Представим себе, что пользователь изучает инструкцию к некоторому устройству, например, к стиральной машине. Если он владеет терминологией, применяемой в инструкции, т. е. обладает тезаурусом, свя-

19

занным с данным устройством, то при чтении инструкции он получает новую информацию.

Два первых предельных случая соответствуют состоянию, при котором количество семантической информации, получаемое пользователем, минимально. Третий случай связан с получением максимального количества семантической информации. Следовательно, количество семантической информации, получаемой пользователем, является величиной относительной, поскольку одно и то же сообщение может иметь смысловое содержание для компетентного и быть бессмысленным для некомпетентного пользователя. Например, сообщение о том, что (sinx)′ = cosx, понятно старшекласснику и не имеет смысла для первоклассника. Таким образом, в зависимости от соотношений между смысловым содержанием информации S и тезаурусом пользователя Sp изменяется количество семантической информации IС, воспринимаемой пользователем и включаемой им в дальнейшем в свой тезаурус. График такой зависимости показан на рис. 2.1. Максимальное количество семантической информации IС потребитель приобретает при согласовании ее смыслового содержания S со своим тезаурусом Sp (Sp = Sp opt), когда поступающая информация понятна пользователю и несет ему ранее не известные, т. е. отсутствующие в его тезаурусе, сведения.

Рис. 2.1. Зависимость количества семантической информации от тезауруса получателя

Следовательно, количество семантической информации в сообщении, количество новых знаний, получаемых пользователем, является величиной относительной. Относительной мерой количества семантической информации может служить коэффициент содержательности С, который определяется как отношение количества семантической информации к ее объему.

Для получения объективной оценки количества информации на семантическом уровне используются абсолютные и относительные единицы измерения количества информации. В качестве абсолютных

20