
книги из ГПНТБ / Вальков К.И. Введение в теорию моделирования
.pdfРекомендуется подробно изучить эти записи, воспользовав
шись схематическим |
изображением, |
аналогичным |
изображе |
||
нию на рис. |
1.7.1 |
записи М\] N=N |
и М f] N = M равно |
||
Отметим |
еще, что |
||||
сильны утверждению, |
что множество |
М |
включено |
в N и яв |
|
ляется подмножеством N. |
|
|
|
7. Понятие об универсуме, разумеется, тесно связано с по нятием об инвариантной неопределенности. Фиксировать уни версум — это значит фиксировать соответствующую ему инвариантную неопределенность. Весьма заманчивой, хотя и су щественно далекой аналогией здесь может служить соотноше ние, существующее между множеством и его абсолютным до полнением. Как только выделено множество М, так сразу же определено и его абсолютное дополнение. Как только выделен универсум, так сразу же принята инвариантная неопределен ность.
Эта аналогия может быть продолжена. Абсолютное допол нение не есть внутреннее свойство множества М, но есть его связь с универсумом. Допустив изменения универсума, будем
получать различные |
абсолютные дополнения |
при одном и |
том же множестве М. |
Точно также инвариантная |
неопределен |
ность не есть внутреннее свойство универсума, но есть его связь с одним из аспектов реальности. Различные аспекты реально сти дают различные инвариантные неопределенности при од ном и том же универсуме.
Намеченная аналогия существенно ограничена тем обстоя
тельством, что множество, абсо |
|
|||||||
лютное |
дополнение |
и |
универ |
|
||||
сум |
допустимо |
мыслить |
как |
|
||||
структуры |
конечные, |
тогда как |
|
|||||
для инвариантной неопределен |
i |
|||||||
ности и для порождающей ее |
||||||||
реальности это |
предположение |
|
||||||
заведомо |
исключается. |
|
|
|
||||
Рассмотрим |
одну |
геометри |
|
|||||
ческую |
иллюстрацию, |
хорошо, |
Рис. 1.8 |
|||||
хотя и весьма схематически, по- |
||||||||
ясняющую |
изложенные |
здесь |
|
|||||
общие |
идеи. |
|
|
|
|
|
||
Пусть множество М представляет собой совокупность то |
||||||||
чек, |
расположенных |
|
на |
отрезке |
АВ, включая его концы |
1 Подобные схематические изображения известны в литературе под име нем диаграмм Венна или кругов Эйлера.
21
(рис. 1.8). Универсум — прямая линия /, содержащая АВ. От метим еще множество N — точки отрезка CD. Рисунок показы вает, что М п N—0. Абсолютным дополнением для М служит совокупность точек, лежащих на прямой / и не входящих в от резок АВ. Сходным образом выглядит абсолютное дополнение для множества N.
Изменим теперь универсум, отождествив его с точками плоскости а, проходящей через I. Тотчас меняется и абсолют
ное дополнение множеств М и N. Точки |
всей |
плоскости |
а, за |
|||||
исключением |
точек отрезка АВ |
или CD, |
составляют |
это |
абсо |
|||
лютное дополнение. Расширим |
множества |
М |
и N, |
предполо |
||||
жив, что в состав их входят все точки круга, |
расположенного |
|||||||
в плоскости а и содержащего отрезок АВ |
(или |
соответственно |
||||||
отрезок CD) |
в качестве хорды. Это, конечно, |
приведет |
снова |
|||||
к изменению |
абсолютных дополнений, |
но |
для |
нас |
особенно |
важно отметить сейчас другое обстоятельство. Пересечение за
данных множеств |
при универсуме |
а |
не пусто: |
М П N=R |
|
(см. рис. 1.8). Пересечение |
тех же множеств при |
универсуме |
|||
/ — пусто. В самом |
деле, |
универсум |
/ |
--является |
подмноже |
ством, или сечением, универсума а. И полученные внутри /
подмножества, или сечения, множеств М и JV |
(отрезки АВ и |
|
CD) обладают иными свойствами, чем целые множества М и N |
||
внутри |
а. |
|
Мы |
рассмотрели здесь простейшую операцию — пересече |
|
ние множеств. Однако все сказанное сохраняет |
свое значение |
|
и для |
более сложных действий, основанных на |
использовании |
объединений, пересечений, включений и абсолютных дополне ний. Такие действия составляют предмет изучения в алгебре
множеств |
[10, |
И]. Например, |
алгебра |
вводит |
представление |
||||
о симметрической разности |
M + N |
двух |
множеств, |
которая |
|||||
определяется соотношением M + N= |
(М — JV)U (JV— М). Здесь |
||||||||
(М — N)— |
относительное дополнение N до М, или разность М |
||||||||
и /V, — есть совокупность элементов М, |
не входящих в |
N. |
|||||||
Конкретные |
результаты алгебраических |
операций, |
произво |
||||||
димых над мыслимыми |
множествами, |
имеют |
относительное |
||||||
значение. |
Их |
истинность |
может быть |
гарантирована |
только |
||||
в пределах |
установленного |
|
универсума. |
|
|
|
|
Прибегая к намеченной выше аналогии, стоит попытаться обобщить и распространить эти соображения на случай уни версума научных теорий, инвариантной неопределенности и различных аспектов реальности.
22
|
§ 3. И н ф о р м а ц и я |
|
|
|
|||
1. Пусть имеется |
конечное |
множество {хи |
|
|
х2...хп}. |
||
Имеется — это значит, что все элементы |
его заранее |
известны. |
|||||
Выделим один элемент — Xj. Выполнив |
это действие, |
мы |
пере |
||||
даем некоторую |
информацию. |
|
|
|
|
|
|
Выделить элемент множества можно самыми различными |
|||||||
способами, зависящими прежде всего от характера |
заданного |
||||||
множества. Если, например, множество |
{х{ .. . хп) |
—это |
сово |
||||
купность букв |
русского |
алфавита |
и выделяется |
буква |
О, то |
можно произнести эту букву вслух; записать ее на бумаге рус ским или каким-либо другим шрифтом или, вообще, условным обозначением; отметить ее количеством ударов, обозначающих ее порядковый номер в алфавите, и т. п. В любом случае для выделения элемента множества используется какое-то кон
кретное действие, которое принято именовать сигналом. Любая |
||
информация передается |
посредством |
сигналов. |
С помощью сигналов |
сообщаются |
между собою две ин |
станции: одна создает или передает сигнал, другая его воспри нимает. Говорить и мыслить об информации имеет смысл лишь
при наличии этого условия, при наличии двух |
сторон, которые |
|
этой информацией |
обмениваются. |
множество М{ — |
2. Рассмотрим |
три множества. Первое |
совокупность букв русского алфавита. Второе множество М2 — страницы учебника, содержащего всего 512 страниц. Третье множество М3 — поля шахматной доски. Выделим по одному
элементу в каждом из указанных |
множеств, |
т. е. передадим |
три порции информации: / ь / 2 , / 3 . |
Можно ли |
как-то количе |
ственно сравнить затраченные при этом усилия?
В практическом, в физическом смысле такое сравнение, оче видно, невозможно или оно будет носить совершенно случай ный характер, так как будет зависеть от способа передачи сиг налов. Например, указывая букву, произнесем ее; указывая страницу, откроем книгу (предварительно перелистав ее) в нужном месте; указывая поле шахматной доски, поставим на пего шахматную фигуру. Сравнивать между собою (да еще ко личественно!) эти физические действия трудно и нецелесооб разно. Но если отвлечься от внешних различий и обратить вни мание на то, что в первом случае имеем множество, содержа
щее |
32 элемента, |
во втором |
случае — 5 1 2 элементов, |
в тре |
|
тьем |
случае — 64 |
элемента, |
то на поставленный вопрос есте |
||
ственно ответить следующим |
образом: J\<Jz<h- |
Такая чисто |
|||
математическая оценка передаваемой информации, |
завися- |
23
щая не от реальных особенностей ситуации, а исключительно от «размеров» заданного множества, часто оказывается полез ной и находит себе применение в науке и технике.
3. Когда количественно сравниваются между собою две ве личины, то, кроме вопроса «что больше и что меньше?», возни кает вопрос «во сколько раз больше или меньше?» Для того чтобы ответить на эти вопросы, нужно ввести масштабную еди ницу и условиться, как с ее помощью производить измерения. В качестве масштаба принимают обычно ту информацию, ко торая будет передана после выделения одного элемента из множества, содержащего всего два элемента. Выглянув, на пример, в окно, устанавливаем, идет дождь или нет, и получаем таким образом одну единицу информации. Исходное множе ство здесь включает в себя два элемента:
1) |
дождь идет; 2) |
дождя |
нет. |
|
|
|
Разумеется, выбор масштабной единицы условен. Подобно |
||||||
тому |
как в геометрии |
можно |
принять за |
единицу |
1 см |
или |
100 см — \ м ит. д., так |
и в данном случае допустимо |
было |
на |
|||
звать |
единицей информацию, |
полученную |
при выделении |
од |
ного элемента из десятка, из сотни, из пяти сотен и пр. Ука
занный выше |
масштаб |
именуется |
битом (1 бит) |
и |
подсказан |
|||||
практикой. |
|
|
|
|
|
|
|
|
|
|
Измерение |
информации установленным масштабом произ |
|||||||||
|
|
водится |
в следующем порядке. |
|||||||
|
|
Разобьем заданное |
|
множество |
||||||
|
|
М={хь |
|
хп) |
на |
|
подмноже |
|||
|
|
ства Мь |
М2, |
• •., |
М„.2, |
каждое |
||||
|
|
из которых |
содержит |
два |
эле |
|||||
|
|
мента. Например, M\={Xi, |
Xj). |
|||||||
|
|
Из элементов Ми |
..., |
Мп |
соста |
|||||
|
|
вим новые подмножества N\, |
..., |
|||||||
|
|
Nv, |
также содержащие |
по |
два |
|||||
|
|
объекта. |
Например, |
|
Ni={Mh, |
|||||
|
|
Mi). |
Эту |
процедуру |
продолжа |
|||||
|
|
ем до тех пор, пока |
полученные |
|||||||
р |
. 9 |
два |
элемента Si |
и S2 |
не |
исчер- |
||||
|
и с ' " |
пают |
исходное |
множество: |
||||||
M = { S b S2 }. Наглядная иллюстрация для случая п = 1 6 |
приво |
дится на рис. 1.9. Тогда любой элемент Xi можно выделить, указав сначала подмножество Sj, затем подмножества Рь, Qi и т. д., вплоть до х{. На выбор каждого подмножества затрачи вается, очевидно, один бит информации. Общее количество ин формации определяется числом /„ = log2 п. Этот факт непеь 24
средственно |
подтверждается |
геометрической |
схемой |
||||
(рис. 1.9). |
|
|
|
|
|
|
|
Итак, для |
измерения |
количества |
информации, которую |
до |
|||
ставляет |
сигнал, выделяющий один |
элемент |
множества |
{х{ . .. |
|||
х „ } , нужно подсчитать |
величину логарифма |
от числа |
п |
при |
|||
основании |
2. |
|
|
|
|
|
|
4. Способ измерения |
количества |
информации, как и выбор |
масштабной единицы, тоже, конечно, условен. Можно было бы при сохранении масштаба объявить мерой информации / чи сло я/2 или У/г ит. п. Предложенный выше способ подсказан практикой. В его удобствах легко убедиться, решая различные конкретные задачи.
З а д а ч а 1. В одном соревновании участвуют 16 человек, в другом 8. Какую информацию доставляет сообщение о побе дителях соревнований?
Р е ш е н и е . log2 16 = 4; |
log2 8 = 3; 4 + 3 = 7 бит. |
исходов |
Действительно, общее |
количество возможных |
|
обоих соревнований равно 16X8=128; log2 128 = 7. |
каждая |
|
З а д а ч а 2. Имеется ряд электрических лампочек, |
из которых может быть зажжена или потушена. Сколько нуж но иметь лампочек, для того чтобы передавать с их помощью календарные сведения о числах текущего месяца?
Р е ш е н и е . Каждый месяц включает в себя не более 31 дня; log"2 31 ^ 4 , 9 бит. Каждая лампочка передает 1 бит информа ции; 4,9 : 1 = 5 лампочек.
Действительно, ряд из пяти загорающихся и гаснущих лам почек позволяет набрать 32 различные комбинации сигналов, любой из которых согласно условию может обозначать некото рое число от 1 до 32.
Попытка |
решить те же самые задачи при использовании ка |
|
кого-нибудь |
другого способа измерения информации, напри |
|
мер на основе |
критерия j = n/2, приводит к затруднениям. |
|
В первой задаче |
имеем 16:2 = 8; 8:2 = 4; 128 : 2 = 64. Следова |
тельно, из двух чисел 8 и 4 нужно с помощью каких-то действий получить третье число — 64.
Во второй задаче получаем 31 : 2 = 15,5; 2 : 2 = 1 . Следова тельно, из двух чисел 15,5 и 1 нужно с помощью каких-то дей ствий получить число 5. Простого пути для объяснения этих двух и других возможных ситуаций не усматривается.
Пользуясь указанными приемами и возвращаясь к вопро су, поставленному в 1.3.2, можем теперь ответить на него вполне определенно: /1 = 5 < / з = 6</г = 9.
5. Подсчитывая количество передаваемой информации, по-
25
лезно отличать абстрактную и реальную стороны вопроса, тео
рию и |
практику. |
|
|
|
|
|
|
||
С практической точки зрения, любое совершающееся собы |
|||||||||
тие доставляет некоторую информацию, количество |
которой |
||||||||
может |
быть |
подсчитано по установленным правилам. |
Нужно |
||||||
только |
знать |
предварительно, какие |
другие |
события |
могли |
||||
произойти |
вместо |
совершившегося |
на |
деле; |
иными словами, |
||||
нужно |
иметь, как |
было сказано |
(3.1.1), исходное |
множество |
|||||
{хх . , . хп). |
В задаче 1 вместо победителей X |
и Y |
могли быть |
||||||
названы победителями N и Т, или К и L и т. д. (всего |
128 ва |
риантов). В задаче 2 вместо даты 16 марта могли быть отме чены 22, 23, 5 .. . марта и другие даты (всего 31 вариант). Очень часто на практике выявление исходного множества не вызывает никаких затруднений и не порождает сомнений.
Вместе с тем, рассуждая теоретически, невозможно, конеч но, ответить на вопрос «какие другие события могли произойти вместо совершившегося на деле?» Невозможно, следователь но, очертить исходное множество, а поэтому невозможно и под считать количество переданной информации.
«Других» допустимых событий, теоретически говоря, всегда бесконечно много. Например, в задаче 1 вместо победителей X и Y могли быть названы X, Y и N, или X, N и Y, L . Исключе ние этих вариантов достигается подразумевающимся усло вием, что в каждом соревновании возможен лишь один побе дитель. Подразумевается также, что имеется лишь один способ определения победителей соревнований и что поэтому получен ная информация не имеет никакого отношения к способам оценки показанных спортсменами результатов. Кроме того, подразумевается, что проводятся только два соревнования, а не несколько параллельно проходящих игр (п групп по 16 че ловек и п групп по 8 человек) и, следовательно, полученная информация не имеет никакого отношения к выбору группы соревнований. Вообще вся эта ситуация приобретает знакомые уже очертания, если учесть, что условие задачи представляет собой определение некоторого объекта, подлежащего дальней шему изучению (оценке, измерению, расчету и т. д.). Значит, условие задачи обладает характерными свойствами определе ний (см. § 1) со всеми вытекающими отсюда последствиями.
Поэтому никогда не нужно забывать, что данное событие и доставляемая им информация связаны между собой не бо лее, чем данный предмет и скорость его передвижения. Ско рость движения выражает не свойство предмета, а взаимоот ношение предмета и наблюдателя или предмета и системы от26
счета. Выбрав одну систему отсчета, приписываем предмету одну скорость; выбрав другую систему отсчета, приписываем ему другую скорость. В частности, отождествив предмет с си стемой отсчета, можем считать, что он находится в покое. Иными словами, наблюдателю удается измерить и количест венно выразить не абсолютную скорость, а относительную; удается зафиксировать только разность в поведении двух не посредственно данных реальностей: системы отсчета и движу щегося предмета.
Так же точно и при измерении количества передаваемой информации удается зафиксировать не абсолютную, а лишь относительную информативность события, прямо связанную с системой отсчета, присущей наблюдателю. В одной системе от счета событие может доставлять большое количество инфор мации, в другой системе отсчета его информативность может быть равна нулю. Числом log2 n измеряется разность двух со стояний, имевших место до наступления и после наступления данного события.
6. Предположим, что событие хг- доставляет информацию двум наблюдателям. Первый наблюдатель получает 5 бит информации. Второй наблюдатель получает 1 бит информации. Спрашивается, который из них лучше подготовлен к восприя тию события, обладает большими знаниями?
Поскольку термин «информация», даже в том своем мате матическом аспекте, в котором он обычно используется в со временной научной и технической литературе, близок но смыс лу к терминам «сообщение», «сведения», «знания» и т. п., по стольку сформулированный вопрос представляется вполне за конным. И действительно, этот вопрос возникает и обсуждается многими авторами с различных точек зрения (см., например [12—17]). Приходится признать, что обсуждение его приносит не слишком много ясности. Причины этого явления заслужи вают пристального внимания.
Пусть имеется двадцать сортов яблок и двенадцать сортов груш. Событие Xi заключается в выявлении плода, принадле жащего к указанному ассортименту. Специалист-агроном, умеющий различать все сорта, получит при этом 5 бит инфор мации. Несведущий покупатель, умеющий отличать лишь яб локо от груши, получит 1 бит информации. Следовательно, при прочих равных условиях количество полученной информации возрастает вместе с возрастанием подготовленности и знаний наблюдателя.
Рассмотрим теперь другой пример. В беговых соревнова-
27
ниях участвуют 32 лошади. Событие х, заключается в выявле нии рысака, показавшего самые лучшие результаты. Несведу щий зритель, узнав призовой результат, получит, очевидно, 5 бит информации. Специалист-коневод, хорошо знающий уча стников соревнования и предвидящий, что серьезная борьба за первое место может разыграться только между двумя ло
шадьми, |
далеко превосходящими |
всех других |
по своим |
бего |
|
вым качествам, получает в конце соревнований |
1 бит инфор |
||||
мации. Значит, при прочих равных условиях, количество |
полу |
||||
ченной информации |
убывает по |
мере возрастания подготов |
|||
ленности |
и знаний |
наблюдателя. |
|
|
|
Эти два прямо противоположных вывода отражают диалек тику процессов познания и служат причиной трудностей, воз никающих при обсуждении поставленного выше вопроса. Они отражают, разумеется, и диалектику самого понятия «знание». Знание как движение вперед, как выявление новых признаков и условий, как приобщение к бесконечности всегда связано с первым вариантом (больше знаний — больше информативность событий). Знание, как закрепление усвоенного, как обраще ние к инвариантной неопределенности (1.1.5), как погружение в конечное связано со вторым вариантом (больше знаний — меньше информативность событий). В реальной действитель ности приходится иметь дело и с той и с другой стороной про цесса познания. Практически важно избежать здесь всякой односторонности и усвоить, что всякое конкретное знание яв ляется одной из граней, формирующих область невежества.
7. Если имеется в виду бесконечное множество {xi . . . со} и выделяется один его элемент х,, то согласно данному выше определению количество доставляемой информации оказы вается бесконечно большим. На практике с такими ситуациями встречаться никогда не приходится. Вся поступающая инфор мация проходит через органы чувств (или через имитирующие их автоматические устройства), а органам чувств доступно лишь конечное множество отличимых друг от друга сигналов.
С бесконечными множествами мы имеем дело в отвлече ниях, чаще всего в математических рассуждениях. Но выде лить элемент такого множества все равно никогда не удается. Например, плоскость содержит бесконечное множество точек. Выделим одну из них, отметив ее карандашом на листе бу маги. В таком случае речь пойдет уже не о плоскости, а о листе бумаги или о поле зрения, которое, как уже было ска зано, содержит конечное число элементов.
Назовем какое-нибудь число. А^ожет показаться, что таким
28
способом нетрудно выделить элемент бесконечного множества. Однако множество чисел ограничено множеством существую щих их названий; название числа «акрильои» не несет никакой информации, так как слово «акрильон» просто никому не из вестно. Если же вместо названия числа использовать косвен ное его описание (например, «два в степени миллион»), то речь пойдет о множестве всех чисел, поддающихся словесному описанию. Несмотря на огромные размеры этого множества, оно все же конечно. Нельзя также записать в символах любое число, так как здесь окажут влияние ограничения в количестве известных символов, в обозримости этих символов, во времени их написания и т. д.
Иногда высказывается мнение, что математические утвер ждения несут в себе бесконечное количество информации (см., например [15]). Для обоснования этого мнения рас смотрим теорему: «В прямоугольном треугольнике квадрат ги потенузы равен сумме квадратов катетов». Поскольку теорети чески можно предположить бесконечное множество различных соотношений, связывающих между собой размеры гипотенузы и катетов в прямоугольном треугольнике, а теорема выделяет из этого множества одно единственное соотношение, постоль ку ее содержание доставляет, очевидно, бесконечно много ин формации.
Более тщательный анализ показывает, однако, что теорему Пифагора следует рассматривать либо как случайный, хотя и осмысленный набор слов, либо как научный вывод, обоснован
ный соответствующей системой |
аксиом и |
логических |
правил. |
В первом случае она является |
элементом |
конечного |
множе |
ства, состоящего из всевозможных наборов слов, и доставляет конечное количество информации. Во втором случае теорема с необходимостью вытекает из своех предпосылок, она порож дена научным знанием, научным предвидением и потому вооб ще не содержит в себе никакой информации (ср. рассуждение о- конных соревнованиях в разделе 1.3.6).
Итак, несмотря на важную роль, которую бесконечные мно жества играют в научных и прежде всего в математических по
строениях, практика |
оперирует лишь с конечными множест |
|
вами и конечными |
порциями передаваемой |
информации. |
8. В то же время легко указать примеры таких сообщений, информативность которых подсчитать невозможно. Не потому невозможно, что это практически трудно или требует слишком больших затрат времени, а потому что не существует фор-
29
мальной процедуры, позволяющей выявить размеры исходного множества.
Назовем какое-нибудь число, например 5. Какую информа цию приносит это сообщение, как велико исходное множество чисел? Формальный перебор всех названий чисел и всех их словесных описаний ничего не даст, так как здесь мы неиз бежно будем сталкиваться с математическими определениями, а поиски смысла этих определений поведут нас в бесконеч ность (§ 1.1). Поэтому всякое конкретное утверждение отно сительно размеров исходного множества может быть подверг нуто сомнению и в конце концов опровергнуто.
Вернемся к задаче 1 (1.3.4). Какую все же информацию доставляет сообщение о победителях соревнований? Было уже отмечено, что размеры исходного множества зависят от систе мы отсчета. Никаких формальных оснований для предпочти тельного выбора одной системы отсчета из числа всех других не видно. Следовательно, и здесь подсчет количества инфор мации не может быть завершен и неограниченное продолже ние процедуры уводит нас в бесконечность. В свете этих сооб ражений операции с бесконечными множествами представля ются неустранимым проявлением реальности и всякий подсчет количества информации базируется фактически на сопоставле нии бесконечных структур.
9. Выводы двух предыдущих разделов полезно подкрепить какой-нибудь аналогией. В данном случае хороший материал для сравнения дает измерение интервалов времени. Практике доступно измерение лишь конечных интервалов времени. Лю бой наблюдатель, измеряющий время, имеет свою систему от счета, в которой он может зарегистрировать и количественно оценить протекший промежуток времени.
С другой стороны, невозможно ответить на вопрос: «Какое время зафиксировано событием, происшедшим 17 сентября 1937 года?» Всякое конкретное утверждение относительно дли тельности промежутка времени, определяемого этим событием, может быть подвергнуто сомнению и в конце концов опроверг нуто. Никаких формальных оснований для предпочтительного выбора одной системы отсчета времени по сравнению с другой системой отсчета не видно. Последовательный перебор этих систем отсчета уводит в бесконечность. Приходится признать, что операции с бесконечными промежутками времени являются неустранимым проявлением реальности и всякий подсчет дли тельности интервалов времени базируется фактически на со поставлении бесконечных структур.
30