Добавил:
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:

книги из ГПНТБ / Агекян Т.А. Теория вероятностей для астрономов и физиков учеб. пособие

.pdf
Скачиваний:
64
Добавлен:
23.10.2023
Размер:
8.81 Mб
Скачать

н о

СЛУЧАЙНАЯ

ВЕЛИЧИНА

1ГЛ. 2

и запишем (2.121) в виде

 

 

 

Рп (т) = (2яп (р -f хт) (q

 

х

-n(9-vm)

 

0+хт>(

\

X ( ' + ¥ )

v

- f )

(2.123)

Предположим,

что

 

 

(2.124)

 

 

 

 

и, взяв логарифм произведения второго и третьего множи­ телей в правой части (2.123), применим разложение в ряд Тэйлора:

хт) In ^1

 

+ (<? —

 

- п {р + хт) (

х т

хт

 

Р

2

хтз

+ (9

 

т

 

ч

3gs

Расположим члены этого разложения по степеням хт

п

Хш

(

I

,

1

(2.125)

2

\

р

+

q

 

 

Предположим теперь, что при

п —> оо

 

 

 

 

 

ш 4 -> 0.

(2.126)

Это условие означает, как уже было предположено выше, что рассматриваются значения т, не очень далекие от на­ ивероятнейшего. Очевидно, что (2.126) обеспечивает и вы­ полнение (2.124), а также (2.120).

Пренебрегая в (2.125) вторым и следующим членами, найдем, что логарифм произведения второго и третьего множителей в (2.123) равен

П2

~~ 2 ^ Хт-

Отбрасывая также малые слагаемые в скобках первого множителя (2.123), получим

(2Л27>

§ 31]

ТЕОРЕМА МУАВРА — ЛАПЛАСА

111

Обозначив

(2.128)

напишем (2.123) в виде

где ср (х) — нормальная функция.

Поскольку в интервале Iт, т + 1) имеется только одно целое число —т, то можно сказать, что рп (т) есть ве­ роятность того, что tn попадает в промежуток [т, т + 1). Из (2.122) следует, что изменению т на единицу соответ­ ствует изменение хт на

 

 

 

 

 

(2.130)

Поэтому вероятность попадания m в интервал

[m, т -J- 1)

равна

вероятности

попадания

хт в

промежуток

1хт, хт +

Ах):

 

 

 

 

 

Р (хт < хт <

хт + Дх) =

ф (хт ) Дх. (2.131)

Когда

п

оо, Дх-> 0,

и равенство

(2.131)

показывает,

что нормальная функция ф (х) является плотностью ве­ роятности случайной переменной хт.

Итак, если п -*■ оо и пх3—>■0, то для отклонения отно­ сительной частоты от наивероятнейшего значения спра­

ведлива асимптотическая формула

(2.131),

в которой

Ф (х) — нормальная функция с хт =

0 и о2 =

.

Доказанная теорема позволяет решить задачу, упомя­ нутую в начале этого параграфа. Если требуется опреде­ лить вероятность того, что при п испытаниях число появ­ лений tn события А будет заключено между а и Ъ, то на­ ходим

зс«

Р { а < т < Ь ) = Р( ах < х т < а2) = ^

(2.132)

112

СЛУЧАЙНАЯ

ВЕЛИЧИНА

 

[ГЛ. 2

где

 

а

 

 

 

 

Ь

 

 

 

«1 =

 

а,

 

 

 

 

 

-------Р,

= -------- р.

 

 

1

П

 

z

 

 

П

г

 

В частности,

если а 2 = —

=

а,

то

 

 

Р (рп — ап <^va <^рп

ап) =

 

 

 

 

 

 

 

=

Р ( — а < £ да <

+

«) =

(2-133)

где г|э (•) — интеграл

вероятностей.

 

 

В заключение раскроем смысл условия (2.126). Оно

гарантирует,

что полученное представление (2.127)

явля­

ется достаточно точным, если рассматриваются значения

(2-134)

где а достаточно мало в сравнении с единицей. Разделив

(2.134) на (2.128),

получим

 

 

 

 

 

^ - <

4

^ я1/..

(2.135)

 

 

3

У р ч

 

 

Если, например р =

1

 

3

, а а — 0,01, то при

п = 10®

— , q —

 

получаем:

X

 

 

 

 

(2.134)

4,97. Это показывает, что условие

не выполняется только для тех значений хт, для которых плотность вероятности очень мала.

З а д а ч а 56. Наблюдая Солнце в период 1880— 1896 гг., И. Сикора обнаружил на восточном краю Солн­ ца 7024 протуберанцев, а на западном краю 6614 проту­ беранцев. Какова вероятность того, что преобладание числа протуберанцев на восточном краю Солнца есть дело случая?

Р е ш е н и е . Предположим, что вероятности появле­ ния протуберанцев на восточном и западном краях Солн­ ца равны. Следовательно, вероятность того, что появив­ шийся протуберанец окажется на восточном краю Солнца, р — 1/2. Общее число наблюденных протуберанцев сле­

дует рассматривать как число испытаний,

а число т =

= 7024 — как число появлений события

А. Случайная

§ 31]

ТЕОРЕМА МУАВРА — ЛАПЛАСА

113

величины х — отклонение относительной частоты от наи­ вероятнейшего значения,— оказалась равной

7024

1

^ 0,0150.

13638

2

 

Стандарт случайной величины, определяемой по формуле

(2.128), равен

Следовательно, вероятность того, что преобладание числа протуберанцев на восточном краю Солнца над ожидавшим­ ся числом такое, как наблюдалось, или меньше, согласно (2.133) и таблице 2, равна

А вероятность того, что отклонение будет таким, какое наблюдалось, или большим, равна 1—0,999543 = 0,000457.

Именно эта величина, вероятность того, что отклоне­ ние, вызванное случайностью, будет равно наблюдаемому или больше его, показывает, имеются ли основания объ­ яснять наблюдаемое явление как случайное отклонение. В данной задаче малая величина вероятности 0,000457 показывает, что не случайность, а другое обстоятельство вызвало преобладание числа протуберанцев на восточном краю Солнца. Как впоследствии выяснилось, причиной была личная ошибка Сикоры, который более уверенно об­ наруживал протуберанцы на восточном краю диска Солн­ ца, чем на западном.

3 а д а ч а 57. Частица совершает случайные блужда­ ния в одном измерении. С вероятностью р она совершает шаг в положительном направлении и с вероятностью q — 1 — р — шаг в отрицательном направлении. Найти вероятность того, что после п шагов (я^> 1) частица будет

обнаружена в промежутке [у, у

dy].

Длина каждого

шага равна I.

что

частица сделает

Р е ш е н и е . Вероятность того,

т шагов в положительном направлении, дается выраже­ нием (2.118). Так как п велико, для отклонения относи-

114

СЛУЧАЙНАЯ ВЕЛИЧИНА

[ГЛ. 2

и

111

 

тельной частоты хт = —----р можно использовать нормаль­

ное распределение. Величина V (положение частицы после п шагов) определяется равенством

Y = (2ш — п) I

и

Поэтому находим

р {У<*У < о/ + dy)= } (у) dy = f (х) dx =

dy,

З а д а ч а 58. Электростанция дает ток эаводу и ис­ пользуется для электрификации села. Если при работаю­ щем конвейере завода в селе окажутся зажженными 350 стандартных электролампочек, то напряжение настолько понизится, что конвейер остановится. Эмпирически уста­ новлено, что в наиболее загруженные вечерние часы в сред­ нем за много дней каждая лампочка горит 0,7 всего вре­ мени, при значительной длительности одного горения. Сколько стандартных электролампочек можно подключить в домах, чтобы вероятность остановки завода в течение одного вечера не превосходила 10~4?

Р е ш е н и е . Обозначим искомую величину — число стандартных лампочек, которые можно подключить,— через п. Тогда, поскольку одновременное горение 350 лампочек уже не допускается, границей допустимого по­ ложительного отклонения относительной частоты от наи­ вероятнейшего значения является

(2.136)

Необходимо, чтобы вероятность такого или ббльшего по­ ложительного отклонения не превосходила 10-4. Это будет выполнено, если вероятность того, что модуль отклоне­ ния больше или равен а, будет равна 2-10-4. Следова­

§ 32] МЕРА НЕОПРЕДЕЛЕННОСТИ СИСТЕМЫ СОБЫТИЙ 115

тельно, г])

j =0,9998. В таблице 2 отсюда находим, что

-^- = 3,72

С другой стороны, согласно (2.128)

Получаем квадратное относительно

уравнение:

350и-1 — 0,7

q

 

^ 0,21 jV.

 

Решение его п = 449. Итак, можно подключить 449 лампочек.

§32. Мера неопределенности полной системы событий

Пусть задана полная система событий Л

 

А и А 2, . . ., А п.

(2.137)

Соответствующие этим событиям вероятности

 

Р (4,),

Р (А2), . . .,

Р (4„).

(2.138)

Полагая, что п^> 2,

рассмотрим

три частных

случая:

1)Р (At) = 0,99 и, следовательно, вероятность каждо­ го из остальных событий мала.

2)Р (^j) = 0,49, Р (Л2) = 0,49 и, следовательно, ве­ роятность каждого из остальных событий мала.

3)Вероятности всех событий сравнимы между собой. В случае 1) можно достаточно уверенно предсказать,

что, по-видимому, произойдет

событие А±. В случае

2) предсказание будет менее

определенным — произой­

дет, по-видимому, либо событие А х либо событие А 2. В слу­ чае 3) предсказать что-либо трудно.

Можно сказать, что в случае 2) система событий более неопределенна, чем в случае 1), а в случае 3) более не­ определенна, чем в случае 2).

Чтобы ввести количественную меру неопределенности полной системы событий, естественно считать, что каждое событие вносит вклад в эту величину; при этом событие, вероятность которого близка к единице, должно вносить

116

СЛУЧАЙНАЯ ВЕЛИЧИНА

[ГЛ. 2

малый вклад в меру неопределенности системы, так как относительно этого события с большой степенью уверен­ ности можно считать, что оно случится. Точно' так же малый вклад^в меру неопределенности должно вносить событие, вероятность которого очень мала, так как с боль­ шой степенью уверенности можно предсказать, что это событие не случится. Наоборот, вклад в меру неопреде­ ленности события, вероятность которого заметно отлична и от 0 и от 1, существенна, так как трудно предвидеть, произойдет это событие или не произойдет.

Основываясь на этих соображениях, уместно за меру неопределенности системы событий принять величину

П

(2.139)

(о выборе основания логарифма будет сказано чуть позд­ нее). Тогда г'-е событие системы вносит в меру неопреде­ ленности вклад, равный члену

- Р {А г) log Р (Аг).

(2.140)

Этот член всегда положителен. Он стремится к нулю,

когда

Р (Ai)

1

и когда Р (At)

0. Следовательно,

равна

нулю

мера

неопределенности

системы событий,

у которой вероятность какого-то события равна 1, а ве­ роятности всех остальных событий равны 0. Только при таком распределении вероятностей событий мера неопре­ деленности системы событий равна нулю. И это есть ми­ нимальное значение меры неопределенности, так как при любом ином распределении вероятностей событий мера неопределенности, складывающаяся из положительных слагаемых, положительна.

Выясним, при каком распределении вероятностей ме­ ра неопределенности полной системы событий, состоящей из п событий, максимальна.

Необходимо найти максимум выражения (2.139) при очевидном условии

2 Р ( А ) = 1.

(2.141)

§ 32] МЕРА НЕОПРЕДЕЛЕННОСТИ СИСТЕМЫ СОБЫТИЙ 117

Согласно правилу нахождения условного экстремума

составим функцию

Лагранжа,

П

 

 

 

 

П

 

 

 

 

 

L = -

2

Р (4 ) log Р (4 )

+ X 2

Р (4),

(2.142)

 

 

t=i

 

 

i=i

 

 

где

X — неопределенный

коэффициент,

и приравняем

нулю все ее частные производные

по Р (Лг).

 

-

log Р{ A t) -

1 -f X = 0,

i =

l , 2 ,

. . ., п.

(2.143)

 

Равенства (2.143) показывают,

что значения

Р (Л*)

не зависят от £, т. е. все Р (Лг) равны между собой и, следовательно,

P ( 4 ) = -jL. £ = 1,2, ... , и.

(2.144)

Таким образом, при фиксированном п наибольшую меру неопределенности имеет система событий, в которой вероятности всех событий одинаковы.

Поставляя (2.144) в (2.139), находим, что мера неопре­ деленности полной системы событий в этом случае равна

Н {.А) = log п.

(2.145)

Чем больше число событий в системе, тем больше мера неопределенности этой системы при ее максимальном зна­ чении, когда все события равновероятны.

Выберем единицу меры неопределенности полной си­ стемы событий. Наименьшее число событий в полной систе­ ме событий — 2. Целесообразно за единицу меры неопре­ деленности принять максимальную меру неопределен­ ности, которую может иметь полная система событий, состоящая из двух событий. Равенство (2.145) показывает, что когда основанием логарифмов в выражении (2.139) принято число 2, Н (А) в этом случае равно 1. Таким об­ разом, хотя в принципе основанием логарифмов в выраже­ нии (2.139) можно взять любое число, большее 1, целе­ сообразно в связи с выбором единицы меры неопределен­

ности принять его равным 2.

 

З а д а ч а

59. В первой урне находится 2 белых, 3 чер­

ных и 4 красных шара,

а во второй

урне — 8 белых,

2 черных, 1

красный и 1

зеленый шар.

Событие состоит

в извлечении

шара данного цвета из урны. Определить,

118

СЛУЧАЙНАЯ ВЕЛИЧИНА

[ГЛ. 2

какая из полных систем событий имеет большую меру не­ определенности .

Р е ш е н и е . Для полной системы событий при извле­ чении шаров из первой урны находим

н {.л)= - 4-log4 - 4-1о?4-- 4-log4 - 1’5303-

Для второй полной системы событий

Н (S3) = — log

l o g — 2 • ~ log

Таким образом, хотя в первой системе число событий меньше, мера неопределенности ее оказалась больше.

Выражение (2.139) для меры неопределенности пол­ ной системы событий по структуре совпадает с выраже­ нием для энтропии физических систем. Если объем физи­ ческой системы мысленно разбит на элементарные объемы и вероятность состояния, в котором находится i-й элемен­ тарный объем, равна р (A t), то выражение (2.139) опре­ деляет энтропию физической системы. Энтропия характе­ ризует меру хаоса, меру неупорядоченности физической системы. В этом понятии можно усмотреть определенную аналогию с мерой неопределенности полной системы со­ бытий. Поэтому часто наряду с выражаением «мера нео­ определенности» употребляю выражение «энтропия пол­ ной системы событий».

§ 33. Количество информации

Пусть Л и 33 — две полные системы событий

И

• • •»

^-71

 

В т.

^1>

• • •»

Их меры неопределенности соответственно равны

 

П

 

я м ) = -

2

(4 ) log р и о ,

 

i~ l

 

 

m

 

н т = -

2

р (р #)1о8 р (ро -

§ яз! КОЛИЧЕСТВО ИНФОРМАЦИЙ И 9

Рассмотрим полную систему событий, составленную из

попарных произведений событий

систем Л и 33

 

 

 

 

A XB U

AiB2,

. . .,

А пВ т.

(2.146)

Ее энтропия равна

 

771

П

 

 

 

 

 

 

 

 

 

 

 

 

Н (ЛЗЗ) =

- 2

2

^

(AiBi) 1о? Р

(2.147)

 

 

 

3=1

i = l

 

 

 

 

Используя

теорему

умножения вероятностей

и

оче-

 

 

 

m

 

 

 

 

 

 

видное равенство

2 Р (Я,- I ^i) =

1 > напишем

 

 

 

та

п

3=1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Н (ЛЗВ) = -

2

2

^ (4 ) Р (Р) I A i) bg IP (Л ) Р (В) |А д\

=

J^l i=-1

 

 

та

 

 

 

 

п

 

 

 

 

 

 

 

= - 2 m ) i o g P H i ) 2 р (5з 1 4 ) -

i^i

та

j*»i

 

п

 

 

- 2 р ( Л ) 2 я

1 4 ) b g р № | Л ) -

 

г= 1

з = 1

п

 

 

 

 

=

н (А) + 2 Р (4 ) Н (331А,).

(2.148)

 

 

i=i

 

Н (33 | A t) будем называть

условной энтропией системы

33 при условии А{.

 

 

 

Положим

П

 

 

 

 

 

H ( 3 3 \ A ) ^ '2 s P ( A i)H (3 3 \d l),

(2.149)

 

1= 1

 

 

и назовем эту величину условной энтропией системы В от­ носительно системы А. Равенство (2.149) показывает, что Н (33 \Л) имеет смысл математического ожидания условной энтропии системы 33 при условии осуществле­ ния событий из системы Л.

Ив (2.148) вытекает, что

Я (ЛЗЗ) = Я (Л) + Н (33 \ Л ),

(2.150)

и аналогично можно получить

Я (ЛЗЗ) = Я (33) + Я | 33).

(2.151)

Соседние файлы в папке книги из ГПНТБ