Формула гипотез (Байеса)

П усть завершился двухступенчатый эксперимент, описанный в предыдущем пункте. Пусть на его второй стадии произошло событие A. Предположим, что P(A)0 (иначе не записать условную вероятность). Поставим вопрос: какова условная вероятность того, что на первой стадии эксперимента произошло событие H_k (где k=1, 2, 3, … , n)? Эта условная вероятность P(H_k|A) называется «апостериорной», в отличие от вероятности P(H_k), которая называется «априорной». Эти две вероятности одного и того же события могут отличаться друг от друга, поскольку априорная вероятность вычисляется до эксперимента, а апостериорная после, когда уже появилась дополнительная информация, используя которую возможно скорректировать вероятность события H_k. По формуле, являющейся определением условной вероятности, имеем: . Теперь числитель этой дроби преобразуем по правилу произведения, а знаменатель по формуле полной вероятности: . Выведенная формула называется «формулой Байеса».

Независимость двух событий

В математике даётся следующее определение независимости событий: «два события A и B называются независимыми, если P(AB)=P(A)∙P(B)».

Что такое, с точки зрения здравого смысла, независимость события A от события B? Это означает, что вероятность события A никак не изменится, если произойдёт событие B. На языке формул это выглядит следующим образом: P(A)=P(A|B). В записи этого соотношения использована условная вероятность, поэтому придётся предположить, что P(B)0.

Используя формулу (при P(B)0), служащую определением условной вероятности получим: . Действительно, получилось соотношение, которое было дано в определении. Интересно, что в него события A и B входят симметрично. Действительно произведение не меняется, если переставить местами сомножители. Аналогичным свойством обладает и фраза об одновременном появлении событий. Если предположить, что и P(A)0, то по правилу произведения можно записать: P(A)∙P(B)=P(AB)=P(BA)=P(B|A)∙P(A). Сокращая это равенство на P(A)0, получим: P(B)=P(B|A). То есть, вероятность события B тоже не изменяется в зависимости от того, произошло ли событие A. Таким образом, если P(A)0 и P(B)0, то независимость событий A и B друг от друга может быть только двусторонней: если событие A не зависит от события B, то и событие B не зависит от события A.

Заметим, что определение независимости событий формально можно применять и для событий с нулевой вероятностью, но при этом будет невозможно сравнить результат с соображениями здравого смысла, поскольку они оперируют понятием условной вероятности.

Свойства независимых событий

1. Е сли события A и B независимые, то и события A иB тоже независимые.

Доказательство. Представим событие B в виде объединения несовместных событий (см. рис. 6): B=ΩB=(AA)B=(AB) (AB). Тогда по аксиоме сложения P(B)=P(AB)+P(AB). Из независимости событий A и B следует, что P(AB)=P(A)P(B). Подставляя это равенство в предыдущее, учитывая свойство вероятности противоположного события, получим: P(B)=P(A)P(B)+P(AB)P(B)–P(A)P(B)=P(AB) P(B)(1–P(A))=P(AB)P(B)P(A)=P(AB). Последнее равенство и доказывает независимость событий A иB .

2. Если P(A)=0, то событие A независимо с любым событием.

Доказательство. Пусть вероятность события B равна нулю: P(B)=0. Для этого оно должно быть либо невозможным, либо почти невозможным. Заметим, что (AB)B и по аксиоме неотрицательности и свойству монотонности вероятности: 0≤P(AB)≤P(B)=0, и, следовательно, P(AB)=0. Тогда P(AB)=P(A)P(B) 0=P(A)0  0=0 верное равенство, что и доказывает независимость событий A и B. С философской точки зрения так и должно быть: невозможное событие никогда не происходит, и вполне естественно, что оно ни от чего не может зависеть и от него ничего не может зависеть.

3. Если P(A)=1, то событие A независимо с любым событием.

Доказательство. Пусть вероятность события B равна единице: P(B)=1. Для этого оно должно быть либо достоверным, либо почти достоверным. По свойству вероятности противоположного события P(B)=1–P(B)=1–1=0. Тогда по предыдущему свойству события A и B независимые. А поскольку противоположным к событию B является событие B, то первому из этих свойств события A и B независимые. Действительно достоверное событие происходит при любом испытании независимо ни от чего. Естественно, что и от него ничего не может зависеть.

4. Если события с ненулевыми вероятностями независимые, то они совместные.

Доказательство. Пусть события A и B независимые, то есть P(AB)=P(A)P(B), а по условию P(A)>0 и P(B)>0. Поэтому P(AB)>0, и, следовательно, событие AB не может быть несовместным (иначе бы его вероятность была бы равна нулю).

5. Если события с ненулевыми вероятностями несовместные, то они зависимые.

Доказательство. Пусть события A и B несовместные, то есть AB=. Тогда P(AB)=0. По условию P(A)>0 и P(B)>0. Следовательно, P(A)P(B)>0, и поэтому равенство P(AB)=P(A)P(B) невозможно, то есть события A и B не являются независимыми.

6. Если события с ненулевыми вероятностями противоположные, то они зависимые.

Доказательство. Если события противоположные, то они обязательно несовместные и это свойство следует из предыдущего.