Формулы байеса

Пусть по прежнему событие А может произойти с одним из событий Н₁,…, Н_n, являющимися гипотезами. Предположим, что известны вероятности гипотез Р(Н_i) и в результате испытания событие А произошло, т.е. получена дополнительная информация. Поставим своей задачей определить, как изменилиь вероятности гипотез (ведь мы теперь обладаем дополнительной информацией), т.е. чему будут равны P(H₁| A) – вероятность i-й гипотезы, при условии что событие А произошло.

Теорема. Пусть для некоторого события А, Р(А) > 0 и гипотез Н₁,…, Н_n известны вероятности гипотез P(H₁),…., P(H_n) и условные вероятности Р(A|H₁), P(A|H₂), …, P(A|H_n). Тогда условная вероятность P(H_i| A) гипотезы Hi при условии события А определяется формулой Байеса

.

Доказательство.

По формуле умножения вероятностей Р(AH_i)= Р(А) P(H_i|A). Отсюда P(H_i|A) = Р(AH_i)/ Р(А) (*), где Р(А) – формула полной вероятности события А.

С другой стороны, по этой же формуле Р(AH_i)= P(H_i) Р(A|H_i). Подставляя это выражение в (*) получим

. 

Вероятности P(H_i) называются априорными ( до того), а P(H_i|A) – апостериорными ( после того).

Формула Байеса находит широкое применение в математической статистике, теории принятия решений. Смысл байесовского подхода заключается в том, что мы выдвигаем некоторые априорные вероятности (достаточно произвольные), а потом, учитывая результаты повторяющегося эксперимента, мы определяем апостериорные вероятности гипотез.

Байес (Бейес) Томас

1702-1761

Английский математик. Математические исследования относятся к теории вероятностей. Поставил и решил одну из основных задач элементарной теории вероятностей (теорема Байеса).

 Врач после осмотра больного считает, что возможно одно из двух заболеваний (условно 1-ое и 2-ое), причём степень своей уверенности он оценивает соответственно как 40% на 60%. Для уточнения диагноза больного направляют на анализ, положительный результат которого подтверждает 1-ое заболевание в 90% случаев и 2-ое заболевание – 20 %. Анализ дал положительную реакцию. Как изменится мнение врача после этого?

 Событие А –положительный результат анализа.

Гипотезы: Н₁ – имеет место 1-ое заболевание.

Н₂ – имеет место 2-ое заболевание.

Априорные вероятности: P(H₁)=0.4, P(H₂)=0.6. Условные вероятности (положительная реакция при заболевании): Р(A|H₁)= 0.9, Р(A|H₂)= 0.2.

По формуле Байеса .

Врач с большей уверенностью поставит диагноз: 1-ое заболевание. 

СХЕМА БЕРНУЛЛИ

Повторные испытания – это последовательное проведение раз одного и того же опыта или одновременное проведение одинаковых опытов.

Схемой Бернулли (или последовательностью независимых одинаковых испытаний) называется последовательность испытаний таких что:

1. при каждом испытании различают два исхода - появление некоторого события А (удача) и не появление (неудача);

2. испытания являются независимыми, т.е. вероятность успеха в испытании не зависит от исходов в предыдущих испытаниях;

3. вероятность успеха во всех испытаниях постоянна Р(А)=р, соответственно вероятность неудачи q=1–p.

Примеры реальных испытаний, которые вписываются в рамки схемы Бернулли:

1. подбрасывание раз монеты (успех – герб: p=½ , q =½), игральной кости (успех -выпадение 6: p =1/6, q=5/6) - идеальное соответствие схеме Бернулли.

2. выстрелы стрелка по мишени (успех – попадание, p - вероятность попадания), соответствие схеме Бернулли очень приближённо, т.к. независимость результатов стрельбы может быть нарушена либо из–за пристрелки, либо из–за усталости стрелка.

3. испытание приборов в течение заданного срока (р – вероятность безотказной работы); обычно хорошо согласуется со схемой Бернулли.

Основной задачей является вычисление вероятности того, что при испытаниях событие А произошло ровно раз. Важно подчеркнуть, что нам не важно, в какой последовательности произошли события. Например, если речь идёт о появлении события А 2 раза в 4 испытаниях, то комбинация (У-успех, Н-неудача) УННУ устраивает так же как и УУНН.

Теорема. Вероятность того, что в испытаниях по схеме Бернулли произойдёт ровно успехов, определяется формулой Бернулли ,

где C_n^k : сочетание- количество способов из множества, содержащего элементов выбрать множество, содержащее из элементов .

Доказательство.

Представим результат опыта как УУН…НУ (один из вариантов). Количество У - равно .

События У и Н - независимы , поэтому

Cколько может быть таких вариантов?

У

У

У

У

У

Сколькими способами в местах (ячеек, испытаний) можно занять мест (поставить фишки и т. д.)? - С_n^k

Например - 3 успеха в 4 испытаниях -С₄³

НУУУ

УНУУ

УУНУ

УУУН

Эти события несовместны, т.к. не могут произойти одновременно, поэтому вероятность их объединения равна сумме их вероятностей.

. 

Следствия:

1. Вероятность появления события А в испытаниях не более раз и не меньше раз:

P_n(k₁ ≤ k ≤ k₂) = -т.к. события при разных являются несовместными.

2. Вероятность появления А хотя бы один раз в испытаниях.

P_n(k ≥ 1) = 1 – qⁿ = 1- P_n(k=0) = 1- C_n⁰p⁰qⁿ=1-qⁿ

 В семье 10 детей. Считая вероятность рождения мальчика равной 0.5, определить:

1. Вероятность того, что в семье ровно 5 мальчиков;

2. Вероятность того, что в семье не более 5 мальчиков;

3. Вероятность того, что в семье хотя бы 1 мальчик.

 а) Р₁₀(к=5) = С₁₀⁵(1/2)⁵(1/2)⁵ = (1/2)¹⁰≈0,246;

b) Р₁₀(0≤ к≤ 5) = С₁₀^к(1/2)ⁿ(1/2)^n-k = (С₁₀⁰+С₁₀¹ +С₁₀² +С₁₀³ +С₁₀⁴+С₁₀⁵)/1024 ≈0.623;

c) Р₁₀(k≥1) = 1 – (½)¹⁰ = 1-1/1024 = 1023/1024 ≈ 0.999. 

 В течение 6 дней ведутся ремонтные работы водопровода. Вероятность того, что вода будет отключена на сутки и не зависит от хода ремонтных работ. Определить вероятность того, что в течение этой злосчастной недели ровно 4 суток не будет воды.

 Р₆(к=4) = С₆⁴ 0.75⁴ 0.25² = ≈0.3. 