Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Основы теории вероятностей. Что следует знать студенту-математику
.pdf
2.4. Байесовская вероятность
41
правилом байесовской теории вероятностей1. Чтобы познакомить
вас с этим правилом, рассмотрим опять задачу 2.18. В этой задаче
Майкл обнаруживает свой ужин подгоревшим (событиеA)све
роятностью 0,5, если не приходит домой вовремя (событиеB).
То есть
PAB(|) .= 05
вероятность
PB A(| )
. Предположим, что вас попросили вычислить
, это условная вероятность того, что Майкл не
пришел домой вовремя, если известно, что его ужин подгорел.
В этом случае вам нужно рассуждать в обратном направлении,
от следствия к причине. Это означает, что вы находитесь в облас
ти байесовской вероятности.
Основная форма правила Байеса имеет вид
PBPAB
PBA
(|)
()(|)
=
PA
()
,
-
-
для любых двух событийAиBс
PA()> 0
. Вывод этой формулы
удивительно прост. Основная форма правила Байеса следует непосредственно из определения условной вероятности:
PB A
PBA
(|)
В задаче 2.18 значения
()()()(|)
PA
PB()иPAB(|)
и 0,5 соответственно, а значение
и
PBPAB
PA
()
.==
были даны и равны 0,2
, будучи вычислено, оказа-
PA()
лось равно 0,22. Поэтому вероятность того, что Майкл не пришел
домой вовремя, если известно, что его ужин подгорел, равна
,,
PBA(|)
´=02 05
,
022511
.=
Теперь вы видите, что правило Байеса позволяет рассуждать
«в обратном направлении», от следствия к причине, в терминах
теории вероятностей. Многие интересные вопросы решаются
с помощью статистического подхода, где рассуждения ведутся
«в обратном направлении», переходя от наблюдаемых следствий
к их неизвестным причинам. Например, в медицине при поста
новке диагноза врач записывает набор симптомов и должен опре
1
Эта формула названа в честь английского священника Томаса Байеса (1702—
1762), который вывел частный случай этой формулы. Формула в общем виде была
впервые записана Пьером Симоном Лапласом (1749—1827). Известный британский
ученый сэр Гарольд Джеффрис (1891—1989) однажды сказал, что формула Байеса для
теории вероятностей — то же, что теорема Пифагора для геометрии.
-
-
42 Глава 2. Основы теории вероятностей
делить, какой болезнью они вызваны. Правило Байеса дает ответ
на такие вопросы.
Существует много вариантов правила Байеса. Самый удобный —
правило Байеса для шансов. Он наиболее часто используется на
практике. Прежде чем написать правило Байеса для шансов, опреде
лим понятие шанса. ПустьG— любое событие, которое случится
с вероятностьюp, и, следовательно, не случится с вероятностью
1 - p
Тогда шансы наступления событияGопределяются формулой
p
oG
()=
.
p
-1
-
.
И наоборот, из шансов
чить вероятность наступления этого события
Например, событиеGс вероятностью
наступления событияGможно полу
oG()
pPG= ()
oG
p
=
.
oG
+()()1
2
имеет шансы наступ-
как
3
ления, равные 2 (часто говорят, что шансы 2:1 в пользу наступле-
2
ния событияG), в то время как событие с шансами
(шансы 2:9)
9
имеет вероятность случиться, равную
2
.
11
Правило Байеса для шансов будет сформулировано в терминах
событийH(гипотеза) иE(наблюдаемый результат эксперимента),
анесобытийAиB. Кроме того, стандартное обозначение
ис
H
пользуется для события «событиеHне произошло». Тогда правило
Байеса для шансов имеет вид
PHE
PHE
1
Это правило получается следующим образом. Основная форма формулы Байеса
дает
PH E PH PE H PE(|) ()(|)/()=
отношение этих выражений,
шансов. Этот вывод показывает, что формула также будет выполняться, если
будет дополнением к
формула Байеса
. То есть для любых двух гипотез
H
PH E
(|)
1
PH E
(|)
=´
2
1
(|)
(|)
PE()
PH
PH
PH
=´
PH
и
сократится и вы получите правило Байеса для
()
1
()
2
()
()
PH E PH PEH PE(|) ()(|)/()=
PEH
(| )
PEH
(| )
PEH
(| )
PEH
(| )
1
.
2
.
и
H
применима общая
H
2
1
. Если взять
не
H
-
-
2.4. Байесовская вероятность
43
Что говорит нам эта формула и как ее использовать? Легче
всего объяснить это на примере.
Предположим, что команда ныряльщиков считает, что зато
нувшее судно, которое они ищут, находится в некотором опреде
ленном районе моря с вероятностью
обнаружит останки судна с вероятностью
. Поиск в этом районе
p = 04,
, если судно зато
d = 09,
нуло именно там. Чему равна пересмотренная вероятность того,
что судно затонуло в этом районе, после того, как были прове
дены поиски и судно найдено не было? Чтобы ответить на этот
вопрос, будем считать, что гипотезаH— это событие «судно на
ходится в указанном районе», тогда
— событие «судна в ука
H
занном районе нет». До того как был проведен поиск, события
имели вероятности
и
H
H
PH() ,= 04иPH() ,= 06
.Этивероятно
сти называются априорными вероятностями. Отношение величин
PH()
и
—этоаприорные шансы для гипотезыH.Этишансы
PH()
изменятся, если будет получена дополнительная информация.
ОбозначимEсобытие «поиск не дал результата». Вероятность
PEH(| ) , ,=- =109 01
ние величин
. Очевидно, вероятность
PEH(| )
и
PEH(| )
PEH(| )= 1
называется отношением правдопо-
.Отноше-
добия или коэффициентом Байеса. Очевидно, что результат исследования подтверждает гипотезу, если отношение правдоподобия
больше 1, и подтверждает ее отрицание, если отношение правдоподобия меньше 1. После того как априорные шансы и коэффициент правдоподобия были определены, можно с помощью пра
вила Байеса для шансов вычислить апостериорные шансы для ги
потезыH. Эти апостериорные шансы равны
/
PH E(|)
,ипоэтомуапостериорная вероятность гипотезыHзада
oH E PH E(|) (|)=
ется выражением
-
-
-
-
-
-
-
-
/
-
PHE
(|)
Апостериорная вероятность
(|)
=
+1
PH E(|)
.
oH E
(|)
дает нам пересмотренное
oH E
значение вероятности того, что гипотезаHверна, после получе
ния дополнительной информации, возникшей при наступлении
событияE(получения результатов наблюдения). Байесовское об
новление — пересмотр оценки при получении новой информа
ции — является ключевым понятием в статистике и науке о дан
ных (data science).
-
-
-
-
Глава 2. Основы теории вероятностей
44
В случае поиска затонувшего судна правило Байеса для шан
сов дает
PHE
|
,,,
()
PH E
(|)
04060111
=´=
15
.
Таким образом, апостериорная вероятность гипотезыHравна
/
PHE(|)
115
1115116
=
/.=+
Это — пересмотренное значение вероятности того, что зато
нувшее судно находится в заданном районе, после того как поиск
закончился неудачей.
Правило Байеса для шансов можно записать словами в виде:
= априорные шансы Ї отношение правдоподобия.
Подчеркнем, что априорные шансы наступления гипотезы
апостериорные шансы =
H
относятся к ситуации до наступления событияE«получены результаты наблюдений», в то время как апостериорные шансы относятся к ситуации после наступления событияE.
Пример 2.9. Спортсмен, выбранный с помощью жребия, должен пройти допинг-контроль. В среднем 7 из 100 спортсменов используют допинг. Допинг-тест показывает положительный результат с вероятностью 96%, если спортсмен использовал допинг,
и с вероятностью 5%, если спортсмен не использовал допинг.
Предположим, что спортсмен получил отрицательный результат
допинг-теста. Какова вероятность того, что спортсмен тем не ме
нее использовал допинг?
Решение. Пусть гипотезаH— событие «спортсмен использовал
допинг». Априорные вероятности равны
PH() ,= 007
и
PH() ,= 093
ПустьE— событие «проверка спортсмена на допинг дала отрица
тельный результат». Тогда
PEH(| ) ,= 004
и
PEH(| ) ,= 095
. Апостери
орные шансы гипотезыHравны
PHE
(|)
PHE
(|)
,
007
,
093
,
004
,
095
,.=´=
0 003169
-
-
-
.
-
-
То есть пересмотренное значение вероятности использования до
пинга при отрицательном результате анализа равно
-
PHE(|)
2.4. Байесовская вероятность
,
0 003169
,
+
1 0 003169
,,=
=
0 003159
45
или примерно 0,32%. Эта вероятность действительно очень мала.
Апостериорную вероятность 0,32% можно также вычислить без
использования условных вероятностей и правила Байеса. В основе
такого альтернативного подхода лежит метод ожидаемых частот.
Этот метод легко понять даже неспециалисту. Представьте себе
очень большое количество спортсменов, выбранных по жребию для
допинг-контроля, например, 10 000 человек. В среднем 700 из них
использовали допинг, и в среднем 9 300 спортсменов не использо
вали допинг. Из этих 700 спортсменов в среднем
700 0 04 28´=,
че
ловек получили отрицательный результат анализа на допинг, в то
время, как
9300 0 95 8835´=,
спортсменов из других 9 300 в среднем
получили отрицательный результат анализа. В сумме 28 + 8835 =
= 8863 спортсменов получили отрицательный результат анализа,
и среди этих 8 863 человек 28 используют допинг. Поэтому вероятность того, что спортсмен использовал допинг, хотя и получил от-
рицательный результат анализа, равна
28
0 003159= ,
. Это та же са-
8863
мая вероятность, которую мы нашли с помощью правила Байеса.
Аналогичное рассуждение показывает, что вероятность того, что
спортсмен с положительным результатом анализа на допинг не ис-
пользовал допинг, равна
465
465 672
+
0 40987
= ,
(докажите это!).
В следующей задаче вам нужно применить правило Байеса для
шансов. Для нахождения решения сначала сформулируйте гипоте
зуHи результат наблюденияE.
-
-
-
Задача 2.23. При разведке месторождения нефти был приме
нен сейсмический тест, чтобы определить, действительно ли мес
торождение находится в данном районе. Вероятность того, что
тест показывает присутствие нефти, равна 90%, если месторожде
ние в данном районе действительно есть, а вероятность ложнопо
ложительного результата равна 15%, если нефти в данном районе
нет. До того как тест сделан, инженеры нефтеразведки считают,
что вероятность присутствия месторождения в данном районе рав
на 40%. Чему будет равна пересмотренная вероятность найти
нефть в данном районе, если сейсмический тест дал положитель
ный результат? (Ответ: 0,8.)
-
-
-
-
-
-
46
Глава 2. Основы теории вероятностей
Задача 2.24. Рассмотрим снова задачу 2.18. Чему равна вероят
ность того, что Майкл пришел домой вовремя, если известно, что
34
его ужин не подгорел? (Ответ:
Задача 2.25. На острове лжецов каждый житель лжет с вероят
2
ностью
ление. Затем вы спросили другого жителя, сказал ли житель, кото
рого вы подслушали, правду. Какова вероятность того, что первый
житель действительно сказал правду, если второй житель так гово
рит? (Ответ:
игральные кости. Одна кость обычная, а у второй на гранях нанесены три значения 2, 4 и 6, каждое по два раза. Вы случайным образом вынимаете одну кость из кармана, не глядя на нее. Некто
бросает эту кость и говорит вам, что выпала шестерка. Чему равна
пересмотренная вероятность того, что вы вынули из кармана
обычную кость? Как изменится эта вероятность, если кость бро-
сили второй раз и опять выпала шестерка? (Ответ:
у него очень редкое заболевание, которое случается всего у 0,1%
популяции. Врач предложил сделать анализ, который верно опре
деляет 99% всех людей, у которых есть это заболевание, и неверно
определяет 1% людей, у которых заболевания нет. Предположим,
у этого человека оказался положительный результат анализа. Ка
кова вероятность того, что у него действительно есть это заболева
ние? (Ответ: 9,02%.) Как изменится ответ, если второй анализ,
сделанный независимо от первого, тоже окажется положитель
ным? (Ответ: 90,75%.)
. Вы подслушали, как некий житель острова сделал заяв
3
1
.)
5
Задача 2.26. В вашем кармане лежат две симметричные
Задача 2.27. Человек пришел к врачу, потому что боялся, что
39
.)
1
1
и
.)
3
5
-
-
-
-
-
-
-
-
-
Дело Салли Кларк, или Статистическая ошибка
правосудия
СаллиКларк былаарестованав1999годупослетого,какее
второй ребенок умер в возрасте нескольких месяцев якобы от
синдрома внезапной детской смерти (СВДС), от которого годом
2.4. Байесовская вероятность
47
раньше умер ее первый ребенок. Ее обвинили в том, что она за
душила обоих детей. Во время судебного разбирательства про
-
курор вызвал в качестве эксперта известного врача-педиатра.
Врач сообщил, что шансы наступления СВДС равны примерно
1 к 8 543, а шансы двух случаев СВДС в одной семье равны
2
1
æ
ö
ç
8513
è
, или примерно 1 на 73 миллиона. Сославшись на этот
÷
ø
аргумент, прокурор заявил, что вне всяких разумных сомнений
Салли Кларк виновна в убийстве двоих своих детей, и суд при
сяжных приговорил ее к пожизненному заключению, хотя у суда
не было никаких других улик, указывающих на то, что Салли
Кларк убила своих детей. Это — классический пример так назы
ваемой «ошибки прокурора». Вероятность того, что обвиняемая
невиновна, при том что двое младенцев умерли (а именно эта
вероятность важна), была ошибочно приравнена судом к крошечной вероятности того, что в одной и той же семье двое младенцевумрутотСВДС.
Осуждение Салли Кларк вызвало большие споры, и за это
дело взялись несколько ведущих британских статистиков. Статистики дали несколько разных оценок шансов невиновности Салли
Кларк, и все эти оценки показали, что ее осуждение вовсе не
было вне разумных сомнений. В основе расчетов статистиков лежала формула Байеса. Как ее применили? ПустьH—событие
«Салли Кларк виновна», а результат наблюденийE—событие
«оба ее ребенка умерли в первые месяцы жизни». Вероятность,
которая имеет значение, — это условная вероятность
PH E(|)
бы вычислить эту вероятность, вам понадобятся априорные ве
роятности
PH()
PEH PEH(| )/ (| )
и
, а также отношение правдоподобия
PH()
. Предположим, что причин смерти могло быть
.Что
-
-
только две: либо убийство, совершенное матерью (гипотезаH),
либо произошло СВДС (гипотеза
Врач, вызванный в качестве эксперта, дал оценку
). Очевидно, что
H
PEH(| )= 1
1
´
для
854318543
PEH(| )
, но эта оценка предполагает независимость обеих смертей
друг от друга. Однако один случай СВДС в семье увеличивает
шансы на то, что кто-то следующий, рожденный в этой семье,
также умрет от СВДС. В статье, опубликованной в «Британском
медицинском журнале», было показано, что шансы этого могут
.
48
Глава 2. Основы теории вероятностей
оказаться в 5 раз больше шансов первой смерти. Поэтому вероят
ность
PEH(| )
следует оценивать так:
PEH(| ) , ,=´»´
1
854358543
685 10
-
8
или примерно 1 шанс на 14,8 миллиона, и это все еще очень ма
лая вероятность. Однако нужно учесть, что эту малую вероятность
уравновешивает очень маленькая априорная вероятность того, что
мать убьет двух своих детей на первом году жизни через удушение.
Как получить разумную оценку для такой априорной вероятности
? Вопрос совсем не простой. Однако на основании статисти
PH()
ческих данных можно сделать оценку для верхней границы апри
орной вероятности
. Вместо того чтобы выяснять, как часто
PH()
матери в таких семьях, как у Кларкс, убивают своих первых двух
детей в первый год их жизни, можно вычислить, как часто матери
убивают одного или более своих детей любого возраста. Данные
для этого можно найти в статистических базах данных правительства США. На территории США это примерно 100 случаев в год.
В США проживает примерно 120 миллионов взрослых женщин,
и примерно у половины из них есть дети, поэтому примерно 1 из
0,6 миллиона американок убивают одного или более своих детей.
Частота убийств в США примерно в 4 раза больше, чем в Англии.
Следовательно, примерно 1 из 2,4 миллиона женщин в Англии
убила одного или больше из своих детей. Это, очевидно, очень завышенная оценка для априорной вероятности
. Если тем не
PH()
менее вы ее используете, то есть положите
-
-
-
-
PH()
,,=´124 10
6
то по правилу Байеса для шансов
6
PHE
(|)
PHE
1
-
(|)
/( , )
12410
»
/( , ) ,
11 24101685 10
-´´´
-
´
6
-
-»8
.
608),
То есть апостериорная вероятность того, что Салли Кларк ви
новна, задается выражением
,
PHE(|)
608
,
+
1608
=
,.»
0859
Отсюда можно сделать вывод, что вероятность невиновности
Салли Кларк примерно равна 0,141. В действительности, эта оцен
-
-
2.4. Байесовская вероятность
49
ка занижена, потому что 0,859 как оценка вероятности виновности
Салли Кларк завышена
1
. Итак, вероятность 14,1% или больше —
это разумная оценка вероятности того, что Салли Кларк невиновна.
Это, разумеется, не основание для осуждения, если нет других
улик. Несмотря на аргументы, представленные статистиками, Сал
ли Кларк проиграла апелляцию против судебного решения. Но
в 2003 году она была оправдана после того, как выяснилось, что
у ее второго ребенка на момент смерти была бактериальная инфек
ция в мозгу — этот факт скрыли от защиты на первом судебном
процессе. Трагические события в жизни Салли Кларк похожи на
судебную ошибку, случившуюся в Нидерландах. Там медсестра Лю
сия де Берк была несправедливо обвинена в убийстве нескольких
пациентов, которые умерли во время ее ночных смен.
Дело «Народ против Коллинзов»
Широко известный, но более старый пример ошибки прокурора — дело «Народ против Коллинзов», американский судебный
процесс про делу об ограблении. Восемнадцатого июня 1964 года
на Хуаниту Брукс напали в переулке возле ее дома в Лос-Анжелесе и отобрали у нее кошелек. Свидетель сообщил, что белая женщина, убегавшая с места ограбления, была блондинкой с прической «конский хвост» и уехала в желтом автомобиле, за рулем
которого сидел чернокожий мужчина с усами и бородой. Полиция
арестовала супружескую пару, Джанет и Марка Коллинзов, пото
му что они подходили под описание. К несчастью для прокурора,
ни Хуанита Брукс, ни свидетель не смогли с уверенностью опо
знать ни одного из них. На суде, опросив преподавателя мате
матики из местного колледжа, прокурор представил следующие
1
вероятности появления указанных примет: блондинка —
ка с прической «конский хвост» —
1
, желтый автомобиль —
10
1
мужчина с усами —
, чернокожий мужчина с бородой —
4
,девуш
3
1
,меж
10
1
10
-
-
-
-
-
-
-
,
-
1
Завышенная оценка априорной вероятности
к завышенной оценке апостериорной вероятности
ный результат можно вывести из формулы Байеса, используя тот факт, что
aabb/( ) /( )11-< -
если и только если
ab<
PHE(|)
, когда
всегда приводит
PH()
. Этот интуитив
01<<ab,
.
-
Глава 2. Основы теории вероятностей
50
расовая пара в автомобиле —
1
. Хотя преподаватель математи
1000
ки объяснял прокурору, что эти вероятности нельзя просто пере
множить между собой, прокурор все же их умножил и получил
совместную вероятность, равную
13110110141101
´´´´´ =
1000112000000
.
В своем заключительном выступлении прокурор подчеркнул
чрезвычайную неправдоподобность того, что какая-либо другая
пара, кроме ответчиков, имела такой же набор примет. Впечатлен
ный высокими шансами, суд присяжных осудил пару за разбой
второй степени. Был ли этот приговор справедливым? Разумеется,
нет! Главной ошибкой в рассуждениях прокурора было приравнять вероятность невиновности четы Коллинзов к вероятности
того, что случайно выбранная пара будет иметь такой же набор из
шести примет. Более того, индивидуальные вероятности указанных примет были не обоснованы, и из-за зависимости одних примет от других (усы и борода не являются независимыми приметами) было неправильно перемножать их, что привело к оценке
шансов 1 на 12 миллионов. Защита подала апелляцию. Верховный
Суд штата Калифорния очень критически отнесся к статистическому обоснованию и к тому, как оно было представлено присяжным, и изменил решение первого суда на противоположное.
-
-
-
Дело О.Дж. Симпсона
Выдающийся пример неправильного применения условных вероят
ностей возник на судебном процессе по делу О.Дж. Симпсона. Этот
процесс, которые многие считали «судом века», доминировал в но
востях на протяжении года и был показан по телевизору. В 1994 го
ду актер и в прошлом звезда американского футбола О.Дж. Симп
сон был обвинен в убийстве своей бывшей жены Николь Браун.
Процесс начался с того, что обвинение доказало, что у О.Дж. Сим
псона в прошлом были эпизоды физического насилия над бывшей
женой Николь. Защитником был известный адвокат Алан Дершо
виц. Он привел суду такой аргумент: «Только один из 2 500 муж
чин, избивающих своих сожительниц, впоследствии убивает их, по
этому тот факт, что О.Дж. Симпсон избивал свою жену, не имеет
-
-
-
-
-
-
-
-
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]