Формулы Байеса

Рассмотрим испытание, проходящее в два этапа. Пусть {Н₁,Н₂,…,Н_n}- гипотезы, т.е. возможные результаты первого этапа. А –случайное событие, которое может произойти или не произойти в результате всего испытания в целом. Формула полной вероятности позволяет найти вероятность события А.

Предположим теперь, что испытание проведено и стало известно, что событие А произошло. В этом случае вероятности гипотез по сравнению с первоначальными могут измениться.

Формула Байеса позволяет точно вычислить эти условные вероятности. Она выводится из формулы 4) для условной вероятности и в общем случае имеет следующий вид:

(k=1, 2, …, n).

Задача. Пусть в тире имеются два ружья, вероятность попадания в цель из первого равна 0.9, а из второго – 0.1. Наугад выбирают ружье и стреляют из него в цель. Событие А состоит в том, что цель будет поражена. Предположим, что стало известно, что событие А произошло.

1)Что более вероятно: выстрел произведен из первого или второго ружья.

2)Найти вероятность того, что выстрел произведен из первого ружья.

Решение. 1)Так как ружья выбираются наугад, то вероятности гипотез (выбор первого или второго ружья) одинаковы: р(Н₁)=р(Н₂)=1/2. Так как стало известно, что событие А произошло, то, очевидно, что теперь более вероятна гипотеза Н₁, т.е. стреляли из первого ружья : р_А(Н₁)>р_А(Н₂).

2) Используя формулу Байеса, уточняем результат полученный в 1):

т.е. при условии попадания в цель вероятность того, что стреляли из первого ружья равна 0.9, а из второго – 0.1.

Рассмотрим еще один пример.

Задача. Имеются три партии деталей: в первой партии – 10% бракованных деталей, во второй – 20% и в третьей – 30%. Наугад выбирают одну из партий и из нее берут одну деталь, которая оказывается бракованной. Какова вероятность того, что деталь взята из первой партии?

Решение: Рассмотрим событие А, состоявшее в том, что выбранная деталь – бракованная, и три гипотезы:

Н₁ – деталь взята из первой партии;

Н₂ – деталь взята из второй партии;

Н₃ – деталь взята из третьей партии.

По условию задачи

р(Н₁)=р(Н₂)=р(Н₃)=1/3,

Искомую вероятность находим по формуле Байеса:

.

3. Определение случайной величины. Дискретные и непрерывные случайные величины. Функция распределения и ее свойства, плотность вероятностей непрерывной случайной величины .Биномиальное распределение. Распределение Пуассона.

Со многими испытаниями могут быть связаны не только какие-то случайные события, но также и случайные числа. Это может быть число очков на выпавших кубиках, число бракованных деталей в наугад выбранной партии, выигрыш (денежный) в некой игре и т.п. В связи с этим в теории вероятностей вводится понятие случайной величины.

Случайной величиной называется величина Х, которая в результате испытания может принимать единственное значение х, из заданных, наперед неизвестное.

Пусть {х₁, х₂, …, х_n} – конечный набор чисел (чаще всего в порядке возрастания). Дискретной случайной величиной (сокращенно, ДСВ) называется величина Х, которая в результате испытания может принимать одно из значений х_i, наперед неизвестное.

Законом распределения ДСВ Х называется таблица,

Х	х1	х2	х3	….	хn
Р	р1	р2	р3	….	рn

в верхней строке которой перечислены все возможные значения, которые может принимать Х, а в нижней – соответствующие им вероятности р_к=Р(Х=х_к) – вероятность того, что в результате испытания Х примет значение х_к. Заметим, что для закона распределения ДСВ Х всегда должно выполняться равенство:

Отметим также, что иногда приходится рассматривать ДСВ Х, возможные значения которой образуют бесконечное счетное множество

{х₁, х₂, …, х_n,…}, например, множество натуральных чисел.

Простейшим из законов распределения является равномерное распределение. Такой закон распределения характеризуется тем, что все вероятности р_к равны между собой, следовательно, он имеет вид:

Х	х1	х2	х3	….	хn
Р	1/n	1/n	1/n	….	1/n

Равномерное распределение получается, например, если рассмотреть ДСВ X - число очков, выпавших при бросании правильной игральной кости.

Последовательность независимых испытаний (схема Бернулли)

Рассмотрим некоторое испытание и связанное с ним случайное событие А. Пусть это испытание повторяется многократно при неизменных условиях. В таком случае говорят, что производится последовательность независимых испытаний (иногда это называется схемой Бернулли).

Примером является игра двух сторон на определенных условиях (бросание монеты или кубика, шахматы, карточные игры, лотереи, тотализаторы и т.п.), событие А – это выигрыш одной из сторон в данной игре. В схеме Бернулли принято событие А называть “успехом”, а противоположное ему событие А – “неудачей”.

Предположим, что производится серия из n независимых испытаний с двумя исходами (“успех” или “неудача” ) в каждом испытании; р – вероятность “успеха”; q=1-р – вероятность “неудачи” (обычно р и q либо заданы, либо легко вычисляются). Обозначим через k число успехов в этой серии, которое может принимать любые значения от 0 до n. Событие M_k, состоящее в том, что число успехов в нашей серии испытаний окажется равным именно числу k, является случайным. Его вероятность Р (M_k) (обозначают через Р_n(k)) может быть найдена по формуле Бернулли (Якоб Бернулли (1654 – 1705) – швейцарский математик):

P_n(k)=C^k_np^kq^n–k

(доказательство формулы Бернулли можно получить, используя формулы сложения и умножения вероятностей).

Рассмотрим некоторые примеры.

Задача 1. Монету бросают 10 раз. Найти вероятность того, что число выпавших “орлов” и “решек” будут одинаковым.

Решение. Пусть успех – это, например, выпадение орла при одном бросании, тогда р=q=1/2. Общее число испытаний n=10, число успехов k равно 5. Значит, по формуле Бернулли:

Задача 2. Кубик бросают 4 раза. Какова вероятность того, что не меньше двух раз выпадет цифра, большая четырех?

Решение. Будем понимать под успехом выпадение на кубике при одном бросании цифры, большей четырех (т.е. 5 или 6). Очевидно, вероятность успеха р=2/6=1/3; (q=2/3). Общее число испытаний n=4. Число успехов k должно быть равно 2, 3 или 4. Поэтому, применяя три раза формулу Бернулли, получим искомую вероятность

Задача 3. Вероятность попадания в цель при одном выстреле равна р=1/2. Известно, что для полного поражения цели требуется не менее трех попаданий. Какое минимальное количество выстрелов нужно произвести, чтобы с вероятностью не менее, чем 0.9, можно было утверждать, что цель поражена.

Решение. Предположим, что по цели произведено n выстрелов. Тогда вероятность поражения цели будет равна:

р_n(3)+р_n(4)+ . . . +р_n(n)=1-p_n(0)-p_n(1)-p_n(2).

Минимальное число выстрелов, очевидно, определяется неравенством:

р_n(3)+р_n(4)+ . . . +р_n(n)0,9 или

р_n(0)+р_n(1)+р_n(2)0,1.

Отсюда по формуле Бернулли:

Легко убедиться в том, что это неравенство будет выполняться, начиная с n=9. Таким образом, минимальное число выстрелов для поражения цели с вероятностью 0.9 будет равно 9.

Из рассмотренных примеров видно, что формулой Бернулли нетрудно пользоваться, если число испытаний n невелико. На практике же встречаются серии из нескольких десятков, сотен и даже тысяч испытаний. В таких случаях формула Бернулли практически непригодна и вместо нее используют приближенные формулы, о которых пойдет речь несколько позже.

Биномиальное распределение

Рассмотрим схему Бернулли (n – число всех испытаний; р – вероятность успеха в одном испытании; q=1-р – вероятность неудачи). Пусть случайная величина Х – это число успехов во всей серии. Для любого 0kn вероятность того, что Х в результате серии испытаний примет значение k вычисляется по формуле Бернулли:

P(X=k)=P_n(k)=C^k_np^kq^n–k

Полученный таким образом закон распределения и называется биномиальным:

Х	0	1	….	k	….	n
Р	Pn(0)	Pn(1)	….	Pn(k)	….	Pn(n)

Распределение Пуассона (Симеон Дени Пуассон (1781 – 1840) – французский математик)

Так называется закон распределения вида:

Х	0	1	2	….	k	….
Р	-	e-

Можно показать, что распределение Пуассона является предельным случаем биномиального распределения, когда n – велико, р – мало, а =np.

Пусть производится п независимых испытаний, в которых появление события А имеет вероятность р и число испытаний п достаточно велико (n >50), а вероятность появления события А в каждом испытании мала (p0,1).

Сделаем важное допущение – произведение пр сохраняет постоянное значение:

=np.

T.е, среднее число появления события в различных сериях из n испытаний остается неизменным.

По формуле Бернулли получаем:

,

подставим p = /n:

Найдем предел этой вероятности при п.

Получаем формулу распределения Пуассона:

.

Формула Пуассона дает по меньшей мере одну верную значащую цифру при n >50, p0,1, <10.

Если известны числа  и k, то значения вероятности можно найти по таблицам распределения Пуассона.

Геометрическое распределение

Предположим, что вероятность попадания в цель при одном выстреле равна р, q=1-р – вероятность промаха. Испытание заключается в том, что стреляют в цель до первого попадания и на этом стрельба заканчивается. Число произведенных выстрелов Х является случайной величиной, которая может принимать любые целые значения k1. Найдем закон распределения Х. Для этого рассмотрим следующие случайные события:

А₁ – при первом выстреле был промах;

А₂ – при втором выстреле был промах;

… и т.д.

События А₁, А₂… - попарно независимы. Поэтому по формуле умножения вероятностей получим, что:

p(X=1)=p(A₁)=p;

p(X=2)=p(A₁A₂)=p(A₁)p(A₂)=qp;

p(X=3)=p(A₁A₂A₃)=p(A₁)p(A₂)p(A₃)=q²p;

…

p(X=k)=p(A₁A₂…A_k-1A_k)=q^k-1p.

Таким образом, получаем закон распределения этой случайной величины, который принято называть геометрическим:

Х	1	2	3	…	k	…
P	P	qp	q2p	…	qk-1p	…

Непрерывные случайные величины

Существуют случайные величины множество значений которой, может быть произвольным: множество всех действительных чисел, полупрямая [а; +), отрезок [a; b] и т.п. Такие случайные величины, в отличие о дискретных, не могут быть заданы законом распределения. Для любой случайной величины X можно вести понятие функции распределения F(х).

Значение функции распределения F(х) в точке х определяется как вероятность того, что в результате испытания случайная величина Х примет значение, меньшее, чем х:

F(x)=P(X<x).

Примеры нахождения функций распределения.

Задача 1. Пусть Х – ДСВ с законом распределения:

Х	1	2	3
Р	0,2	0,5	0,3

Решение. Разобьем всю прямую на четыре части точками х₁=1, х₂=2, х₃=3, а затем рассмотрим четыре случая:

• если х1, то событие {Х<x} является невозможным, поэтому F(x)=P(0)=0;

• если 1<x2, то событие {X<x} возможно лишь тогда, когда Х=1, поэтому F(x)=P(X<x)=P(X=1)=0/2;

• если 2<x3, то событие {X<x} возможно тогда, когда Х=1 или Х=2, поэтому по формуле сложения вероятностей F(x)=P(X<x)=P(X=1)+P(X=2)=0.7;

• наконец, если x3, то событие {X<x} является достоверным, поэтому F(x)=P(X<x)=P()=1.

Таким образом, функция распределения этой случайной величины имеет вид:

y y=F(x)

0, если х1 1

F(x)= 0,2, если 1<х2

0,7, если 2<х3 0.7

1, если х>3

0.2

x

1 2 3

Функции такого вида называют ступенчатыми.

Задача 2. Рассмотрим испытание, состоящее в том, что в заданном круге радиуса R=1 наугад отмечается точка М. Пусть случайная величина Х – это расстояние от точки М до центра круга.

Решение. Рассмотрим три случая:

• если x0, то событие {X<x} является невозможным, т.к. расстояние Х не может быть отрицательным, а поэтому F(x)=P(X<x)=p=0;

• если же x>1, то событие {X<x}, напротив, является достоверным, поэтому F(x)=P(X<x)=p()=1;

• наконец, если 0<x1, то событие {X<x} означает попадание т.М внутрь круга радиуса х с тем же центром, поэтому:

F(x)=P(X<x)=x²/R²=x²

(см. геометрическое определение вероятности).

Таким образом, эта случайная величина Х имеет следующую функцию распределения:

y

1

1

Отметим, что в рассмотренном примере, в отличие от предыдущего, функция распределения F(x) оказалась непрерывной.

Случайная величина Х называется непрерывной, если ее функция распределения F(x) удовлетворяет двум условиям:

1.F(x) – непрерывна на всей числовой прямой;

2.F(x) – кусочно-дифференцируема.

Отметим простейшие свойства функции распределения:

1.F(x) – монотонно неубывающая функция;

2.

3.

В то же время верно и обратное, т.е. любую функцию F(x), которая является непрерывной, кусочно-дифференцируемой, а также удовлетворяет указанным выше свойствам 1-3, можно рассматривать как функцию распределения некоторой НСВ Х.

Другим, важным понятием, связанным с НСВ Х, является понятие плотности распределения: она обозначается через f(x) и определяется как производная от функции распределения, т.е.

f(x)=F(x).

Так, например, в рассмотренной выше задаче с бросанием точки в круг плотность распределения f(x) имеет вид.

y

2

0, если х0

f (x)= 2x, если 0<х1

0, если х1

1 x

Плотность f(x) не обязательно должна быть непрерывной на всей прямой – в некоторых точках она может иметь разрывы.

В некоторых задачах НСВ Х задается своей плотностью распределения f(x). В таком случае функция распределения F(x) может быть найдена по формуле:

Основные свойства плотности распределения:

1) для любого x,

2) .

3) Функция распределения F(x) может быть найдена по формуле:

4) Вероятность попадания НСВ Х в заданный интервал (a, b) можно найти по одной из следующих формул:

5) Из теоремы о среднем определенного интеграла, при a=x и b=x+x получаем приближенную формулу:

P(x<X<x+x)f(x) x.

Эта формула выражает вероятностный смысл плотности распределения: если всю числовую прямую разбить на достаточно маленькие интервалы одинаковой длины х, то вероятность попадания Х в каждый из этих интервалов пропорциональна значению f(x) на этом интервале. Что соответствует физическому понятию плотности тела.