6 Формула полной вероятности

Пусть событие А может появиться вместе с одним из образующих полную группу попарнонесовместных событий Н₁,Н₂…Н_n называемых гипотезами, тогда вероятность события А вычисляется как сумма произведений вероятностей каждой гипотезы на вероятность события А при этой гипотезе

Формула Бейса

Пусть имеется полная группа попарнонесовместных гипотез Н₁,Н₂…Н_n с известными вероятностями появления. В результате проведения опыта появилось некоторое события А, требуется переоценить вероятности гипотез при условии, что событие А произошло

7 Случайные величины и законы их распределения

Опытом называется всякое осуществление определенных условий и действий при которых наблюдается изучаемое случайное явление. Опыты можно характеризовать качественно и количественно.

Случайной называется величина, которая в результате опыта может принимать то или иное значение., причем заранее не известно какое именно. Случайные величины принято обозначать (X,Y,Z), а соответствующие им значения (x,y,z)

Дискретными называются случайные величины принимающие отдельные изолированные друг от друга значения, которые можно переоценить.

Непрерывными величины возможные значение которых непрерывно заполняют некоторый диапазон.

Законом распределения случайной величины называется всякое соотношение устанавливающее связь между возможными значениями случайных величин и соответствующими им вероятности.

Ряд и многоугольник распределения.

Простейшей формой закона распределения дискретной величины является ряд распределения.

x	x1	x2	x3
P	P1	P2	P3

Графической интерпретацией ряда распределения является многоугольник распределения.

Функция распределения случайной величины.

Для непрерывных случайных величин применяют такую форму закона распределения, как функция распределения.

Функция распределения случайной величины Х, называется функцией аргумента х, что случайная величина Х принимает любое значение меньшее х (Х<х)

F(х)=Р(Х<х)

F(х) - иногда называют интегральной функцией распределения или интегральным законом распределения.

Функция распределения обладает следующими свойствами: 1)для любого xR: 0 F(x)  1

2) F(-) = lim_x F(x) = 0 ; F(+) = lim_x F(x) = 1;

3) F(x)-неубывающая функция, т.е.для любых х1,х2 R таких, что х1<х2: F(x1)  F(x2);

4)для любого xR: F(x)= F(x-0)= lim _z<x,zxF(z).

функция может быть изображена в виде графика. Для непрерывной величины это будет кривая изменяющееся в пределах от 0 до 1, а для дискретной величины - ступенчатая фигура со скачками.

С помощью функции распределения легко находится вероятность попадания величины на участок от α до β

Р(α<х<β) рассмотрим 3 события

А - α<Х

В - α<Х<β

С - Х<β

С=А+В

Р(С)=Р(А)+Р(В)

Р(α<х<β)=Р(α)-Р(β)

Плотность распределения вероятности непрерывной случайной величины.

Плотность распределения вероятности непрерывной случайной величины Х называется функция f(х) равная первой производной от функции распределения F(х)

График плотности распределения называется кривой распределения.

Основные свойства плотности функции распределения:

1. f(х)>0

2. 

Характеристики положения случайной величины.

Модой (Мо) случайной величины х называется наиболее вероятное ее значение. Это определение строго относится к дискретным случайным величинам.

Для непрерывной величины модой называется такое ее значение для которого ф-ция плотности распределения имеет максимальную величину.

Медианой (Ме) случайной величины называется такое ее значение для которого окажется ли случайная величина меньше этого значения.

Для непрерывной случайной величины медиана это абсцисса точки в которой площадь под кривой распределяется пополам.

Для дискретной случайной величины значение медианы зависит от того четное или нечетное значение случайной величины

n=2k+1, то Ме=х_к+1 (среднее по порядку значение)

Если значение случайных величин четное, т.е n=2k, то

8.Мат. Ожиданием Д.С.В. называют сумму произведений всех ее возможных значений на их вероятности: М(Х)=х1р1+х2р2+…+хnpn. Если Д.С.В. принимает счетное множество возможных значений, то М(Х)=сумма по i от 1 до бесконечности xipi, причем мат. ожидание существует, если ряд в правой части равенства сходится абсолютно. Мат. ожидание обладает следующими свойствами: 1) Мат. ожидание постоянной величины равно самой постоянной: М(С)=С. 2) Постоянный множитель можно выносить за знак мат. ожидания: М (СХ)=СМ (Х). 3) Мат. ожидание произведения взаимно независимых С.В. равно произведению мат. ожиданий сомножителей: М (Х1,Х2…Хn)=M(X1)*M(X2)…M(Xn). 4) Мат. ожидание суммы С.В. равно сумме мат. ожиданий слагаемых: М (Х1+Х2+Х3+…+Хn)=M(X1)+M(X2)+M(X3)+…+M(Xn).

Дисперсией случайной величины х называется число: DX= M(X-MX)² ,равное математическому ожиданию квадрата отклонения случайной величины от своего математического ожидания. Для вычисления дисперсии иногда проще использовать формулу: DX=M(X²)-(MX)² . Для дискретных св:

DX=∑(xi – MX)² pi;

DX=∑xi²pi – (MX) ².

Свойства дисперсии дискретной случайной величины: (X,Y-независимые д.св, с- неслучайная постоянная R)

Dc=0;

D(cX)=c²DX;

D(X+Y)= DX + DY

С.В. Х называется непрерывной, если существует неотрицательная функция рх(х) такая, что при любых х функцию распределения Fx(x) можно представить в виде: Fx(x)=интеграл от –бесконечности до х px(y)dy. Рассматривают только такие С.В., для которых рх(х) непрерывна всюду, кроме, может быть, конечного числа точек. Плотностью распределения вероятностей непрерывной С.В. называют первую производную от функции распределения: f(x)=F’(x). Вероятность того, что Н.С.В. Х примет значение, принадлежащее интервалу (а,b), определяется равенством P(a<X<b)=интервал от а до b f(x)dx. Зная плотность распределения можно найти функцию распределения F(x)=интеграл от –бесконечности до х f(x)dx. Плотность распределения обладает следующими свойствами: 1) П.Р. неотрицательна, т.е. f(x)>=0. 2) Несобственный интеграл от плотности распределения в пределах от –бесконечности до бесконечности равен единице: интеграл от –бесконечности до бесконечности f(x)dx=1.

Мат. ожидание Н.С.В. Х, возможные значения которой принадлежат всей оси ОХ, определяется равенством: М(Х)=интеграл от –бесконечности до бесконечности хf(x)dx, где f(x) - плотность распределения С.В. Х. Предполагается, что интеграл сходится абсолютно. В частности, если все возможные значения принадлежат интервалу (а,b), то М(Х)=интеграл от а до b xf(x)dx. Все свойства мат. ожидания, указаны выше, для Д.С.В. Они сохраняются и для Н.С.В.

Дисперсия Н.С.В. Х, возможные значения которой принадлежат всей оси ОХ, определяется равенством: D(X)=интеграл от –бесконечности до бесконечности [x-M(X)]*2f(x)dx, или равносильным равенством: D(X)=интеграл от –бесконечности до бесконечности x*2f(x)dx – [M(X)]*2. В частности, если все возможные значения х принадлежат интервалу (a,b),то D(X)=интервал от а до b [x – M(X)]*2f(x)dx,или D(X)=интеграл от

Моменты распределения. При решении многих практических задач нет особой необходимости в полной вероятностной характеристике каких-либо случайных величин, которую дает функция плотности распределения вероятностей. Очень часто приходится также иметь дело с анализом случайных величин, плотности вероятностей которых не отображаются аналитическими функциями либо вообще неизвестны. В этих случаях достаточно общее представление о характере и основных особенностях распределения случайных величин можно получить на основании усредненных числовых характеристик распределений.

Числовыми характеристиками случайных величин, которые однозначно определяются функциями распределения их вероятностей, являются моменты.

Начальные моменты n-го порядка случайной величины X (или просто моменты) представляют собой усредненные значения n-й степени случайной переменной: m_n  М{Xⁿ} =xⁿ p(x) dx, где M{Xⁿ} и - символические обозначенияматематического ожидания и усреднения величины Хⁿ, которые вычисляются по пространству состояний случайной величины Х.

Соответственно, для случайных дискретных величин: m_n  М{Xⁿ} =x_iⁿ p_i.

Центральные моменты n-го порядка, это моменты относительно центров распределения (средних значений) случайных величин:

_n  M{(X-)ⁿ} =(x-m₁)ⁿ p(x) dx

_n  M{(X-)ⁿ} =(x_i-m₁)ⁿ p_i, где - начальный момент 1-го порядка (среднее значение величины Х), X₀ = X-- центрированные значения величины Х.

Связь между центральными и начальными моментами достаточно проста:

₁=0, ₂=m₂-m₁², ₃=m₃-3m₂m₁+2m₁³, ₄=m₄-4m₁m₃+6m₁²m₂-3m₁⁴, и т.д.

Соответственно, для случайных величин с нулевыми средними значениями начальные моменты равны центральным моментам.

По результатам реализации случайных величин может производиться только оценка моментов, т.к. количество измерений всегда конечно и не может с абсолютной точностью отражать все пространство состояний случайных величин. Результаты измерений - выборка из всех возможных значений случайной величины (генеральной совокупности). Оценка моментов, т.е. определение средних значений n-й степени по выборке из N зарегистрированных значений, производится по формулам: = (1/N)x_iⁿ , = (1/N)(x_i-)ⁿ 

Условное математическое ожидание

Определение 1.   Условным математическим ожиданием непрерывной СВ X при условии, что непрерывная СВ Y приняла значение y, называется в случае абсолютной сходимости интеграла, функция y:

M[X|y]

Δ =

+∞   ∫ -∞

xfX(x|y) dx .

Замечание 1.   В случае дискретных СВ X и Y условное МО СВ X при условии, что Y = y_j, j = 0,m, определяется формулой

M[X|yj]

Δ =

n ∑ i=0

xi

pij pj

, j = 0,m,

где

pij

Δ =

P{X = xi, Y = yj} , pj

Δ =

P{Y = yj}.

Определение 2.   Условное математическое ожидание M[X|y] СВ X как функция параметра y R¹ называется регрессией X на y. График функции x = M[X|y] называется кривой регрессии X на y. Аналогично определяется условное МО СВ

при условии, что Y = y. Например, для непрерывных X и Y:

	M[φ(x)|y]	Δ =			+∞   ∫ -∞	φ(x)fX(x|y) dx .

M[φ(Y)X|y]

=

+∞   ∫ -∞

φ(y)xfX(x|y) dx = φ(y)M[X|y].

Z

Δ =

φ(x)

M[X|y]

Δ =

+∞   ∫ -∞

xfX(x|y) dx

5)f(x|y)     =

+∞   ∫ -∞

xf(x) dx

Δ =

M[X].

С в о й с т в а   M[X | y] : 1) M[φ(Y)|y] = φ(y), где φ(y) -- некоторая функция.2)   M[φ(Y)X|y] = φ(y)M[X|y]. Действительно, например, в случае непрерывных СВ X и Y имеем 3)   M[X + φ(Y)|y] = M[X|y] + φ(y). Это свойство доказывается аналогично свойству 2)M[X|y]. 4)   M[X|y] = M[X], если X и Y -- независимы. Пусть, например, СВ X и Y -- непрерывны, тогда

5)   M[X] = M[M[X|Y]], т.е. справедлива формула полного математического ожидания. Пусть СВ X и Y непрерывны, тогда

M[X]

Δ =

+∞   ∫ -∞

xfX(x) dx

6)f(x,y)     =

+∞   ∫ -∞

x(

+∞   ∫ -∞

f(x,y) dy) dx

Л8.Р2.З2     =

=	+∞   ∫ -∞	x(	+∞   ∫ -∞	fY(y)fX(x|y) dy) dx =	+∞   ∫ -∞	fY(y)(	+∞   ∫ -∞	xfX(x|y) dx) dy =

Ковариация

=

+∞   ∫ -∞

fY(y)M[X|y] dy = M[M[X|Y]].

Если между случайными величинами исуществует стохастическая связь, то одним из параметров, характеризующих меру этой связи являетсяковариация . Ковариацию вычисляют по формулам

 

Если случайные величины инезависимы, то .

Обратное, вообще говоря, неверно. Из равенства нулю ковариации не следует независимость случайных величин. Случайные величины могут быть зависимыми в то время как их ковариация — нулевая!

Но зато, если ковариация случайных величин отлична от нуля, то между ними существует стохастическая связь, мерой которой и является величина ковариации.

Интересно отметить, что и .

Кроме того, важны следующие свойства ковариации:

;

;

.

Корреляция

Понятно, что значение ковариации зависит не только от “тесноты” связи случайных величин, но и от самих значений этих величин, например, от единиц измерения этих значений.

Для исключения этой зависимости вместо ковариации используется коэффициент корреляции .

Этот коэффициент обладает следующими свойствами:

он безразмерен;его модуль не превосходит единицы, т.е. ;если инезависимы, то(обратное, вообще говоря неверно!);

если , то случайные величины исвязаныфункциональной зависимостью вида , где и —некоторые числовые коэффициенты;

;

Корреляционным моментом СВ  и  называется мат. ожидание произведения отклонений этих СВ. =М((—М())*(—М()))

Для вычисления корреляционного момента может быть использована формула:

=М(*)—М()*М() Доказательство: По определению =М((—М())*(—М())) По свойству мат. ожидания

=М(—М()—М()+М()*М())=М()—М()*М()—М()*М()+М()*М()=М()—М()*()

Предполагая, что  и  независимые СВ, тогда =М()—М()*М()=М()*М()—М()*М()=0; =0. Можно доказать, что если корреляционный момент=0, то СВ могут быть как зависимыми, так и независимыми. Если  не равен 0, то СВ  и  зависимы. Если СВ  и  зависимы, то корреляционный момент может быть равным 0 и не равным 0. Можно показать, что корреляционный момент характеризует степень линейной зависимости между составляющими  и . При этом корреляционный момент зависит от размерности самих СВ. Чтобы сделать характеристику линейной связи  и  независимой от размерностей СВ  и , вводится коэффициент корреляции:

К=/()*() Коэффициент корреляции не зависит от разностей СВ  и  и только показывает степень линейной зависимости между  и , обусловленную только вероятностными свойствами  и . Коэффициент корреляции определяет наклон прямой на графике в системе координат (,) Свойства коэффициента корреляции.

1. -1<=К<=1

Если К =1, то линейная зависимость между  и  и они не СВ.

2. К>0, то с ростом одной составляющей, вторая также в среднем растет.

К<0, то с убыванием одной составляющей, вторая в среднем убывает.

3. D()=D()+D()2

Доказательство.

D()=M(()2)—M2()=M(22+2)—(M()M())2=M(2)2M()+M(2)—+M2()+2M()*M()—M2()=D()+D()2(M())—M()*M()=D()+D()2