29. Коэффициент корреляции

числовая характеристика совместного распределения двух случайных величин, выражающая их взаимосвязь. К. к.   для случайных величин Х ₁ и Х ₂ с математич. ожиданиями   и ненулевыми дисперсиями 

определяется равенством 

К. к. для Х ₁ и Х ₂ совпадает с ковариацией для нормированных величин   К. к. симметричен относительно X₁ и Х ₂ и инвариантен относительно изменения начала отсчета и масштаба. При этом   Значение К. к. как одной из возможных мер взаимосвязи определяется следующими его свойствами: 1) если величины Х ₁ и Х ₂ независимы, то   (обратное утверждение в общем случае неверно), о величинах, для к-рых   говорят, что они некоррелированы; 2)   тогда и только тогда, когда величины связаны линейной функциональной зависимостью:

Свойства коэффициента корреляции

• Неравенство Коши — Буняковского:

если принять в качестве скалярного произведения двух случайных величин ковариацию  , то норма случайной величины будет равна  , и следствием неравенства Коши — Буняковского будет:

.

• Коэффициент корреляции равен   тогда и только тогда, когда   и   линейно зависимы:

,

где  . Более того в этом случае знаки   и   совпадают:

.

• Если   независимые случайные величины, то  . Обратное в общем случае неверно.

30. Усло́вное математи́ческое ожида́ние в теории вероятностей - это среднее значение случайной величины относительно условного распределения.

Будем считать, что дано вероятностное пространство  . Пусть   — интегрируемая случайная величина, то есть  . Пусть также   — σ-подалгебра σ-алгебры  .

УМО относительно σ-алгебры

Случайная величина   называется условным математическим ожиданием X относительно σ-алгебры  , если

•  измерима относительно  .

• ,

где   - индикатор события A. Условное математическое ожидание обозначается  .

Пример. Пусть   Положим  . Тогда   - σ-алгебра, и  . Пусть случайная величина X имеет вид

.

Тогда

УМО относительно семейства событий

Пусть   - произвольное семейство событий. Тогда условным математическим ожиданием X относительно  называется

,

где   - минимальная сигма-алгебра, содержащая  .

Пример. Пусть   Пусть также C = {1,2,3}. Тогда  . Пусть случайная величина X имеет вид

.

Тогда

УМО относительно случайной величины

Пусть   другая случайная величина. Тогда условным математическим ожиданием X относительно Y называется

,

где σ - σ-алгебра, порождённая случайной величиной Y.

Другое определение УМО X относительно Y:

Такое определение конструктивно описывает алгоритм нахождения УМО:

• найти математическое ожидание случайной величины X, принимая Y за константу y;

• Затем в полученном выражении y обратно заменить на случайную величину Y.

Пример: 

плотность условного распределения. Пусть   -вероятностное пространство,   есть   -алгебра боролевских множеств на прямой,  - под-  -алгебра 

 - условное распределение Xотносительно   -алгебры   и   - условная функция распределения Xотносительно    Если

  то   наз. условной плотностью распределения Xотносительно   -алгебры    Если Xи Y-случайные величины, f_Y(y) - плотность распределения Y, f_X,Y(x, у) - совместная плотность распределения X и Y, то

  определяет У. п. распределения случайной величины X при фиксированном значении Y.

31. Регрессия- зависимость среднего значения какой-либо случайной величины от нек-рой другой величины или от нескольких величин. Если, например, при каждом значении х=x_iнаблюдается n_i значений   случайной величины Y, то зависимость средних арифметических 

этих значений от x_i и является Р. в статистич. понимании этого термина. При обнаруженной закономерности изменения  с изменением хпредполагается, что в основе наблюдаемого явления лежит вероятностная зависимость: при каждом фиксированном значении хслучайная величина Y имеет определенное распределение вероятностей с математич. ожиданием, к-рое является функцией х:

Зависимость   , где хиграет роль "независимой" переменной, наз. р е г р е с с и е й (или ф у н к ц ие й р е г р е с с и и) в вероятностном понимании этого термина. График функции т(х)наз. л и н и е й р ег р е с с и и, или к р и в о й р е г р е с с и и, величины Y по х. Переменная хназ. р е г р е с с и о н н о й п е р е м е н н о й, или р е г р е с с о р о м. Точность, с к-рой линия регрессии Yпо хпередает изменение Yв среднем при изменении х, измеряется дисперсией величины Y, вычисляемой для каждого значения х:

Графически зависимость дисперсии s² (х)от хвыражается т. н. с к е д а с т и ч е с к о й л и н и е й. Если s² (х)=0при всех значениях x, то с вероятностью 1 величины связаны строгой функциональной зависимостью. Если s² (х)№0ни при каком значении хи т (х)не зависит от х, то регрессия Yпо хотсутствует..

В теории вероятностей задача Р. решается применительно к такой ситуации, когда значения регрессионной переменной х соответствуют значениям нек-рой случайной величины Xи предполагается известным совместное распределение вероятностей величин Xи Y(при этом математич. ожидание   и дисперсия   будут соответственно условным математич. ожиданием и условной дисперсией случайной величины Yпри фиксированном значении X=x). В этом случае определены две Р.: Y по х и X по у, и понятие Р. может быть использовано также для того, чтобы ввести нек-рые меры взаимосвязанности случайных величин X и Y, определяемые как характеристики степени концентрации распределения около линий Р.

Функции Р. обладают тем свойством, что среди всех действительных функций f(x)минимум математич. ожидания   достигается для функции f(x)= т (х), то есть регрессия Y по хдает наилучшее (в указанном смысле) представление величины Y. Наиболее важным является тот случай, когда регрессия Y по хл и н е й н а, т. е.

Коэффициенты b₀ и b₁, наз. коэффициентами Р., легко вычисляются:

(здесь r - корреляции коэффициент X и Y,   ,

 , и п р я м а я регрессии Y по х имеет вид 

(аналогичным образом находится прямая регрессии Xпо у). Точная линейная Р. имеет место в случае, когда двумерное распределение величин Xи Y является нормальным.

32. Первое неравенство Чебышева. Пусть Х – неотрицательная случайная величина (т.е.   для любого  ). Тогда для любого положительного числаа справедливо неравенство

Второе неравенство Чебышева. Пусть Х – случайная величина. Для любого положительного числа а справедливо неравенство

.

33. Теорема Чебышева. Если   — попарно независимые случайные величины, причем дисперсии их равномерно ограничены (не превышают постоянного числа  ), то, как бы мало ни было положительное число  , вероятность неравенства

будет как угодно близка к единице, если число случайных величин достаточно велико.

Другими словами, в условиях теоремы

Таким образом, теорема Чебышева утверждает, что если рассматривается достаточно большое число независимых случайных величин, имеющих ограниченные дисперсии, то почти достоверным можно считать событие, состоящее в том, что отклонение среднего арифметического случайных величин от среднего арифметического их математических ожиданий будет по абсолютной величине сколь угодно малым.