35. Вывод уравнения среднеквадратической регрессии.

Числа k_ξη и r_ξη характеризуют не всякую зависимость, а только так называемую линейную зависимость между случайными величинами ξ и η. Некоррелированность эквивалентна линейной независимости.

Найдем линейную зависимость у=kx+b , которая давала бы возможность предсказывать как можно точнее значения случайной величины η по значениям случайной величины ξ, т.е. такую линейную зависимость, чтобы ошибка предсказания M[(η-y)²], была минимальной.

В этом случае

Таким образом, уравнение искомой прямой имеет вид

и называется прямой среднеквадратической регрессии η на ξ

- коэффициент регрессии η на ξ.

При этом ошибка замены равна:

Аналогично можно получить прямую среднеквадратической регрессии ξ на η:

Уравнения регрессии

Т.к. М[ξ | η = y] меняется с изменением значения у, то можно рассматривать функцию

m_ξ(y)=М[ξ | η=y],

аналогично можно рассматривать и функцию

m_η(x)=M[η | ξ=x].

Эти функции называются соответственно регрессиями ξ по η и η по ξ.

Уравнения х = m_ξ(y) и у = m_η(x) называются уравнениями регрессии, а линии, определяемые этими уравнениями, называются линиями регрессии.

36) Доказательства неравенств Чебышёва

Первое неравенство Чебышева. Пусть Х – неотрицательная случайная величина (т.е.   для любого  ). Тогда для любого положительного числа а справедливо неравенство

Доказательство. Все слагаемые в правой части формулы (4), определяющей математическое ожидание, в рассматриваемом случае неотрицательны. Поэтому при отбрасывании некоторых слагаемых сумма не увеличивается. Оставим в сумме только те члены, для которых  . Получим, что

.   (9)

Для всех слагаемых в правой части (9)  , поэтому

.   (10)

Из (9) и (10) следует требуемое.

Второе неравенство Чебышева. Пусть Х – случайная величина. Для любого положительного числа а справедливо неравенство

.

Это неравенство содержалось в работе П.Л.Чебышёва «О средних величинах», доложенной Российской академии наук 17 декабря 1866 г. и опубликованной в следующем году.

Для доказательства второго неравенства Чебышёва рассмотрим случайную величину У = (Х – М(Х))². Она неотрицательна, и потому для любого положительного числа b, как следует из первого неравенства Чебышёва, справедливо неравенство

.

Положим b = a². Событие {Y>b} совпадает с событием {|X – M(X)|>a}, а потому

,

ч то и требовалось доказать.

37. Сходимость по вероятности, теорема Чебышёва, центральная предельная теорема.

Если ξ₁, ξ₂, …, ξ_n, … независимы и существует константа C>0, что Dξ_n ≤ C для всех n, то при любом ε

Таким образом среднее арифметическое случайных величин сходится по вероятности к среднему арифметическому их математических ожиданий

Центральная предельная теорема для одинаково распределенных случайных величин.

Если случайные величины ξ₁, ξ₂, …, ξ_n, … независимы, одинаково распределены и имеют конечные Mξ_n=a и Dξ_n =σ² > 0, то

Центральная предельная теорема (теорема Ляпунова)

Пусть случайные величины ξ₁, ξ₂, …, ξ_n, … независимы. Обозначим . Если все a_i,

σ_i, m_i конечны и , то