Неравенство Чебышева

Если случайная величина X имеет математическое ожидание и дисперсию, то для любого  > 0 справедливо следующее неравенство: P{|X-MX|  }  DX/². Доказательство (для абсолютно непрерывной случайной величины – для дискретных случайных величин интегралы заменяются соответствующими суммами): пусть MX=a. P{|X-a|  } = §(|x-a|  ) f(x)*dx (*). Запишем область интегрирования |x-a|   в форме (x-a)² / ²  1 => §(|x-a|  ) 1*f(x)*dx  §(|x-a|  ) (x-a)² / ² f(x)*dx (**). Расширим область интегрирования до всей прямой и получим: 1/²*§(|x-a|  ) (x-a)² * f(x)*dx  1/² * §( | -) (x-a)² * f(x)*dx = DX/² (***). Из выражений (*, ** и ***) получаем неравенство Чебышева.

Закон больших чисел (теорема Ляпунова)

Законы больших чисел утверждают, что среднее арифметическое большого числа независимых случайных величин ведет себя как среднее арифметическое их математических ожиданий. Теоретическую основу законов больших чисел составляют понятие сходимости случайных величин и неравенство Чебышева. Сходимость по вероятности: последовательность случайных величин X₁, X₂, …, X_n, … сходится по вероятности к случайной величине X, если для любого  > 0 справедливо: lim(n) P{|X_n-X| < }=1 или lim(n) P{|X_n-X|  }=0. Сходимость записывается как X_n  X. Неравенство Чебышева: если случайная величина X имеет математическое ожидание и дисперсию, то для любого  > 0 справедливо следующее неравенство: P{|X-MX|  }  DX/². Доказательство (для абсолютно непрерывной случайной величины – для дискретных случайных величин интегралы заменяются соответствующими суммами): пусть MX=a. P{|X-a|  } = §(|x-a|  ) f(x)*dx (*). Запишем область интегрирования |x-a|   в форме (x-a)² / ²  1 => §(|x-a|  ) 1*f(x)*dx  §(|x-a|  ) (x-a)² / ² f(x)*dx (**). Расширим область интегрирования до всей прямой и получим: 1/²*§(|x-a|  ) (x-a)² * f(x)*dx  1/² * §( | -) (x-a)² * f(x)*dx = DX/² (***). Из выражений (*, ** и ***) получаем неравенство Чебышева.

Теорема Бернулли

Частость (/n) сходится по вероятности к вероятности: /n  p. Теорема Бернулли – частный случай следствия из теоремы Чебышева (если все члены последовательности независимых случайных величин X₁, …, X_n, … имеют одинаковые математические ожидания MX_i=a и одинаковые дисперсии Dx_i=2 (одинаково распределены), то средне арифметическое случайных величин сходится по вероятности к математическому ожиданию: X_n  a), т.к. биномиальная случайная величина может быть представлена как сумма альтернативных случайных величин: =(n|i=1) X_i, Mx_i=p. В теореме идет речь о сходимости среднего арифметического к математическому ожиданию альтернативной случайной величины, т.е. к вероятности положительного исхода. Вывод из теоремы: надо провести эксперимент из n испытаний, в котором с вероятностью p=P(A) может появиться данное событие (успех), потом подсчитать долю положительных исходов, которая и будет «хорошим» приближением к вероятности при больших n.

Центральная предельная теорема

Согласно центральной предельной теореме достаточно большая сумма сравнительно малых случайных величин ведет себя приближенно как нормальная случайная величина. Строгое определение подразумевает последовательность независимых случайных величин (X₁, …, X_n), MX_i=a_i, DX_i=_i², которые удовлетворяют при любом  > 0 условию Линдеберга: lim(n) ((n|i=1) §(|x_i-a_i| > b_n) (x_i-a_i)² * f_i(x_i)*dx_i) / ((n|i=1) _i²) = 0, b_n=sqr((n|i=1) _i²). Функция распределения центрированной и нормированной суммы Z_n=(n|i=1) (X_i-a_i) / (sqr((n|i=1) _i²) независимых случайных величин X₁, …, X_n, которые удовлетворяют условию Линдеберга, сходится к функции распределения стандартной нормальной случайной величины: F_n(x)=P(Z_n < x)  1/sqr(2) * §(x|-)

e^{-z^2/2} * dz (теорема Ляпунова). Следствие из теоремы Ляпунова: если независимые случайные величины X₁, …, X_n имеют одинаковое распределение с MX_i=a, DX_i=², то функция распределения их центрированной и нормированной суммы Z_n=(n|i=1) (X_i-a) / (*sqr(n)) сходится к функции распределения стандартной нормальной случайной величины: F_n(x)=P(Z_n < x)  1/sqr(2) * §(x|-) e^{-z^2/2} * dz. Сравнительно большая сумма (n велико) достаточно малых случайных величин (дисперсии слагаемых D(Z_i/sqr(n))=1/n – малы) распределена приближенно как стандартная нормальная случайная величина. При n распределение соответствующей суммы заменяют на распределение стандартной нормальной случайной величины.