- •Тема 1. Вероятностное пространство. Операции над событиями. Свойства вероятности.
- •Тема 2. Условная вероятность. Независимость событий. Критерий независимости. Формула полной вероятности. Формула Байеса.
- •Тема 3. Случайные величины. Измеримость функций от случайных величин.
- •Тема 5. Числовые характеристики случайных величин: математическое ожидание, моменты, квантили, медиана. Их свойства.
- •Тема 6. Числовые характеристики случайных величин: дисперсия, ковариация, коэффициент корреляции. Их свойства.
- •Тема 7. Совокупности случайных величин, случайные векторы. Совместная функция распределения. Независимость случайных величин. Критерии независимости.
- •Тема 8. Виды сходимости последовательностей случайных величин.
- •Тема 9. Неравенства Маркова и Чебышева. Закон больших чисел в форме Чебышева.
- •Тема 10. Неравенство Иенсена.
- •Тема 11. Характеристические функции и их свойства. Закон больших чисел в форме Хинчина.
- •Тема 12. Центральная предельная теорема.
- •12. Условное математическое ожидание.
- •13. Статистическая структура. Выборка. Статистика.
- •14. Выборочные моменты. Их асимптотическая нормальность.
- •15. Порядковые статистики. Вариационный ряд. Эмпирическая функция распределения. Их свойства.
- •16. Точечная оценка. Несмещенность, состоятельность.
- •17. Функция правдоподобия. Достаточные статистики, полные статистики. Критерий факторизации.
- •18. Неравенство Рао-Крамера. Эффективные оценки.
- •19. Теорема Рао-Блекуэлла-Колмогорова. Оптимальность оценок являющихся функцией полной достаточной статистики.
- •20. Метод моментов. Свойства оценок, полученных методом моментов.
- •21. Метод максимального правдоподобия. Свойства оценок максимального правдоподобия.
- •22. Доверительные интервалы. Методы центральной случайной величины и и использования точечной оценки.
- •23. Проверка гипотез. Лемма Неймана-Пирсона.
- •24. Критерии согласия Колмогорова и χ - квадрат.
Программа курса «Теория вероятностей и математическая статистика»
лектор В.Ю.Королев
Тема 1. Вероятностное пространство. Операции над событиями. Свойства вероятности.
Пространство элементарных исходов – это любое мн-во Ω взаимоисключающих исходов эксперимента такое, что каждый интересующий нас результат эксперимента может быть однозначно описан с помощью элементов этого множества. Временно определим событие как подмножество пространства элементарных исходов. Класс F подмножеств Ω называется полуалгеброй, если a) Ω Є F б) A Є F, B Є F AB Є F в) A Є F существуют A1…An, Ai ∩ A = Ø, Ai ∩ Aj = Ø (i ≠ j), !A = A1 U A2…An. Класс F называется σ-алгеброй, если а) Ω Є F б) A Є F !A Є F в) для любых последовательностей элементов множества их объединение принадлежит мн-ву. σ-алгебра F порожденная классом подмножеств Ω - минимальная σ-алгебра содержащая этот класс. Борелевская σ-алгебра подмн-в вещественной прямой называется σ-алгебра, содержащая все открытые подмножества прямой. Тройку (Ω , F, P) – Ω – конечное множество всех элементарных исходов, F – множество всех событий, P – вероятность, определенная для всех элементов F, будем называть конечным вероятностным пространством. Пусть Ω – непустое мн-во. Событие – непустое подмножество Ω . Событие Ω – достоверное, событие Ø – невозможное. Само Ω - пространство элементарных исходов. События несовместные, если A & B = Ø. Мн-во F – подмножество Q называется классом событий, если: 1) Ω Є F, 2) A Є F !A Є F, 3) (A) Ai Є N, U<n=1, inf>Ai Є F. F – вырожденный класс событий, если F = {Ω, Ø}. Множество F – сигма-алгебра. Событием тогда назовем подмножество Ω, являющееся элементом σ-алгебры событий. P – вероятность, если 1) P(Ω) = 1, 2) (A) A Є F P(A) >= 0, 3) (A) i Є N, Ai Є F, (A) i, j Є N, i != j Ai && Aj = Ø, P(U<i=1, inf>Ai) = Add(i=1, inf)P(Ai). Утверждение: P(Ø) = 0 (рассматриваем последовательность из Ω, Ø, Ø … и используем св-во аддитивности). Утв. Для любой вероятностной модели со счетным Ω в качестве σ-алгебры событий F можно брать множество всех подмножеств Ω, причем мощность F – континуум. Док-во: для F очевидным образом выполняются все условия σ-алгебры. Каждому элементу F можно поставить в соответствие последовательность из 0 и 1 (входит/не входит элемент). Зададим вероятности элементарных исходов, так чтобы их сумма была равна 1. Любое событие можно представить как счетное объединение элементарных исходов. Тогда можем пользоваться свойством аддитивности, ряд сходится из-за того что ограничен сверху. ЧТД. Пусть Ω - произвольное непустое мн-во, F – σ-алгебра событий на Ω и P – вероятность, определенная на F. В этих обозначениях тройка (Ω, F, P) называется вероятностным пространством.
Пусть задано вероятностное пространство.
Св-во1: Вероятность невозможного события равна 0.
Св-во2: св-во конечной аддитивности. Пусть задана σ-алгебра событий F и в ней конечная последовательность {Ai}, в которой все члены попарно несовместны. Тогда P(U<i=1, n>Ai) = Σ<i=1, n>P(Ai) (через св-во счетной аддитивности).
Св-во3: P(!A) = 1 – P(A). (в сумме дают все мн-во и несовместны).
Т Сложения: P(A U B) = P(A) + P(B) – P(AB). Док-во: A = AB U A(!B), B = AB U (!A)B. Тогда A U B = A(!B) U AB U (!A)B. ЧТД,
Формула включения, исключения. P(U<i = 1, n>An) = (-1)^0Σ<i=1, n>P(Ai) + (-1)^1Σ<i,j = 1, i < j; n>P(AiAj) +…+(-1)^(n-1)P((&=1, n)Ai). Док-во: индукция через теорему сложения.
Монотонность вероятности: A Є B P(B) >= P(A). Док-во: B= A + B\A. ЧТД.
Счетная полуаддитивность: Пусть задана бесконечная последовательность событий. Тогда вероятность их счетного объединения не превышает сумму их вероятностей. Док-во: Di = Ai \ (U<j=1, i-1>Aj). U<i=1, inf>Ai = U<i=1, inf>Di. P(Di) <= P(Ai). Свойство бесконечной аддитивности. ЧТД.
Последовательность событий неубывающая: Ai Є Ai+1.
Последовательность событий невозрастающая: Ai+1 Є Ai.
Q – предел неубывающей последовательности событий – Q = lim<iinf>Ai = U<i=1, inf>Ai.
Q – предел невозрастающей последовательности событий – Q = lim<iinf>Ai = &&<i=1, inf>Ai.
Последовательность событий монотонная – она невозрастающая или неубывающая.
Непрерывность по монотонной последовательности. Если {Ai} – монотонная последовательность, то P(lim<iinf>Ai) = lim<iinf>(P(Ai)). Док-во: для неубывающей используя кусок из предыдущей теоремы. Для невозрастающей: {Bn} – невозрастающая, то {!Bn} – неубывающая. &&<i=1, n>Bn = !(U<i=1, n>!Bn). Дальше почти очевидно. ЧТД.
Невозрастающая последовательность имеет 0 предел – lim<iinf>Ai = Ø.
Из конечной аддитивности и непрерывности по неубывающей последовательности следует счетная аддитивность. Док-во: пусть {Bn}, BiBj = Ø, i ≠ j. An = U<i=1, n>Bi – неубывающая последовательность. P(U<i=1, inf>Bi) = P(U<i=1, inf>Ai) = P(lim<ninf>An) = lim<ninf>P(An) = lim<ninf>Σ<i=1, n>P(Bi) = Σ<n=1, inf>P(Bi). ЧТД.
При наличии конечной аддитивности из непрерывности по невозрастающей последовательности следует непрерывность по неубывающей последовательности и наоборот. Док-во: {An} – неубывающая последовательность. lim<ninf>An = !&&<i=1, inf>!Ai = !lim<iinf>!Ai. Обратно аналогично. ЧТД.
Из конечной аддитивности и непрерывности по невозрастающей последовательности с нулевым пределом следует счетная аддитивность. Пусть {An} – последовательность событий с попарно несовместными членами. U<n=1, inf>An = U<i=1, n>Ai + U<i = n+1, inf> Ai. Используя счетную аддитивность получаем P(U<n=1, inf>An – P(U<i=n+1, inf>Ai) = Σ<i=1, n>P(Ai). Последовательность {Σ<i=n+1, inf>Ai} – невозрастающая с 0м переделом. Тогда P(U<i=1, inf>Ai) = P(<i=1, inf>Ai) – P(<i=n+1, inf>Ai) = lim<ninf>(P(U<i=1, inf>Ai) - P(U<i=n+1, inf>Ai)) = lim<ninf>Σ<i=1, n>Ai = Σ<i=1, inf>P(Ai). ЧТД. ТЕ понятия: счетной аддитивности, непрерывности по любой монотонной последовательности, непрерывности по невозрастающей последовательности с 0м пределом эквивалентны.