- •Тема 1. Вероятностное пространство. Операции над событиями. Свойства вероятности.
- •Тема 2. Условная вероятность. Независимость событий. Критерий независимости. Формула полной вероятности. Формула Байеса.
- •Тема 3. Случайные величины. Измеримость функций от случайных величин.
- •Тема 5. Числовые характеристики случайных величин: математическое ожидание, моменты, квантили, медиана. Их свойства.
- •Тема 6. Числовые характеристики случайных величин: дисперсия, ковариация, коэффициент корреляции. Их свойства.
- •Тема 7. Совокупности случайных величин, случайные векторы. Совместная функция распределения. Независимость случайных величин. Критерии независимости.
- •Тема 8. Виды сходимости последовательностей случайных величин.
- •Тема 9. Неравенства Маркова и Чебышева. Закон больших чисел в форме Чебышева.
- •Тема 10. Неравенство Иенсена.
- •Тема 11. Характеристические функции и их свойства. Закон больших чисел в форме Хинчина.
- •Тема 12. Центральная предельная теорема.
- •12. Условное математическое ожидание.
- •13. Статистическая структура. Выборка. Статистика.
- •14. Выборочные моменты. Их асимптотическая нормальность.
- •15. Порядковые статистики. Вариационный ряд. Эмпирическая функция распределения. Их свойства.
- •16. Точечная оценка. Несмещенность, состоятельность.
- •17. Функция правдоподобия. Достаточные статистики, полные статистики. Критерий факторизации.
- •18. Неравенство Рао-Крамера. Эффективные оценки.
- •19. Теорема Рао-Блекуэлла-Колмогорова. Оптимальность оценок являющихся функцией полной достаточной статистики.
- •20. Метод моментов. Свойства оценок, полученных методом моментов.
- •21. Метод максимального правдоподобия. Свойства оценок максимального правдоподобия.
- •22. Доверительные интервалы. Методы центральной случайной величины и и использования точечной оценки.
- •23. Проверка гипотез. Лемма Неймана-Пирсона.
- •24. Критерии согласия Колмогорова и χ - квадрат.
Тема 12. Центральная предельная теорема.
Пусть ξ1,..,ξn,… - последовательность независимых одинаково распределенных случайных величин, Eξi = a, Dξi^2 = l ^ 2. Тогда (Sn-ESn)/sqrt(DSn) --><n-->inf>ξ, ξ ~ N(0, 1) (нормальное распределение), по распределению. Эквивалентная формулировка: P((Sn-na)/(sqrt(n)l) < x) = P((Sn-ESn)/sqrt(DSn) < x) --> <n-->inf> (1/sqrt(2п))$<-inf, x>e^(-t^2/2)dt). Док-во: введем последовательность ηi = (ξi – a)/l, тогда (Sn – ESn)/sqrt(DSn) = (η1 + …+ηn)/n = η. h(t) – хар функция для η --> h(t) = Ee^(itη) ==> h(t) = h(0) + h’(0)t + h’’(0)t^2/2 + o(t^2) ==> h(t) = 1- t^2/2 + o(t^2), t --> 0, Тогда h<(Sn-ESn)/sqrt(DSn)> (t) = (h(t/sqrt(n))^n --> e^(-t^2/2). Поскольку предельная функция непрерывна в 0 получаем ЧТД.
12. Условное математическое ожидание.
На вероятностном пространстве (Q, F, P) рассмотрим вероятностное пространство, порожденное случайной величиной ξ: (Q, Fξ, P), Fξ = {ξ^-1(w), B Є |B} Є F – минимальная σ-алгебра, в котором ξ измерима. Зафиксируем Fξ. Мн-во всех случайных величин разбивается на измеримых и неизмеримых в Fξ. Рассмотрим мн-во случайных величин, измеримых относительно Fξ = F1. Две случайные величины называются эквивалентными P(ξ ≠ η) = 0. Расстоянием между ξ и η называется E(ξ – η)^2. Пусть есть случайная величина ξ, мат ожидание которого конечно. Условное математическое ожидание случайной величины ξ относительно события B, имеющего ненулевую вероятность, называется E(ξ|B) = $<Q>ξ(w)Pb(dw) = $<B>ξ(w)P(dw)/P(B). Отсюда получается, что E(ξ|B)P(B) = $<B>ξ(w)P(dw). Рассмотрим счетное разбиение F = (B1, …) мн-ва Q: U<i=1, inf>Bi = Q, BiBj = Ø P(Bi) > 0. Рассмотрим случайную величну E(ξ|F) = E(ξ|Bi), w Є Bi. Пусть F1 – минимальная σ-алгебра, порожденная разбиением F. Раз так, то существуют такие Bjk Є F, F1 = U<k>Bjk. Также для любого G Є σ(F) ==> $<G>E(ξ|F)P(dw) = $<A>ξ(w)P(dw). Пусть имеется (Q, F, P), ξ – случайная величина на этом вероятностном пространстве Eξ < inf, F1 Є F, F1 – σ-алгебра. Условным мат ожиданием относительно сигма-алгебра называется случайная величина 1) E(ξ|F1) измерима относительно F1. 2) Для любого G Є F1 $<G>E(ξ|F1)P(dw) = $<G>ξ(w)P(dw). Пусть ξ >= 0. Обозначим v(G) = $<G>ξ(w)P(dw). Если потребовать G Є F1, то v – мера на F1. Пусть ξ, η – случайные величины, Eξ < inf. Тогда условным мат ожиданием ξ относительно η назовем E(ξ|η) = E(ξ|σ(η)), σ(η) = (η^-1(B), B Є |B). Условным мат ожиданием события A относительно σ-алгебры F1 ==> P(A|F1) = E(I(A)|F1). Св-ва: 1) ξ > 0 --> E(ξ|F1) >= 0 2) ξ измерима относительно F1==> E(ξ|F1) = ξ. Это следует из математическое ожидание константы равно константе 3) E(E(ξ|F1)) = Eξ 4) Линейность: (все коэффициенты вещественны, мат ожидания существуют) E(aξ + bη|F1) = aE(ξ|F1) + bE(η|F1) 5) Если ξ, η независимы, то E(ξ|η) = Eξ. 6) Если ξ, η Eξη < inf и ξ измерима относительно F1, то E(ξη|F1) = ξE(η|F1).7) Если ξ, η – случайные величины, причем Eh(ξ, η) < inf, ξ – измерима относительно F1, h(ξ, η) - случайная величина. Тогда E(h(ξ, η)|F1) = E(h(u, η)|A1)|u=ξ. 8) Если F1 Є F2 Є F, ξ – случайная величина Eξ < inf, то E((E(ξ, F1))|F2) = E(ξ|F1) = E((E(ξ|F2)|F1). 9) Если ξ, η – случайные величины, Eξ < inf, то существует такая измеримая функция h, E(ξ|η) = h(η). Вычисление условного мат ожидания: Если E(ξ|F1) – принимает не более счетного числа значений, то E(ξ|F1) = Σ<i>$<Bi>ξ(w)P(dw)/P(B). Рассмотрим E(ξ|η), если (ξ, η) – абсолютно непрерывный случайный вектор с плотностью p(u, v). Тогда pξ(u) = $p(u, v)du, pη(v) = $p(u, v)du. Условной плотностью распределения ξ при условии η = v называется pη(u, v) = p(u, v)/pη(v). Справедливо: E(ξ|η) = $upη(u, η)du = $up(u, η)du/pη(η).