
- •I. Случайные события
- •II. Случайные величины и их распределения
- •III. Многомерные случайные величины
- •IV. Предельные теоремы теории вероятностей
- •I. Случайные события
- •1.1. Предмет теории вероятностей
- •1.2. Пространство элементарных исходов
- •1.3. События, операции над ними
- •1.4. Свойства операций
- •1.5. Алгебра и σ– алгебра событий
- •1.6. Вероятность событий
- •1.6.1. Классическое определение вероятностей
- •1.6.2. Элементы комбинаторики в теории вероятностей
- •1.6.3. Урновая схема
- •1.6.4. Геометрическая вероятность
- •1.6.5. Статистическое определение вероятности
- •1.6.6. Аксиоматическое определение вероятности
- •Условная вероятность. Независимость событий
- •1.8. Формула полной вероятности
- •1.10. Некоторые примеры вычисления вероятностей
- •1.11. Схема бернулли
- •1.12. Формула пуассона
- •1.13. Формула муавра – лапласа
- •Контрольные вопросы
- •Задачи.
- •П. Случайные величины и их распределения
- •2.1. Случайная величина
- •2.2. Дискретные случайные величины
- •2.3. Непрерывные случайные величины
- •2.4. Преобразование случайных величин
- •2.5. Математическое ожидание случайных величин
- •Дисперсия случайной величины
- •2.7. Моменты случайных величин. Другие числовые характеристики случайных величин
- •2.8. Характеристические функции
- •2.9. Производящие функции
- •Контрольные вопросы
- •III. Многомерные случайные величины
- •3.1. Совместная (n–мерная) функция распределения
- •3.2. Дискретные двумерные случайные величины
- •3.3. Непрерывные n–мерные случайные величины
- •3.4. Условные распределения
- •3.5. Преобразование векторных случайных величин
- •3.6. Математическое ожидание векторных случайных величин
- •3.7. Моменты векторных случайных величин
- •3.8. Дисперсия векторных случайных величин
- •3.9. Условное математическое ожидание. Кривые регрессии
- •3.10. Условная дисперсия
- •3.11. Ковариация случайных величин
- •3.12. Коэффициент корреляции
- •3.13. Характеристические функции векторных случайных величин
- •Контрольные вопросы
- •IV. Предельные теоремы теории вероятности
- •4.1 Последовательности независимых событий
- •4.2. Последовательность независимых величин
- •Неравенство чебышева
- •4.4. Типы сходимости
- •4.5. Закон больших чисел
- •4.6. Усиленный закон больших чисел
- •4.7. Центральная предельная теорема
- •Глава1. 1.
4.5. Закон больших чисел
Так называются
теоремы, дающие условия, при которых
арифметическое среднее сл. величин по
вероятности сходится к арифметическому
среднему их математических ожиданий:
Теорема 4 (закон
больших чисел). Если последовательность
независимых одинаково распределенных
сл. величин такова, что
то
.
Доказательство.
Заметим прежде всего, что все
одинаково
распределены, потому у них у всех одно
и то же математическое ожидание и одна
и та же дисперсия. Теорему докажем
опираясь на теорему 1. Доказываемый
предел можно переписать в виде
.
Воспользуемся неравенством Чебышева:
,
так как конечная сумма независимых сл.
величин, умноженная на число
,
есть сл. величина с математическим
ожиданием
и
дисперсией
.
Замечание. Теорема 4 имеет место и без требования существования конечных дисперсий. Просто доказательство её будет иным.
Теорема 5.
Если последовательность независимых
сл. величин такова, что
существуют
и
,
то
.
Это тоже закон больших чисел, но для произвольной последовательности сл. величин, произвольной в том смысле, что не утверждается одинаковое распределение всех сл. величин.
Доказательство.
По неравенству
Чебышева (4.4) имеем
,
т.к.
По теореме Штольца
(по
условию). Теорема доказана.
В основе этой теоремы лежит известная теорема Чебышева П.Л.(1880 г.):
Пусть последовательность
попарно независимых сл. величин имеет
математические ожидания
и дисперсии
,
ограниченные в совокупности числом В,
то есть
,
к=1,2,3,… Тогда
.
Пример 2.
Пусть μ – число успехов в серии из n
независимых испытаний по схеме Бернулли,
величина
фиксирует успех или неудачу в
–ом
испытании по схеме Бернулли (оно принимает
значение 1 или 0 соответственно). Тогда
в серии испытаний число успехов
равно
,
– частота успехов в n
независимых
испытаниях. Известно, что
.
По доказанному
при
Последнее соотношение есть теорема
Бернулли.
Ранее при определении вероятности мы говорили о приближении в каком-то смысле частот событий к вероятностям этих событий. Теперь этот смысл понятен – последовательность частот сходится к вероятности события по вероятности.
4.6. Усиленный закон больших чисел
Поскольку в законе больших чисел речь идет о сходимости по вероятности с ростом числа n среднего арифметического сл. величин к некоторой постоянной величине, то в каждом отдельном эксперименте (при произвольном ω) закон больших чисел этой сходимости не гарантирует. А на практике мы встречаемся со с. величинами именно в отдельных экспериментах.
Усиленный закон больших чисел – это одна из форм закона больших чисел, в которой вместо сходимости по вероятности утверждается сходимость почти наверное (с вероятностью 1).
Тогда те ω, для которых закон больших чисел не имеет места, образуют множество, вероятностная мера которого равна 0, т.е. он имеет место для почти всех ω.
Приведем прежде всего неравенство Колмогорова (без доказательства).
Теорема 6.
Пусть
–
независимые сл. величины. Если
,
тогда для любого числа a>0 справедливо
соотношение
(4.5)
Неравенство (4.5) называют неравенством Колмогорова.
Теорема 7 (усиленный
закон больших чисел). Если
–
последовательность независимых сл.
величин, для которых
и ряд
сходится, то с вероятностью 1 имеет
место сходимость
при
.
Для доказательства теоремы понадобится
Лемма:
Если
и если
,
то
Докажем её.
Обозначим через
событие
,
ε > 0 – некоторое число. Согласно
замечанию к теореме Бореля – Кантелли,
условие
означает, что с вероятностью 1 происходит
лишь конечное число событий
.
Следовательно, начиная с некоторого
номера
(
),
и этот номер с вероятностью 1 существует.
Лемма доказана.
Доказательство
теоремы.
Обозначим
Так как
(по свойству sup),
то на основании неравенства Колмогорова
имеем:
Просуммируем
полученное неравенство:
.
Покажем, что последовательность
удовлетворяет условиям леммы, для чего
в последнем неравенстве изменим порядок
суммирования:
и ряд
сходится по условию. Здесь
определяется из соотношения
Последнее неравенство получается из
следующих оценок:
из
условия
получаем
Тогда с вероятностью
1
,
начиная с некоторого номера, и следовательно
Теорема 8. Если
–
последовательность независимых
одинаково распределенных сл. величин,
для которых математические ожидания
конечны, n=1,2,…,
то с вероятностью 1
Если же величины
не имеют конечного математического
ожидания, то последовательность
с
вероятностью 1 не ограничена.
Доказательство.
Пусть
,
n
= 1, 2, … Поскольку
то
по теореме Бореля – Кантелли событие
происходит
лишь конечное число раз, следовательно
с вероятностью 1 можно утверждать что
начиная с некоторого номера
.
Иначе говоря,
Далее
имеем
.
Следовательно,
где
.
Для последовательности
проверим
условие теоремы 7:
так как
,
(
).
Тем самым показано, что выполнены условия
теоремы 7, а потому имеет место сходимость
почти наверное
к
m при n→∞. Теорема доказана.
Обе теоремы принадлежат А.Н.Колмогорову.