ФЕДЕРАЛЬНОЕ АГЕНТСТВО ПО ОБРАЗОВАНИЮ

Государственное образовательное учреждение

высшего профессионального образования

«СТАВРОПОЛЬСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ»

Физико-математический факультет

Кафедра компьютерной безопасности

ЛЕКЦИЯ

по учебной дисциплине "Теория вероятностей и математическая статистика"

для студентов специальности «Компьютерная безопасность»

Раздел 1. Теория вероятностей

Лекция 1.7. Сходимость случайных величин и предельные теоремы

Обсуждена и одобрена на заседании кафедры компьютерной безопасности протокол № ___________

«_____» _________ 200__ г.

Ставрополь 2012 г.

Учебные и воспитательные цели:

1. Рассмотреть основные виды сходимости последовательности случайных величин.

2. Изучить их свойства.

3. Рассмотреть теоремы Чебышева, Бернулли, Ляпунова.

4. Научить применять полученные знания для решения задач.

Время - 80 минут

Учебно-материальное обеспечение: Лектор-2000

Распределение времени лекции:

Вступительная часть.	5 мин
Учебные вопросы лекции:
1.Сходимость последовательности случайных величин.	30 мин
2. Закон больших чисел	20 мин
3. Формулировка центральной предельной теоремы	20 мин
Заключение	3 мин
Задание студентам для самостоятельной работы	2 мин

Содержание лекции Вступительная часть

С самого начала изучения курса теории вероятностей мы говорили о том, что практическое применение методов этой ма­тематической дисциплины основывается на законе предельного постоянства частоты события, установленном эмпирически. Согласно этому закону, если один и тот же опыт повторяет­ся многократно, то частота появления конкретного случайного события теряет свойства случайности и приближается к неко­торому пределу, который в соответствии со статистическим определением вероятности и называют вероятно­стью.

Однако для того чтобы теория согласовывалась с практи­кой, при аксиоматическом определении вероятности, которое мы использовали, этот закон предельного постоянства часто­ты должен быть обоснован теоретически. Иначе говоря, он должен быть сформулирован и доказан в виде одной или не­скольких теорем. В теории вероятностей теоремы такого типа обычно называют различными формами закона больших чисел. В данной лекции мы докажем некоторые формы этого закона, которые, в частности, поясняют смысл математического ожи­дания случайной величины, и то, почему его называют также средним значением.

Для практики очень важно знание условий, при выполнении которых совокупное действие очень многих случайных причин приводит к результату, почти не зависящему от случая, так как позволяет предвидеть ход явле­ний. Эти условия и указываются в теоремах, носящих общее название закона больших чисел. К ним относятся теоремы Чебышева и Бернулли (имеются и другие теоремы, которые здесь не рассматриваются). Теорема Чебышева является наиболее общим законом больших чисел, теорема Бернулли - простейшим. Для доказательства этих теорем мы воспользуемся неравенством Чебышева.

1. Сходимость последовательности случайных величин

Пусть X₁, X₂, … , X_{n, …} представляет собой последовательность случайных величин, заданных на одном и том же вероятностном пространстве. Опишем типы сходимости последовательности X₁, X₂, … , X_{n, …} к некоторой случайной величине X.

Сразу же отметим, что естественно все определения сходи­мости вводить таким образом, чтобы сходимость последова­тельности случайных величин X₁, X₂, … , X_{n, …} к случайной величине X была эквивалентна сходимости последовательности

Y₁ = X₁ – X, Y₂ = X₂ – X, …, Y_n = X_n – X, …

случайных величин к нулю, т.е. к случайной величине, принима­ющей всего одно значение 0. Поэтому далее мы будем говорить только о сходимости последовательности X₁, X₂, … , X_{n, …} к нулю.

Поскольку каждая из случайных величин X_i представля­ет собой функцию, заданную на пространстве элементарных исходов Ω, и существуют разные определения сходимости функ­ций, то можно ввести и различные определения сходимости последовательности случайных величин.

Введем некоторые типы сходимости случайных величин. Рассмотрим все элементарные исходы со, для которых после­довательности X₁(ω), X₂(ω), … , X_n(ω)_{, …} сходятся к нулю, и обозначим через А событие, состоящее из этих исходов, т.е. .

Определение 1.1. Если последовательность Х₁, Х₂, …, Х_n, ... случайных величин удовлетворяет условию

P(A)=1,

то говорят о сходимости этой последовательности к нулю с вероятностью 1.

Сходимость к нулю с вероятностью 1 записывается в виде

В дальнейшем мы в основном будем использовать сходи­мость по вероятности.

Определение 1.2. Если последовательность Х₁, Х₂, ..., Х_n, ... случайных величин для любого >0 удовлетворяет условию

то говорят о сходимости этой последовательности к нулю по вероятности. Сходимость к нулю по вероятности записыва­ется в виде

Смысл сходимости по вероятности заключается в том, что вероятность нарушения неравенства при увеличении n становится сколь угодно малой.

Наконец, во многих приложениях теории вероятностей важ­ную роль играет сходимость в среднем квадратичном.

Определение 1.3. Если последовательность X₁, X₂, … , X_{n, …} случайных величин удовлетворяет условию

то говорят о сходимости этой последовательности к нулю в среднем квадратичном.

Сходимость к нулю в среднем квадратичном записывается в виде

При доказательстве центральной предельной теоремы нам понадобится понятие слабой сходимости последовательности функций распределения.

Определение 1.4. Последовательность функций распреде­ления F₁(x),...,F_n(x),... сходится к предельной функции рас­пределения F(x), если

для любых x, являющихся точками непрерывности F(x). Такую сходимость называют слабой сходимостью последователь­ности функций распределения и обозначают

Приведем пример последовательности случайных величин, для которой не имеет место сходимость всюду.

Пример 1.1. Рассмотрим бесконечное число испытаний по схеме Бернулли с равными вероятностями успеха и неудачи p=q=1/2. Последовательность X₁, X₂, … , X_{n, …,} где X_i - число успехов в i-м испытании, будет представлять собой последовательность независимых одинаково распределенных случайных величин.

Рассмотрим последовательность Y₁, Y₂, …, где

Представляет собой вычисленную по первым n испытаниям частоту успеха.

Далее будет показано, что последователь­ность Y₁,Y₂,...,Y_n,... сходится по вероятности к 1/2. Более того, имеет место так называемый усиленный закон больших чисел, согласно которому эта последовательность будет схо­диться к 1/2 с вероятностью 1.

Установим существование таких элементарных исходов ω, для которых числовые последовательности Y₁(ω), Y₂(ω), … , Y_n(ω)_{, …} не сходятся к 1/2. Это означает, что для последовательности Y₁, Y₂, … , Y_{n, …} случайных величин сходимость всюду не имеет места.

К определению слабой сходимости можно сделать несколько замечаний.

Замечание 1. Из слабой сходимости последовательности функций распределения еще нельзя сделать вывод о какой-либо сходимости последовательности самих случайных величин, так как даже одинаково распределенные случайные величины мо­гут быть заданы на совершенно разных вероятностных про­странствах.

Замечание 2. Требование сходимости в любой точке не­прерывности F(x) нельзя заменить более сильным требованием сходимости во всех точках х. Это подтверждает следующий пример.

Пример 1.2. Пусть на одном и том же вероятностном пространстве задана последовательность случайных величин X₁, X₂, … , X_{n, …} причем каждая случайная величина Х_n при­нимает всего одно значение 1/n. Тогда последовательность X₁, X₂, … , X_{n, …} будет сходиться к случайной величине для любого элементарного исхода ω (причем даже равномерно).

Тем не менее

При всех n, но

.

Приведенный пример показывает, что не стремится к F_Х(0), хотя естественно было бы ожидать сходимости к F_Х(x) в любой точке х, поскольку

при всех элементарных исходах ω. Разгадка этого парадокса заключается в том, что 0 является точкой разрыва F_Х(x), a при определении слабой сходимости функций распределения сходимости в таких точках мы не требовали.

Замечание 3. Если последовательность F₁(x),F₂(x),..., F_n(x),... функций распределения сходится к некоторой функ­ции F(x) в каждой точке непрерывности последней, то это не гарантирует слабой сходимости, поскольку F(x) может вообще не быть функцией распределения.

Пример 1.3. Пусть для всех n. Тогда

при каждом х. Но F(x) не является функцией распределения, так как

.

Значит, при определении слабой сходимости обязательно нужно требовать, чтобы предельная функция являлась функ­цией распределения.

Можно показать, что из сходимости с вероятностью 1 и из сходимости в среднем квадратичном следует сходимость по вероятности, а из сходимости по вероятности вытекает слабая сходимость функций распределения.