Лекции по ЧМ и ТВ

которое называется распределением Стьюдента (У. С. Госсет, 1908, Student псевдоним) с n степенями свободы.

Задача, понятно, состоит в том, чтобы перейти в дифференциальной форме меры совместного распределения d PXY (x; y) к перемен-

15.1Теорема Муавра Лапласа

Кратко говоря, теорема гласит, что при фиксированном p распределение центрированной и нормированной величины K сходится к

(0; 1)-нормальному. Подробности обычно имеют следующий вид.

Теорема 49 (Муавр, 1730, Лаплас, 1812) Пусть K; n; p; q слу-

чайная величина и параметры, связанные с испытанием Бернулли (с. 114), n ! 1. Тогда:

1.Симметричная интегральная теорема Муавра-Лапласа.

P(k1 K k2) ! (x2) (x1),

132 Глава V. ТЕОРИЯ ВЕРОЯТНОСТЕЙ

p

Числа xi связаны с ki соотношением:p ki = n p+ xi n p q, аналогич- но, ниже: k = n p + x n p q.

x1

Утверждения 2 и 3 одновременно доказываются методом характеристических функций. Из теорем непрерывности и восстановления и из формул (V.4) и (V.5) следует, что достаточно установить сходи-

15.2Центральная предельная теорема

Теорема 50 (Ляпунов (1900), Линдеберг (1922), Феллер (1935)) Пусть (Xi) взаимно независимые случайные величины, ( Fi) èõ

Xj

формулой (формула Тейлора с остаточным членом в виде интеграла):

1

ei x = 1 + i x 2x2 2x2 Z (1 s)(ei s x 1) ds

2

0

Введем обозначения для последовательных вычитаемых в этой формуле и для их суммы (от n здесь зависит лишь ):

Тогда an ! e

134 Глава V. ТЕОРИЯ ВЕРОЯТНОСТЕЙ

jxj " sn

 bjn интеграл по d Fj(x) равен сумме интегралов по двум мно-

жествам: jxj " sn è jxj < " sn. Сумма по j интегралов по первому множеству стремится к нулю по условию Линдеберга. На втором множестве j xj ", поэтому сумма по j интегралов по нему оцени-

вается как O("), поскольку внутренний интеграл по d s имеет такую

Замечания. Центральная предельная теорема обобщает и теорему Муавра Лапласа, и слабые законы больших чисел. О значительности этой теоремы говорит ее название. Метод характеристических функций применил для доказательства Ляпунов, тем самым он одновременно и создал этот метод. В результате проблема доказательства превратилась в техническую задачу. Теорема имеет бесчисленное множество вариантов, один из которых здесь представлен. Феллер доказал необходимость условия Линдеберга.

16 Случайные функции

Конечный набор случайных величин, например, связанный с испытаниями Бернулли, последовательность случайных величин, случайный процесс все это частные случаи общего понятия случайной функции. Эти величины употребляются для моделирования случайных явлений распределенных на дискретном или непрерывном многообразии. Например температура воздуха на поверхности земли зависит не только от случая, но и от момента времени на годовом периоде и от места на Земле.

Случайная функция X(!; t) это, во-первых, функция двух переменных, одна из которых, !, принимает значения в вероятност-

ном пространстве, а другая, t в произвольном множестве T . Âî-

вторых, должны быть заданы конечные совместные распределения случайных величин X(!; t1), . . . , X(!; tn) при всевозможных на-

борах (t1; : : : ; tn) значений переменной t. При этом требуется, в- третьих, чтобы это множество конечномерных распределений было проективной системой вероятностных мер.

Случайная функция будет последовательностью, если T дискретно, и будет случайным процессом, если T время. Для краткости

случайные функции называют случайными процессами и просто

процессами.

Случайную функцию можно трактовать как случайную величину X(t), зависящую от параметра, и вычислять все ее вероятностные

характеристики. С другой стороны, ее можно исследовать как обыч- ную функцию от t, зависящую от случайного параметра !, диффе-

ренцировать по t, интегрировать и так далее. При фиксированном

! функцию X(t) называют реализацией случайной функции â èñ-

пытании !. Так как случайные величины часто значительно про-

ще описываются своими распределениями, можно случайную функ-

цию рассматривать как функцию распределения FX (x; t), завися- щую от параметра. Если нужно рассматривать несколько значений параметра, то необходимо пользоваться совместным распределени-

åì: F(x1; : : : ; xn; t1; : : : ; tn).

Математическим ожиданием случайной функции называют математическое ожидание случайной величины при фиксированном

Корреляционная функция (комплексной) случайной функции характеризует степень статистической зависимости случайных вели- чин, порожденных функцией при различных значениях параметра:

KX (t; u) = M((X(t) M(X(t)))(X(u) M(X(u))))

Правильнее ее называть ковариационной; называют ее также: ковариацией, автоковариацией, автокорреляционной и автоковариационной функциями, функциями корреляции и ковариации.

Нормированная корреляционная функция это просто коэффициент корреляции величин X(t) è X(u):

k (t; u) = KX (t; u)

X X (t) X (u)

Статистическую связь между двумя различными случайными функциями характеризует взаимная корреляционная функция:

KXY (t; u) = M((X(t) M(X(t)))(Y (u) M(Y (u)))), которую также можно еще и нормировать.

Случайная функция называется стационарной в широком смысле, если ее математическое ожидание и ковариация не изменяются при сдвиге времени. Это означает, что математическое ожидание не зависит от t, а функция ковариации зависит лишь от разности t u.

Случайная функция называется стационарной в узком смысле, если ее конечномерные распределения не зависят от точки отсчета

Эти факты оправдывают слово мера в названиях величин F ( d ) è Z( d ).

Замечания.

Спектральная и стохастическая меры процесса связаны соотношением

M(jZ( d )j2) = F ( d )

Среди свойств случайных процессов встречаются совершенно удивительные. Одно из них относится к модели броуновского движения движения взвешенной в жидкости частицы под действием толчков окружающих ее молекул. Приходится мириться с тем, что с вероятностью 1 траектория этой частицы дает пример

непрерывной, но не имеющей производной ни в одной точке, функции. Тот факт, что и для такой пакости нашелся "физический смысл", может быть поучителен для студентов, которые любят спрашивать: зачем нужна та или другая математическая конструкция?

16.2Марковский процесс

Цепью Маркова (Aj(n))n=1;2;::: называется последовательность испытаний вероятностного пространства с конечным или счетным множеством исходов fAjg, если исход любого испытания Aj(n) зависит

только от исхода предшествующего испытания Ak(n 1). Предположим, что цепь Маркова однородна, иначе говоря, что

эти зависимости не зависят от n. Тогда стохастическое описание цепи полностью определено заданием начальных (в момент

стояния Ai в состояние Aj в любой момент времени n.

Рассматриваются также цепи Маркова с дискретным или непрерывным временем, когда испытание производится в заранее определенные или в заранее неизвестные моменты времени, а также цепи с более сложным вероятностным пространством. Тогда марковское свойство будет состоять в том, что следующее состояние цепи (исход очередного испытания) статистически зависит лишь от настоящего состояния, то есть, не зависит от предшествующих состояний. Такие величины называют марковскими процессами.

Ясно, что последовательность независимых испытаний это цепь Маркова с матрицей pij = pj. На первый взгляд может показаться,

что понятие цепи Маркова лишь немного расширяет понятие испытаний Бернулли. Однако простым приемом можно к цепи Маркова свести любую последовательность испытаний, в которой каждый исход зависит только от фиксированного конечного числа k ïðåä-

шествующих исходов. Прием состоит в том, что цепь заменяется на эквивалентную ей цепь, состоящую из k-цепочек испытаний исход-

íîé öåïè.

Согласно определению условной вероятности совместные распределения исходов начальных последовательных испытаний опреде-

P

lk

Вероятности перехода образуют матрицу перехода P=( pij). Сумма элементов каждой строки этой матрицы равна 1, поскольку цепь

изиспытаниилюбого .состоянияЯсно, чтонавернякаи P перейдет в какое-нибудь при новом pj = 1.

Простейшая задача для цепей Маркова состоит в определении ве- роятностей pij(n) перехода из состояния i в состояние j после n

ßñíî, ÷òî pij(1) = pij. Из этих соотношений следует, что

P(n) = Pn

Затем ставятся вопросы о предельных распределениях. Когда существует предел матрицы перехода P(n), по нему можно судить,

куда эволюционирует марковский процесс. Предельные распределения, которые фигурируют в обобщениях на цепи Маркова закона больших чисел и центральной предельной теоремы, можно успешно использовать вместо распределений самой цепи, когда они неизвестны.

Пример 38. Исправим испытание подбрасывания монеты в соответствии с принципом: снаряд два раза в в одно место не падает. Положим, что при первом подбрасывании орел и решка выпадают равновероятно, а при следующих орел

следует за орлом или решка за решкой с вероятностью p < 1=2. Тогда получается

p q

роятности исходов сближаются. Наблюдается чередование: после четного числа испытаний вероятность повторения исхода становится больше вероятности его изменения. Это естественно, ведь в предыдущем, нечетном, испытании начальный исход скорее изменился, чем сохранился. Наконец, если p = q, то цепь

оказывается последовательностью независимых испытаний. Предельная матрица перехода P(1) определяет цепь независимых испытаний; этого следует ожи-