дов

Колмогорова. Сходимость по Чезаро и связь с обычной сходимостью. Усиленный закон больших чисел для разно распределенных случайных величин со вторым моментом. Усиленный закон больших чисел Колмогорова для одинаково pаспределенных случайных величин.

Слабая сходимость распределений. Эквивалентность двух определений (на языке интегралов и функций распределений). Связь сходимости по вероятности и слабой сходимости.

ЗАДАЧИ ИЗ ПРАКТИКИ (не включается среднее значение, дисперсия и т.д.), будут две задачи из всего предшествующего (события, формулы, независимость, случайные величины, случайные векторы, их распределения и распределения функций, в том числе независимые случайные величины).

Вопросы, на которые нужно отвечать сразу:

1)Определение независимых событий. Нужно понимать, что верно и обратное, если вероятность произведения равна произведению вероятностей, то эти события независимы, даже если на первый взгляд кажутся зависимыми. Верно и противоположное, если нужного равенства вероятностей нет, то события зависимы.

2)События, независимые в совокупности. Вероятность произведения равна произведению вероятностей для любого поднабора.

3)Несовместные события, их нельзя путать с независимыми. Нужно понимать, что для несовместных A и B имеет место P(A [ B) = P(A) + P(B) (мы пишем, используя дополнительную нагрузку на символ, P(A + B) = P(A) + P(B)). Это частный случай формулы сложения, используется при решении задач. Для независимых событий верна другая формула (ее помнить не обязательно) P(A [ B) = P(A) + P(B) P(A)P(B).

Итак, формула P(A + B) = P(A) + P(B) будет использоваться в самых разных вариантах. Например, P(A) = P( ) P(A) частный случай формулы P(A) = P(A + B) P(B). Итак, для вычисления (или оценки сверху) вероятности события его нужно разбить на несколько несовместных событий, каждое из которых легче вычислить (или оценить).

4)Определение условной вероятности.

5)Вычисление вероятности попадания случайного вектора в множество в дискретном и непрерывном случаях. Приведем алгоритм для двумерного случайного вектора ( ; ). В дискретном случае знание распределения означает знание всех вероятностей

X

Pf( ; ) = (xi; yi)g = pi; где pi = 1:

i

Итак, для вычисления Pf( ; )g, надо сложить все числа pi, для которых (xi; yi) 2 B. Например, для вычисления Pf = xg надо сложить все числа pi, для которых xi = x (в этом случае

B = fxg R).

Аналогично, в непрерывном случае мы должны взять интеграл по B от совместной функции плотности. Обратно, это равенство является определением совместной функции плотности. Поэтому в двумерном случае функция плотности задается интегралом (точнее, может быть задана интегралом, так как функция плотности задана с точностью до значений на множестве

B R

6) Определение независимости случайных величин: и :

Pf( ; ) 2 B1 B2g = Pf 2 B1g Pf 2 B2g:

231

В дискретном случае нужно проверить, что для всех возможных значений x и y случайных величин и имеет место равенство

Определение получается сложением этих равенств по всем возможным значениям x 2 B1 и y 2 B2 случайных величин и . В непрерывном случае для независимости необходимо и достаточно разложение

для всех x и y, за исключением множества лебеговой меры нуль.

7)Как записывается совместная функция плотности независимых случайных величин 1,2,..., n, имеющих одну и ту же функцию плотности p.

8)Вычисление среднего в дискретном случае

X

E = xiPf = xig;

i

суммирование по всем возможным значениям xi случайной величины . Соответственно, если заданы вероятности значений случайного вектора ( ; ), то

X

E = xiPf = xi; = yig;

i

суммирование по всем возможным значениям (xi; yi) случайного вектора ( ; ). 9) Вычисление среднего в непрерывном случае

Z

E = xp (x)dx:

R

Соответственно, если задана совместная плотность случайного вектора ( ; ), то

Z Z

E = xp ; (x; y)dxdy:

RR

10)Аддитивность среднего, константа выносится из под знака среднего, среднее константы равно этой константе, в частности E(E ) = E (среднее значение это константа).

11)Среднее произведения независимых случайных величин равно произведению средних.

12)Два определения дисперсии:

D = E( E )2 = E 2 (E )2:

13. Свойства дисперсии дисперсия не меняется при сдвиге случайной величины на константу (D = D( + c)), при умножении случайной величины на константу ее дисперсия умножается на квадрат константы, и, наконец, дисперсия суммы независимых случайных величин равна сумме дисперсий.

14)Параметры нормального распределения: m среднее, 2 дисперсия.

15)Определение функции распределения, ее связь с функцией плотности.

Требование отвечать на эти вопросы сразу вынужденно. Все это многократно используется, и если не воспринимать эти вещи как очевидные, то вы не будете успевать понимать лекции в следующем семестре. Так что рекомендуется несколько раз все это повторить, причем в конце ваших занятий, когда вы устали. Спрашиваться это будет в конце экзамена.

232

Экзамен по математической статистике

Кроме материала курса математической статистики надо на уровне определений и формулировок знать следующий материал:

Квадратичная форма. Вращение квадратичной формы. Ортогональная матрица, связь с ортонормированным базисом. Дополнение ортонормированной системы до ортонормированного базиса. Независимые события. Условная вероятность, формула полной вероятности. Формула полной вероятности для плотности и условной плотности. Распределение Бернулли. Распределение Пуассона. Нормальное распределение. Экспоненциальное распределение. Равномерное распределение. Лемма о вращении стандартного нормального случайного вектора. Независимые случайные величины. Свойства функций независимых случайных величин. Совместная плотность независимых случайных величин. Совместная плотность одинаково распределенных независимых случайных величин. Среднее, дисперсия, коэффициент корреляции. Алгебраические свойства среднего и дисперсии. Две формулы для дисперсии. Сходимость по вероятности. Закон больших чисел. Слабая сходимость распределений, эквивалентность двух определений. Где в курсе математической статистики используются все эти понятия и результаты? (Весь раздел без доказательства)

Программа

Характеристическая функция. Элементарные свойства характеристической функции. Формула обращения. Теорема единственности.

Теорема о слабой компактности. Критерий слабой компактности в пространстве функций распределения. Неравенство для усечений. Доказательство теоремы непрерывности.

Вычисление характеристической функции нормального распределения.

Применения характеристических функций. Центральная предельная теорема для одинаково распределенных слагаемых. Центральная предельная теорема в схеме серий (теорема Линдеберга). Аппроксимация распределения 2 и Стьюдента нормальным распределением. Моделирование нормального распределения

Многомерная характеристическая функция, элементарные свойства и многомерные теорема единственности и непрерывности (без доказательств). Определение многомерного нормального распределения общего вида (возможно, вырожденного). Многомерная центральная предельная теорема.

Эмпирическое распределение и его характеристики. Вероятностные и статистические модели. Примеры моделей. График эмпирической функции распределения. Оценивание параметров. Состоятельные оценки. Несмещенные оценки. Несмещенная оценка среднего и дисперсии в нормальной модели.

Эффективные оценки. Неравенство Рао Крамера. Теорема о том, что эффективная оценка является оценкой максимального правдоподобия. Алгоритм нахождения эффективной оценки (если она существует). Эффективная оценка среднего в нормальной модели. Оценка дисперсии в нормальной модели. Контрпример для эмпирического среднего (как оценки среднего равномерного распределения).

Состоятельная оценка. Примеры и контрпример для модели Коши. Теорема о состоятельности оценки максимального правдоподобия (без доказательства неравенства Йенсена). Пример.

Доверительные интервалы. Построение доверительного интервала для среднего (при неизвестной дисперсии) и для дисперсии (при неизвестном среднем). Связь понятия состоятельной оценки и понятия доверительного интервала.

Достаточные статистики и теорема факторизации.

Проверка статистических гипотез. Критерий Стьюдента (условия применения и вывод). Критерий 2. Вывод предельного распределения статистики 2 (с использованием многомерной центральной предельной теоремы). Оценка минимума 2. Случай нескольких параметров. Применение для проверки независимости двух признаков. Критерий Колмогорова Смирнова и сведение вычисления уровня значимости к случаю равномерного распределения. Критерий знаков. Эмпирический коэффициент корреляции и вывод его распределения в предположении независимости в нормальной модели. Проверка независимости в нормальной модели.

233

Ранговые критерии (понятие). Критерий однородности, критерий серий. Критерий Вилкоксона. Асимметрия и эксцесс. Проверки на нормальность выборки. Критерий Фишера.

Задача сравнения гипотез. Лемма Неймана – Пирсона. Равномерно наиболее мощные критерии. Примеры существования и несуществования равномерно наиболее мощных критериев. Область безразличия.

Последовательный критерий Вальда.

Последние вопросы прочитать по данному электронному учебному пособию. Регрессия. Корреляция. Факторный анализ. Метод главных компонент.

В зависимости от посещения практических занятий может быть предложен вопрос построения доверительных интервалов или проверки гипотезы на конкретных числах. Если в программе имеются вопросы, которых не было на лекциях (за исключением последнего раздела), то на основании своих (!) лекций это можно доказать.

234

Зачет по теории случайных процессов

Кроме материала курса теории случайных процессов надо на уровне определений и формулировок знать следующий материал:

Независимые события. Условная вероятность, формула полной вероятности. Распределение Бернулли. Распределение Пуассона. Нормальное распределение. Экспоненциальное распределение. Независимые случайные величины. Свойства функций независимых случайных величин. Совместная плотность независимых случайных величин. Совместная плотность одинаково распределенных независимых случайных величин. Среднее, дисперсия. Алгебраические свойства среднего и дисперсии. Две формулы для дисперсии. Сходимость по вероятности. Закон больших чисел. Характеристическая функция. Формула обращения. Теорема единственности. Элементарные свойства характеристической функции. Вычисление характеристической функции нормального распределения. Центральная предельная теорема для одинаково распределенных слагаемых. (Весь раздел без доказательства). Где в курсе теории случайных процессов используются все эти понятия и результаты?

Основные понятия теории случайных процессов (отвечать сразу определения и формулировки)

1.Что такое случайный процесс с непрерывным и дискретным временем.

2.Среднее процесса и ковариация процесса

3.Совместные распределения процесса

4.Свойства траекторий процесса

5.Аксиомы винеровского процесса. Одномерные распределения винеровского процесса со сносом и диффузией

6.Аксиомы пуассоновского процесса. Одномерные распределения пуассоновского процесса

7.Что такое стационарный случайный процесс

8.В чем состоит линейный прогноз стационарного процесса. На что происходит проектирование

9.Что такое спектральная плотность стационарного случайного процесса.

10.Что такое стохастический интеграл Ито, какие у него интегральные суммы?

11.Что такое мартингал?

12.Что такое процесс случайного блуждания?

13.Что такое однородная цепь Маркова?

Программа

Лемма Бореля Кантелли. Критерий Коши сходимости ряда почти наверное. Неравенство

Колмогорова. Сходимость по Чезаро и связь с обычной сходимостью. Усиленный закон больших чисел для разно распределенных случайных величин со вторым моментом. Усиленный закон больших чисел Колмогорова для одинаково pаспределенных случайных величин.

Одномерное случайное блуждание. Задача о пьяном гуляке и принцип отражения. Задача о баллотировке. Марковское свойство случайного блуждания. Задача о постоянном везении. Задача о возвращении случайного блуждания в начало на прямой, на плоскости, в пространстве. Задача о продолжительном везении. Распределение арксинуса.

Марковский процесс и цепь Маркова. Однородная цепи Маркова. Переходные вероятности. Задача о возвращении для однородной цепи Маркова со счетным числом состояний. Теорема о существовании инвариантного состояния у цепи Маркова.

Пуассоновский и винеровский процессы: параметры, вывод распределений, ковариация, совместное распределение . Производящая функция. Процессы гибели и размножения.

Оценка параметров сноса и диффузии процесса Винера. Теорема Колмогорова о непрерывности траекторий. Непрерывность траекторий процесса Винера. Применение сходимость почти наверное к коэффициенту сноса процесса. Недифференцируемость траекторий винеровского процесса.

Марковские процессы. Диффузионные процессы.

Стационарные процессы. Прогноз для стационарного процесса. Процессы скользящего среднего и авторегрессии. Процесс Орнстейна Уленбека.

235

Интеграл Ито. Формула Ито. Два вывода R0T wtdwt. Пример применения формулы Ито для решения одного стохастического дифференциального уравнения.

Заряды. Теоремы Хана и Радона Никодима. Понятие об условном среднем. Условная вероятность относительно -алгебры. Мартингалы. Теорема Дуба о почти наверное сходимости мартингала. Мартингалы в финансовой математике. Задача об оптимальном моменте остановки. Применение: задача о разборчивой невесте.

236

ТАБЛИЦЫ ВЕРОЯТНОСТЕЙ (см. [30])

Таблица 1. Функция распределения стандартного нормального распределения:

Горизонтальная часть таблицы указывает сотые доли x. Значения умножены на 104.

237

Таблица 2. (1 p)-квантиль q распределения 2: Pf 2n > qg = p.

238

Таблица 3. (1 p)-квантиль q распределения Стьюдента случайной величины tn: Pftn > qg = p.

239

Таблица 4. 0:95-квантиль q распределения Фишера случайной величины

Таблицы, используемые при проверке выборки на нормальность

В следующих таблицах для выборки (x1; :::; xn) используются стандартные обозначения:

Таблица 5. (1 p)-квантиль q распределения выборочной характеристики эксцесса в нормальной модели с выборкой (x1; :::; xn)

Таблица 6. (1 p)-квантиль q распределения выборочной характеристики асимметрии g1 в нормальной модели с выборкой (x1; :::; xn)

Число в таблице q определяется равенством P fg1 > qg = p:

240