Свойства:
1)
при
2) если
,
то
3)
,
т.е.
,
т.е. формула полной вероятности.
Пусть
– случайная величина со значениями в
.
где
;
разбиение
– порождено случайной величиной
.
Определение.
– условная вероятность события
при условии случайной величины
.
Заметим, что
.
Аналогично,
если
– случайные величины,
– разбиение порожденное
с атомами
Обозначим
.
Определение.
измерима относительно
,
если
т.е. если
Теорема.
Пусть
– простая случайная величина,
– простая случайная величина и
.
Пусть
.
Тогда
функция
,
такая, что
.
Доказательство.
Определим
для всех различных
таких, что
Теорема доказана.
Аналогично,
если
,
то для любой случайной величины
такая, что
Пусть
– случайная величина на
.
разбиение
;
.
Определение. Условное математическое ожидание относительно разбиения .
где
Определение.
.
Свойства условных математических ожиданий.
1)
2)
при
3)
4)
5)
– формула полной вероятности
6) если
,
то
;
в том числе
7) если
,
то
8) если
и
независимы, то
9)
10)
Доказательства свойств 1), 2), 3), 4), 8), 9) очевидны.
Доказательство свойства 5).
Доказательство свойства 6).
Так как
; 
при
,
то свойство доказано.
Доказательство свойства 7).
следовательно,
Пусть
;
;
.
.
Т.е. для доказательства свойства достаточно показать, что справедлива
Так как
то
что и
доказывает (
)
.
Доказательство свойства 10) следует из 7).
Пусть – конечное вероятностное пространство.
,
.
Определение.
Последовательность случайных величин
называется мартингалом
относительно потока
,
если
1)
2)
.
Можно
считать, что
.
Следовательно
.
Пусть
.
Определение.
Случайная величина
со значениями
называется моментом остановки
относительно потока
,
если для любого
случайная величина
- измерима, т.е.
-
- момент остановки.
Пример.
так как
;
;
и т.д.
Теорема.
Пусть
– мартингал и
– некоторый момент остановки относительно
разбиения
.
Тогда
где
и, следовательно,
.
Доказательство.
следовательно,
Теорема доказана.
Задача о разорении.
Пусть
–количество денег 1-ого игрока,
– количество денег 2-ого игрока. Введем
последовательность
.
; 
;
;
;
независимы.
Обозначим момент разорения
одного из игроков
:
Поскольку
– мартингал
,
т.е.
;
Так как
то
При этом
– мартингал, следовательно,
Таким образом
среднее время игры равно
.
2. Некоторые задачи и определения математической статистики
Рассмотрим схему серий Бернулли с
.
Пусть
(и
)
– неизвестны заранее, а наблюдаемы
.
Вместо
традиционно используется
– неизвестный оцениваемый параметр.
Возможны две постановки задачи:
1) задача оценивания;
2) задача построения доверительных интервалов.
Пусть
(здесь
).
Следовательно,
задана статистическая модель
с
отвечающая независимым испытаниям.
Всякую
функцию
назовем оценкой.
Определение.
Оценка
состоятельна, если
Определение. Оценка несмещенная, если
где
отвечает мере
.
Определение.
Оценка
эффективна (в классе несмещенных
оценок
),
если
Пример.
Если
и
,
то из закона больших чисел следует, что
т.е.
– состоятельная оценка в схеме Бернулли,
следовательно, – несмещенная. Но любая оценка
с
несмещенная, и при
– состоятельная, а вот эффективна ли
она? Ответ – в так называемом неравенстве
Рао-Крамера.
Теорема. Для несмещенных оценок справедливо неравенство
где
– информация Фишера.
где
– функция правдоподобия (логарифмическая),
Доказательство.
Продифференцируем по :
и, следовательно, по неравенству Коши-Буняковского
т.е.
где
Неравенство доказано (в том числе для общей схемы, не обязательно для схемы Бернулли).
Покажем с помощью неравенства Рао-Крамера, что в схеме Бернулли –эффективная оценка.
следовательно,
но
следовательно,
а для всякой другой
следовательно, – эффективна.
Из закона
больших чисел при
и, следовательно,
для любого
поэтому,
и, следовательно,
Определение.
Интервал вида
,
где
и
– две функции элементарных событий
называется доверительным интервалом
надежности
или доверительным интервалом с уровнем
значимости
,
если для любого
В примере имели место равенства
