- •Введение в математическую статистику.
- •15) Лемма Неймана-Пирсона (рэндомизированный и нерэндомизированный вариант).
- •21) Проверка независимости признаков.
- •Пример:
- •24) Общая задача дисперсионного анализа.
- •25) Однофакторный, двуфакторный дисперсионный анализ. Однофакторный дисперсионный анализ
- •Двуфакторный дисперсионный анализ
- •26) Байесовская классификация.
- •27) Общая постановка задачи оценивания.
- •1) Минимаксный подход.
- •2) Байесовский подход
- •28) Достаточные статистики. Критерий факторизации. Достаточные статистики
- •Критерий факторизации
- •29) Условное матожидание, его своиства.
- •30) Теорема о ковариации.
- •31) Теорема Леммана Шафе. Алгоритм построения эффективных оценок.
- •Алгоритм нахождения эффективных оценок
- •32) Примеры вывода полноты.
- •33) Доверительный интервал и примеры. Доверительный интервал.
- •Примеры
- •34) Неравенство Рао-Крамера. Теорема Рао-Крамера
- •Пример 1.
- •Пример 2.
- •Пример 3.
Критерий факторизации
(необходимое и достаточное условие для достаточности статистики)
Для того, чтобы статистика была достаточной, необходимо и достаточно, чтобы ее плотность была представлена в виде:
p(x,)=q(T,)h(x) (*) (плотность зависит от параметра , только через q, h(x) от не зависит)
Доказательство:
Пусть T – достаточная статистика, покажем (*)
p0(x/T=t)=h(x)
p0(x/T=t)=
p(x)=
Доказательство в обратную сторону
Пусть (*) верна, докажем, что T – достаточная статистика.
Можем переписать все в обратном порядке
p0(x/T=t)= =T(x1(1),…, xn(1))=t
по равенству факторизации =
Зависимость от Q исчезают, т.е. условное распространение от не зависит, т.е. мы доказали равенство факторизации.
Пример: 1. Пусть Xi=R(0,) – равномерное распределение.
p(x,)=
p(x,)= =1/||(0,)(max xi) => выполняется тождество факторизации, т.е.
T(x)=max(xi) при i<n
в качестве h(x)=1
2. Пуассоновское распределение
p(x,)= =
h(x)= ,тогда достаточная статистика
T=или можно взятьx, 2x, но |x | - не можем взять.
3. Показательное распределение
p(x)=ex, x>0, - параметрическая плотность
p(x)=neXi , тогда T=-достаточная статистика
4. Экспоненциальные семейства.
p(x,)=h(x)exp{Ti(x)i()}r()
Достаточной статистикой является вектор T=(T1,…,Tk)
т.к. сама функция является параметрической от этокого вектора, надо уменьшить размерность вектора. Вся выборка является достаточной статистикой.
5. Нормальное распределение.
p(x)= -плотность
если m известно, то достаточная статистика = (xi-m)2
если m – не известно, то надо раскрыть квадрат.
=(m,2)
p(x)=
тогда достаточная статистика T(T1,T2), где
T1=; T2=
T1=x, T2=S2==
тогда S2 функция от x2 и x
29) Условное матожидание, его своиства.
1. Пусть X, Y – случайные величины.
p(x,y) – плотность распределения.
Определение: условная плотность распределения, при условии, что y фиксированое
p(x/y)=p(x,y)/p(y)
p(y+y<X<x+x / y<Y<y+y)=P(x<X<x+x , y<Y<y+y)/ P(y<Y<y+y)=
==этоможно брать в качестве условной плотности распределения
тогда мат.ожидание(условное) y-фиксированое
E(x/y)=
Рассмотрим мат.ожидание при условии, что какое-то событие A – фиксированое
E(x/A)= =
E(x/y) пусть A – не событие, а дискретно распределенная случайная величина, тогда
E(x/y)=E(x/A), где Y()=Y, А
Определение: Разбиением А множества называется набор подмножеств А из .
AiАj=, ij
E(x/A)=E(x/Ai), если Аi
E(x/A)=E(x/A) ||Ai() - формальное определение E при условии разбиения
Условное мат.ожидание обладает всеми свойствами мат.ожидания + другие свойства.
Пусть существуют 2 разбиения А и В. Пусть А>B
Мы говорим, что А является более мелким разбиением, чем B если любой элемент разбиения B является объединением элементов A.
Пусть Bi=jAij
E(E(x/A)/B)=E(x/B)
E(E(x/B)/A)=E(x/B)
Т.е. всегда получается распределение вокруг более грубого распределения.
Доказательство:
2) Если Bi, то E – одно и тоже y любого Aij, т.е. EBi не зависит от выбора Aij. Получается мат.ожидание постоянной и оно равно самой постоянной.
1) E(x/Ai)=
E(x/A)=
Предположим, что Bi=jAij, построим внешнее
=====E(x/B)
E(E(x/A))=Ex
Y - измеримо относительно разбиения {Y=y}А
E(XY/A)=YE(X/A)
Если E(X/A)=0, то E(X/Y)=0
Пусть существует конечное разбиение А, рассмотрим алгебру А (или -алгебру)
E(x/A)=E(x/F) мы можем по разбиению определить -алгебру и наоборот.
Можно определить мат.ожидание при условии алгебры, чтобы сохранились все свойства
Теорема: E(x/F) называется случайной величиной со следующими свойствами
АЕ(x/F)dp=Аxdp для всех AF
E(x/F) – измеримо относительно А
Тогда определение мат.ожидания однозначно
Если взять x, то (2) свойство никогда не выполнится, х неизмеримо относительно F, т.к. измеримость однозначна.
E(x/F)<a)F