СМОД – Статистические методы обработки данных / Лаба 1 - 8 / smodlabs / по смоду / шпоры_2006г / 12

12.Байесовский метод

Он отличается от метода макс. правдоподобия постановкой задач. Как и в методе максимума апостариорной плотноси вероятности считается известна с точностью плотность вероятности . Параметр –случайный вектор, который принял на время извлечения выборки какое-то значение, которое и требуется оценить.

Известна плотность вероятности вектора это

Требуется по выборке найти оценку , минимизирующую средний риск

С редним риском наз-ся мат. ожидание функций потерь

- скалярная случайная величина. Байесовский метод состоит в том, что оценки опред-ся из условия минимума среднего риска,т.е. как решение

Н а практике применяется квадратичная функция потерь. Для скалярного она имеет вид:

Для векторного параметра , -вектор столбец

Решим эту задачу упрощенно. Найдем средний риск:

По теореме умножения для случайных векторов можно записать:

Т.к. , то выражение для риска можно записать в виде:

Введем понятие условного риска (1)

Тогда (*)

(*) принимает мин. значение, если мин. значение принимает условный риск R.

Байесовская задача: минимизация условного риска R, где -апостериорная плотность вероятности параметра , определяется по формуле байеса, т.е. алгоритм:

1) записать функцию правдоподобия (3)

2)найти (2)

3)найти условный риск R (1)

4) найти из условия Rmin

Решение задачи упрощается при квадратичной функции потерь, при оценивании скалярного параметра:

Найти: параметра , при

Задача сводиться к минимизации условного риска.

Решение:

,

- байесовская оценка – это апостериорное мат.ожидание