Байесовское объединение свидетельств

Определение.6. Свидетельством события e относительно гипотезы H называется значение условной вероятностной меры P(H/e).

Определение.7. Пусть дан некоторый набор альтернативных гипотез H={H_i:H_iH_j=}, составляющих полную группу событий, и известны априорные условные распределения {p(e/H_i),H_iH}. Тогда байесовским свидетельством для события e относительно гипотезы H_i называется значение апостериорной вероятности P(H_i/e), вычисляемое на основе априорных распределений согласно формуле Байеса.

Определение.8. Пусть дано множество условно независимых событий E={e_k} и известен соответствующий набор свидетельств относительно некоторой гипотезы H - {P(H/e_k), e_kE}. Правилом объединения свидетельств событий из E в пользу гипотезы H называется любая коммутативная и ассоциативная операция _H:[0,1]x[0,1][0,1]. Результат объединения _H(H/A)=_H{P(H/e_k), e_kA }, AE будем называть суммарным свидетельством относительно операции _H.

Определение.9. Пусть даны: некоторый набор альтернативных гипотез H={H_i:H_iH_j=}, составляющих полную группу событий, и множество условно независимых событий E={e_k} вместе с соответствующим набором свидетельств {P(H_i/e_k),H_iH,e_kE}. Байесовским правилом объединения свидетельств событий из E в пользу гипотезы H называется такое правило объединения свидетельств _H, что, если {P(H_i/e_k),H_iH,e_kE} - байесовские свидетельства, то _Hi(H/A)=P(H_i/A), где P(H_i/A) - соответствующая байесовская апостериорная вероятность гипотезы H_i по свидетельству группы событий {e_kA}, AE.

Заметим, что правило объединения свидетельств может оставаться байесовским даже если оно применяется для объединения небайесовских свидетельств. Конечно, при этом результат его применения не будет давать правильного байесовского значения, однако, значение результата было бы правильным, если бы свидетельства были бы байесовскими.

Как известно, существует единственное (с точностью до формы записи) байесовское правило объединения. В данной работе мы будем использовать следующую форму записи:

P(H_i/E={e_k})=[P(H_i)_k{P(H_i/e_k)/P(H_i)}]/

_j[P(H_j)_k{P(H_j/e_k)/P(H_j)}] (.10)

Соответствие выражения (.10) определению 2.9 проверяется непосредственной подстановкой в него байесовских выражений для апостериорной вероятности.

В последнее время вместо байесовского объединения свидетельств часто предлагают использовать метод Демпстера-Шафера.

Оба эти подхода, вообще говоря, основаны на теореме Байеса. Основная разница между ними заключается в следующем:

1) БП предполагает задание P(e/H), а ДШ опирается на P(H/e), где P(e/H) - условная вероятность свидетельства e при условии, что гипотеза H истинна, а P(H/e) есть апостериорная вероятность H при условии наблюдения e, выступающая непосредственно в качестве меры свидетельства события e в пользу гипотезы H.

2) при байесовском подходе формируется непосредственная оценка апостериорной вероятности гипотезы P(H/E), где E={e_k} - совокупность свидетельств, а при подходе ДШ вычисляются мера доверия Bel(H/E) и достоверность Pls(H/E), являющиеся соответственно нижней и верхней границами P(H/E).

3) в подходе ДШ вводится в рассмотрение понятие достоверности свидетельтва P(e/E), которая может учитываться при формировании Bel(H/E) и Pls(H/E).

Доказана следующая связь между БП и ДШ: в том случае, когда P_ДШ(H/e) есть байесовская апостериорная вероятность, "eÎE: P(e/E)=1, и оценка P(H/E) может быть непосредственно сформирована, Bel(H/E)=P_БП(H/E)=Pls(H/E). Иными словами, для описанной выше задачи тестирования простых альтернативных гипотез, подход ДШ включает БП как частный случай.

Источники по разделу:

1. Волошин Г.Я., МЕТОДЫ РАСПОЗНАВАНИЯ ОБРАЗОВ (конспект лекций), http://www.vvsu.ru/

2. А.Б.Мерков, О статистическом обучении, http://www.recognition.mccme.ru/pub/RecognitionLab.html/slt.html

3. Data Miner System & Scoring StatSoft, http://www.spc-consulting.ru/DMS/

4. http://redyar.samara.ru/stat/

РЕКОМЕНДУЕМАЯ ЛИТЕРАТУРА

1. Айзерман А.А., Браверман Э.М., Розоноэр Э.И. Метод потенциальных функций в теории обучения машин. – М.: Наука, 1970.

2. Волошин Г.Я., Бурлаков И.А., Косенкова С.Т. Статистические методы решения задач распознавания, основанные на аппроксимационном подходе. – Владивосток: ТОИ ДВО РАН, 1992.

3. Горелик А.Л., Скрипкин В.А. Методы распознавания. – М.: Высш. шк., 1977.

4. Дуда Р., Харт П. Распознавание образов и анализ сцен. – М.: Мир, 1976.

5. Загоруйко Н.Г. Методы распознавания и их применение. – М.: Сов. радио, 1972.

6. Загоруйко Н.Г., Ёлкина В.Н., Емельянов С.В., Лбов Г.С. Пакет прикладных программ ОТЭКС. – М.: Финансы и статистика, 1986.

7. Патрик Э. Основы теории распознавания образов. – М.: Сов. радио, 1980.

8. Фу К.С. Последовательные методы в распознавании образов и обучении машин. – М.: Наука, 1971.

9. Фу К.С. Структурные методы в распознавании образов. – М.: Мир, 1977.

2.2. Структурное описание и распознавание объектов на изображениях. Структурный подход. Элементы и отношения. Теория образов Гренандера. Структурно-лингвистическое распознавание. Порождающие грамматики. Распознавание цепочек символов. Сравнение графов. Автоматизированное конструирование алгоритмов обнаружения объектов на основе преобразований модельных описаний объектов.

Структурное описание и распознавание объектов на изображениях.

Структурный подход. Элементы и отношения. Теория образов Гренандера. Структурно-лингвистическое распознавание. Порождающие грамматики. Распознавание текстовых цепочек.

Выделение правильных геометрических фигур. Выделение искусственных объектов. Выделение первичных черт на изображениях: углы, отрезки, дуги, особые точки. Практические примеры: распознавание треков частиц, векторизация карт и чертежей.

Утончение. Скелетизация. Типы особых точек: узловые, концевые. Практические примеры: построение модели ДНК, выделение зданий на аэрофотоизображениях.