Стохастический подход при рассуждениях в условиях неопределенности (байесовские рассуждения).

Эти рассуждения основаны на формальной теории вероятности. Существует ряд ситуаций, в которых такой подход уместен и полезен.

Во – первых, это случай, когда анализируемая информация действительно носит случайный характер. Например, анализируются измерения с помехами в условиях большого числа вредных факторов. Этот случай называется «случайный мир».

Во – вторых, это случай, когда анализируемые события могут быть и не совсем случайными, но для них неизвестны причинно – следственные связи. Тогда причинно – следственный анализ провести нельзя и полезной альтернативой ему являются статистические корреляции между причинами и следствиями. Этот случай называется «нормальный мир».

Теория Байеса обеспечивает в этих двух случаях вычисление сложных вероятностей на основе случайной выборки событий.

Здесь фигурируют:

• априорная вероятность, часто называемая безусловной, используется для анализа события при отсутствии знаний, поддерживающих его поступление;

• апостериорная (условная) вероятность, когда для события известны основания, поддерживающие его наступление.

P (событие) – априорная вероятность;

P (событие/основание) – апостериорная вероятность.

Рассмотрим наглядный пример из медицинской практики.

Пусть d – это некоторое заболевание, находимое у человека;

s – симптом этого заболевания.

Формула Байеса для одного симптома и одного заболевания проста:

;

Важная особенность этой формулы, что числа в правой части получить гораздо легче, чем число в левой части. Действительно, гораздо легче определить среди заболевших одной болезнью людей тех, у кого есть какой-то определенный симптом (например, головная боль), чем среди всех людей с головной болью искать тех, у кого есть определенная болезнь.

В качестве оценки этой вероятности используется следующее соотношение:

;

P(d/s) – это число элементов пересечения множеств d и s, деленное на число элементов множества s.

Для случая одной болезни и одного симптома в таких вычислениях участвует не очень много чисел, и трудности они не вызывают. Трудности начинаются тогда, когда имеется целый ряд заболеваний из области D, которым соответствуют комплексные симптомы S₁,…,S_n из множества симптомов S.

Для того, чтобы провести анализ каждой болезни из множества D и каждого симптома из множества S, необходимо собрать и интегрировать апостериорных и априорных вероятностей. Анализ становится намного сложнее.

Рассмотрим близкий к практике случай.

Пусть выявляется некоторое заболевание d при учете врачами симптомов s₁, s₂,…, s_n.

Формула Байеса для этого случая имеет вид:

.

В реальной медицинской системе, использующей эту формулу и включающей 200 заболеваний и 2000 различных симптомов, потребовалось собрать 800 000 000 единиц информации, которая включала априорные вероятности событий, пар событий, троек событий и т.д. и апостериорные вероятности для одного, двух, трех и т.д. событий.

В самой общей форме формула Байеса для гипотезы H_i, которая следует из основания E, которое в свою очередь поддерживается гипотезами H_k, имеет вид:

. (*)

Для применения этой формулы существует два требования:

• должны быть известны вероятности взаимосвязи основания E со всеми анализируемыми гипотезами H_i;

• должны быть вычислены все условные вероятности P(E/H_k) между основаниями и всеми гипотезами, которые их поддерживают.

Выполнение последнего требования на практике особенно трудно, и ситуация усугубляется еще и тем, что как только выявились новые взаимосвязи между гипотезами и основаниями, необходимо перерасчитывать всю эту таблицу условных вероятностей. Такой подход стоит очень дорого.

Рассмотрим наглядный пример.

Пусть на дороге, где ничего не предвещало пробку, происходит замедление движения. Априорно две возможные причины этого события – ремонт дороги или авария. Если на дороге появляются люди в оранжевых комбинезонах, то это, скорее всего, рабочие. Принимается версия ремонта, а авария отбрасывается. И наоборот, если появляется машина скорой помощи с мигалкой, то принимается версия об аварии.

Для применения байесовского подхода к анализу такой ситуации необходимо изобразить ее в виде графа, где вершинами будут события, а ветви отражают взаимосвязи между событиями.

Далее каждому событию и, соответственно, вершине графа ставится в соответствие логическая переменная (C, A, B, T, L). Каждая из этих переменных может принимать два значения:

t – true, f – false.

Рассмотрим, как меняется вероятность ремонта дороги при применении формулы Байеса.

Априорно оба события равновероятны, и, соответственно, вероятность ремонта P(C)=0,5.

При условии замедления движения вероятность ремонта дороги с учетом (*) может быть записана в виде:

.

Вероятности для расчета по этой формуле берутся из статистических данных.

Например, для штата Нью-Мехико P(C=t, T=t)=0,3; P(C=f, T=t)=0,1. Если подставить их в полученную формулу, то P(C/T)=0,75.

Если аналогично учесть появление комбинезонов, то вероятность еще возрастет. И тогда, как и для случая естественного интеллекта, случай аварии можно будет отбросить.

Объединенная вероятность, которая нужна для полного анализа всех этих событий, имеет в данном случае вид:

P(C, A, B, T, L) = P(C)P(A/C)P(B/C, A)P(T/C, A, B)P(L/C, A, B, T).

Для рассматриваемого простого примера с пятью параметрами потребуется рассчитать таблицу объединенной вероятности размером 2⁵=32. Для ситуации с тридцатью параметрами потребуется уже таблица с биллионом элементов (2³⁰)~10⁹.

Таким образом, здесь встает вопрос о сложности вычислений. Разрешается он с помощью байесовских сетей доверия. Сложность уменьшается путем фокусировки поиска на меньшем множестве наиболее адекватных событий и свидетельств. Человек-эксперт в этом случае при построении рассмотренного выше графа выбирает локальные явления, которые заведомо связаны друг с другом. Как говорят, выделяет кластеры событий. И вероятности считаются не для всех событий графа, а только для этих кластеров.

Наиболее часто используется предположение, что события зависят только от вероятностей их родителей.

Для рассмотренного примера в случае введения такого кластера:

P(C, A, B, T, L) = P(C)P(A)P(B/C)P(T/C, A)P(L/A).

Здесь вероятность P(A/C) перешла в вероятность P(A), так как на графе A и C независимы.

P(B/C, A)→ P(B/C), так как независимы B и A.

P(T/C, A, B) → P(T/C, A), так как независимы T и B.

P(L/C, A, B, T) → P(L/A), так как L на графе связана только с вершиной A.

Что же дает такой подход?

В задаче с тридцатью переменными, где нужен был биллион вероятностей, если учесть, что каждое состояние имеет максимум двух родителей, то потребуется 240 элементов вероятностей. А если максимально трех родителей, то нужно будет анализировать 480 элементов.

Таким образом, многие переменные здесь могли быть исключены, и с использованием понятия байесовских сетей доверия рассмотренный подход мог быть использован на практике для анализа «случайного» или «нормального» мира.