4.3 Недостатки объяснительных способностей промышленных систем
Рассмотрим недостатки промышленных ЭС на примере систем MYCIN и TEIRESIAS, так как эти системы обладают наиболее развитыми объяснительными способностями. Для этих систем характерны следующие типы ограничений:
Запросы на объяснения интерпретируются только в одном смысле.
Не все действия системы могут быть объяснены.
При объяснении не учитывается адресат (пользователь). Объяснения описывают действия на одном, а не на нескольких уровнях детальности и представления.
Объяснения основываются на треке выполнения программы.
Объяснительная программа требует изменений при изменении управляющей структуры всей системы.
Объяснения недостаточно структурированы и понятны.
Ограничение первого типа состоит в том, что вопросы ПОЧЕМУ? и КАК? интерпретируются только в терминах правил и целей. Вопрос ПОЧЕМУ? во внутреннем представлении интерпретируется следующим образом: «какие правила могут использовать запрошенную информацию?». Вопрос КАК? интерпретируется так: «какие правила использованы для получения соответствующего заключения?». Пользователю могут потребоваться и другие интерпретации, которые в рассматриваемом подходе не допустимы, например, интерпретация ПОЧЕМУ в смысле «Почему вы спрашиваете об этом сейчас?» и т.д.
Чтобы проиллюстрировать ограничения на вид действий, которые могут быть объяснены, рассмотрим связь гипотез и целей в MYCIN (рис. 4.3).
На верхнем уровне (уровень 1) находятся все цели системы, которые преследуются ею в ходе решения задачи (при постановке диагноза и определения лечения). Цели представляются в виде вопросов, на которые надо найти ответ. Например, «Какова форма микроорганизма?».
На втором уровне сети находятся гипотезы, то есть возможные выборы для каждой из целей. Пример гипотез таков: «Микроорганизм есть палочка».
На третьем уровне располагаются правила, которые поддерживают гипотезы. Сеть в общем случае представляет собой граф, а не дерево, так как одно правило может поддерживать не одну, а несколько гипотез.
Рис. 4.3 Связь гипотез и целей в MYCIN
На четвертом уровне находятся посылки правил, то есть частные гипотезы, которые должны выполняться для того, чтобы соответствующие правила могли быть применены. Различные правила могут предсказывать одну и ту же гипотезу.
При определении целей на основе гипотез, соответствующих посылкам правил, интерпретатор MYCIN преследует более общие цели и рассматривает все правила, определяющие, например, вид менингита (вирусный, бактериальный, грибковый и т.д.), а не только правила, которые соответствуют рассматриваемой гипотезе о том, что «менингит - бактериальный».
Ограничение второго типа. Способ представления знаний принятый в MYCIN, не позволяет автору правил явно указать всю информацию о некотором правиле и способе его использования. В правилах MYCIN не представлена следующая информация:
обоснование правила, то есть объяснение разумности перехода от предпосылок к заключению (обоснование связи 2->4 уровней);
обоснование принятого в правиле упорядочивания предпосылок, что влияет на порядок, в котором рассматриваются гипотезы и цели;
обоснование порядка, в котором правила (уровень 3) применяются к текущей цели, что также влияет на порядок рассмотрения гипотез, целей и вопросов пользователя.
Отсутствие в MYCIN перечисленной информации не позволяет получить объяснения на соответствующие вопросы. Например, нет убедительных ответов на следующие типы вопросов:
Почему одна гипотеза рассматривалась до другой?
Почему один вопрос задан до другого?
Почему данное правило является разумным (верным)?
Третий тип ограничений состоит в том, что в рассматриваемом подходе любые два правила с одинаковым коэффициентом определенности имеют одинаковую меру информативности, несмотря на то, что одно из этих правил может быть известно пользователю, а другое – нет. Кроме того, объяснения генерируются на одном уровне детальности, а не на различных в зависимости от различия целей и знаний пользователя.
Ограничения четвертого типа являются следствием принятого в MYCIN предположения, что сокращенное описание действий системы может рассматриваться как разумное объяснение ее действий. Данное предположение не является обязательным, то есть объяснение может быть не связано с выполнением программы. Но такие развернутые объяснения требуют, как правило, привлечения большого количества знаний.
Ограничение пятого типа. Очередным ограничением рассматриваемого способа реализации объяснительных способностей является их сильная зависимость от управляющей структуры системы. Практически любое изменение управляющей структуры в MYCIN и TEIRESIAS приводит к необходимости внести соответствующие исправления в объяснительную программу.
В настоящее время существуют лишь экспериментальные подходы, ориентированные на устранение только определенных ограничений. В соответствии с различными целями, которые ставятся перед объяснениями, можно условно выделить следующие подходы:
1) объяснения для обучения;
2) объяснения для обеспечения доверия и взаимопонимания;
3) объяснения для локализации ошибок.