Добавил:
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:
ТПР. Всё в 1 файле / Прикладные Инст сист.pdf
Скачиваний:
233
Добавлен:
15.09.2014
Размер:
1.43 Mб
Скачать

Министерство образования Республики Беларусь

Учреждение образования «Белорусский государственный университет информатики

и радиоэлектроники»

Кафедра интеллектуальных информационных технологий

М.Д. Степанова, С.А. Самодумкин

КОНСПЕКТ ЛЕКЦИЙ

по дисциплине «Прикладные интеллектуальные системы и системы

принятия решений»

для студентов специальности I–40 03 01 “Искусственный интеллект”

Минск

2007

УДК 004+519.816

Степанова М.Д.

С79 Прикладные интеллектуальные системы и системы принятия решений. Конспект лекций: Учеб. пособие / М.Д. Степанова, С.А. Самодумкин; Под науч. ред. В.В. Голенкова. – Мн.: БГУИР, 2007. –с.

ISBN

Данный конспект лекций одна из составных частей электронного учебного комплекса по дисциплине «Прикладные интеллектуальные системы и системтемы принятия решений». Рассматриваются понятия и методы, определяющие процесс принятия решений. Излагаются однокритериальные и многокритериальные решения при объективных моделях, методы оценки и сравнения многокритериальных альтернатив, а также статистические решения и решения, принимаемые в условиях неопределенности и методами теории игр. Предназначен для студентов специальности «Искусственный интеллект». Будет полезен студентам, магистрантам и аспирантам математических, инженерно-технических и экономических специальностей, а также специалистам, желающим познакомиться с математическими методами принятия решений

 

УДК 004+519.816

 

ББК

ISBN

© Коллектив авторов, 2007

 

© БГУИР, 2007

2

ОГЛАВЛЕНИЕ

 

Лекция 1. Основные направления интеллектуализации прикладных систем и систем

 

принятия решений..............................................................................................................................

6

1.1. Методы искусственного интеллекта в прикладных системах и системах принятии

 

решений...........................................................................................................................................

7

1.2. Интеллектуальные информационные технологии в прикладных системах и системах

принятия решений..........................................................................................................................

8

1.3. Типология задач интеллектуализации систем....................................................................

11

Лекция 2. Представление знаний в интеллектуальных системах ...............................................

12

2.1. Модели представления знаний............................................................................................

12

2.2. Системы, основанные на правилах .....................................................................................

14

2.3. Системы, основанные на автоматическом доказательстве теорем..................................

15

2.4. Системы, основанные на автоматическом порождении (выдвижении) гипотез............

15

Лекция 3. Структура и основные компоненты прикладных интеллектуальных систем..........

17

3.1. Прикладные системы, основанные на знаниях..................................................................

17

3.2. Структура системы управления, основанной на знаниях.................................................

18

3.3. Структура интеллектуальных систем поддержки принятия решения............................

20

3.4. Обобщенная структура экспертной системы.....................................................................

22

Лекция 4. Классификация прикладных интеллектуальных систем...........................................

23

4.1. Классификация экспертных систем....................................................................................

23

4.2. Примеры прикладных интеллектуальных систем .............................................................

25

Лекция 5. Основные понятия и определения теории принятия решений ..................................

28

5.1. Роли людей в процессе принятия решений........................................................................

28

5.2. Альтернативы........................................................................................................................

29

5.3. Критерии................................................................................................................................

29

5.4. Основные этапы процесса принятия решений...................................................................

29

5.5. Математические методы теории принятия решений........................................................

31

Лекция 6. Принятие решений с помощью статистической проверки гипотез..........................

32

6.1. Статистические решения......................................................................................................

32

6.2. Основные задачи статистических решений........................................................................

32

6.3. Статистическая проверка гипотез.......................................................................................

33

6.4. Ошибки решения...................................................................................................................

37

6.5. Решающее правило при проверке гипотез .........................................................................

37

Лекция 7. Байесовская и последовательная процедуры принятия решения.............................

38

7.1. Байесовские процедуры принятия решения.......................................................................

38

7.1.1. Байесовская процедура при проверке простой гипотезы...........................................

38

7.1.2. Байесовские процедуры в задаче классификации.......................................................

39

7.2. Принятие решения с помощью последовательной процедуры Вальда..........................

40

Лекция 8. Принятие решения методом дискриминантнного анализа ........................................

42

8.1. Классификация в случае, когда распределения классов определены полностью..........

43

8.1.1. Модель двух нормальных распределений с общей ковариационной матрицей

 

(модель Фишера)......................................................................................................................

43

8.1.2. Модель двух нормальных распределений с разными ковариационными матрицами

....................................................................................................................................................

43

8.1.3. Модель нескольких нормальных распределений с общей ковариационной

 

матрицей ...................................................................................................................................

44

8.2. Классификация при наличии обучающих выборок...........................................................

44

8.2.1. Подстановочный алгоритм в модели Фишера ...........................................................

44

8.2.3. Правила классификации................................................................................................

45

 

3

8.3. Ошибка решающего правила...............................................................................................

46

Лекция 9. Древообразные классификаторы..................................................................................

46

9.1. Назначение древообразных классификаторов...................................................................

46

9.1. Структура дерева классификации.......................................................................................

47

9.3. Вычислительные задачи древообразных классификаторов .............................................

49

9.3.1. Определение качества предсказания ..........................................................................

49

9.3.2. Выбор разбиений ...........................................................................................................

50

9.3.3. Определение правила прекращения разбиения..........................................................

51

Лекция 10. Деревья решений..........................................................................................................

52

9.1. Характеристики дерева решений ........................................................................................

52

9.2. Построение дерева решений................................................................................................

54

Лекция 11. Методы прогнозирования............................................................................................

56

11.1. Анализ временных рядов...................................................................................................

57

11.1.1. Модель временного ряда.............................................................................................

57

11.1.2. Тренд, сезонная и циклическая компоненты ............................................................

58

11.1.3. Декомпозиция временного ряда.................................................................................

59

11.1.4. Экспоненциальное сглаживание ................................................................................

61

11.2. Каузальные методы прогнозирования..............................................................................

61

11.3. Качественные методы прогнозирования..........................................................................

62

Лекция 12. Основная задача линейного программирования.......................................................

63

12.1. Математическая модель основной задачи линейного программирования...................

63

12.2. Задача линейного программирования с ограничениями-неравенствами......................

64

12.3. Примеры задач линейного программирования................................................................

65

12.3.1. Транспортная задача....................................................................................................

65

12.3.2. Задача о назначениях...................................................................................................

67

Лекция 13. Симплекс-метода решения задачи линейного программирования.........................

67

13.1. Характеристика симплекс–метода....................................................................................

67

13.2. Табличный алгоритм замены базисных переменных.....................................................

68

13.3. Отыскание опорного решения основной задачи линейного программирования.........

71

13.4. Отыскание оптимального решения основной задачи линейного программирования. 71

Лекция 14. Многокритериальные методы принятия решений при объективных моделях......

72

14.1. Объединение критериев.....................................................................................................

73

14.2. Метод главного критерия...................................................................................................

73

14.3. Метод последовательных уступок....................................................................................

73

14.4. Метод целевого программирования..................................................................................

74

14.5. Метод, использующий принцип гарантированного результата.....................................

74

14.6. Метод равных наименьших относительных отклонений...............................................

74

14.7. Процедура STEM поиска удовлетворительных значений критериев............................

75

Лекция 15. Выбор Парето–оптимальных решений......................................................................

76

15.1. Основные определения.......................................................................................................

76

15.2. Графическая интерпретация..............................................................................................

76

15.3. Постановка задачи..............................................................................................................

78

Лекция 16. Оценка многокритериальных альтернатив с помощью теории полезности .........

80

16.1. Теория полезности..............................................................................................................

80

16.2. Принятие решения на основе значения ожидаемой полезности....................................

80

16.3. Многокритериальная теория полезности (MAUT)..........................................................

82

Лекция 17. Сравнение альтернатив методом аналитической иерархии.....................................

84

17.1. Основные этапы метода аналитической иерархии..........................................................

84

17.2. Декомпозиция задачи.........................................................................................................

84

17.3. Попарное сравнение критериев и альтернатив................................................................

85

17.4. Свойства идеальной матрицы сравнений.........................................................................

86

4

Лекция 18. Приоритеты для критериев и альтернатив и выбор наилучшей альтернативы в

методе анализа иерархий.................................................................................................................

87

18.1. Вычисление собственных характеристик обратно симметричной матрицы................

87

18.2. Вычисление величины приоритетов.................................................................................

88

18.3. Определение наилучшей альтернативы............................................................................

89

18.4. Проверка согласованности.................................................................................................

89

18.5. Пример применения метода анализа иерархий................................................................

90

Лекция 19. Оценка многокритериальных альтернатив методами ELECTRE ............................

92

19.1. Этапы подхода, направленного на разработку индексов попарного сравнения

 

альтернатив...................................................................................................................................

92

19.2. Свойства бинарных отношений.........................................................................................

93

19.3. Метод ELECTRE I...............................................................................................................

93

19.4. Метод ELECTRE II .............................................................................................................

94

19.5. Метод ELECTRE III ............................................................................................................

95

Лекция 20. Основные понятия и математическая модель игровых методов обоснования

решений.............................................................................................................................................

96

20.1. Основные понятия теории игр...........................................................................................

96

20.2. Математическая модель игры............................................................................................

97

20.3. Нижняя и верхняя цена игры. Принцип минимакса........................................................

98

Лекция 21. Методы решения игр..................................................................................................

100

21.1. Решение игры в чистых стратегиях.................................................................................

100

21.2. Решение игры в смешанных стратегиях.........................................................................

100

21.3. Упрощение игр..................................................................................................................

102

21.4. Решение игры 2х2 .............................................................................................................

102

21.5. Графический метод решения (2х2)-игр...........................................................................

103

Лекция 22. Игры 2 х п....................................................................................................................

104

Лекция 23. Решение игр т х 2 и т х п .........................................................................................

108

23.1. Решение игр т х 2 .............................................................................................................

108

23.2. Решение игр т х п.............................................................................................................

110

Лекция 24. Критерии принятия решений в условиях риска и неопределенности...................

113

24.1. Основные понятия. Математическая модель.................................................................

113

24.2. Критерий, основанный на известных вероятностях условий (критерий Байеса–

 

Лапласа) ......................................................................................................................................

114

24.3. Максиминный критерий Вальда......................................................................................

116

24.4. Критерий минимаксного риска Сэвиджа........................................................................

116

24.5. Критерий пессимизма-оптимизма Гурвица....................................................................

116

Литература......................................................................................................................................

118

5

Лекция 1. Основные направления интеллектуализации прикладных систем и систем принятия решений

В настоящее время возникает потребность в создании прикладных систем различного назначения, поддержки принятия решений (ПР) и планирования действий в динамически меняющейся ситуации в условиях неполных или нечетких данных с использованием экспертных знаний. Например, в процессе принятия управленческих решений лицу, принимающему решение (ЛПР), приходится учитывать большое количество показателей, критериев, факторов, влияющих на поставленную в задаче цель.

Для эффективного решения подобных задач целесообразно использовать системы принятия решений (СПР) в совокупности с интеллектуальными компонентами. Это требует на стадии разработки системы совместного применения методов принятия решений и методов искусственного интеллекта (ИИ). Обобщенная структура такой системы представлена на рис.1.1.

Проблемная

или

предметная

область

База

 

Интеллектуальные

 

компоненты

данных

Инструментальные

 

 

ГИС

 

 

Анализ

Экспертные

 

результатов

оценки

ЛПР

входные данные

выходные данные

управляющие воздействия

Рис. 1.1. Обобщенная структура системы, использующей интеллектуальные компоненты

Разработка интеллектуальных компонент СПР ведется с использованием интеллектуальных информационных технологий [2]. Изначально под интеллектуальной информационной технологией подразумевались средства обработки информации, не связанные с алгоритмическими вычислениями. Сегодня благодаря многочисленным публикациям в области искусственного интеллекта термин «Интеллектуальная информационная технология» трактуется одинаково.

6

1.1. Методы искусственного интеллекта в прикладных системах и системах принятии решений

До недавнего времени постановка и решение задач принятия решений опиралась на традиционные математические модели и методы. Но в ряде задач ПР зависимости настолько сложны, что не допускают своего обычного аналитического представления, или из-за неполноты информации некоторые элементы модели остаются неизвестными.

Это объясняется следующими причинами [13]:

Не все цели управления объектом могут быть выражены в виде количественных соотношений.

Между рядом параметров, оказывающих влияние на процесс принятия решений, не удается установить точных количественных зависимостей.

Процесс принятия решений является многошаговым, и содержание каждого шага не может быть заранее однозначно определено.

Существующие способы описания объектов и протекающих в них процессов приводят к столь громоздким конструкциям, что их практическое использование невозможно.

В этих случаях средства ИИ позволяют более успешно справиться с неполнотой

информации и отсутствием определенности.

Такие объекты называют по-разному: плохо определенные или слабо структурированные, организационные. Примерами таких объектов управления являются, например, экономические и социальные объекты. Но независимо от названия эти новые объекты обладают рядом присущих только им свойств. Перечислим основные их свойства.

1.Уникальность. Каждый объект обладает такой структурой и функционирует так, что система управления им должна строиться с учетом всех его качеств и к нему нельзя применить какую-либо стандартную процедуру управления. Это обстоятельство резко удорожает построение системы управления, ибо фактически нужно создавать столько систем управления, сколько объектов мы хотим автоматизировать.

2.Отсутствие формализуемой цели существования. Не для всех объектов (даже созданных человеком) можно четко сформулировать цель их существования. При управлении городами, отраслями народного хозяйства, регионами, экосистемами возникают затруднения при попытке четко сформулировать цель существования этих объектов. Это приводит к большим сложностям в формировании критерия управления, ибо критерий управления в традиционных системах управления был тесно связан с целью существования объекта. Критерий управления самолетом был основан на достижении им своей цели существования – перевозки грузов и людей по воздуху, управления производством телевизоров – на повышении качества выпускаемой продукции. Поэтому в различных системах управления, создаваемых для объектов нового класса, очень часто можно наблюдать реализацию различных критериев управления.

3.Отсутствие оптимальности. Следствием того, о чем говорилось в предшествующих двух пунктах, является неправомочность постановки для объектов новой природы классической задачи оптимизации. Из-за отсутствия цели существования (в рамках теории управления) для рассматриваемых объектов нельзя построить объективный критерий управления. Критерий управления становится субъективным, зависящим от лица, принимающего решения.

При решении о выборе тех или характеристик будущего изделия, при принятии решении о структуре и способах функционирования проектируемой системы невозможно оценить правильность выбора. Отсюда следует, что в этих случаях невозможно говорить об оптимальности получаемых решений. Качество создаваемой системы для управления объектами новой природы может оцениваться только субъективно самим ЛПР или их коллективом. Поэтому здесь уместнее говорить о целесообразности результата управления, а не его оптимальности.

7

4.Динамичность. Существует обширный класс объектов управления, которые с течением времени изменяют свою структуру и функционирование, т.е. объекты эволюционируют во времени. Эта динамичность должна быть учтена в системах управления подобными объектами в виде эволюции процесса управления.

5.Неполнота описания. Первая причина неполноты описания объекта состоит в том, что эксперты не могут оценить тот уровень полноты описания, который нужен специалисту по управлению. Как правило, эксперты, знающие объект управления, не в состоянии сразу же обеспечить информацию, которой бы хватило для создания системы управления объекта.

Вторая причина неполноты описания объекта – незнание некоторых сторон функционирования самими специалистами. Могут возникнуть ситуации, никогда не встречавшиеся ранее. К таким ситуациям относятся всевозможные аварийные ситуации.

Третья причина неполноты описания объекта – отсутствие четкого понимания функционирования объекта у специалиста–технолога. Выдавая управленцу большое количество информации, технолог тем не менее не сообщает ему самой главной, по которой

сам принимает решение.

 

Четвертая причина

неполноты описания объекта – многие особенности

функционирования объекта, а иногда и его структуры не могут быть описаны количественно. Они допускают лишь качественное, словесное описание. Переход от качественных описаний к некоторым формальным представлениям должен производиться управленцем, который не всегда в состоянии решить такую сложную проблему.

Активная природа элементов управляемого объекта. Во многих объектах управления люди являются элементами их структуры. Это так называемые организационные системы. В отличие от всех других элементов, образующих объекты, люди функционируют в нем с учетом своих личных интересов и целей. Их цели и интересы могут противоречить целям управления; они могут оказывать обратное воздействие на саму систему управления. Индивидуальное поведение таких элементов структуры практически невозможно учесть при создании системы управления, и требуются специальные приемы для учета их воздействия на функционирование объекта управления.

Использование интеллектуальных компонент, описанных в подразд. 1.2, приводит к новым технологиям в принятии решений.

1.2. Интеллектуальные информационные технологии в прикладных системах и системах принятия решений

Достижения в области информационных технологий и, в частности, в искусственном интеллекте вызвали появление новых средств принятия решений, управления и оптимизации сложных систем на основании принимаемых решений. Современная интеллектуальная информационная технология включает следующие основные направления [8]:

1)нейросетевые алгоритмы обработки информации и нейрокомпьютеры;

2)эволюционные (генетические) алгоритмы;

3)системы, реализующие методы, основанные на знаниях;

4)обработка нечеткой информации и нечеткий вывод;

5)многоагентные системы как средство распараллеливания поиска и обработки информации в интеллектуальных системах.

Кратко охарактеризуем каждое из этих направлений.

1. Искусственные нейронные сети применяются для решения целого класса задач, где используются не уравнения, описывающие функционирование объекта, и не правила, как в традиционных экспертных системах, а опыт. Нейронные сети обладают способностью к обобщению информации, к обучению и самообучению на основе собственного опыта функционирования и т.п. В интеллектуальных компонентах сложных систем, в том числе и

8

ГИС, применяются несколько типов искусственных нейронных сетей: многослойный перцептрон, сеть Кохонена, сеть Хопфилда и др. Эти модели используются для автоматизации принятия решений в следующих ситуациях:

когда невозможно построить алгоритм или логическое исчисление из–за сложности учета всех сочетаний факторов,

когда сложно формализовать закономерности, связывающие условия задачи с результатом.

Вмощных интеллектуальных системах могут совмещаться нейросетевые и логические механизмы принятия решений.

Вкачестве области практического приложения нейросетей в интеллектуальных компонентах ГИС можно указать системы искусственного зрения и обработки изображений, системы аэрокосмической съемки, подсистемы автоматизации планирования действий в мониторинговых системах и системах предупреждения чрезвычайных ситуаций.

2. Интеллектуальные компоненты ГИС могут быть реализованы и на базе

эволюционных (генетических) алгоритмов, которые используются для поиска рациональных решений.

Эволюционные алгоритмы основаны на дарвиновских принципах генерации, тестирования и отбора перспективных популяций. Эволюционные алгоритмы оперируют с

популяцией индивидов P(t) = { x1t , …, xnt }, где t – номер итерации. Каждый индивид представляет собой некоторое возможное решение из множества допустимых решений S. Каждое решение xit оценивается некоторой мерой его пригодности. На итерации t + 1

формируется новая популяция путем отбора более пригодных индивидов (шаг селекции). Некоторые члены этой новой популяции подвергаются преобразованиям (шаг изменений) с помощью генетических операторов. Это делается для того, чтобы образовать новые решения. Преобразования бывают двух типов. Первый тип – это унарные (одноместные) преобразования mk : s S (типа мутаций), которые приводят к появлению новых индивидов путем малых изменений одного индивида. Второй тип преобразований – это преобразования перекрестного типа cj : Sn S, которые порождают новые индивиды путем комбинирования составных частей – генов нескольких индивидов. Через несколько поколений могут возникнуть решения, близкие к оптимальным. Генетические алгоритмы используют параллельную обработку множества альтернативных решений и организуют поиск наиболее перспективных из них.

В качестве примера применения эволюционного алгоритма можно привести задачу поиска графа, удовлетворяющего некоторым требованиям (оптимальный маршрут, оптимальная топология коммуникационной сети). Такая задача возникает при реализации механизма вывода в семантических сетях. Граф рассматривается как индивид эволюционного алгоритма. Начальными данными эволюционной программы служит начальная популяция графов, порождаемая случайным образом или эвристически. Задается оценочная функция, которая выражает пригодность каждого графа и формализует отношение предпочтения (лучше, хуже) на множестве индивидов. Мутационные операторы осуществляют преобразования графа. Перекрестные операторы комбинируют структуры двух или более графов. Если искомый граф должен быть связным и ациклическим (т. е. деревом), некоторый мутационный оператор может удалять ребра и для связывания двух возникших новых подграфов всякий раз добавлять некоторое новое ребро. С помощью оценочной функции устанавливается, не нарушено ли в результате мутаций свойство графа быть деревом. Если порожденный граф этому свойству не удовлетворяет, на шаге селекции необходимо отбросить графы-поддеревья.

9

Эволюционные алгоритмы применяются в интеллектуальных компонентах ГИС для решения задачи планирования маршрутов перевозок, обеспечивающих рациональное расходование ресурсов.

3. Системы, основанные на знаниях. Системы, основанные на знаниях (СОЗ), оперируют с логическими, объектно-ориентированными и другими моделями, основанными на знаниях экспертов. Вместе с тем СОЗ могут использовать и традиционные алгоритмы, базирующиеся на уравнениях динамики.

К системам, основанным на знаниях, относятся следующие:

системы, основанные на правилах;

системы, в основе которых лежат модели в виде семантических сетей различного рода и фреймов [7];

системы, основанные на автоматическом доказательстве теорем;

системы, основанные на автоматическом порождении гипотез; системы, основанные на рассуждениях по аналогии;

системы, реализующие объектно-ориентированный вывод.

Основным механизмом интеллектуализации в системах, основанных на знаниях,

является тот или иной механизм рассуждений (рис. 1.2). Возможны и другие, в том числе комбинированные, механизмы рассуждений.

Механизмы

рассуждений в системах, основанных на знаниях

Исполнение

 

Автоматическое

 

Автоматическое

 

доказательство

 

правил

 

 

гипотезирование

 

теорем

 

 

 

 

 

 

 

 

 

 

 

 

Вывод на

 

 

 

 

Объектно-

 

 

 

 

 

 

 

ориентированный

 

 

 

основе аналогий

 

 

 

 

 

 

 

 

 

 

вывод

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Рис. 1.2. Механизмы рассуждений, используемых в системах, основанных на знаниях

Знания в СОЗ представляются с

помощью

логических языков

или языков

представления

знаний.

Обработка

знаний

осуществляется

специальными

инструментальными средствами. В результате обработки получают предпочтительное решение, выбранное из множества допустимых решений.

4. Оъектно-ориентированные интеллектуальные системы [8,22] используют декларативно–процедурные формы представления знаний и алгоритмы вывода свойств объектов на основании иерархических, сетевых, фреймовых и других представлений

10