
- •Основы экспертных систем.
- •1 Введение в экспертные системы
- •1.1 Основные понятия
- •1.2 Проектирование экспертных систем
- •1.3 Типы решаемых задач
- •1.4 Инструментальные средства разработки экспертных систем
- •1.5 Нечёткие знания в экспертных системах
- •2 Введение в нейронные сети
- •2.1 Основные свойства нейронных сетей
- •2.2 Биологические основы нейронных сетей
- •2.3 Модель МакКаллока - Питса
- •2.4 Персептрон
- •2.5 Сигмоидальный нейрон
- •2.6 Нейрон типа wta
- •2.7 Функции активации нейронов
- •3 Многослойный персептрон
- •3.1 Структура многослойного персептрона
- •3.2 Структура двухслойной сигмоидальной нейронной сети
- •3.3 Градиентные методы обучения многослойного персептрона
- •3.4.1 Основные положения градиентных алгоритмов обучения сети
- •3.4.2 Подбор коэффициента обучения
- •3.4.3 Алгоритм обратного распространения ошибки
- •3.4.4 Алгоритм наискорейшего спуска
- •3.4.5 Алгоритм Левенберга-Марквардта
- •3.4 Эвристические алгоритмы обучения многослойного персептрона
- •3.4.1 Алгоритм rprop.
- •Алгоритм Quickprop
- •3.5 Алгоритмы глобальной оптимизации
- •3.5.1 Алгоритм имитации отжига
- •3.6 Проектирование архитектуры многослойного персептрона
- •3.7 Подбор оптимальной архитектуры
- •4 Радиальные сети
- •4.1 Математическое обоснование радиально-базисных сетей
- •4.2 Структура радиально-базисной сети
- •4.3 Основные алгоритмы обучения радиальных сетей
- •4.3.1. Алгоритм самоорганизации для уточнения параметров радиальных функций
- •4.3.2. Применение метода обратного распространения ошибки для радиально-базисных сетей
- •4.3.3. Гибридный алгоритм обучения радиальных сетей
- •4.4 Структура гипер радиально-базисной сети
- •4.5 Основные алгоритмы обучения гипер радиально-базисных сетей
- •4.5.1. Применение метода обратного распространения ошибки для гипер радиально-базисных сетей
- •4.6 Методы подбора числа базисных функций
- •4.7 Метод ортогонализации Грэма-Шмидта
- •4.8 Сравнение радиально-базисной сети и многослойного персептрона
- •5 Сети с самоорганизацией на основе конкуренции
- •5.1 Сеть Кохонена
- •5.2 Меры расстояния между векторами и нормализация векторов
- •5.3 Проблема мертвых нейронов
- •5.4 Алгоритмы обучения без учителя
- •5.4.1. Алгоритм wta
- •5.4.2. Алгоритм Кохонена
- •5.4.3 Алгоритм нейронного газа
- •6 Рекуррентные сети
- •6.1 Общие положения
- •6.2 Сеть Хопфилда
- •6.3 Сеть Хемминга
- •6.4 Рекуррентная сеть Эльмана
- •6.5 Алгоритм обучения рекуррентной сети Эльмана
- •7 Сеть Вольтерри
- •7.1 Структура сети Вольтерри
- •8 Нейронные сети с нечёткой логикой
- •8.1 Основные понятия и определения теории нечётких множеств
- •8.2 Операции на нечётких множествах
- •8.3 Треугольные нормы
- •8.4 Нечёткий вывод
- •8.5 Меры нечёткости нечётких множеств
- •8.6 Система нечёткого вывода Мамдани-Заде
- •8.7 Фуззификатор
- •8.8 Дефуззификатор
- •8.9 Модель вывода Такаги-Сугено-Канга
- •8.10 Модель вывода Цукамото
- •8.11 Нечёткая сеть tsk
- •8.12 Гибридный алгоритм обучения нечеткой сети tsk
- •8.13 Алгоритм обратного распространения ошибки для сети tsk
- •8.14 Модификация структуры с несколькими выходами
- •8.15 Нечеткая нейронная сеть Ванга-Менделя
- •8.16 Адаптивный алгоритм обучения нечёткой сети Ванга- Менделя
- •8.17 Использование комбинированных правил вывода
- •8.18 Обучение нечётких нейронных сетей
- •8.19 Гибридный нечёткий многослойный персептрон
- •8.20 Алгоритм нечёткой самоорганизации c-means
- •8.21 Алгоритм разностного группирования
- •8.22 Сети, основанные на модели нечёткого вывода Цукамото
- •8.23 Нейронные нечёткие сети на основе нечётких нейронов
- •8.24 Гибридный нейронечёткий классификатор
- •8.25 Алгортм обучения гибридного нейронечёткого классификатора
- •8.26 Гибридные нейронные нечёткие сети для извлечения нечётких правил из данных
- •Список используемых источников
1.4 Инструментальные средства разработки экспертных систем
Классификация инструментальных средств разработки ЭС обычно производится по следующим параметрам [2]:
уровень используемого языка;
парадигмы программирования и механизмы реализации;
способ представления знаний;
механизмы вывода и моделирование;
средства приобретения знаний;
технологии разработки.
Уровень используемого языка:
традиционные (в том числе и объектно-ориентированные) языки программирования;
специальные языки программирования (LISP, PROLOG, РЕФАЛ);
инструментальные средства, содержащие часть компонентов ЭС (предназначены для разработчиков ЭС);
среды разработки общего назначения, содержащие все компоненты ЭС, но не имеющие описания конкретных проблемных сред;
проблемно-ориентированные среды разработки (для решения определённого класса задач или имеющие знания о типах предметных областей).
Парадигмы программирования:
процедурное программирование;
программирование, ориентированное на данные;
программирование, ориентированное на правила;
объектно-ориентированное программирование;
логическое программирование.
Способ (модели) представления знаний:
продукционные правила;
фреймы (объекты);
логические формулы;
семантические сети;
нейронные сети.
Механизмы вывода и моделирования:
Моделирование процесса получения решения:
построение дерева вывода на основе обучающей выборки и выбор маршрута на дереве вывода в режиме решения задачи;
компиляция сети вывода из специфических правил в режиме приобретения знаний и поиск решения на сети в режиме решения задачи;
генерация сети вывода и поиск решения в режиме решения задачи, при этом генерация сети вывода осуществляется в ходе выполнения сопоставления, определяющей пары «правило-совокупность данных», на которых условия этого правила удовлетворяются;
в режиме решения задачи ЭС осуществляет выработку правдоподобных предположений (при отсутствии достаточной информации для решения), выполнение рассуждений по обоснованию предположений, генерацию альтернативных сетей вывода, поиск решения в сетях вывода;
построение сети вывода на основе обучающей выборки и поиск решения на выходах сети в режиме решения задачи;
Механизмы поиска решения:
двунаправленный поиск, поиск от данных к целям, поиск от целей к данным;
«поиск в ширину», «поиск в глубину».
Механизмы генерации предположений и сети вывода:
генерация в режиме приобретения знаний, генерация в режиме решения задачи;
операция сопоставления применяется ко всем правилам и всем типам сущностей в каждом цикле механизма вывода, используются различные средства сокращения правил и/ или сущностей.
Механизм вывода для динамических сред дополнительно содержит планировщик, управляющий деятельностью ЭС в соответствии с приоритетами; средства получения оптимального решения в условиях ограниченности ресурсов; систему поддержания истинности значений переменных, изменяющихся во времени.
Средства приобретения знаний:
Уровень приобретения знаний:
формальный язык;
ограниченный естественный язык;
язык пиктограмм и изображений;
естественный язык и язык изображений;
Тип приобретаемых знаний:
данные в виде таблиц, содержащих значения входных и выходных атрибутов, по которым индуктивными методами строится дерево вывода;
специализированные правила;
общие и специализированные правила;
данные в виде таблиц, содержащих значения входных и выходных векторов, по которым строится сеть вывода.
Тип приобретаемых данных:
атрибуты и значения;
объекты;