- •Интеллектуальные информационные системы учебное пособие
- •Тула 2010
- •3. Экспертные системы 47
- •8. Системы с интеллектуальным интерфейсом 143
- •9. Многоагентные системы 158
- •Предисловие
- •1. Искусственный интеллект и интеллектуальные информационные системы
- •1.1. Введение в искусственный интеллект
- •1.1.1. Искусственный интеллект: основные понятия и решаемые задачи
- •1.1.2. Подходы к построению систем искусственного интеллекта
- •1.1.3. Интеллектуальные информационные системы: понятие и отличительные особенности
- •1.2. Основные классы интеллектуальных информационных систем
- •1.2.1. Экспертные системы
- •1.2.2. Самообучающиеся системы
- •1.2.3. Адаптивные информационные системы
- •1.2.4. Системы с интеллектуальным интерфейсом
- •1.2.5. Многоагентные системы
- •1.3. Основы проектирования интеллектуальных информационных систем
- •1.3.1. Структура и этапы разработки интеллектуальных информационных систем
- •1.3.2. Логическое проектирование
- •1.3.3. Физическое проектирование
- •1.3.4. Использование прототипного проектирования
- •Контрольные тесты
- •2. Традиционные способы представления и обработки знаний в интеллектуальных информационных системах
- •2.1. Знания и их использование в интеллектуальных информационных системах
- •2.1.1. Понятие знаний и их отличие от данных
- •2.1.2. Классификация знаний
- •2.1.3. Логический вывод. Использование дедукции, индукции и аналогии
- •2.1.4. Представление знаний в интеллектуальных информационных системах
- •2.2. Типичные модели представления знаний
- •2.2.1. Логическая модель
- •2.2.2. Продукционная модель
- •2.2.3. Семантическая сеть
- •2.2.4. Фреймовая модель
- •2.2.5. Объектно-ориентированная модель
- •2.3. Представление и формализация нечетких знаний
- •2.3.1. Основные определения нечетких множеств
- •2.3.2. Операции с нечеткими множествами
- •2.3.3. Нечеткие отношения
- •2.3.4. Нечеткая и лингвистическая переменные
- •Контрольные тесты
- •3. Экспертные системы
- •3.1. Структура и режимы работы экспертных систем
- •3.1.1. Основные элементы экспертных систем
- •3.1.2. Режимы работы экспертных систем
- •3.1.3. Участники разработки экспертных систем
- •3.2. Классификация экспертных систем
- •3.2.1. Классификация по сложности решаемых задач
- •3.2.2. Классификация по типу решаемых задач
- •3.2.3. Основные классы экспертных систем: классифицирующие, доопределяющие, трансформирующие, многоагентные
- •3.3. Поиск решений в экспертных системах
- •3.3.1. Поиск в одном пространстве
- •3.3.2. Поиск в иерархии пространств
- •3.3.3. Поиск в случае недетерминированности знаний
- •3.3.4. Алгоритм реализации логического вывода в экспертных системах
- •3.4. Методы извлечения знаний в экспертных системах
- •3.4.1. Классификация методов извлечения знаний
- •3.4.2. Коммуникативные методы извлечения знаний
- •3.4.3. Текстологические методы извлечения знаний
- •Контрольные тесты
- •4. Оlap-технология
- •4.1. Основные понятия
- •4.1.1. Хранилище данных
- •4.1.2. Применение информационных хранилищ. Извлечение знаний из данных
- •4.1.3. Основная идея olap-технологии
- •12 Признаков olap данных
- •4.1.4. Структура хранилища данных в оlap-системах
- •4.2. Модели и алгоритмы построения olap-систем
- •4.2.1. Rolap – обработка на основе запросов к реляционным базам данных
- •4.2.2. Molap – многомерное представление данных
- •4.2.3. Holap – гибридные системы
- •Контрольные тесты
- •5. Интеллектуальный анализ данных
- •5.1. Методы интеллектуального анализа данных
- •5.1.1. Основные понятия
- •5.1.2. Типы закономерностей, выявляемых методами интеллектуального анализа данных
- •5.1.3. Стадии интеллектуального анализа данных
- •5.1.4. Индуктивное и абдуктивное обучение
- •5.2. Алгоритмы интеллектуального анализа данных
- •5.2.2. Байесовская классификация
- •5.2.3. Деревья решений
- •5.2.4. Методы классификации с использованием функций
- •5.2.5. Метод "ближайшего соседа" или системы рассуждений на основе аналогичных случаев
- •5.2.6. Методы кластерного анализа
- •5.2.7. Развитие алгоритмов интеллектуального анализа данных
- •Контрольные тесты
- •6. Нейронные сети
- •6.1. Основные понятия
- •6.1.1. Модель искусственного нейрона
- •6.1.2. Модели нейронных сетей
- •6.1.3. Статические нейронные сети
- •6.1.4. Рекуррентные нейронные сети
- •6.2. Проектирование нейронных сетей
- •6.2.1. Этапы проектирования нейронных сетей
- •6.2.2. Метод обратного распространения ошибки
- •6.2.3. Методы обучения нейронных сетей: обучение без учителя
- •6.2.4. Нейронные сети Хопфилда и Хэмминга
- •6.2.5. Использование генетических алгоритмов для обучения нейронной сети
- •Контрольные тесты
- •5. Адаптивные системы
- •5.1. Основные классы адаптивных систем
- •5.1.1. Понятие и классификация адаптивных систем
- •5.1.2. Самонастраивающиеся адаптивные системы
- •5.1.3. Самоорганизующиеся адаптивные системы
- •5.1.4. Самообучающиеся адаптивные системы
- •5.2. Проектирование адаптивных систем
- •5.2.1. Общие подходы и требования к проектированию
- •5.2.2. Оригинальное проектирование адаптивных систем
- •5.2.3. Компонентное проектирование адаптивных систем
- •Контрольные тесты
- •8. Системы с интеллектуальным интерфейсом
- •8.1. Взаимодействие пользователя с информационной системой на естественном языке
- •8.1.1. Компьютерно-лингвистический подход к диалогу. Проблемы формализации естественном языке
- •8.1.2. Задачи обработки текстов на естественном языке
- •8.1.3. Уровни понимания текста на естественном языке
- •8.2. Построение естественно-языковых интерфейсов
- •8.2.1. Лингвистическая трансляция
- •8.2.2. Обобщенная схема естественно-языковой системы
- •8.2.3. Компонент понимания высказываний
- •8.2.4. Компонент генерации высказываний
- •8.3. Прикладные системы с интеллектуальным интерфейсом
- •8.3.1. Интеллектуальные базы данных
- •8.3.2. Интеллектуальные гипертекстовые системы
- •8.3.3. Системы когнитивной графики
- •Контрольные тесты
- •9. Многоагентные системы
- •9.1. Характеристика агента как элемента многоагентной системы
- •9.1.1. Агент: понятие и классификация
- •9.1.2. Отличительные свойства агента
- •9.2. Процесс самоорганизации в многоагентных системах
- •9.2.1. Понятие многоагентной системы
- •9.2.2. Структура памяти и принципы мышление агента
- •9.2.3. Самоорганизация многоагентной системы
- •9.2.4. Архитектура и интерфейс многоагентной системы
- •Контрольные тесты
- •Библиографический список
- •Приложение
- •Интеллектуальные информационные системы
- •3000600, Г.Тула, пр.Ленина, 92.
- •3000600, Г.Тула, ул.Болдина, 151
6.2.5. Использование генетических алгоритмов для обучения нейронной сети
Для определения оптимальных весов синапсов нейронной сети может быть использован генетический алгоритм. Генетический алгоритм является самым известным на данный момент представителем эволюционных алгоритмов, и по своей сути является алгоритмом для нахождения глобального экстремума многоэкстремальной функции в большом комбинаторном производстве поиска.
В генетических алгоритмах используется аналог механизма генетического наследования и естественного отбора, моделируется процесс эволюции популяции, причем индивидом (особью) является одно решение задачи. Решение задачи характеризуется множеством значений независимых переменных (аналог хромосом). Более приспособленные особи (лучшие решения) имеют большую возможность для выживания и скрещивания и приносят большее потомство. Благодаря передаче генетической информации потомки, наследуя от родителей их основные качества, также будет более сильными, а их доля в обшей массе будет увеличена.
В общем, генетический алгоритм работает следующим образом. В первом поколении все хромосомы генерируются случайно. Определяется их "полезность". Начиная с этой точки, генетический алгоритм может начинать генерировать новую популяцию. Репродукция состоит из четырех шагов: селекции, кроссовера, мутации, инверсии.
Кроссовер является наиболее важным генетическим оператором. Он генерирует новую хромосому, объединяя генетический материал двух родительских. Существует несколько вариантов кроссовера. Наиболее простым является одноточечный, часто используется двухточечный и равномерный кроссовер. В первом варианте просто берутся две хромосомы, и перерезаются в случайно выбранной точке, результирующая хромосома получается из начала одной и конца другой родительских хромосом. При двухточечном кроссовере таких точек две. При равномерном обмен может производится по всей хромосоме с определенной вероятностью. Мутация представляет собой случайное изменение хромосомы (обычно простым изменением состояния одного из битов на противоположное). Данный оператор позволяет более быстро находить локальные экстремумы с одной стороны, и позволяет "перескочить" на другой локальный экстремум с другой. Инверсия инвертирует (изменяет) порядок бит в хромосоме путем циклической перестановки (случайное количество раз). Многие модификации генетических алгоритмов обходятся без данного генетического оператора.
Новое сгенерированное поколение заменяет предыдущее. Существует еще элитные методы отбора, когда лучшие члены популяции остаются в следующем поколении. Правило останова - если средний уровень полезности нового поколения не превышает функцию полезности предыдущего, то решение найдено. Генетический алгоритм позволяет накапливать удачные решения для систем, состоящих из относительно независимых подсистем, может применяться к широкому классу оптимизационных задач, в том числе и не имеющих аналитического описания.
Контрольные тесты
1. При использовании какой функции активации выходной сигнал нейрона равен его потенциалу?
А) линейная Б) пороговая В) сигмоидная
2. К какому классу относится однослойный персептрон?
А) Статические сети Б) Рекуррентные сети
3. К какому классу относится сеть Кохонена?
А) Статические сети Б) Рекуррентные сети
4. Определение связей между нейронами и установление силы этих связей?
А) проектирование Б) обучение В) тестирование
5. При каком обучении для каждого примера не задается в явном виде значение признака его принадлежности некоторому классу ситуаций?
А) «с учителем» Б) «без учителя»
6. Что выполняют нейронные сети?
А) реализуют логический вывод: от частного к общему, путем классификации;
Б) строят решающие правила определения зависимостей между входными и выходными функциями на основе обучения на примерах;
В) осуществляют поиск по аналогии и поиск «от частного к общему».
7. «Если нейроны с обеих сторон синапса активизируются одновременно и регулярно, то сила синаптической связи возрастает»
А) Правило коррекции по ошибке Б) Обучение Больцмана
В) Правило Хебба Г) Обучение методом соревнования
8. Какой метод оптимизации используется в методе обратного распространения ошибки?
А) Симплекс Б) Коммивояжера В) Градиентный спуск
9. Генетический алгоритм является:
А) эффективным подходом к ограничению поисковых усилий при большом комбинаторном пространстве поиска;
Б) эффективным подходом к ограничению поисковых усилий при малом комбинаторном пространстве поиска;
В) эффективным подходом к ограничению поисковых усилий.
10. Что является особью в генетическом алгоритме?
А) одно решение задачи; Б) один процесс эволюции; В) один кроссовер.