11. Признаки классификации иис

Признаки для ИИС, ориентированных на генерацию алгоритмов решения задач:

• использование развитых коммуникативных методов,

• умение решать сложные плохо формализуемые задачи,

• способность к обучению и самообучению,

• применение эволюционных методов,

• использование различных источников знаний.

• Перечисленные признаки ИИС развиты в неодинаковой степени.

• Реализуются одновременно все эти признаки редко.

• Условно каждому из признаков соответствует свой класс ИИС

12. Классы ИИС

• Системы с интеллектуальным интерфейсом;

• Системы, основанные на знаниях (СОЗ);

• Обучающиеся и самообучающиеся системы;

• Системы, использующие эволюционные модели

• Системы, использующие множество источников знаний.

Все пять признаков интеллектуальности в той или иной степени реализуются в СУЗ.

№13 Системы с интеллектуальным интерфейсом

ИИС – системы с интеллектуальным интерфейсом, системы основанные на знаниях, обучающиеся и самообучающиеся системы, системы использующие эволюционные модели, системы использующие множество источников знаний. Все вместе – системы управления знаниями.

Системы с интеллектуальным интерфейсом

• интеллектуальные базы данных;

• естественноязыковый интерфейс;

• гипертекстовые системы;

• системы контекстной помощи;

• системы когнитивной графики.

Интеллектуальные базы данных

Имеется возможность выборки по запросу необходимой информации, которая может явно не храниться, а выводиться из имеющихся в базе данных.

Вывод неявной информации осуществляется путем интерпретации следующих зависимостей:

- вычислительных зависимостей атрибутов, например, “вывести список товаров, цена которых выше среднеотраслевой”,

- структурных отношений объектов, например, “вывести список товаров-заменителей некоторой продукции”,

- логических зависимостей факторов принятия решений, например, “вывести список потенциальных покупателей некоторого товара”.

Запрос – вывести список товаров, цена которых выше среднеотраслевой. Решаемые задачи – а) статистический расчет среднеотраслевой цене по всей БД б) запрос на отбор данных по условию

Запрос – вывести список товаров-заменителей для некоторой продукции. Решаемые задачи - а) нахождение характерных признаков объекта б) запрос на поиски аналогичных объектов

Запрос – вывести список потенциальных покупателей некоторого товара. Решаемые задачи – а) определение списка посредников-продавцов, осуществляющих продажу данного товара б) поиски соответствующих покупателей.

Запрос Х. Решаемые задачи – а) доопределение условия б) поиск по условию

Естественно-языковой интерфейс

Транслирует естественно-языковые конструкции на внутримашинный уровень представления знаний.

Используется для:

-доступа к интеллектуальным базам данных;

-контекстного поиска документальной текстовой информации;

-голосового ввода команд в системах управления;

-машинного перевода с иностранных языков.

Гипертекстовые системы

Реализуют поиск по ключевым словам в базах текстовой информации. Интеллектуальные гипертекстовые системы отличаются возможностью более сложной семантической организации ключевых слов, которая отражает различные смысловые отношения терминов

Системы контекстной помощи

Частный случай интеллектуальных гипертекстовых и естественно-языковых систем.

Системы когнитивной графики

Осуществляют интерфейс пользователя с ИИС в виде графических образов, которые генерируются в соответствии с происходящими событиями.

№14 Самообучающиеся системы

Основа: методы автоматической классификации примеров ситуаций реальной практики (обучения на примерах).

Примеры реальных ситуаций накапливаются за некоторый исторический период и составляют обучающую выборку.

Примеры описываются множеством признаков классификации.

Обучающая выборка может быть:

“с учителем” - для каждого примера задается в явном виде значение признака его принадлежности некоторому классу ситуаций (классообразующего признака);

“без учителя” - по степени близости значений признаков классификации система сама выделяет классы ситуаций.

Результат обучения:

строятся обобщенные правила или функции, определяющие принадлежность ситуаций классам, которыми обученная система пользуется при интерпретации новых возникающих ситуаций.

автоматически формируется база знаний, используемая при решении задач классификации и прогнозирования.

Недостатки, свойственные всем самообучающимся системам:

- возможна неполнота и/или зашумленность (избыточность) обучающей выборки и, как следствие, относительная адекватность базы знаний возникающим проблемам;

- возникают проблемы, связанные с плохой смысловой ясностью зависимостей признаков и, как следствие, неспособность объяснения пользователям получаемых результатов;

- ограничения в размерности признакового пространства вызывают неглубокое описание проблемной области и узкую направленность применения.

№15 Системы, использующие эволюционные модели

Согласованность и эффективность работы элементов биологических организмов наводит на мысль – можно ли использовать принципы биологической эволюции для оптимизации практически важных для человека систем?

В 1975 г. вышла основополагающая книга Дж. Холланда “Адаптация в естественных и искусственных системах”, в которой был предложен генетический алгоритм.

В общем виде эволюционный алгоритм – это оптимизационный метод, базирующийся на эволюции популяции “особей”.

Каждая особь характеризуется приспособленностью – многомерной функцией ее генов.

Задача оптимизации состоит в максимизации функции приспособленности.

В процессе эволюции в результате отбора, рекомбинаций и мутаций геномов особей происходит поиск особей с высокими приспособленностями.

Основные эволюционные алгоритмы

- Генетический алгоритм. Оптимизация функций дискретных переменных. Акцентируется внимание на рекомбинациях геномов.

- Эволюционное программирование. Оптимизация непрерывных функций без использования рекомбинаций.

- Эволюционная стратегия. Оптимизация непрерывных функций с использованием рекомбинаций.

- Генетическое программирование. Оптимизация компьютерных программ.

Особенности эволюционных алгоритмов

- параллельный поиск,

- случайные мутации и

- рекомбинации уже найденных хороших решений.

- хорошо подходят как простой эвристический метод оптимизации многомерных, плохо определенных функций.

Наибольшее распространение получил генетический алгоритм.

На основе ГА осуществляются:

• решение задач логистики,

• оптимизация профилей балок в строительстве,

• распределение инструментов в металлообрабатывающих цехах,

• обработка рентгеновских изображений в медицине,

• оптимизация работы нефтяных трубопроводов и т.д.

Одна из основных областей применения ГА – решение задач комбинаторной оптимизации (например, задача о коммивояжере).

Генетический алгоритм (ГА) – это компьютерная модель эволюции популяции искусственных "особей".

Каждая "особь" характеризуется своей хромосомой Sk,

хромосома есть "геном" особи.

Хромосома определяет приспособленность особи f (Sk);

k = 1,..., m; m – численность популяции.

Хромосома есть цепочка символов Sk = (Sk1, Sk2,...,SkN),

N – длина цепочки.

Символы интерпретируются как "гены" особи, расположенные в хромосоме Sk .

Задача алгоритма состоит в максимизации функции приспособленности f(Sk).

Эволюция состоит из последовательности поколений.

Для каждого поколения отбираются особи с большими значениями функции приспособленности.

Хромосомы отобранных особей рекомбинируются и подвергаются малым мутациям.

Пошаговое описание ГА

(популяция t-го поколения обозначается как {Sk(t)})

Шаг 0. Создать случайную начальную популяцию {Sk(0)}.

Шаг 1. Вычислить приспособленность f(Sk) каждой особи Sk популяции {Sk(t)}.

Шаг 2. Производя отбор особей Sk в соответствии со значениями их функций приспособленности f(Sk) и, применяя генетические операторы (рекомбинации и точечные мутации) к отобранным особям, сформировать популяцию следующего поколения {Sk(t+1)}.

Шаг 3. Повторить шаги 1,2 для t = 0, 1, 2, ... , до тех пор, пока не выполнится некоторое условие окончания эволюционного поиска

(прекращается рост максимальной приспособленности в популяции, число поколений t достигает заданного предела и т.п.).

Имеется ряд конкретных вариантов генетического алгоритма, которые отличаются по схемам отбора, рекомбинаций, по форме представления хромосом и т.д.

Наиболее традиционный вариант генетического алгоритма базируется на следующей конкретной схеме:

НАЧАЛО /* Описание работы ГА */

Создать начальную популяцию

Оценить каждую особь - вычислить f(Sk)

Признак завершения работы ГА := FALSE

ПОКА Признак завершения работы ГА = FALSE

ВЫПОЛНЯТЬ

НАЧАЛО /* новая итерация (поколение)

Применить оператор отбора

ПОВТОРИТЬ (m/2) РАЗ

НАЧАЛО /* цикл воспроизводства */

Выбрать две особи (родителей) из множества особей предыдущего поколения (итерации)

Применить оператор скрещивания с заданной вероятностью к выбранным особям и получить две новые особи (потомки)

НАЧАЛО /* цикл воспроизводства */

Выбрать две особи (родителей) из множества особей предыдущего поколения (итерации)

Применить оператор скрещивания с заданной вероятность к выбранным особям и получить две новые особи (потомки)

Оценить вновь полученные особи

Если оператор скрещивания не применяется,

ТО потомки становятся копиями своих родителей

Поместить потомков в новое поколение

КОНЕЦ

Применить оператор мутации с заданной вероятностью

ЕСЛИ популяция сошлась,

ТО Признак завершения работы ГА:= TRUE

КОНЕЦ

КОНЕЦ.

ГА случайным образом генерирует начальную совокупность (популяцию) структур (особей).

Работа ГА представляет собой итерационный процесс, который продолжается до тех пор, пока не выполнятся заданное число поколений или какой-либо иной критерий остановки.

На каждом поколении ГА реализуется:

- отбор пропорционально приспособленности,

- одноточечный оператор кроссовера и

- оператор мутации.

- Пропорциональный отбор назначает каждой особи вероятность Pg(k), равную отношению ее приспособленности к суммарной приспособленности популяции.

- Затем происходит отбор (с замещением) всех m особей для дальнейшей генетической обработки, согласно величине Pg(k).

-Простейший пропорциональный отбор - рулетка (roulette-wheel selection, Goldberg, 1989c) - отбирает особей с помощью m "запусков" рулетки.

-Колесо рулетки содержит по одному сектору для каждого члена популяции. Размер i-ого сектора пропорционален соответствующей величине Pg(k).

-Т.О. члены популяции с более высокой приспособленностью чаще выбираются, чем особи с низкой приспособленностью.

После отбора, h выбранных особей подвергаются кроссоверу (иногда называемому рекомбинацией или скрещиванием).

С заданной вероятностью Pc h особей случайным образом разбиваются на h/2 пары.

Для каждой пары с вероятность Pc может применяться кроссовер.

Соответственно с вероятностью 1-Pc кроссовер не происходит и неизмененные особи переходят на стадию мутации.

Если кроссовер происходит, полученные потомки заменяют собой родителей и переходят к мутации.

Одноточечный кроссовер.

Сначала, случайным образом выбирается одна из l-1 точек разрыва. (Точка разрыва - участок между соседними битами в строке.)

Обе родительские структуры разрываются на два сегмента по этой точке.

Затем, соответствующие сегменты различных родителей склеиваются и получаются два генотипа потомков.

Например, предположим, один родитель состоит из 10 нолей, а другой - из 10 единиц. Пусть из 9 возможных точек разрыва выбрана точка 3.

Родители и их потомки показаны ниже

0000000000 000-0000000 -> 111-0000000 1110000000

1111111111 111-1111111 -> 000-1111111 000-1111111

После того, как закончится стадия кроссовера, выполняются операторы мутации.

В каждой строке, которая подвергается мутации, каждый бит с вероятностью Pw изменяется на противоположный. Популяция, полученная после мутации записывает поверх старой и этим цикл одного поколения завершается.

Потомок1 1110000000

Потомок2 0001111111

Потомок1 1100000000

Потомок2 0101111101

Пропорционально-вероятностный отбор

Отбор особей для генетических операций производится с вероятностями, пропорциональными приспособленностям fk особей (fk = f(Sk)) .

Эту схему можно представить, как выбор особи с помощью рулетки, относительные площади секторов которой равны qk = 1/fk [S l fl ].

Ранжированный отбор

Все особи ранжируются по приспособленностям и заданная часть (скажем, лучшая половина) лучших особей отбирается для формирования следующего поколения.

Турнирный отбор

Реализует d турниров, чтобы выбрать d особей.

Каждый турнир построен на выборке v элементов из популяции, и выбора лучшей особи среди них.

Наиболее распространен турнирный отбор с v=2.

Элитные методы отбора

Гарантируют, что при отборе обязательно будут выживать лучший или лучшие члены популяции совокупности.

Наиболее распространена процедура обязательного сохранения только одной лучшей особи, если она не прошла как другие через процесс отбора, кроссовера и мутации.

Элитизм может быть внедрен практически в любой стандартный метод отбора.

Генетическое программирование

Идею ГП - впервые предложил Коза в 1992 году, опираясь на концепцию генетических алгоритмов (ГА).

Эта идея заключается в том, что в отличие от ГА в ГП все операции производятся не над строками, а над деревьями.

При этом используются такие же операторы, как и в ГА: селекция, скрещивание и мутация.

В ГП хромосомами являются программы.

Программы представлены как деревья с функциональными (промежуточные) и терминальными (конечные) элементами.

Терминальными элементами являются константы, действия и функции без аргументов,

функциональными - функции, использующие аргументы.

Пример.

Функция d -x/21*b

Терминальные элементы

T = {d,x,21,b},

Функциональные

F = {-,/,*}.

Для того чтобы применить ГП к какой-либо проблеме, необходимо определить:

- Множество терминальных элементов.

- Множество функциональных элементов.

- Меру приспособленности (fitness).

- Параметры, контролирующие эволюцию.

- Критерий останова эволюции.

Особенности операторов ГП

Алгоритм работы ГП такой же как и ГА:

- селекция,

- скрещивание

- мутация.

Особенности: поскольку ГП оперирует над деревьями, а не над строками, то операторы скрещивания и мутации имеют отличия.

Оператор скрещивания работает следующем образом:

выбираются случайные части родительских деревьев и эти части меняются местами.

В ГП размер хромосомы меняется.

Чтобы предотвратить чрезмерное разрастание дерева, вводят:

• максимальное количество функциональных элементов в дереве или

• максимальную глубину дерева.

Однако при операции скрещивания возможна ситуация, когда при скрещивании двух деревьев получится одно из деревьев, превосходящее заданный лимит.

В этом случае вместо конфликтного дерева копируется родительское дерево.

Оператор мутации случайно удаляет часть дерева и заменяет ее новым деревом

Примеры использования ГП – робот собирающий еду, газонокосильщик, искусственный муравей, игра змейка, символьная регрессия.