- •Глава 5
- •5.1. Модель искусственного нейрона
- •5.2. Модели нейронных сетей
- •5.3. Построение нейронной сети
- •5.4. Обучение нейронных сетей
- •Глава 6
- •6.1.2. Разновидности генетических алгоритмов
- •6.1.4. Краткий обзор программных средств
- •6.2.1. Генетическое программирование
- •6 2 2 Эволюционное программирование
- •6.2.3. Эволюционные стратегии
- •Глава 7
- •7.1.1. Характеристики интеллектуальных агентов
- •7.1.2. Архитектуры мультиагентных систем
- •7.2. Коллективное поведение агентов
- •7.3. Примеры мультиагентных систем
- •Глава 8
- •101000, Москва, ул. Покровка, 7
- •182100, Великие Луки, ул. Полиграфистов, 78/12
6.2.3. Эволюционные стратегии
Эволюционные
стратегии были предложены в 1970-х гг.
[31, 32] в качестве стохастического метода
нахождения глобального минимума
функций многих переменных
суть
которого со-
стоит
в следующем. Из случайных векторов
решения задачи многокритериальной
оптимизации
—
размерность
пространства параметров оптимизации,
формируется начальная популяция
объектов эволюции, над которыми
выполняются
следующие действия.
1.
Из решений х
формируются
новые объекты — потомки
путем
сложения каждой компоненты
со
случайной пе-
ременной
имеющей
нормальный закон распределения с
нуле/-вым
математическим ожиданием.
300
Вычисляются значения целевой функции
и
осуществляется
выбор наилучшего (минимального) решения,
ко
торое
отбирается в новую популяцию.Процесс продолжается до тех пор, пока не будет достигну то приемлемое решение.
Каждый
объект в популяции характеризуется
двумя векторами — вектором решения
и случайным вектором, модифицирующим
это решение. Случайный вектор
характеризуется вектором дисперсии,
который хранится в процессе поиска, и
может быть дополнен
корректирующим вектором, ускоряющим
сходимость алгоритма.
Значение
моделирует
величину шага изменения параметров,
выбираемую случайным образом. В общем
случае
может
принимать любые значения, однако в схеме
моделирования эволюционных механизмов
величина
отражает
интенсивность
мутаций «родителя» и поэтому не слишком
велика. Совокупность полученных
точек составляет очередное поколение
решений,
которые оцениваются по значениям
минимизируемой функции
F(X).
В
результате отбора одни особи гибнут, а
другие живут
и размножаются. Эту простую схему легко
усовершенствовать,
вводя по аналогии с естественными
закономерностями зависимость
числа порождаемых потомков от значений
функций ценности
«родителей». Соответствующие эволюционные
стратегии поиска известны и широко
используются на практике. Популяции
можно формировать следующими способами:
1)
родителей
порождаютпотомков,
все
решения борются за
выживание и лучшие
объектов
отбираются в следующую популяцию;
2) время
жизни объекта ограничено одной генерацией,
т.е.
родителей,
произведя
потомков,
погибают. За место в следующей
популяции соревнуются только
потомков,
причем в данном
способе должно выполняться
условие
(рекомендуемое
соотношение
Такой
подход применим к задачам с изменяющимся
оптимумом и с зашумленными данными.
В эволюционных стратегиях используется оператор рекомбинации (в эволюционном программировании, в отличие от эволюционных стратегий, рекомбинация не применяется), который аналогичен скрещиванию в генетических алгоритмах. При этом компоненты вектора «потомка» создаются из компонент векторов решений двух «родителей». Это можно сделать разными способами, например:
301
• компоненты вектора потомка выбираются случайным обра зом из векторов родителей;
• компоненты вектора потомка получаются как средние арифметические значения компонент обоих родителей, а затем к полученному потомку применяется оператор мутации.
В эволюционных стратегиях иногда применяется глобальная рекомбинация, при которой компоненты вектора каждого потомка случайным образом выбираются из векторов всей популяции родителей.
Следует отметить, что моделирование естественных процессов развития, в том числе и эволюции, было и остается одним из самых перспективных научных направлений. Кроме описанных методов эволюционных вычислений, на основе естественных аналогий придуманы нейронные сети, предложены методы эволюционного синтеза систем (см. главу 8) и методы эволюционного проектирования технических объектов. Особенностью подходов, базирующихся на эволюционных аналогиях, является контраст между достаточно простым математическим аппаратом (по сравнению с другими методами) и впечатляющими результатами в области решения слабоструктурированных и плохо обусловленных проблем.
Великий Гёте назвал природу «творцом всех творцов», поэтому разработчикам ИИС еще предстоит очень многому у нее научиться.
Литература
БатищевД. И. Генетические алгоритмы решения экстремальных задач: Учеб. пособие. - Воронеж: Изд-во ВГТУ, 1995.
Букатова И. Л. Эволюционное моделирование и его приложе ния. — М: Наука, 1979.
Букатова И. Л. и др. Эвоинформатика. Теория и практика эво люционного моделирования. — М.: Наука, 1991.
Гудман Э. Д., Коваленко А. П. Эволюционные вычисления и гене тические алгоритмы // Обозрение прикладной и промышленной математики. — М.: ТВП, 1996. Т. 3. — Вып. 5.
Корнеев В. В. и др. Базы данных. Интеллектуальная обработка, информации. — М.: Нолидж, 2000.
Корячко В. П., Курейчик В. М., Норенков И. П. Теоретические ос новы САПР. — М.: Энергоатомиздат, 1987.
Курейчик В. М. Генетические алгоритмы: Монография. - Таган рог: Изд-во ТРТУ, 1998.
Курейчик В. М. Генетические алгоритмы в проектировании СБИС: Учеб. пособие. - Таганрог: Изд-во ТРТУ, 1997.
Курейчик В. М. Методы генетического поиска: Учеб. пособие. — Таганрог: Изд-во ТРТУ, 1998.
Растригин Л. А. Статистические методы поиска. - М.: Наука, 1968.
Стецюра Г. Г. Эволюционные методы в задачах управления, вы бора и оптимизации // Приборы и системы управления. — 1998. -№3.
Фогель Л., Оуэне А., Уолш М. Искусственный интеллект и эволю ционное моделирование. - М.: Мир, 1969.
Фролов Ю. В. Интеллектуальные системы и управленческие ре шения. - М.: Изд-во МГПУ, 2000.
ХолландДж. Генетические алгоритмы // В мире науки. — 1992. - № 9-10.
Цетлин М. Л. Исследование по теории автоматов и моделирова ние биологических систем. — М.: Наука, 1969.
Ackley D. H. A Connection machine for genetic hillclimbing. - Boston: Kluwer Academic Publishers, USA, 1987.
Booker L. В., Goldberg D. E., Holland J. H. Classifier systems and genetic algorithms // Ibid. - 1989. - Vol. 40. — No. 1-3.
Branke J., Kohlmorgen U., Sshmeck H. A distributed genetic algorithm improving the generalization behavior of neural networks // LNAI. — 1995. - Vol. 912.
Dzerovski S., Petrovski I. Discovering dynamics with genetic program ming // LNAI. - \Ы. 784.
FogelD. Evolutionary computatio. - IEEE press, 1995.
Fogel D. В., Atmar J, W. Comparing genetic operators with gaussian mutations in simulated evolutionary process using linear systems // Biol. Cybernetics. - 1990. - Vol. 63.
Foundation of Genetic Algorithms / Ed. by rawens gregory. - San Mateo: Morgan Kaufman Publishers, California, USA, 1991.
Goldberg David E. Genetic algorithms in search, optimization and machine learning. - Addison-Wesley Publishing Company, Inc. 1989.
Gruckles B. P., Party F. E. Genetic algorithms. - Los Alamos: IEEE Computer Society Press, LA, USA, 1992.
Handbook of Genetic Algorithms // Ed. by Lawrense Davis, Van Nostrand Reinholds. - New York, 1991.
302
303
Holland J. H. Adaptation in natural and artificial systems. An intro ductory analysis with application to biology, control and artificial intel ligence. — University of Michigan, 1975.
Koza J. Genetic evolution and co-evolution of computer programs // Artificial life 2. Proceedings of the Workshop on Artificial life, 1990.
Koza J. Genetic programming // MIT press, 1992.
Koza J. GP2: Automatic discovery of reusable programs // MIT press, 1994.
Ono N., RahmaniA. Self-organization of communication in distributed earning classifier systems. Artificial neural nets and genetic algorithms // Proceedings of the International Conference, 1993, p. 361 - 367.
Schwefel H.-P. Numerical optimization of computer models. — New York: John Willey, 1981.
Schwefel H.-P. Evolution and optimum searching. — New York: John Willey, 1995.
Контрольные вопросы и задания
Сформулируйте прикладную экономическую или управленчес кую оптимизационную задачу и опишите ее решение с примене нием генетического алгоритма.
Расскажите о классифицирующих системах Холланда. Приведи те пример.
Перечислите основные этапы технологии генетического про граммирования.
В чем особенности эволюционного программирования? Приве дите основные шаги обобщенного алгоритма эволюционного программирования.
Охарактеризуйте метод эволюционных стратегий. В чем его от личие от эволюционного программирования и от генетических алгоритмов?
Расскажите о применении эволюционных вычислений в ИИС. Каким образом применяют ГА для обучения нейронных сетей? Приведите небольшой содержательный пример, демонстрирую щий применение ГА для формирования продукционных правил интеллектуальной системы.
Перечислите основные направления эволюционного моделиро вания и приведите основные факторы, определяющие неизбеж ность эволюции.
Какие алгоритмы называют генетическими? Сформулируйте ос новные особенности генетических алгоритмов.
Охарактеризуйте простой генетический алгоритм. Приведите пример.
Опишите операторы репродукции и кроссинговера в простом ге нетическом алгоритме. Приведите примеры.
Приведите примеры использования простого генетического ал горитма для вычисления функциина интервале [0, 1, 2, 3,4].

Составьте примеры, иллюстрирующие работу операторов репро дукции, кроссинговера, мутации и инверсии.
Дайте характеристику понятию «схема» в простом генетическом алгоритме. Расскажите о назначении и способах использования схем. Приведите примеры.
Расскажите о фундаментальной теореме генетического алго ритма.
Приведите пример применения фундаментальной теоремы гене тического алгоритма.
304
