Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Основы теории эволюционных вычислений. Научная монография
.pdf
а) инициализация алгоритма путём генерации начальной
rrr
r
r
r
r
r
≈
≈
≈
популяции
µ
.
Если отсутствуют предположения о местоположении
P(t=0) из µ
индивидов вида
=
),(
xa
σ
,
где
kkk
k = 1, 2,…,
глобального оптимума, то индивиды из начальной популяции
желательно распределить равномерно по всему пространству
поиска решения. Рекомендуется случайная генерация начальной
популяции по равномерному закону распределения, а при
m = n −
устанавливается
идентифицируется с целевой функцией
a
Φ
(
обязательным лишь для ЭС с (µ
λ)-селекции
установка одинакового для всех σ
б) оценка
) = F(
k
решения
функция
x
).
Этот этап эволюционных стратегий является
k
.
Для
;
качества
+ λ)-
селекцией, в отличие от (µ
°
значения, равного
j
каждого
x
F(
k
индивида
a
Φ
(
), т.е.
),
k
которая
считаем, что
3,0;
a
в) генерация потомков. Задача состоит в получении λ
k
,
потомков из µ родителей. Для этого необходимо выбрать
родителей
(
копирование и передача фенотипа родителей потомкам
мутацию потомков. При этом рекомендуется соотношение µ
1/7,
,
провести их рекомбинацию и репликацию
причем µ
15,
λ
100.
), а
затем
/ λ
Данный этап алгоритма выполняется
обычно λ раз и включает в себя следующую последовательность
действий
:
•
случайный выбор родителей, когда два случайно
выбираемых родителя производят одного потомка, причем
вероятность выбора некоторого родителя для всех
родителей одинакова и равна
•
рекомбинация
случайного
(
включая репликацию
обмена
1/µ;
отдельными
). В
результате
родительскими
фенотипическими компонентами возникает потомок
причем фенотипические признаки выбираются из одного
,
или
двух
родителей
рекомбинации аналогичен одноточечному оператору
кроссинговера в генетическом алгоритме, в отличие от
.
Этот
оператор
дискретной
141
оператора мутации, который является промежуточной
≈
≈
рекомбинацией. Неверным представляется утверждение о
том, что оператор рекомбинации не является важным для
эволюционных стратегий, поскольку он ускоряет процесс
оптимизации и играет значительную роль в ходе
адаптивной
стратегий
•
мутация потомков. В начале производится пошаговое
установки
параметров
эволюционных
;
изменение фенотипа потомков путем их мультипликации
по нормальному логарифмическому закону распределения
После этого производится мутация выражения каждой
логарифмической переменной, в котором к ее значению
прибавляется нормально распределенная величина с
математическим
среднеквадратическим отклонением σ
имеем
ожиданием
,
равным
j.
0,
Таким образом
и
.
,
σ
'k =
σ
exp (
k
ι
N (0, 1) +
1
ι
2 Nk
(0, 1)),
x'j = xj + σ'j Nj (0, 1), ∀i ≥ m: σ'j = σ'm,
где
N(0,1)
распределенной
определяемое для
постоянный коэффициент; ι
каждой
ι
1
n2
−1,
значения констант ι
m = 1,
мутация упрощается и формально имеет следующий вид
σ
' = σ exp (
обозначает единичную реализацию нормально
мутации
ι
2
ι
N (0, 1)),
0
переменной
j-й
.
Рекомендуются
n2
−1.
и
1
На практике обычно используются
ι
на
2
потомка
; Nj(0,1) –
переменной значение
–
коэффициент, варьируемый при
2
следующие
интервале от
0,1 до 0,2. В
N(0,1);
значения
случае если
вновь
ι
1
:
x'j = xj + σ' Nj (0, 1).
В целом применение закона нормального распределения
при мутации вполне соответствует фенотипическому закону о
том, что дети похожи на своих родителей, а небольшие
:
изменения в наследовании признаков, наоборот, воспринимаются
как значимые. Напротив, при мультипликативной мутации
среднеквадратичных отклонений нормальный логарифмический
142
закон
σ
′′=
′
rrr
′
r
′
r
распределения
имеет
следующие
преимущества
:
среднеквадратичное
отклонение
автоматически
остается
постоянным; малые изменения происходят чаще, чем большие
медиана мультипликативного изменения близка к единице
поэтому ошибки в селекции приводят лишь к небольшому
дрейфу в решении
.
Предположим, что среднеквадратичное отклонение при
мультипликативной мутации лежит вблизи
0 на
расстоянии ε
Это означает, что в ходе оптимизации пространство поиска
практически не сокращается и не возникает проблема «локальной
ямы
».
Таким образом, эволюционные стратегии позволяют
адаптивно найти подходящее значение среднеквадратичного
отклонения и можно вести речь о двухуровневом процессе
оптимизации
оптимального значения переменных, а на другом
,
т.е
.
на одном уровне происходит поиск
–
настройка и
установка параметров ЭС. Причем самоадаптивная установка
;
,
.
параметров эволюции позволяет максимально гибко учитывать
разнообразие ландшафта целевой функции, конечно, при
достаточно большом размере популяции µ
;
г) оценка потомков. Производится оценка каждого потомка
),(
xa
,
промежуточной популяции
д) детерминированная
Ф
)(a
=F
)( x
;
селекция
и
ограничивается
.
На
данном
размер
этапе
алгоритма эволюционных стратегий необходимо образовать
новую популяцию с учетом вновь появившихся λ потомков. Это
так называемая
стратегия, которая не дает шансов индивидам с
(µ, λ)-
селекция или эволюционная
«
(µ, λ)-
плохим
»
значением функции качества. Хотя в ходе естественного отбора
побеждает сильнейший, однако материал для эволюции зачастую
дают побежденные. Поэтому на данном этапе селекции
рекомендуется
отдельные
из
отбрасываемых
решений
запоминать
в
отдельный
список
для
периодического их использования в ходе эволюции
143
последующего
.
Пропорция µ/λ указывает на степень «суровости» селекции
r
.
Управляя этой пропорцией, скажем в сторону уменьшения дроби
мы тем самым ужесточаем селективный отбор. Анализ
показывает
функций желательна
унимодальных функций
«
локальную яму
е) критериями
стратегий являются максимальное число шагов эволюции
[Rodzin, 2002],
«
мягкая
(
»);
остановки
что для мультимодальных целевых
»
селекция, в отличие от
снижается опасность попадания в
алгоритма
эволюционных
t
max
отсутствие прогресса в смысле заметного улучшения значений
целевой функции, малая разница между лучшим и худшим
значением функции для текущей популяции и т.п
.
У исследователей эволюционных стратегий нет общего
мнения о том, какая из форм рекомбинации имеет преимущество
В
[75]
приводятся результаты эмпирического сравнительного
анализа, из которых следует, что для унимодальных целевых
,
,
.
функций наиболее подходящей является
форма рекомбинации
при которой фенотип потомка складывается из фенотипов
нескольких родителей. Для мультимодальных функций более
подходящей является рекомбинация в традиционной дискретной
форме. Для переменных
рекомбинацию
стратегий
−
ж) селекция
,
а
мультирекомбинацию
.
x
При
(µ + λ)-
рекомендуется применять дискретную
для
параметров
эволюционных
;
селекции новая популяция
образуется из объединенного множества родителей и потомков и
включает в себя элитные индивиды, имеющие лучшие значения
функции пригодности. Эксперименты свидетельствуют в пользу
(µ, λ)+ λ)-
селекции, которая имеет очевидные преимущества перед (µ
селекцией прежде всего при решении проблемы «локальных
ям» и с точки зрения адаптивных свойств ЭС. В самом деле, при
(µ + λ)-
селекции индивид с лучшим значением функции может
,
неоправданно долгое время переходить из одной популяции в
другую, обладая при этом неудачно установленным параметром
ЭС. В то время как при
(µ, λ)-
144
селекции продолжительность
жизни отдельного индивида является ограниченной. Отметим
также эффективность соревновательных
(
турнирных) форм
селекции в случае их реализации на параллельных вычислителях
С этой целью из объединенного множества родителей и
потомков случайно по закону равномерного распределения
выбираются ξ индивидов
копируется в следующую популяцию
[Rechenberg, 1994],
(2 ≤ ξ < µ + λ),
исследуя
(1+1)-
часть из которых
P(t+1).
селекцию
Рехенберг
,
высказал
предположение о том, что доля успешных мутаций по сравнению
с их общим количеством должна составлять примерно
(1+1)-
случайной градиентной стратегии
селекция может рассматриваться как один из видов
.
1/5, а
сама
Мы исследовали с позиций общей теории ЭВ задачи
многокритериальной оптимизация, состоящие в получении
эффективных или Парето-оптимальных решений, из которых
затем с учетом субъективных или иных предпочтений
.
принимается
предположении, что заданы
к
реализации
g
единственное
решение
целей. Одна из возможных
эволюционных стратегий состоит в том, что селекция новой
популяции разделяется на
целевой
функции
.
g
Если
отдельных этапов для каждой
выбирать
µ
/g
индивидов
характеризующих отдельную цель в предположении одинаковой
важности целей, то это соответствует (µ, λ)-селекции. Однако при
многокритериальной оптимизации важность отдельных целей
может
эволюционных
быть
различной
стратегий
.
Оказывается
вполне
,
что
механизм
применим
при
многокритериальной оптимизации с различным «весом» целевых
функций. Для этого достаточно изменить долю селектируемых
индивидов в популяции в соответствии с
цели
.
«
весом» той или иной
Другая рекомендация, являющаяся следствием из общей
в
,
теории ЭВ, сводится к тому, что размер популяции µ может быть
переменным, поскольку популяция охватывает все найденные в
данный момент недоминируемые решения
145
(
Парето-множество
).
Число потомков λ, напротив, можно установить постоянным, что
соответствует
(µ + λ)-
селекции, в которой родители и потомки
конкурируют между собой, а все недоминируемые решения
являются «бессмертными
Для
популяций
».
большого
размера
предлагается
использовать состязательную Парето-селекцию, идея которой
заключается в следующем. Из объединенного множества
родителей и потомков выбираются ξ индивидов
(2≤ ξ < µ+ λ) с
одинаковой вероятностью селективного выбора. Из ξ решений
определяются
следующую популяцию Р
одновременно присутствуют в популяции Р
повторяется до тех пор, пока размер популяции Р
равным µ
недоминируемые
(t+1),
.
,
которые
копируются
причем все ξ индивидов
(t).
Этот процесс
(t+1) не
станет
Эволюционные стратегии традиционно применяются для
задач оптимизации с непрерывными переменными
.
Нет
в
принципиальных затруднений для использования эволюционных
стратегий в дискретной оптимизации. С этой целью при
выполнении оператора мутации можно применять другие виды
законов распределения, например, биномиальную мутацию
Можно также использовать представленную выше базовую
схему эволюционных стратегий, округляя значения переменных
значения функции пригодности и конечные результаты процесса
оптимизации. Аналогично можно действовать при решении задач
целочисленной оптимизации, а также в случае, если задача
оптимизации имеет комбинированный характер. Другой путь
предлагается в
[Rechenberg, 1994],
однако при этом непрерывные
переменные используются лишь во внутреннем цикле базового
цикла эволюционных стратегий при выполнении генерации
потомков с дальнейшей их модификацией в дискретные
переменные во внешнем цикле. Отметим, что проблемы
.
,
смешанной оптимизации вообще являются характерными для
прикладных проблем искусственного интеллекта. Рассмотрим в
качестве примера оптимизационную задачу упорядочения
146
.
Сформулируем постановку задачи следующим образом
.
Пусть имеется
n
машин и
n
мест для их размещения. Необходимо
найти такое размещение машин, чтобы суммарные затраты на их
первоначальную установку и транспортные затраты на
перемещение продукции были минимальными
.
Формально эта задача сводится к поиску оптимальной
перестановки, при заданных значениях затрат
машины на
от места
от
j-й
j-е
место, затратах
i к
месту
машины к
k, а
m-й
также
машине
a
на
ik
b
-
jm
транспортировку материалов
объем продукции, передаваемой
(i, j , k , m = 1, 2,…, n).
c на
ij
установку
Тогда для
i-й
некоторой перестановки ψ необходимо минимизировать целевую
функцию вида
Пространство решений составляет
:
n
n
1
i
k
bacZ
)(
ii
∑∑∑
11
k
i
===
⋅+=
)()(
kiik
ψψψ
.
n!
Каждое отдельное
решение
(2,6,1,3,5,4),
(
перестановка) кодируется, например, в виде вектора
где внутри перестановки указан номер машины, а
место ее установки определяется порядковым номером внутри
вектора. Пусть применяется
родителя образуется путем мутации
(1, 100)-
селекция, т.е. из каждого
100
потомков без всякой
рекомбинации. Мутация заключается в случайной взаимной
перестановке двух машин. Потомок с минимальным значением
целевой функции образует новую родительскую популяцию, а
родитель участия в отборе больше не принимает
.
С помощью программного счетчика нетрудно установить
как часто вновь образованный потомок имеет худшее значение
функции пригодности, нежели родитель. После того как счетчик
достигнет некоторого граничного значения
установили, что граница составляет величину около
(мы
эмпирически
(n/10+2)), то
необходимо начать процедуру дестабилизации. Она заключается
,
в проведении от трех до восьми парных мутаций и завершается в
момент обнуления счетчика. После завершения дестабилизации
процесс оптимизации продолжается по прежней схеме
147
.
Моделирование эволюции прекращается по достижении
λ
Ο
=
t
−
max
максимального числа шагов эволюции. В качестве решения
выбирается лучшее из найденных в ходе эволюции решений
Начальная перестановка выбирается случайно
.
К этому необходимо добавить, что реальные задачи
оптимизации, как правило, содержат ограничения в форме
равенств или неравенств. Если пространство ограничений
является многомерным, то на этапе инициализации затраты
времени на генерацию допустимых решений могут оказаться
значительными. В этом случае рекомендуется использовать
метод, основанный на идеях штрафных функций, что позволяет
сводить задачи поиска условного экстремума к задачам на
безусловный экстремум
.
В ходе проведения исследований было установлено, что
максимальное
стратегий достигается при соотношении µ/λ из интервала
1/7]. В
частности, быстродействие
быстродействие
алгоритма
(1/λ)-
эволюционных
[1/5,
селекции возрастает
.
лишь как логарифм от λ
Что касается вопроса о вычислительной сложности (µ/µ,λ
.
)-
селекции с точки зрения числа шагов эволюции, которые
необходимы алгоритму эволюционных стратегий
,
чтобы
достигнуть заданного улучшения целевой функции, то оценки
для (µ/µ,λ
вид
:
)- и (µ/λ)-
,/
λµµ
nG
Ο=
,
λµ
селекций, соответственно, имеют следующий
),(
nG
).ln(
λ
Пока эти оценки были получены для вполне определенной
целевой функции. Вопрос об их обобщении на другие модели
остается неясным, поскольку все зависит от того, насколько
удачно данная модель аппроксимирует оптимизируемую
целевую функцию. Кроме того, имеются и другие теоретические
аспекты эволюционных стратегий, такие как их сходимость
,
частота мутации в конкретной задаче, самоадаптивность, влияние
148
кореллируемой мутации на целевую функцию, которые требуют
дальнейших усилий в области развития эволюционных стратегий
с позиций общей теории ЭВ
.
Алгоритмы эволюционного программирования.
История эволюционного программирования начиналась с
момента появления первых компьютеров. В
1949 г. в
цикле
лекций Дж. фон Нейман исследовал вопрос об уровне
организационной сложности, необходимой для самовоссоздания
естественной системы не на уровне генетики и биохимии, а
представив
самовоссоздания
самовоспроизводящуюся
основные
требования
.
Он
разработал
автоматическую
,
(но
необходимые
не
реализовал
конструкцию
для
представляющую собой двухмерную решетку с большим числом
отдельных автоматов с
29
состояниями. Каждое следующее
состояние отдельного автомата конструкции являлось функцией
его текущего состояния и состояний четырех ближайших
)
,
соседей. Интересно, что для обеспечения функциональности
универсальной машины Тьюринга фон Нейману потребовалось
спроектировать самовоспроизводящийся автомат, содержащий
около
40 000
Игра
«
клеток
Жизнь
.
»,
предложенная математиком Дж. Конвеем
получила широкую популярность благодаря ее описанию в
журнале
игра
получившей
automata −
Scientific American
−
интуитивный описательный пример модели вычислений
название
семейство
клеточных
простых
в
1970−1971 гг.
автоматов
конечных
(cellular
автоматов
Эта
демонстрирующее эмерджентное поведение при взаимодействии
элементов популяции
эволюционного программирования
).
Область ЭВ, получившая название
(evolutionary programming),
основывается на формальном анализе самовоспроизводящихся
машин и уходит корнями вглубь теории вычислений
,
,
,
.
Эмпирические результаты и программы, разработанные в этом
направлении, демонстрируют различные формы искусственной
149
жизни, а успех работы этих программ определяется не
некоторым, заранее заданным критерием качества, а простым
фактом выживания и самовоспроизводства особей. Признаком
пригодности является само выживание
системы
окружающей средой [Рапопорт
−
Идеи
это артефакт простой организации и взаимодействия с
, 2005].
эволюционного
программирования
.
Интеллект этой
при
компьютерном синтезе интеллектуальных автоматов, способных
инновационным образом реагировать на стимулы, поступающие
из внешней среды, стали одним из направлений искусственного
интеллекта. Эти идеи выглядят сегодня актуальными в теории
многоагентных систем, искусственной жизни и коллективного
поведения. Существует, правда, и другая сторона медали. Всем
известны компьютерные вирусы и черви, способные выживать в
чуждой среде, воспроизводить себя
(
обычно разрушая в памяти
любую информацию, необходимую для этого воспроизводства) и
инфицировать другие узлы
Напомним
особенности
.
программирования [Курейчик
•
популяция
в
программирования рассматривается как центральный
объект эволюции
•
биологическая эволюция является, в первую очередь
;
процессом приспособления на поведенческом уровне, а не
на уровне таких генетических структур, как хромосомы
•
популяция особей в эволюционном программировании
отражает характер поведения, вид общения и пр. Этот
уровень абстракции в природе не предусматривает
рекомбинации
•
в
алгоритмах
;
эволюционного
отсутствует оператор кроссинговера, так же как и
алгоритмов
, 2004]:
алгоритмах
эволюционного
эволюционного
программирования
,
;
некоторые другие операторы, используемые в генетическом
программировании
;
150
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]