Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Основы теории эволюционных вычислений. Научная монография
.pdf
преимущество получает более специфичный классификатор с
самым высоким значением полезности
.
Другой рекомендацией, направленной на расширение
возможностей
[Grefenstette, 1991] о
КМК
,
является
идея
Грефенстетта
декомпозиции процесса обучения на
эпизоды, в конце которых по цепи обратной связи с внешней
средой
определяется
наиболее
активный
и
полезный
классификатор. Данный классификатор может быть использован
с целью построения стабильной цепи правил классификации, что
представляется очень важным, скажем при поддержке процессов
диагностирования и контроля за технологическими процессами
на транспорте
Экспериментальное
нетривиальность процесса обучения. Причины здесь следующие
•
для оптимизации процесса классификации генетический
.
моделирование
подтвердило
:
алгоритм должен получать объективную информацию о
полезности классификатора, что требует определенного времени
для стабилизации процесса
•
отрицательное влияние на обучение оказывает генерация
;
в ходе эволюции копий уже существующих или эквивалентных
продукций
•
;
длинные цепи продукций строятся довольно долго и не
всегда стабильны, а КМК требует установки параметров, поиск
подходящих значений которых также является нетривиальной
оптимизационной задачей
•
полученные путем мутации и кроссинговера продукции
с
высоким
значением
подходящие, но редко активизируемые классификаторы
;
полезности
могут
«
вытеснять
.
В этой связи интерес представляет гибридизация КМК с
различными эволюционными методами, а также с нечеткими
множествами, что обеспечит более широкое применение КМК в
»
сферах, где традиционно используются модели нейросетей
распознавание образов, таксономия, прогнозирование и т.п
161
.
:
Алгоритмы роевого интеллекта
Ранее в разделе
1.6
отмечалось, что рой можно
рассматривать как многоагентную систему, в которой каждый
агент функционирует автономно по довольно примитивным
правилам, однако поведение всей системы получается вполне
разумным. Используя модель роевого интеллекта, удалось
получить неплохие результаты для решения задач коммивояжера
оптимизации транспортных маршрутов, раскраски графа, о
назначениях, оптимизации сетевых графиков, календарного
планирования и многих других
[
Гладков
, 2009].
Особенно
эффективны роевые модели при динамической оптимизации
процессов в
распределенных нестационарных
системах
например, трафиков в телекоммуникационных сетях. Основу
поведения роя составляет самоорганизация, обеспечивающая
достижения общих целей роя на основе низкоуровневого
взаимодействия. Рой не имеет централизованного управления, и
,
,
его особенностями являются прямой и непрямой обмен
локальной информацией только между отдельными особями
.
В общем случае в роевых моделях многомерное
пространство поиска населяется роем частиц. Формальная
модель роевого алгоритма была представлена в разделе
соответствии
с
базовым
циклом
ЭВ
она
1.6. В
включает
последовательность шагов, связанных с созданием исходной
популяции
индивидуума, лучший из которых объявляется
притяжения
ускорением, зависящим от расстояния до
процесс итерационно повторяется заданное число раз
Последний
локальному оптимуму
,
», к
расчётом
целевой
функции
для
«
которому устремляются все остальные с
«
центра
.
«
центр тяжести» соответствует найденному
x*.
Рой не знает, где именно находится
каждого
центром
».
Далее
цель, но на каждой итерации рой знает, как далеко она
находится. Эффективной стратегией будет следование за
индивидуумом, который на данный момент находится к цели
ближе всего
.
162
Рассмотрим подробнее разновидности алгоритмов роевого
интеллекта на примерах поведения стаи птиц, муравьиной
колонии, роя пчёл
Моделируя поведение стаи птиц
ft −
текущее значение целевой функции
выполнения всех действий, включенных в модель на итерации
через
f
best
–
.
,
обозначим через
−
время завершения
лучшее значение целевой функции
, Ft –
t,
лучшее
значение целевой функции среди всех индивидуумов. Тогда
скорость индивидуума на следующем шаге
v
= vt +k1*rnd(0,1)*( f
t+1
а значение целевой функции как
f
= ft + v
t+1
где
vt –
скорость индивидуума на итерации
число на интервале
,
t+1
(0, 1); k1 , k2 –
- ft ) + k2*rnd(0,1)*( Ft - ft ),
best
некоторые коэффициенты
(t+1)
вычисляется как
t; rnd(0,1) −
случайное
.
Таким образом, согласно модели роя после случайной
инициализации популяции индивидуумов для каждого из них
вычисляется значение целевой функции
лучше, чем
лучшее значение
f
best
, то f
Ft, и
обновляется. Далее, среди
best
затем вычисляются согласно приведенным
ft.
Если оно окажется
f
выбирается
best
выше формулам новые значения скоростей индивидуумов и
текущие значение их целевых функций. Итерационный процесс
повторяется
.
В чём состоит модификация предлагаемого алгоритма в
сравнении с каноническим алгоритмом роя? В более тесной
аналогии с естественным поведением роя в природе. Во-первых
при определении центра притяжения всех индивидуумов роя его
координаты не задаются однозначно. Это достигается тем, что
при вычислении параметров движения каждой частицы к центру
тяжести на них накладывается случайная составляющая. Во
вторых, на ускорение, с которым каждая частица движется к
,
-
центру тяжести, также накладывается случайная составляющая
В-третьих, решение об использовании
(
или не использовании
случайных составляющих принимается по правилам лотереи
163
.
)
(«
орел
»/«
решка
»).
Наконец
,
в-четвёртых
,
для улучшения
сходимости алгоритма, расширения пространства поиска и
приближения
поведению
математической
роя
в
природе
модели
вводятся
к
естественному
«
сумасшедшие
индивидуумы, законы движения которых случайны и не связаны
с роем
.
Отметим также высокую степень распараллеливания
операторов предлагаемого модифицированного алгоритма
При тестировании модели выяснилось
популяции в
10
индивидуумов достаточен, чтобы получить
,
.
что объем
хорошие результаты. Рекомендуемый размер популяции равен
20 − 40
размер популяции достигал от
индивидуумов, хотя для некоторых специальных задач
100
до
200
частиц. Число
итераций выбирается следующим образом. Если, например
целочисленная переменная изменяется на интервале
число итераций около
20.
Коэффициенты
k1 и k2 в
[−10, 10], то
экспериментах
»
,
выбирались равными
Муравьиные
2,
алгоритмы
либо варьировались на интервале
являются
ещё
[0, 4].
одной
разновидностью роевых моделей. В ходе наблюдения за
муравьиными колониями было обнаружено, что почти слепым
муравьям удается находить кратчайшие маршруты до
источников пищи
[Dorigo, 1996;
Редько
, 2006].
Муравей по мере
продвижения откладывает на почве феромоновые метки, запах
которых распознается другими муравьями. Муравьи
,
не
сталкивающиеся с прежде проложенным следом, двигаются
произвольно, однако если они наталкиваются на след, то с
высокой вероятностью перемещаются по нему, усиливая его
своими
собственными
метками
.
Вероятность
выбора
направления движения пропорциональна величине феромона в
найденном следе, т.е. чем больше муравьев пройдет по одному и
тому же пути, тем он становится более привлекательным. На
рис
. 21
представлен пример подобного рода коллективного
поведения муравьиной колонии
.
164
Рис
. 21.
Пример моделирования поведения реальных муравьев
Если считать муравейником пункт А, то задача муравьиной
колонии состоит в поиске кратчайшего пути до источника пищи
в пункте
D (
рис
. 21, а).
Если на уже проложенном пути
появляется препятствие или будет обнаружен более короткий
путь к цели, то муравью в пункте
к пункту С или к пункту Е
количества феромона, оставленного предыдущими муравьями
F
следует выбрать направление
(
рис
. 21, б).
Выбор зависит от
.
Будем считать, что феромоновый след на направлениях
FCD и FED
нежели путь
будут с одинаковой вероятностью выбрать путь
Однако поскольку путь
первоначально одинаков, однако путь
FСD.
Вначале муравьи, достигающие пункта
FCD
FED
короче, чем
FCD, то по
FED
или
короче
F,
FED.
нему за
,
165
единицу времени пройдёт большее количество муравьев до
∑
→++
=
ϕϕϕϕϕ
пункта
феромона, и он в дальнейшем будет использоваться с большей
вероятностью
неизменности окружающей среды, муравьи предпочтут тот же
самый маршрут, до тех пор, пока, например, между пунктами
Е не возникнет препятствие (рис
интересует не моделирование жизни колонии муравьев, а
имитация поведения колонии в качестве средства повышения
эффективности работы эволюционных алгоритмов. При этом
вычислительная модель может несколько отличаться от
природной модели. Например, муравьи могут иметь память, быть
не полностью слепыми, находиться в пространстве с дискретным
временем и др. Проиллюстрируем возможные модификации
муравьиных алгоритмов на примере задачи о коммивояжере
D,
соответственно на пути
(
рис
. 21, в).
С позиций общей теории эволюционных вычислений нас
Однажды выбрав путь, при условии
FED
. 21, г).
будет большее количество
F и
.
Коммивояжеру необходимо посетить
в один и тот же город дважды, и вернуться в исходный пункт по
маршруту с минимальной стоимостью. Пусть задана модель
задачи в виде графа
(
города
городами
представляющих собой стоимость переезда из вершины
Тогда требуется найти перестановку φ из элементов множества
такую, что значение целевой функции равно
), |U| = m –
).
Дана матрица чисел
G=(X,U),
множество ребер
где
|X| = n –
D(i, j),
W
городов, не заезжая
множество вершин
(
возможные пути между
где
i, j ∈ 1, 2,…, n,
xi в xj.
:
X,
iiDnDFitness
i
Если граф не полносвязный, то в матрице
соответствующих отсутствующим ребрам в графе, ставится
бесконечность, в результате чего проход по данному ребру будет
исключен
.
D, в
ячейках
.min))}1(),(({))(),1(()(
,
Определим свойства муравья
.
166
Каждый муравей обладает собственной
1.
«
памятью
»,
хранящей список городов
посетить муравью
2.
Муравьи
k,
который находится в городе
пропорциональным длине ребра
η
= 1/Dij.
ij
«
Зрение» определяет
ближе находится вершина графа, тем он лучше
больше он стремится попасть в нее
3.
Каждый муравей способен улавливать запах феромона
J
(
табу-лист
i,k
обладают
:
«
жадность» выбора муравья. Чем
«
.
),
которые необходимо
i.
зрением
»,
«
виден» и тем
обратно
сила которого определяет желание муравья пройти по данному
ребру. Уровень феромона в момент времени
соответствовать τ
4.
Вероятность перехода муравья из вершины
j
будет определяться следующим соотношением
tP
)(
=
kij
,
∑
Jl
∈
ki
,
,0)(
(t).
ij
ητ
⋅
⋅
JjtP
∉=
kikij
,,
βα
tt
)]([)]([
ijij
βα
tt
)]([)]([
ητ
ilil
Jj
,
∈
ki
,
, (10)
t на
:
ребре
i в
Dij
будет
вершину
,
где α, β
α
= 0
ребро с наибольшим количеством феромона
–
это параметры, задающие
«
вес» следа феромона. При
муравей стремится выбирать кратчайшее ребро, при β
.
На рис
. 22
представлен
пример
,
иллюстрирующий
= 0 –
поведение муравья для задачи о коммивояжере. Здесь муравей
прошел путь по вершинам
выбирает направление между вершинами
1-6-5-4, и,
находясь в вершине
7 и 3.
4,
С течением времени вероятность выбора кратчайшего пути
увеличивается, поскольку количество откладываемого феромона
обратно пропорционально длине маршрута и задается в
следующем виде
=∆
τ
)(
t
,
kij
Q
k
:
∈
)(
tL
∉
tTji0
k
)(),(,
tTji
k
, (11)
)(),(,
167
где
Q –
параметр, имеющий значение порядка длины
оптимального пути
Рис
. 22.
Пример моделирования поведения муравья при решении
, Lk(t) –
длина маршрута
задачи коммивояжера
Tk(t).
Испарение феромона определяется следующим выражением
m
∑
=
∆+⋅−=+
1k
ttp11t )()()()(
τττ
kijijij
,
, (12)
:
где
m –
количество муравьев
, p –
коэффициент испарения
(0 ≤ p ≤
1).
Пусть начальным расположением колонии муравьев будет
следующее: количество муравьёв равно числу вершин в графе, а
каждому из них соответствует вершина, с которой он начинает
свое путешествие
.
Простой муравьиный алгоритм для задачи коммивояжера
известен
[Kennedy, 1995; Dorigo, 1996; Abraham, 2006].
Его
оценка временной сложности зависит от времени жизни колонии
количества вершин графа и числа муравьев и равна
где
t –
муравьев
количество итераций
; n –
число вершин. Попробуем теперь с позиций общей
(
время жизни колонии
O(t*m*n2),
); m –
число
теории эволюционных вычислений провести и экспериментально
оценить возможные модификации простого муравьиного
алгоритма. Укажем следующие направления модификации
:
,
168
появление «элитных» муравьев
•
•
изменение
начального расположения
;
муравьиной
колонии
•
применение шаблонов в муравьиных алгоритмах
;
Элитными считаются муравьи, чьи маршруты лучше
остальных. Тогда формула
следующий вид
τ
e
где
Ae –
коэффициент, регулирующий влияние элитных муравьев
:
Q
e
At
⋅=∆
(11)
для элитных муравьёв принимает
, (13)
)(*)(tL
Укажем несколько вариантов различных значений
Ae = 0, то
влияние муравья игнорируется, а его маршрут не
отмечается феромоновым следом. Если А
феромонов
наоборот
муравья равнозначно другим
Если
на
маршруте
−
феромон быстро испаряется
(
e
),( ∞∈ 1A
, то
влияние элитного муравья усиливается
отмечается
).
Если
простой муравьиный алгоритм
е
∈(0, 1), то
слабо
Ae = 1, то
.
Ae.
Если
уровень
(
или
влияние
.
.
).
Выбор
(
вычислительную мощность) алгоритма, которая, как отмечалось
в разделе
2.3,
значения
Ae
влияет
на
эффективность
определяется качеством получаемых решений в
сочетании с трудоёмкостью их получения и скоростью
сходимости
.
Для инициализации базового цикла любого алгоритма
эволюционных
сформировать начальную популяцию решений
вычислений
(см.
рис
. 6)
необходимо
.
Поэтому
начальное расположение муравьиной колонии также оказывает
влияние на качество решения и сходимость муравьиного
алгоритма. Здесь возможны несколько стратегий формирования
начальной популяции
•
в каждой вершине находится по одному муравью
(
трудоёмкость
поскольку
n = m);
:
алгоритма
оценивается как
O(t*n3),
•
муравьи случайно распределены в вершинах графа
169
;
вся колония находится в одной вершине
•
•
в каждый момент времени, т.е. на каждой итерации, вся
;
колония перемещается в случайно выбранную вершину, из
которой каждый муравей начинает свой маршрут
.
Ещё одним направлением повышения эффективности
работы муравьиного алгоритма является использование двух
гипотез: гипотезы строительных блоков и гипотезы сходимости
популяции. Ранее, в разделе
новые решения в результате выполнения
3.1
уже отмечалось, что синтезируя
композиции
эволюционных операторов важно сохранить те части решений
(
шаблоны строительных блоков
),
которые вносят существенный
вклад в общую оценку функции качества. Гипотеза сходимости
предполагает ограничение пространства поиска решений
.
Рассмотрим в качестве примера такую схему формирования
строительных блоков, которая позволяет существенно снизить
временные затраты, связанные с вычислением вероятностей
перехода из одной вершины в другие по формуле
(10).
Пусть муравей
следующую вершину в текущем маршруте
k
находится в вершине
i.
Тогда, чтобы найти
,
необходимо
вычислить вероятности перехода в другие вершины, используя
выражение
следующей вершины является линейной и равна
n –
число вершин, а α
(10).
Временная сложность алгоритма нахождения
O(n*log(α)),
–
некоторый заданный коэффициент. Это
где
объясняется использованием функции возведения в степень при
расчете вероятности перехода в некоторую вершину по формуле
(10).
Действуя по определенной схеме, найти переход в
следующую вершину можно с временной сложностью, равной
O(1),
причём объем вычислений на первом шаге не зависит от
уровня феромонов на ребрах. Время, затрачиваемое на
вычисление вероятностей, является одинаковым и не зависит от
значения
инцидентного вершине
t,
даже в случае если выбор очередного ребра
i,
очевиден
(
вероятность выбора очень
,
высокая, например
, 0,999).
170
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]