2.4 Оптимизация обучения графиков с помощью генетических алгоритмов

Число возможных графиков огромен, и до тех пор, пока не известно, какой

профиль обучения успешный, может показаться безнадежным, чтобы найти оптимальный график. Однако, как известно, с подобными проблемами такого рода, генетические алгоритмы (GA) могут быть полезными в связи с их способностью выбора, изменения и сочетания частей временного решения.

При исследовании Вебера, генетические алгоритмы должны были организовать обучение двух различный шаблонов, где одной из целей было наложение обучения в смысле создания двух шаблонов с равной степенью присутствия, а другой целью было обучение заменой. Структура графиков была дана как равноудаленная схема временных отрезков. Генетические алгоритмы должны были выбрать один из двух шаблонов, а также соответствующую степень обучения для каждого из временных отрезков.

Кратко говоря, результаты выглядят следующим образом: в случае наложения обучения оптимальные графики типов показаны на Рисунке 3, а это означает, что чередование фаз обучения с умеренной интенсивностью подходят лучше всего для сбалансированного присутствия двух шаблонов.

Рисунок 2.3 - Три характерных типа оптимальных расписаний в случае наложения обучения (черные и серые интенсивности обучения соответствующих шаблонов). На правом графике показан переменный ритм обучения, и только интенсивности были оптимизированы.

В случае обучения заменой первого результата (см. рисунок 2.4, изображение слева) были оправданы ожидания: заменяющий шаблон должен быть обучен с достаточно высокой интенсивностью. Дополнительные тесты, однако, показали, что лучший результат может быть достигнут первой «атакой» сети с разрушением третьего шаблона (см. рисунок 2.4, правый график) - которые могут быть интерпретированы как "промывание мозгов".

Рисунок 2.4 – Левый график: типичный график обучения в случае обучения заменой (черные столбцы: интенсивности обучения заменяющих шаблонов). Правый график: обучение с дополнительным удалением шаблона (серый столбец).

На основе идей, какая оптимальная структура графика должна быть, более целенаправленные исследования могут быть сделаны для того, чтобы обрабатывать больше, чем два шаблона или получить больше информация о деталях шаблона обучения. Один из первых примеров приведен на рисунке 2.3, правый график: если идея в том, что оптимальный график тот, который составлен с равномерно распределёнными фазами обучения, процесс оптимизации может быть сведен к расчету соответствующих интенсивностей.

Следует еще раз подчеркнуть, что "обучение" в этом исследовании, означает не только внешние технические алгоритмы, но и сложная внутренне управляемая динамика, где каждый нейрон имеет свою собственную память и играет свою роль в адаптации к данному шаблону. Точно так же, лежащая в основе, PerPot модель антагонистических физиологических адаптаций, помогает лучше понимать процессы обучения соответствующего DyCoN подхода, и может оказаться полезной для лучшего понимания динамики процессов обучения.