5Л_СтохастическоеПрогр

В методе поиска с парными пробами предполагается четкое разделение между пробным и рабочим шагами. Направление рабочего шага выбирается после двух пробных шагов из исходной точки X0 в точки X1 и X2 вдоль случайного направления :

X1 X 0 g , X 2 X 0 g ,

где g—величина пробного шага; — равномерно распределенный единичный случайный вектор

Для рабочего шага поиска принимается направление, соответствующее наименьшему значению целевой функции; это направление выбирается исходя из следующих

где a—величина рабочего шага поиска, обычно a<g.

Метод поиска по наилучшей пробе характеризуется проведением m случайных пробных шагов из исходной точки Xj-1 , в точки X1, X2,..., Xm так, что

X1 X j 1 g (1) , X 2 X j 1 g (2) ,...,X m X j 1 g (m) ,

и выбором шага, соответствующего наибольшему уменьшению целевой функции

W (X j 1 g *) min W (X j 1 g (k) ) , k 1, 2,...,m,

где * — направление наилучшей пробы; g — величина пробного шага поиска;(k) — равномерно распределенные единичные случайные векторы

Рабочий шаг делается в направлении наилучшей пробы

Идея самообучения при поиске экстремума сводится к накоплению в ходе поиска информации об оптимизируемой системе, выработке и уточнению в ходе поиска некоторых вероятностных гипотез о наилучшем направлении смещения центра зоны поиска и к использованию этих гипотез при формировании очередных шагов

Предыдущие шаги рассматриваются три этом как результаты испытаний системы, дающие представление о благоприятном направлении оптимизации.

Вектор в этом случае перестает быть равновероятным и в результате самообучения приобретает некоторые преимущества в направлении наилучшего шага

Обучение обычно начинается в обстановке равновероятного поиска, а затем по мере накопления информации о системе приобретает некоторые сведения в виде оценок наилучшего направления движения системы к экстремуму. По мере накопления опыта дисперсия этих оценок должна уменьшаться. Введение случайности в этом случае играет роль средства прощупывания системы с целью определения наиболее эффективного направления оптимизации. В ряде случаев производится изменение структуры алгоритма обучения («переучивание»), если изменились условия функционирования системы или обучение было неточно

Поиск с обучением по одной попытке. Случайность вводится после повторного неудачного шага. Смещение на каждом шаге поиска производится следующим образом: X j 1 X j i . При удачном шаге j 1 j . После первого неудачного шага центр зоны поиска смещается в направлении, противоположном неудачному, т.е. j 1 j , а при следующем неудачном шаге направление смещения выбирается случайным

Рассмотренный алгоритм напоминает поиск с «наказанием» случайностью и является

алгоритмом «жесткого» обучения по одной попытке

Методы случайного поиска с адаптацией

Адаптацией называется целенаправленный процесс изменения различных параметров поиска (например, шага) для повышения его эффективности. Процесс адаптации можно вводить и в детерминированные методы

Адаптация величины рабочего шага. От размера шага зависит сходимость метода: большой шаг дает быстрое приближение к экстремуму, но появляется вероятность «блуждания» около него. Малый шаг не позволяет быстро достигнуть экстремума, но удобен для работы внутри его окрестности. Поэтому целесообразно вводить процедуру автоматического изменения шага. На значительном расстоянии от ext шаг должен увеличиваться, а по мере приближения к ext он должен уменьшаться. Изменение шага может осуществляться по результатам одной или нескольких попыток

Структурная адаптация осуществляется за счет параметризации структуры алгоритма, т.е. введения параметров, которые определяют структуру алгоритма поиска

Если {Fi} – конечное множество возможных алгоритмов поиска, тогда их линейная

i 1

алгоритм. Если же снять эти ограничения, то получим гибридную структуру алгоритма

Рассмотренных методы направленного случайного поиска носят локальный характер и имеют малую эффективность в задачах с многоэкстремальной целевой функцией

Уменьшение риска потери глобального экстремума требует равномерного и достаточно полного просмотра всей области определения целевой функции (т е. использования элементов ненаправленного случайного поиска)

В зависимости от того, как производится такой просмотр, различают независимые, блуждающие и комбинированные методы глобального поиска экстремума

Независимые методы представляют собой некоторые модификации ненаправленного случайного поиска. Улучшение сходимости поиска достигается в результате последовательного сужения зоны ненаправленного случайного поиска после просмотра его исходной зоны и нахождения вероятных областей глобального экстремума. Такое сужение зоны поиска обеспечивается соответствующим изменением законов распределения случайных величин

Блуждающие методы поиска сходны с методами направленного случайного поиска, но отличаются от них введением случайных воздействий на направление поиска и повышением «инерционности» метода, т.е. его способности двигаться в ранее выбранном направлении при изменении ситуации

Принцип их таков: берется детерминированный метод, например градиентный, и на него накладывается случайный вектор хk 1 xk f ( X k ) g . Во время блуждания попав в локальные минимумы целевой функции поиск задерживаемся в них тем дольше, чем меньше значение функции в соответствующем экстремуме. Если при этом плавно уменьшать значение коэффициента при случайном векторе, то точка исследования попадет в глобальный min и никогда от туда не выйдет

Пример. Требуйся найти значения x1>0 и x2.>0, соответствующие минимальному значению

Поскольку W1 – W0 <0, шаг следует считать удачным. Поэтому следующие шаги делаются в том же направлении до первого неудачного шага