1 2. Метод многомерного поиска экстремума. Метод релаксации и Гаусса-Зайделя.

Гаусса- Зайделя или метод поочередного ∆-ия переменных.

U ₁

U ₁

U ₂ < U ₁

0 U ₂

U ₂

Поиск заканчивается, когда передвижение не дает улучшений ни по одной из переменных.

Пусть мы находимся в точке 0, будем изменять одно направление U ₁, U ₂-const. Делаем шаг по U₁ и смотрим получившееся значение Q, если значение улучшилось, делаем шаг в этом же направлении, если ухудшилось, в обратном и начинаем шагать по другой переменной.

Поиск заканчиваем когда интервал в заданной точности.

Метод релаксации

Усовершенствованный метод Гаусса-Зайделя, отличие в том, что перемещение к экстр. происходит не последовательно по каждой из переменных, а по той, у которой целевая функция меняется наиболее быстро. Перед тем, как начать движение необходимо взять по всем переменным, посмотреть, по которым наиболее сильно ∆-ся производят рабочий шаг.

шаг x _{i+ 1} = x _I +k∆

∆= 1) ∆ ,если Q _i>Q_i-1

2) ∆/2,если Q _i<Q_i-1

недостатки те же. окончание поиска, когда ∑ всех производных в квадрате ≤ δ – критерия окончания поиска.

13. Метод градиента. Метод наискорейшего спуска.

Ни метод релаксации, ни метод Гаусса-Зайделя не помогают решить задачу оврагов или хребтов, потому что в этих методах раз и навсегда задано направление. А при наличие «оврага» или «хребта» функция возрастает, улучшается в движении вдоль «хребта» или «оврага».

Метод градиента – заключается в том, что мы отыскиваем направление градиента и делаем рабочий шаг в этом направлении.

Градиентом функции называется вектор направление которого совпадает с направлением наибольшего быстрого роста функции, а величина (или модуль) вектора пропорционален скорости роста функции.

Q=U₁U₂²+ U₂²

U₁=2 U

U₁=1 dQ/U₁=U ₂²=1

dQ/U₂= U₁ 2U2+2U₂=6

Свойства:

1. В каждой точке свой градиент

2. Градиент указывает направление наискорейшего роста функции

3. Градиент нормален или перпендикулярен поверхности равных значений целевой функции

U_i+1=U₁+k (∂Q/∂U_i)/│gradQ│

Шаг k – м/о по разн. методам изменять.

Метод наискорейшего спуска.

Отличается от метода градиента тем, что градиент не определяется после каждого шага, а определяется в исходной точке, а затем по направлению градиента делаются шаги до тех пор пока функция не начнет уменьшаться (соединение метода релаксации и градиента)

14. Метод поиска экстремума при наличии оврагов.

Q= U₁²/a²+U₂²/b² возникает, когда a²≥b²

Метод движения по оврагу: Из исходной точке по любому из методов попадают в какую-то точку О₁ (дно оврага), получим т.О₂ из т.О(О┴О₂) опускают О₂ на дно оврага и получают т.О₃ через О₁ и О₃ проводят прямую по которой осуществляется шаг по оврагу в желаемом направлении в сторону улучшения целевой функции. Из полученного состояния О₄ проводят вновь и получают О₅. Соединяют т. О₃ и О₅ и проводят прямую и делаем шаг. Шаги выполняются до тех пор пока шаги не станут хуже.