Санкт-Петербургский Государственный

Электротехнический Университет

ФКТИ

Кафедра МОЭВМ

Дисциплина: «Методы оптимизации»

Отчет по лабораторной работе № 1

«Методы минимизации функций»

Выполнила: Силина А.Г.

Группа 4342

Проверил: Мальцева Н.В.

Санкт-Петербург

2007 г.

1. Формулировка:

Минимизировать функцию с точностью до() градиентными методами – методом с постоянным шагом, методом с дроблением шага, методом с убыванием длины шага, методом наискорейшего спуска.

Оценить скорость и порядок сходимости методов.

Провести сравнительный анализ эффективности методов в зависимости от начальной точки и параметра а>0.

2. Анализ задачи:

Градиентные методы заключаются в построение релаксационной последовательности:

, где- величина шага.

Методы различаются выбором шага.

Выберем оценку для (1)

.

Геометрическая суть градиентного метода.

Линией уровня функцииf(изолинией) называется любое множество вида {xR^m:f(x) =c}.

Каждому значению cотвечает своя линия уровня.

Метод с постоянным шагом

Пусть =const, тогда иногда удается выполнение условия (1).

Останавливаемся в любой точке, где =0.

Выбор постоянного шага приводит к осложнениям, так как заранее часто не известно, а при малом значении– много шагов; при большом – есть риск потери сходимости.

Геометрическая интерпретация.

На каждом шаге мы сдвигаемся по вектору антиградиента, "уменьшенному в  раз".

Метод с дроблением шага

В начальный момент времени выбираются константы: ,. Дляпроверяем выполнение условия:

(2).

Если условие выполнено, то , если нет, то дробим шаг:. Проверяем выполнение условия (2).

Делаем до тех пор, пока условие не будет выполнено. Дробление не может бесконечно продолжаться, поэтому мы дойдем до нужного .

Если необходимое неравенство (2) выполняется при , то можно попробовать увеличить шаг на, и так до тех пор, пока коэффициенты не будут уменьшаться.

Алгоритм:

1. Выбираем начальный шаг t.

2. Проверяем условие: если соотношение выполняется, то вычисляем следующую точку, иначе tделим на 2 и снова проверяем условие и т.д.

Метод с убыванием длины шага

Иногда достаточно требовать выполнение условия:

ряд расходится, рядсходится ().

Условие сходимости ряда накладывается для того, чтобы добиться достаточно быстрой сходимостив окрестности точки экстремума.

Условие расходимости ряда обеспечивает достижение точки экстремумадаже при неудачном выборе начального приближения (большом выборе расстояния отдо).

Метод наискорейшего спуска

На луче , который направлен по антиградиенту в точке. Введем функцию одной переменной:

,

и определим из следующих условий:

,

т.е. выбирается таким образом, чтобыбыла минимальной в заданном направлении, для чего на каждом шаге необходимо решить задачу минимизации функции.

3. Тестирование программы:

1) Метод с постоянным шагом

x0	(5 , 5)				(0 , 10)			(7 , 3)
a	0.5	5		10	0.5	5	10	0.5	5	10
	0.02	0.02		0.02	0.02	0.02	0.02	0.01	0.01	0.005
x10	-2.3312; 5.7758		1.7141; 4.6358	1.8791; 5.7556	2.5363; 6.9754	2.5440; 7.9368	2.2847; 7.9248	2.0440; 4.3973	1.8926; 4.7341	0.7404; 3.1752
F(x10)	5.66490		5.43201	12.67701	1.47439	14.06567	23.82168	0.59302	5.31111	7.5748
k*	1530	360		275	2500	425	100	4050	720	940