7. Метод Хука–Дживса с одномерной минимизацией

Метод Хука–Дживса с одномерной минимизацией является аналогом метода циклического покоординатного спуска (ЦПС) с ускоряющим шагом. Начиная со второй итерации устанавливается новый способ построения направления ускоряющего поиска. Организацию итерационной процедуры и отличие метода Хука–Дживса с одномерной минимизацией от метода ЦПС раскрывает представленное далее пошаговое описание алгоритма.

Начальный этап.

(1) Исходные данные – базовая точка x⁰, погрешность вычисления минимума, матрица координатных направлений= {pⁱ},i= 1, 2, ...,n, гдеpⁱ = eⁱ – i-й единичный орт вRⁿ, т. е.eⁱ_i = 1 иeⁱ_j = 0 при всехi ≠ j.

(2) Начальную точку x¹ принять равной базовой точке: x¹ = x⁰.

Основной этап.

Шаг 1. Выполнить ЦПС из начальной точки x¹ в конечную точкуx^n + 1, последовательно решаяnзадач одномерной минимизации вдоль координатных направлений.

Шаг 2. Проверить критерий окончания поиска:

(1) построить направление ускоряющего поиска d = x^n + 1 – x;

(2) если ||d|| ≤ , остановиться,x^*=x^n + 1 – искомый аппроксимирующий минимум.

Шаг 3. Определить начальные условия для очередной итерации:

(1) найти оптимальный шаг _n + 1в точкуx^n + 2 = x^n + 1 + _n + 1d;

(2) взять точку x^n + 2за новую начальную точкуx¹ = x^n + 2, а точкуx^n + 1–за базовуюx⁰ = x^n + 1;

(3) перейти к шагу 1.

8. Метод Зангвилла

Основная стратегия метода базируется на свойстве квадратичных функций, называемом свойством параллельного подпространства. Если x^k + 1– точка минимума квадратичной функции, полученная в результате серии одномерных поисков из начальной точкиx¹по всем направлениям системы_k= {pⁱ},i= 1, 2, ...,k, аz^k + 1– точка минимума этой же функции вдоль тех же направлений_k, но из другой начальной точкиz¹, то векторp^k + 1= =z^k + 1–x^k + 1сопряжен со всеми направлениями системы_k.

Начальный этап. Задать начальную точкуx¹, константу. Положитьp¹= –grady(x¹),k= 1.

Основной этап.

Шаг 1. Оптимальный поиск точки x^k + 1=x^k+_kp^k. Еслиk=n, то перейти к шагу 4.

Шаг 2. Перейти в другую начальную точку z¹=x^k + 1+^*d, гдеd= = –grady(x^k + 1) – новое поисковое направление,^*– оптимальное решение задачи минимизацииy(x^k + 1+d). Положитьi= 1.

Шаг 3. Проверить критерий окончания поиска и, если он не выполняется, осуществить спуск вдоль направлений _kв точкуz^k + 1:

(1) если grady(zⁱ)≤, то остановиться:x^*=zⁱ– искомый минимум;

(2) найти оптимальный шаг _iв точкуz^i + 1=zⁱ+pⁱ;

(3) если i<n, то положитьi=i + 1 и вернуться к операции (2); иначе – построить новое сопряженное направлениеp^k + 1=z^k + 1–x^k + 1, положитьk= =k+ 1 и перейти к шагу 1.

Шаг 4. Установить новые начальные условия для очередной итерации:

(1) взять x^n + 1за новую начальную точкуx¹=x^n + 1, принятьp¹= = –grady(x¹);

(2) положить k=k + 1 и перейти к шагу 1.

9. АлгоритмLPτ-поиска

Для зондирования гиперкуба в алгоритме случайного поиска можно использовать точки LPτ-последовательности, обладающие на сегодняшний день наилучшими свойствами равномерного покрытия области [10].

Для генерации точек LPτ-последовательности можно использовать один из двух алгоритмов – логический или арифметический.

Логический алгоритмобладает большим быстродействием, но требует наличия в программном обеспечении ЭВМ специальных логических функций для чисел с плавающей точкой.

Арифметический алгоритмимеет меньшее, хотя и приемлемое быстродействие.

В соответствии с арифметическим алгоритмом i-я координатаj-й точки в гиперкубеD:{X| 0 ≤X_i≤ 1} вычисляется в соответствии с выражением

, (П. 9.1)

где m = 1 + [log₂ i], {…} – операция взятия дробной части числа, […] – операция взятия целой части числа,r_jl– элемент таблицы числителей направляющих чисел.

Матрицы числителей направляющих чисел составлены для достаточно большого количества точек и размерности, достаточной для решения практических задач. Например, матрица дает возможность вычислять до 2¹⁰= 1024 точек при векторе варьируемых параметров размерностью до 8.

Матрица числителей направляющих чисел

rjl	1	2	3	4	5	6	7	8	9	10
1	1	1	1	1	1	1	1	1	1	1
2	1	3	5	15	17	51	85	255	257	771
3	1	1	7	11	13	61	67	79	465	721
4	1	3	7	5	7	43	49	147	439	1013
5	1	1	5	3	15	51	125	141	177	759
6	1	3	1	1	9	59	25	89	321	835
7	1	1	3	7	31	47	109	173	181	949
8	1	3	3	9	9	57	43	43	255	113

Для перевода точки a_ij, полученной в соответствии с выражением (П. 9.1), в произвольный гиперкуб {X|A≤X≤B} обычно используют линейное преобразование:X_i^j=A_j+a_ij(B_j–A_j).

Однако если границы гиперкуба имеют значительный разброс и отличаются друг от друга на несколько порядков, то для обеспечения попадания пробных точек в пограничные области обычно применяют логарифмическое преобразование границ вариации и варьируемого вектора: .