Загальні вказівки

Програма оптимізації функції багатьох змінних градієнтним методом включає: основну програму; підпрограму-функцію MODEL, у якій обчислюється значення критерію ефективності f(X); процедуру GRAD, у ній обчислюється градієнт функції, що мінімізується; процедуру OPGRAD, що здійснює мінімізацію.

Обчислення градієнту функції на еом

В більшості практичних задач градієнт функції f(X), що входить в алгоритми оптимізації, неможливо одержати в явній формі від параметрів, що оптимізуються. У таких випадках для обчислення градієнта необхідно застосовувати пошукові алгоритми, засновані на заміні частинних похідних кінцевими різницями, наприклад такого виду

(14)

де f_i+ = f( x₁, …, x_i-1, x_i + a_i, x_i+1, …, x_n );

f = f( x₁, …, x_i-1, x_i - a_i, x_i+1, …, x_n );

a_i – досить мала додатна константа, що застосована для приблизного обчислення градієнта.

Реалізація цього алгоритму представлена у вигляді процедури GRAD.

PROCEDURE GRAD(N:INTEGER;E:REAL;X:artype;

var G:artype;F:FUNOP);

VAR I :INTEGER; FP,FO :REAL;

BEGIN

FOR I:=1 TO N DO

BEGIN

X[I]:=X[I]+E; FP:=F(X);

X[I]:=X[I]-2*E; FO:=F(X);

X[I]:=X[I]+E;

G[I]:=(FP-FO)/2/E;

END;

END;

У заголовок цієї процедури винесені такі формальні параметри:

N – значення вимірності вектора параметрів, що оптимізуються X=(x₁,...,x_n);

E - додатна константа, яка входить в формулу (14) для приблизного обчислення градієнта;

X - вхідний масив розмірності N типу ARTYPE, який містить значення x_i вектора параметрів, що оптимізуються точки Х, в якій обчислюється градієнт;

G - вихідний масив розмірності N типу ARTYPE – вектор-градієнт функції  f = ( ₁, ₂,...,_n);

F - цільова функція, що оптимізується типу FUNOP.

Алгоритм оптимізації методом найшвидшого спуску

Обчислювальний алгоритм для i-го компонента вектора параметрів, що оптимізуються, має вигляд:

x_ik+1 = x_ik - _k_if(X_k) / ||f(X_k)||, (15)

де _k – величина оптимального кроку k-ої ітерації, визначається за допомогою одновимірної мінімізації цільової функції уздовж антиградієнтного напрямку; компоненти _if(X_k) вектора-градієнта обчислюються в процедурі GRAD;

||f(X_k)|| = - норма вектор-градієнта.

Алгоритм методу передбачає наступні етапи.

Етап 1. Задати початкову точку X₀, кількість ітерацій k покласти рівною нулю.

Етап 2. Обчислити градієнт функції  f(X_k).

Етап 3. Знайти одним з методів одновимірної мінімізації оптимальний крок _k уздовж антиградієнтного напрямку. Наприклад, у підпрограмі OPGRAD оптимальний крок _k визначається в результаті розв’язання задачі одновимірної мінімізації функції f(X) по  уздовж антиградієнтного напрямку методом сканування з уточненням.

Етап 4. Перевірити умови припинення пошуку. Пошук мінімуму припиняється при виконанні однієї з умов:

1) ||f(X_k)|| < _min;

2) _k < _min;

3) вичерпано наперед заданий ресурс кількості ітерацій або кількості обчислень функції, що мінімізується.

Якщо хоча б одна з умов припинення пошуку виконуються, то перейти на етап 7, інакше – на етап 5.

Етап 5. Обчислити координати нової точки

X_k+1=X_k-_kf(_k)/ ||f(X_k)||.

Етап 6. Покласти k=k+1 і перейти на етап 2.

Етап 7. Покласти X*=X_k, f*=f(X*).