моп / 31. Метод проекции градиента

1

ЛАБОРАТОРНА РОБОТА №2 МЕТОД ПРОЕКЦІЇ ГРАДІЄНТА

2.1 Мета роботи

Вивчення методу проекції градієнта задачі мінімізації функції, застосування його до розв’язку конкретних задач. Розвиток навичок використання ЕОМ і мов програмування.

2.2 Методичні вказівки по організації самостійної роботи студентів

Об'єктом дослідження є задача багатомірної умовної мінімізації функції f (x) min, x X Rn ,

де Rn n -вимірний евклідів простір.

Розглянемо метод проекції градієнта для розвязку задачі наступного вигляду:

X . Нехай x* X є оптимальним рішенням задачі (2.1). Метод проекції градієнта є модифікацією на випадок умовних задач градіентного методу безумовної оптимізації.

Розглянемо спочатку властивості проекції точки на множину.

ред всіх точок з X. Якщо a Rn , то X a X , якщо ж a X , і X - відкрито, то проекція X a не існує.

Можна показати, що X a є розв’язком наступної задачі проектування:

Лема 2.1 Нехай X замкнена опукла множина в. Rn Тоді 1. Проекція X a будь-якої точки a Rn існує і єдина;

2. Точка x є проекцією точки a на множину X x X a у тому і тільки в тому випадку, якщо

2

тобто оператор проектування має властивість нерозтягання відстаней. Сформулюємо необхідну й достатню умову оптимальності в опуклій за-

дачі.

Лема 2.2. Нехай множина X опукла й замкнена, функція f опукла на X і диференційована в точці x* X . Тоді x* X є рішенням задачі (2.1) у тому і тільки в тому випадку, якщо

при довільному 0.

Доказ леми наведений в [2, с. 226].

Тепер розглянемо алгоритм методу проекції градієнта і його збіжність. У методі проекції градієнта в якості чергової точки наближення до рішення задачі (2.1) вибирається проекція точки на множину X тієї точки, яка отримана по градієнтному методу:

x(k 1) X x(k ) k f x(k ) , де k 0,1,2,... (2.6)

Коефіцієнти k 0 можна обирати різними способами, які описані в [2]. Розглянемо теорему про збіжність проекції градієнта з апріорним вибором коефіцієнтів k , тобто послідовність k вибирають заздалегідь, до початку обчислень (наприклад, k ck 1, де k=0,1,2,...).

Теорема 2.1. Нехай множина X опукла й замкнена, функція f сильно опукла з константою 0 й диференційовна на X, причому її градієнт задовольняє умові Ліпшица:

льна точка з X, а k 0, 4 M 2 , збігається до рішення x * задачі (2.1) зі швидкістю геометричної прогресії:

3

де q 1 4 2 M 2 0,1 .

Способи знаходження проекції точки:

1. Якщо X x R n : b j x j c j , j 1,..., n - координатний паралелепіпед,

Зауваження:

1. У розглянутому методі на кожній k -ій ітерації потрібно робити операцію проектування точки на множину X, тобто вирішувати задачу вигляду (2.2) при a x(k ) k f x(k ) . У деяких випадках вдається вказати явний вигдяд проекції, наприклад, якщо множина X куля, координатний паралелепіпед, півпростір, гіперплощина, афінна множина. Однак, якщо X задається за допомогою більш-менш складної системи рівностей і нерівностей, то метод проекції градієнта практично не застосовується, тому що задача (2.2) виявляється не простіше початкової.

2. В деяких задачах константи M , з теореми 2.1 звичайно невідомі, що затрудняє знаходження . Тоді можна використати інші правила вибору довжини кроку, наприклад, різні модифікації методу найшвидшого спуску з наближеним рішенням задач одномірної мінімізації по або правило дроблення кроку

[3].

3. Використовуючи ідею проектування, можна модифікувати стосовно до задач умовної оптимізації й інші методи безумовної оптимізації, у тому числі метод Ньютона й метод сполучених напрямків.

Приклад 2.1. Розв’язати методом проекції градієнта:

6

X. З того, що множина X - куля, можна вказати явний вигляд проекції точки на

Розвязок. Задачу (2.13)-(2.14) вирішимо методом проекції градієнта, використовуючи співвідношення (2.6). Виберемо початкове наближення x(0) 0,0 . Не-

хай крок k , k 0,1,2,... у виразі (2.6) k дорівнює 12 . Критерій закінчення ви-

7

беремо наступний: x(k 1) x(k ) , k 0,1,2,..., де 0.01.

хідно вирішити задачу вигляду (2.2), тобто:

~(1) 2

xx min, x X ,

x(1) x(0) 4 0.01. Критерій закінчення не виконується, переходимо до на-

ступної ітерації.

Ітерація 2.

x(2) x(1) 0 0.01. Критерій останова виконується, процес обчислень закінчений.

8

Література:

[2] Сухарев А.Г., Тимохов А.В., Федоров В.В. Курс методов оптимизации. - М.:

Наука, 1986. - 328 с.

2.3 Порядок виконання роботи та методичні вказівки по її виконан-

ню

Вивчити метод проекції градієнта. Побудувати схему алгоритму.

Описати вхідні й робочі параметри. Критерій закінчення:

x(k 1) x(k ) .

Скласти програму на одній з алгоритмічних мов. Налагодити програму.

Зробити рахунок.

2.3.1 Варіанти завдань

За допомогою методу проекції градієнта знайти мінімум функції F x в

заданій області X . Прийняти крок k , k 0,1,2,... k рівним 12 (в деяких варі-

антах, якщо програма зациклюється, крок k потрібно зменшити). Покласти0.01. Варіанти завдань визначаються виглядом функції F x ,областю пошуку, початковим наближенням. Номер варіанта відповідає номеру студента в списку групи. Завдання наведені в таблиці 1.1.

2.4 Зміст звіту

Звіт повинен містити: постановку задачі, короткий опис методу, графік функції F x в заданій області, графік ліній рівня функції, проміжні значення

змінних до побудови проекцій і після; значення точки мінімуму x й функції в точці мінімуму F x* , показати на графіку траєкторію руху до точки мінімуму. Зробити висновок.

9

2.5 Контрольні питання

1 Геометрична інтерпретація методу проекції градієнта.

2. Що таке проекція точки на область?

3 Як знайти проекцію, якщо область представляє координатний паралелепіпед?

4 Як знайти проекцію, якщо область представляє кулю? 5 Достоїнства й недоліки методу.