lectures / Konspect_Ch1

Конспект лекцій Ч.1. Теслюк В.М., Андрійчук М.І. „Методи синтезу та оптимізації”

РОЗДІЛ 2. МЕТОДИ, АЛГОРИТМИ ТА ОСОБЛИВОСТІ РОЗВ’ЯЗКУ ЗАДАЧ ОДНОВИМІРНОЇ ОПТИМІЗАЦІЇ

2.1 Особливості задач одновимірної оптимізації

Пошук екстремуму функції можна порівняти з пошуком в озері найглибшого місця. При кожному вимірі отримуємо нову інформацію. Якщо, при наступному вимірі глибина виявилася більша, ніж в попередньому, то отримана інформація корисна і навпаки, якщо при наступному вимірі отримана менша глибина, ніж у попередньому випадку, то результат не дає ніякої корисної інформації і затрачені зусилля були марними. Розробляючи методи пошуку, прагнуть знайти екстремум як можна швидше, зробивши як можна менше некорисних спроб. У даному розділі розглядаються методи одновимірного пошуку максимуму (мінімуму) цільової функції. При цьому, будемо передбачати, що цільові функції, які досліджуються є «унімодальними» [3,5,11], тобто мають в інтервалі невизначеності, який розглядається тільки один пік (оптимум). В цьому випадку, обчислюючи послідовно значення цільової функції, при зростаючих значеннях проектного параметра, ми набуваємо все більших її значень, поки не досягнемо піку (оптимуму).

Пройшовши пікове значення, при кожному наступному отриманому значенні проектного параметра будемо набувати меншого значення цільової функції. Насправді таке обмеження на характер поверхні, що задається цільовою функцією є не так жорстким, як може виявитися на перший погляд, оскільки багато задач, з якими інженер стикається в своїй практиці, виявляються «унімодальными».

Задачу одновимірної оптимізації можна поставити таким чином. Значення проектного параметра х мають бути розміщені в інтервалі a x b . Приступаючи до рішення такої задачі, ми нічого не знаємо про цільову функцію, окрім того, що вона унімодальна. Інтервал зміни значень змінної х, в якому розміщений оптимум, будемо називати «інтервалом невизначеності». На початку процесу оптимізації цей інтервал має довжину b-a, (Рис. 2.1). Обчисливши значення цільової функції F1 і F2 при значеннях проектного параметра x1 і x2 у вказаному інтервалі, звузимо інтервал невизначеності (Рис. 2.2). Існує декілька шляхів систематичного звуження інтервалу, які викладаються нижче.

F(x)

Інтервал

невизначеності

x

Рис.2.1. Інтервал невизначеності для функції однієї змінної

23

Конспект лекцій Ч.1. Теслюк В.М., Андрійчук М.І. „Методи синтезу та оптимізації”

F(x)

Звужений інтервал невизначеності

x

Рис.2.2. Звуження інтервалу невизначеності шляхом обчислення двох значень цільової функції

2.2 Умови існування екстремуму функції однієї змінної

На рис. 2.3 дано графічне представлення функції F(x) та її похідної, яка має локальний мінімум в точці х0 і глобальний мінімум в точці х* [3].

F x

x F x

Рис 2.3 Графічне представлення цільової функції

Класичний підхід до задачі знаходження значень х0 і х* складається в пошуку рівнянь, яким вони задовільняють. Представлена на рис. 2.3 функція і її похідна неперервна, і видно, що в точках х0 і х* є рішеннями для цієї функції

F x 0 .

x

24

Конспект лекцій Ч.1. Теслюк В.М., Андрійчук М.І. „Методи синтезу та оптимізації”

Точка хT, в якій досягається локальний максимум, і точка хс, в якій є точка горизонтального перегину функції, також задовольняє цьому рівнянню. Отже, дане рівняння є

позитивний. У точці хт знак міняється з позитивного на негативний, в той же час як в точці хс він не міняється. Отже, похідна в мінімумі є зростаючою функцією, а оскільки міра зростання F(x) вимірюється другою похідною, то можна стверджувати, що F''(x0)>0, F'' (x*)>0, тоді як F'' (x) <0.

Якщо, однак, друга похідна рівна нулю, ситуація залишається невизначеною.

Отримані вище результати можуть знайти надійне обгрунтування, якщо розглянути розклад функції F(x) в ряд Тейлора в околі точки хo (або х*, або хт), що, звичайно, вимагає

неперервності функції F(x) і її похідних:

F(x0 + h) - F(x0) = hF'(x)+(h2/2!) F''(x0)+...

Якщо в точці x0 досягається мінімум, то ліва частина розкладу буде не від’ємною для будь-якого досить малого h (|h|< ) і перша похідна F'(x0) має бути рівна нулю - це і є достатня і необхідна умова (див. рівняння рівності нулю похідної).

Оскільки в наступному доданку розкладу завжди h2>0, якщо

F'' (x*)>0,

то в точці x0 досягається мінімум. Якщо F'(xт)=0 і F''(xт)<0, то з аналогічних міркувань в точці xт досягається максимум. Для визначення відмінності між локальним і глобальним мінімумами необхідно порівняти значення функцій F(x0) та F(x*).

2.3 Класифікація методів одновимірної оптимізації

Незважаючи на те, що оптимізаційні задачі з цільовою функцією однієї змінної найбільш простий вид оптимізаційних задач, вони займають центральне місце в теорії оптимізації як з теоретичної, так і з практичної точок зору. Це пов'язано з тим, що задачі однопараметричної оптимізації досить часто зустрічаються в інженерній практиці і, окрім того, знаходять своє застосування при реалізації більш складних інтерактивних процедур багатопараметричної оптимізації.

Своєрідним індикатором важливості методів оптимізації функції однієї змінної є величезна кількість реалізованих алгоритмів, які умовно можна згрупувати таким чином[3]:

методи виключення інтервалів;

методи поліноміальної апроксимації;

методи з використанням похідних.

Методи пошуку, які дозволяють визначити оптимум функції однієї змінної шляхом зменшення інтервалу пошуку, носять назву методів виключення інтервалів.

Усі методи одновимірної оптимізації базуються на припущенні, що цільова функція, в допустимій області принаймі володіє властивістю унімодальності, оскільки для унімодальної функції F(х) порівняння значень (F(х1) та F(х2)) в двох різних точках (x1 і x2) інтервалу пошуку дозволяє визначити в якому із заданих підінтервалів точка оптимуму відсутня.

Основна перевага методів виключення інтервалів полягає в тому, що вони засновані на обчисленні тільки значень цільової функції і, отже, не вимагають виконання умови

25

Конспект лекцій Ч.1. Теслюк В.М., Андрійчук М.І. „Методи синтезу та оптимізації”

диференційованості та запису в аналітичному вигляді. Остання властивість особливо цінна при імітаційному моделюванні.

Процес застосування методів пошуку на основі виключення інтервалів включає два етапи:

етап встановлення кордонів інтервалу;

етап зменшення інтервалу.

2.4 Метод Свена для встановлення інтервала пошуку

Даний метод передбачає вибір початкової точки, а потім на основі правила виключення будується відносно широкий інтервал, який містить точку оптимуму. Еврістичний метод Свена передбачає що, в якому (k+1) пробна точка визначається по рекурентній формулі

xk+1 = xk + 2k , k=0,1,2...,

де хo - довільно вибрана початкова точка; - величина кроку, яка підбирається інженером.

Знак визначається шляхом порівняння значень F(x), F(xo +| | ), F(xo -| |):

Отже, шуканий інтервал 65<х*<185.

Методи зменшення інтервалу невизначеності наведені нижче.

Методи поліноміальної апроксимації. Суть цих методів базується на теоремі Вейєрштрасса про апроксимацію і яка передбачає що, неперервну функцію в деякому інтервалі можна апроксимувати поліномом досить високого порядку. Отже, якщо функція унімодальна і знайдений поліном, який досить точно її аппроксимує, то координати точки оптимуму функції можна оцінити шляхом обчислення координати точки оптимуму полінома.

Методи з використанням похідних. Доцільно передбачити, що ефективність пошукових процедур істотно підвищиться, якщо в доповнення до умови неперервності ввести вимогу

26

Конспект лекцій Ч.1. Теслюк В.М., Андрійчук М.І. „Методи синтезу та оптимізації”

диференційованості цільової функції. Необхідна умова існування оптимуму цільової функції в точці х*: F'(x*)=dF/dx=0.

2.5 Методи розв’язку задач одновимірної оптимізації шляхом виключення інтервалів

2.5.1 Правило виключення інтервалів

Нехай F(х) унімодальна функція на відрізку [a, b], а її мінімум досягається в точці х*. Розглянемо точки x1 і x2 , які розташовані а< x1< x2<b.

Якщо F(x1)>F(x2), то точка мінімуму для цільової функції F(х) не лежить в інтервалі (a, x1), тобто х*Є (x1, b).

Якщо F(x1)<F(x2), то точка мінімуму для цільової функції F(х) не лежить в інтервалі (x2, b), тобто х* Є (a, x2 ).

Це правило дозволяє реалізувати процедуру пошуку шляхом послідовного виключення частин початкового обмеженого інтервалу. Пошук завершується тоді, коли підінтервал, що залишився меншає до досить малих розмірів.

2.5.2 Метод загального перебору

Очевидно, що найбільш природним шляхом звуження інтервалу невизначеності для одновимірної унімодальної цільової функції є розбиття його на декілька рівних частин з подальшим обчисленням значень цільової функції у вузлах отриманої сітки [3,5] (рис.2.4). В результаті, інтервал невизначеності вужчає до двох кроків сітки. Звичайно, дроблення інтервалу невизначеності характеризується коефіцієнтом f. Розділивши інтервал невизначеності на N частин, отримаємо N+1 вузол, і тоді

Щоб отримати значення параметра f = 0,01, потрібно обчислити цільову функцію в 199 вузлах, а при f=0,001 - N має бути рівним 1999. Зрозуміло, що ефективність цього методу при зменшенні інтервалу невизначеності швидко падає. Сам собою напрошується інший шлях вирішення цієї задачі. Для того, щоб отримати f = 0,01, необхідно обчислити спочатку функцію в 19 вузлах і отримаємо f = 0,1, а потім, обчисливши ще 19 значень функції на звуженому інтервалі невизначеності і отримаємо f = 0,01, зробивши, при цьому, всього 38, а не 199 обчислень значень цільової функції. Таким чином, при деякій винахідливості ефективність даного методу пошуку можна різко підвищити.

Завершуємо пошук тоді, коли виконується одна з двох умов:

2.5.3 Метод ділення інтервалу пошуку на половину

Метод поділу інтервалу пошуку наполовину дозволяє зменшити інтервал пошуку в два рази при кожній ітерації[3,5] .

Алгоритм застосування данного методу наведений нижче. Отже необхідно знайти мінімум F(х) на відрізку [a, b].

27

Конспект лекцій Ч.1. Теслюк В.М., Андрійчук М.І. „Методи синтезу та оптимізації”

Крок 1. xm=(а+b)/2; L=b-a; обчислити F(xm).

Крок 2. x1=а+L/4; x2=b-L/4; обчислити F(x1) і F(x2).

Крок 3.

Якщо F(x1)<F(xm), то виключити (xm, b], тобто b=xm, xm=x1. Перейти до кроку 5. Якщо F(x1)> F(xm), то перейти до кроку 4.

Крок 4.

Якщо F(x2)<F(xm), то виключити [a, xm), тобто а=xm, xm=x2. Перейти до кроку 5.

Якщо F(x2)> F(xm), то виключити [a, x1)][ і (x2, b], тобто а=x1, b=x2. Перейти до кроку 5.

F(x)

Звужений інтервал невизначеності

x

Рис.2.4. Метод загального пошуку

Як слідує з алгоритму, з кожних трьох значень цільової функції F(х), обчислених в інтервалі пошуку, надалі використовується тільки дві, а третя не дає додаткової інформації і надалі не використовується, це є недоліком методу ділення інтервалу на половину . В методі золотого січення цільова функція обчислюється в точках інтервалу, які розташовані таким чином, щоб кожне обчислене значення цільової функції давало б нову корисну інформацію.

2.5.4 Метод золотого січення

Основна ідея методу золотого січення [3,5] полягає в тому, що інтервал пошуку ділиться на дві частини так, щоб відношення довжини великого відрізка до довжини всього інтервалу

Враховуючи, що z1+z2=z, отримаємо:

28

Конспект лекцій Ч.1. Теслюк В.М., Андрійчук М.І. „Методи синтезу та оптимізації”

або

Отриманий вираз є квадратним рівнянням, якщо позначити z2 x .

z1

F(x)

Z

x

Рис.2.5. Позначення використані в методі золотого січення

x2 x 1 0 ,

де a 1; b 1; c 1 .

z2

Розв’яжемо відповідне рівняння і отримаємо параметр відношення z1 , який позначимо

В результаті, отримаємо інтервал невизначеності з двома точками та відповідними значеннями функції (рис.2.6).

Проаналізуємо отриману ситуацію. В методі золотого січення, де можливі два варіанти отриманих ситуацій.

Перша, якщо F (x1 ) < F (x2 ) - (Рис.2.7).

F(x1 ) > F(x2 ) , a x1 ,

29

Конспект лекцій Ч.1. Теслюк В.М., Андрійчук М.І. „Методи синтезу та оптимізації”

Для того, щоб перейти до інтервалу одиничної довжини, зробимо заміну змінних, поклавши (x 60) / 90 . Таким чином, задача прийме наступний вигляд:

мінімізувати F( ) (40 90 )2 , при обмеженні 0 1.

Ітерація 1.

I1 (0,1) ; L1 1. Проведемо два перших обчислення значення функції:

1 0.618 , F( 1 ) 244.0 ,

2 1 2 0.382 , F( 2 ) 31.6 .

Оскільки F( 1 ) F( 2 ) і 2 1 , інтервал 1 виключається.

Ітерація 2.

I 2 (0.236,0.618) ; L2 0.618 . Наступне обчислення функції проводиться в точці

2 2 (1 ) 3 0.236 , F( 2 ) 352 .

Оскільки F( 3 ) F( 2 ) і 3 2 , інтервал 3 виключається.

Ітерація 3.

I3 (0.236,0.618) , L2 0.382 2 . Наступне обчислення функції проводиться в точці,

розміщеній на віддалі (довжина отриманого проміжка) від лівої границі точки інтервала, або на віддалі (1 ) (довжина інтервала) від правої граничної точки. Таким чином,

4 0.618 (1 )L3 0.618 2 L3 0.618 2 ( 2 ) 0.618 4 0.472 . F( 4 ) 6.15 .

Оскільки F( 4 ) F( 2 ) і 4 2 , інтервал 2 виключається.

В результаті отримано наступний інтервал невизначеності 0.382 0.618 для змінної, або 94.4 x 115.6 для змінної x .

Якщо в процесі пошуку проведено шість обчислень значень функції, то довжина

результуючого інтервала для змінної рівна N 1 5 0.09 , що відповідає інтервалу довжиною 8.1 для змінної x . Для порівняння, в аналогічній ситуації методу ділення інтервала наполовину отримано інтервал довжиною 11.25.

2.5.5 Метод Фібоначчі

При використанні даного методу застосовується знамените число Фібоначчі [3,5] , яке визначається співвідношенням

Fn 2 Fn 1 Fn , n 1,2,3,..... , F1 F2 1.

Здопромогою методу індукції легко показати, що n -те число Фібоначчі представляється

увигляді

називається методом Фібоначчі. Цей метод відноситься до класу симетричних методів і

визначається заданням на інтервалі [a, b] точки u1 a (b a) Fn 1 , або симетричної їй точки

Fn 1

31

З домомогою індукції легко показати, що даний метод на k -ому кроці ( k n ), коли проведено обчислення функції в точках u1 ,..., uk , приводить до відрізка локалізації оптимума

так що в гіршому випадку bn an (b a) / Fn 1 . Описаний метод позначається як n . Слід підкреслити, що метод n для своєї реалізації вимагає, щоб число n було задано

наперед (апріорі). – вибір першої точки в цьому методі неможливий без знання числа n . В тих випадках, коли це число неможливо задати апріорі, можна використати метод золотого січення.

Для порівняння нагадаємо, що в методі золотого січення за n обчислень значення функції ми отримали відрізок локалізації оптимума функції довжиною

bn an ((5 1) / 2)n 1 (b a) (2 /(5 1))n 1 (b a) .

отримуємо відрізок локалізації мінімума, довжина якого приблизо рівна

(b a) / Fn 1 (2 /(5 1))n 1 (b a) / 5 .

32