Приклад 1. Методом золотого перерізу для функції

знайти точку мінімуму з точністю до .

Розв’язування Легко показати (див. приклад 1.1), що Тепер виконаємо потрібні розрахунки.

n=1 (перший крок методу):

Отже, наступним відрізком, який локалізує точку мінімуму функції , є відрізок . На цьому відрізку є точка , яка є другою точкою золотого перерізу цього відрізка. Оскільки , робимо наступний крок методу.

n=2 (другий крок методу):

;

.

Оскільки , то ітераційний процес можна закінчити. Отже, , а відрізком, який локалізує точку мінімуму функції , є відрізок .

§4. Метод Фібоначчі.

Нехай знову унімодальна функція на відрізку . Наведемо ще один метод пошуку мінімуму даної функції, зв’язаний з числами Фібоначчі.

Означення 1. Числа, що визначаються співвідношеннями

будемо називати числами Фібоначчі.

Метод Фібоначчі, як і метод золотого перерізу, відноситься до класу так званих симетричних методів. Дамо короткий опис довільного симетричного методу мінімізації функції на відрізку . Перший крок: на задаємо точку , , покладаємо і обчислимо . Нехай вже зроблено кроків і знайдені відрізок ., точка , , з обчисленим значенням , причому . Тоді на наступному -му кроці беремо точку , розташовану всередині симетрично точці , відносно середини цього відрізка. Потім обчислимо значення і порівняємо з . Нехай для визначеності (інший випадок розглядається аналогічно). Тоді при покладаємо ; якщо ж , то . Якщо , то процес може бути продовжений далі.

Суть методу Фібоначчі полягає в наступному. Задаємо число кроків . Точки та з відрізку вибираємо згідно формул

які симетрично розташовані відносно середини відрізка ,

Об­числюємо значення функції в точках та , аналогічно, як і у методі золотого перерізу, порівнюємо між собою ці значення і вибираємо наступний відрізок, який локалізує точку мінімуму функції . Далі процес продовжується аналогічно. Якщо у задачі не задано число , а задано точність , з якою потрібно відшукати точку мінімуму, то з умови

визначаємо число і після цього реалізуємо метод Фібоначчі.

Приклад 1. Методом Фібоначчі розв’яжемо таку задачу мінімізації:

.

Розв’язування. Очевидно унімодальна функція на відрізку . Запишемо необхідні для розрахунків числа Фібоначчі:

.

Тоді на підставі (2) маємо:

k=1 - перший крок:

.

k=2 - другий крок:

.

k=3 - третій крок:

.

Отже, .

Р О З Д І Л 2

МЕТОДИ МІНІМІЗАЦІЇ ФУНКЦІЙ БАГАТЬОХ ЗМІННИХ.

§1. Постановка задачі. Позначення. Допоміжні відомості.

Нехай на деякій множині – вимірного евклідового простору задана функція змінних . Аналогічно, як для функції однієї змінної під задачею мінімізації функції багатьох змінних на множині , розумітимемо наступне:

1. знайти ;

2. якщо на нижня грань досягається, то знайти точку , у якій

3. якщо нижня грань не досягається на , то знайти послідовність , для якої , тобто побудувати мінімізаційну послідовність

Задача мінімізації функцій скінченого числа змінних на заданих множинах виникає при розв’язуванні багатьох задач прикладного характеру.

Як відомо з курсу математичного аналізу, якщо - точка мінімуму гладкої функції в усьому просторі , то

Точка , яка є розв’язком рівнянь , називається стаціонарною точкою функції . Якщо стаціонарні точки знайдені, то серед них треба вибрати ті точки, у яких дійсно досягається мінімум. Для цього треба провести додаткове дослідження поведінки функції в околі стаціонарної точки. Якщо функція двічі неперервно диференційована, то поряд з системою розглядається квадратична форма , яка у точці мінімуму повинна бути невід’ємно визначеною. Якщо ця квадратична форма додатно визначена, то є точка, взагалі кажучи, локального мінімуму функції . Для того, щоб знайти абсолютний мінімум, залишається перебрати всі точки локального мінімуму і з них вибрати точку з найменшим значенням функції, якщо така існує.

Здається, що викладений підхід в основному розв’язує задачу мінімізації достатньо гладких функцій у всьому просторі. В дійсності ж на цьому шляху зустрічаються значні обчислювальні труднощі, які вимагають відшукання інших методів розв’язування. Наприклад, знаходження стаціонарних точок з системи сама по собі досить складна задача, яка рівносильна розв’язанню вихідної задачі. Далі, якщо множина , то мінімум функції може досягатися на межі множини , і у цій точці умова , взагалі кажучи, не буде виконуватися. Зрозуміло, що на цій основі класичний метод не можна виключати з арсеналів методів мінімізації. В деяких простих ситуаціях класичний підхід незамінний і дає повний розв’язок задачі мінімізації в аналітичному вигляді через різні параметри задачі.

До тепер розроблено і досліджено досить багато методів мінімізації функцій багатьох змінних. Нижче будуть викладені деякі з ітераційних методів, що найбільш часто використовуються на практиці.

Для описання і вивчення методів мінімізації потрібні деякі формули і факти з класичного математичного аналізу. Приймемо наступні позначення: - вектор-стрічка; - вектор – стовпець або точка простору з координатами ; матриця порядку з елементами ; матрицю, яка одержана транспонуванням , будимо позначати через ; – скалярний добуток двох векторів і з ; – квадратична форма з симетричною матрицею порядку ; – норма матриці порядку . Там де може виникнути непорозуміння, індекси просторів у позначеннях скалярних добутків, норм векторів і матриць, знак транспонування у позначці вектор - стрічки ми будемо опускати. Нехай далі – градієнт функції в точці u. – матриця других похідних функції у точці яку називають матрицею Гессе, або гессіаном функції ; тут , ; – множина усіх функцій, що мають на неперервні частинні похідні до порядку включно; - величина, нескінченно мала відносно при , тобто .

Як відомо, для будь-яких вірна нерівність Коші – Буняковського: , причому знак рівності при можливий тоді і тільки тоді, коли .