lectures / MetSunTaOpt_Rozdil_2012_4

Метод Марквардта (1)

Цей метод є комбінацією методів Коші і Ньютона, де вдало поєднуються позитивні характеристики обох

методів.

X ( K 1) X ( K ) S(X ( K ) )

S(X ( K ) ) [H ( K ) ( K ) I ] 1 f (X K ) ( K ) 1

Метод Марквардта (2)

32

Метод Марквардта.

Алгоритм

Переваги та недоліки методу Марквардта

Переваги:

1. Відносна простота.

2. Володіє властивістю зменшення значення ЦФ при переході від одної до наступної ітерації.

3. Високою швидкістю сходимості в околі точки мінімуму.

4. Відсутність процедури пошуку в напрямку прямої.

Недолік:

1. Необхідність визначення матриці Гессе.

Висновки

Градієнтні методи, зокрема метод найшвидшого спуску, мають лінійну швидкість сходимості. Метод Ньютона має квадратичну швидкість сходимості. Застосування метода Ньютона виявляється дуже ефективним при умові, що виконуються необхідні і достатні умови його сходимості.

Недоліком методу Ньютона є необхідність обчислення і обернення матриці Гессе на кожній ітерації.

Методи змінної метрики

Методи змінної метрики називають також квазіньютонівськими чи градієнтними з великим кроком. В цих методах у процесі пошуку здійснюється апроксимація матриці других часткових похідних чи оберненої до неї. Причому для цього використовують тільки перші похідні.

Метод Девідона-Флетчера-Пауела

x( K 1) x( K ) k A k f x k

Блок-схема програмної реалізації методу Девідона-Флетчера-Пауэлла

Почати з точки xi

Hi i 0

Покласти di Hi * gi

Метод Девідона-Флетчера-Пауела.

Приклад 5.9 (1)

Метод Девідона-Флетчера-Пауела.

Приклад 5.9 (2)