Интерфейс пользователя.
выбор метода
первоначальное приближение
координатыполюсов
кол-во итераций
система
Решение
невязка текущего метода
невязка каждого метода
Вывод
Для сравнения трех изученных методов программно решим следующую систему уравнений:
Результат работы программы для решения полюсным методом Ньютона:
методом наискорейшего спуска:
методом покоординатного спуска:
Получили, что полюсным методом Ньютона систему решили за 5 итераций, методом наискорейшего спуска – за 17, методом покоординатного спуска – за 9. При этом также видим, что при решении методом Ньютона невязка минимальная – т.е. он наиболее точный. Но нельзя забывать, что так получилось именно для этого уравнения!!! Недостаток полюсного метода Ньютона по сравнению с методами спуска – это сугубо локальный характер сходимости, затрудняющий их применение в случаях (довольно типичных), когда имеются проблемы с выбором хороших начальных приближений.
Теперь сравним методы
наискорейшего и покоординатного спуска
между собой. В рассматриваемом примере
видим, что методом покоординатного
спуска мы решили систему почти в два
раза быстрее, но при этом менее точно
(невязка у метода покоординатного спуска
получилась больше). В общем случае метод
наискорейшего спуска работает быстрее
метода покоординатного спуска, но он
требует вычисления частных производных.
В некоторых ситуациях, когда линии
уровня сильно вытянуты вдоль некоторого
направления, метод наискорейшего спуска
неэффективен. Приведем графический
пример. Рассмотри функцию
и возьмем начальное приближение
.
Методом покоординатного спуска задача будет решена следующим образом:
наискорейшего
спуска:
Видно, что методом покоординатного спуска данная задача решается в разы быстрее.
Итак, можно сделать вывод, что нету такого алгоритма, который был бы лучше других. Различные алгоритмы хороши для различных задач, каждый имеет свои плюсы и минусы.
Список литературы
«Основы численных методов». Вержбицкий В.М. Москва, 2005.
«Численные методы». Бахвалов Н.С., Жидков Н.П., Кобельков Г.М., Москва, 1987.
«Численные методы. Оптимизация. Системы нелинейных уравнений». Михалкович С.С., Олифер А.В., Столяр А.М., Ростов-на-Дону, 2000.