19.Модифікований метод Ньютона для снар.

При побудові процесу Ньютона (4.6) істотною незручністю є необхідність для кожного кроку заново обчислювати обернену матрицю Якобі. Якщо ця матриця неперервна в околі шуканого розв’язку x⁰, досить близького до x^*, то приблизно можна покласти

і ми приходимо до модифікованого методу Ньютона

.

20.Метод градієнтного спуску чисельного розв’язання систем нелінійних рівнянь.

Припустимо, що в системі нелінійних алгебраїчних рівнянь функції f_i дійсні і неперервно диференційовані в їхній загальній області визначення. Розглянемо функцію

. (4.7)

Очевидно, що кожен розв’язок системи (4.2) перетворює в нуль функцію U(x); і навпаки, числа x₁,x₂,...,x_n, для яких функція U(x) дорівнює нулю, є коренем системи (4.2).

Припустимо, що система має лише ізольований розв’язок, що являє собою точку строгого мінімуму функції U(x) у n-вимірному просторі ={x₁,x₂,..., x_n }.

Нехай - корінь системи (4.2) і - його нульове наближення. Через точку проведемо поверхню рівня функції U( ). Якщо точка досить близька до кореня , то при наших припущеннях поверхня рівня U( )=U( ) буде схожа на еліпсоїд.

З точки рухаємося по нормалі до поверхні U( )=U( ) доти, поки ця нормаль не доторкнеться в деякій точці іншої поверхні рівня U( )= U( ).

Потім, відправляючись від точки , знову рухаємося по нормалі до поверхні рівня U( )= U( ) доти, поки ця нормаль не доторкнеться в деякій точці нової поверхні рівня U( )= U( ), і т.д.

Оскільки U( )>U( )>U( )>..., то, рухаючись таким чином, ми швидко наближаємося до точки з найменшим значенням U ("дно ями"), що відповідає кореневі системи (4.2). Позначимо через

градієнт функції U( ). Визначимо описаний алгоритм пошуку точок-наближень за формулою

. (4.8)

Залишається визначити множники _p. Для цього розглянемо скалярну функцію .

Функція () дає зміну рівня функції U уздовж відповідної нормалі до поверхні рівня в точці . Множник =_p потрібно вибрати таким , щоб () мала мінімум. Керуючись необхідною умовою екстремуму функції, одержуємо рівняння

. (4.9)

Найменший додатний корінь цього рівняння і дасть нам значення _p. Будемо вважати, що - мала величина, квадратом і вищими ступенями якої можна зневажити. Маємо . Розкладаючи функції f_i за степенями  з точністю до лінійних членів, одержимо

,

де . Звідси

Отже, ,

де - матриця Якобі. Далі маємо

.

Звідси ,

де W`(x) - транспонована матриця Якобі. Тому остаточно , а . Отримали розрахункову формулу методу градієнтного спуску з визначенням кроку.

Сучасна комп’ютерна техніка дозволяє суттєво спростити цей метод розв’язання нелінійних систем. Множник _p у формулі (4.8) обирають як достатньо малий постійний крок у напрямку антиградієнта. Наприклад, _p=0.00001.

21.Як знайти мінімум функції декількох змінних?

Минимумом (строгим) функции f (x, y) называется такое значение f (x₂,y₂), которое меньше всех ее значений f (x,y), принимаемых данной функцией в точках некоторой окрестности О (х₂, у₂).

Пусть u = f (x, y) и f (x_o, y_o) - ее максимум (для минимума рассуждения аналогичны). Зафиксируем одну из переменных, например, у, полагая у = у_о, тогда получим функцию одной переменной U₁ = f (x, y_o), которая, очевидно, будет иметь максимум при х = х_о. Отсюда, на основании теории экстремума одной переменной, получаем, что или не существует.

Пусть теперь у=у_о, а х_о- фиксируем, тогда или не существует.

С л е д с т в и е. В точке экстремума М_о (х_о, у_о) дифференцируемой функции f (x, y) выполнены равенства

Для U = f(x,y, z) в точке М_о (х_{о ,}у_о, z_о) будет выполнено условие .

 З а м е ч а н и е. Точку, в которой частные производные первого порядка либо не существуют, либо равны нулю, называют критической.

Т.е. экстремумы функции нескольких переменных могут достигаться лишь в критических точках.