36.Метод наименьших квадратов. Виды приближающих функций.Метод наименьших квадратов

При интерполировании основным условием является совпадение значений функции и значений интерполяционного многочлена в узлах интерполяции.Однако при большом количестве узлов интерполяции получается высокая степень многочлена, что затрудняет вычисление. Кроме того, экспериментальные данные, полученные в результате измерений или наблюдений, могут содержать ошибки, которые вызваны несовершенством измерительных приборов, различными случайными факторами. Построение аппроксимирующего многочлена с условием обязательного прохождения его графика через эти экспериментальные точки будет означать повторение ошибок. Поэтому иногда целесообразней строить многочлен, график которого проходит «близко» от заданных точек.Итак, пусть при изучении неизвестной функциональной зависимости y от x получена таблица значений:

 

x0	x1	…	xn
y0	y1	…	yn

 

Нужно найти эмпирическую зависимость y=f(x), значение которых при x=x_i мало отличались бы от опытных данных y_i. График функции y=f(x), вообще говоря, не проходит через точки (x_i, y_i), как в случае интерполяции, что приводит к сглаживанию экспериментальных данных (рис. 3.3)

 

Рис. 3.3

 Построение эмпирической формы состоит из двух этапов:

1)      выбор общего вида зависимости;

2)      выбор наилучших значений параметров, входящих в формулу.

Метод наименьших квадратов не дает возможности выбрать вид зависимости, он позволяет лишь оптимально подобрать параметры приближающей функции. Вид зависимости выбирается из каких-либо дополнительных соображений: физических, геометрических т.д.

Будем считать, что тип эмпирической зависимости выбран, и ее можно записать в виде:

где f – известная функция; - неизвестные постоянные параметры, значения которых надо найти.

В каждой точке x_i вычислим разность между табличным значением функции y_i и вычисленным значением:

Δ_i - назовем отклонениями. Поскольку y_i и f(x_i , a₀ , … , a_m), вообще говоря, не совпадают все или некоторые Δ_i ≠ 0. Запишем сумму квадратов отклонений для всех точек

.

1)      S является функцией от независимых переменных a₀ , a₁ , … , a_m

2)      Параметры a₀ , a₁ , … , a_m будем находить из условия минимума функции S.

1)      Минимум найдем, приравнивая к нулю частные производные по этим переменным

(3.5)

 

Из системы уравнений (3.5) найдем a₀ , a₁ , … , a_m.

Геометрически (рис. 3.4) метод наименьших квадратов можно интерпретировать так: среди бесконечного множества линий данного вида, проведенных относительно данных экспериментальных точек, выбрать одну, для которой сумма квадратов отклонений будет наименьшей. Это приводит к сглаживанию экспериментальных данных (рис. 3.3).

 

Общие понятия. Численные методы и математические модели ГА.

Вычислительные (численные) методы — методы решения математических задач в численном виде. Представление как исходных данных в задаче, так и её решения — в виде числа или набора чисел. В системе подготовки инженеров технических специальностей является важной составляющей. Основами для вычислительных методов являются: решение систем линейных уравнений; интерполирование и приближённое вычисление функций; численное интегрирование; численное решение системы нелинейных уравнений; численное решение обыкновенных дифференциальных уравнений; численное решение уравнений в частных производных (уравнений математической физики); решение задач оптимизации. Для того чтобы уменьшить излучаемый авиационным двигателем шум до приемлемого уровня, должны быть, по крайней мере, разработаны специальные методы подавления шума струи, основным источником которого являются сложные вихревые элементы течения. Для разработки подобных методов необходимо глубокое понимание процессов, происходящих в неоднородных и нестационарных струйных течениях. Одним из важнейших инструментов исследований в этом направлении является численное (методы) моделирование. В разделе «Численные методы линейной алгебры» рассматриваются численные методы решения систем линейных алгебраических уравнений (СЛАУ) и численные методы решения задач на собственные значения и собственные векторы матриц. Среди численных методов алгебры существуют прямые методы, в которых решение получается за конечное фиксированное число операций и итерационные методы, в которых результат достигается в процессе последовательных приближений.

Математи́ческая моде́ль — это математическое представление реальности. Является частным случаем понятия модели, как системы, исследование которой позволяет получать информацию о некоторой другой системе. Процесс построения и изучения математических моделей называется математическим моделированием. Все естественные и общественные науки, использующие математический аппарат, по сути занимаются математическим моделированием: заменяют объект его математической моделью и затем изучают последнюю. Связь математической модели с реальностью осуществляется с помощью цепочки гипотез, идеализаций и упрощений. С помощью математических методов описывается, как правило, идеальный объект, построенный на этапе содержательного моделирования. Математическая модель служит систематическим началом в том случае, если множество параметров образуется функциями зависимости от внутренних характеристик системы. Самым оптимальным вариантом будет тот, когда один из параметров взаимодействует с максимально возможным числом других параметров, влияющих на процесс. Для воссоздания движения воздушного судна в воздушном пространстве необходимо уравнение, описывающее данный процесс, в связи с этим при определенных допущениях данный процесс может быть описан дифференциальным уравнением Колмогорова-Фоккера-Планка. Определяя наиболее выгодные условия пассажирских перевозок для воздушных судов гражданской авиации, необходимо технологически описать процесс математическими моделями, которые позволяют перейти от решения отдельных задач к изучению процесса как единой сложной системы. Использование математических моделей поможет решению конкретных задач, а именно оптимизации парка воздушных судов. Взаимовлияние всех параметров, связанных с идентификацией процесса пассажирских перевозок, указать в математической модели на практике не представляется возможным, в связи с чем, кроме математических моделей могут быть использованы имитационные и эвристические модели.

Особенности задач численного дифференцирования. Формулы численного дифференцирования

Задача численного дифференцирования состоит в приближенном вычислении производных функции f(x) по заданным в конечном числе точек значениям этой функции. Один из универсальных способов построения формул численного дифференцирования состоит в том, что по значениям функции f(x) в некоторых узлах x0 , x1 , ... , xN строят интерполяционный полином PN(x) (обычно в форме Лагранжа) и приближенно полагают f(r)(x) P(r)N(x), 0 ≤ r ≤ N В ряде случаев наряду с приближенным равенством удается (например, используя формулу Тейлора) получить точное равенство, содержащее остаточный член R (погрешность численного дифференцирования): f(r)(x) = P(r)N(x) + R, 0 ≤ r ≤ N Такие формулы называются формулами численного дифференцирования с остаточными членами. Степень, с которой входит величина в остаточный член, называется порядком погрешности формулы численного дифференцирования. Формулы с отброшенными остаточными членами называются просто формулами численного дифференцирования.

Постановка задачи. Решение уравнений с одной переменной.

Во многих научных, инженерных и экономических задачах возникает необходимость решения уравнений вида

f(x, p1,...,pn) (1.1) где f - заданная функция; x- неизвестная величина; p1,...,pn - параметры задачи. Как правило, исследователя интересует поведение решений в зависимости от параметров pk . При каждом фиксированном наборе параметров pk уравнение (1.1) может иметь либо конечное, либо бесконечное количество решений x, что соответствует определенному физическому или экономическому смыслу конкретной задачи. Не нарушая общности задачи, можно поменять местами неизвестное x и любой из параметров pk, т.е. решать уравнение (1.1) относительно другой неизвестной величины. Решениями или корнями уравнения (1.1) называются такие значения x, которые при подстановке в уравнение обращают его в тождество. В общем случае нелинейное уравнение (1.1) запишем в виде F(x) = 0, (1.2) где функция F(x) определена и непрерывна на конечном или бесконечном интервале [a, b]. Всякое число, обращающее функцию F(x) в нуль, т.е. такое, при котором, называется корнем уравнения (1.2). Нелинейные уравнения с одним неизвестным подразделяются на алгебраические и трансцендентные. Уравнение (1.2) называется алгебраическим, если функция является алгебраической функцией. Путем алгебраических преобразований из всякого алгебраического уравнения можно получить уравнение в канонической форме: Pn(x) = a0xn + a1xn-1 +...+an = 0 где a0 ,a1,...,an - коэффициенты уравнения, а x- неизвестное. Любое алгебраическое уравнение имеет по крайней мере один корень - вещественный или комплексный. Если функция F(x) не является алгебраической, то уравнение (1.2) называется трансцендентным. Примерами трансцендентных уравнений являются: x - sinx = 0; 2x - 2cosx = 0; lg(x+5) = cosx. Большинство нелинейных уравнений с одной переменной не решается путем аналитических преобразований, т.е. точными методами. На практике их решают только численными методами. Хотя иногда даже при наличии аналитического решения, имеющего сложный вид, бывает проще провести численное решение по известному алгоритму, чем программировать громоздкую аналитическую формулу. Численное решение уравнений и их систем состоит в приближённом определении корней уравнения или системы уравнений и применяется в случаях, когда точный метод решения неизвестен или трудоёмок. Численное решение задачи можно проводить как непосредственно (используя одноимённые методы), так и с применением оптимизационных методов, приведя задачу к соответствующему виду. Для вычисления выделенного корня в интервале [X1, X2] с заданной точностью e можно применять различные численные методы нахождения действительных корней уравнения (1.2): метод половинного деления; метод хорд; метод простой итерации; метод касательных (Ньютона); комбинированный метод.

Практическая схема решения систем линейных уравнений на ПК

Решение систем линейных алгебраических уравнений (СЛАУ) является одной из основных задач линейной алгебры. Эта задача имеет важное прикладное значение при решении научных и технических проблем. Кроме того, является вспомогательной при реализации многих алгоритмов вычислительной математики, математической физики, обработки результатов эксᴨȇриментальных исследований.

Применяемые на практике численные методы решения СЛАУ делятся на две группы - прямые и итерационные.

В прямых (или точных) методах решение системы получают за конечное число арифметических действий. К ним относятся известное правило Крамера нахождения решения с помощью определителей, метод последовательного исключения неизвестных (метод Гаусса) и его модификации, метод прогонки и другие. Сопоставление различных прямых методов проводится обычно по числу арифметический действий, необходимых для получения решения. Прямые методы являются универсальными и применяются для решения систем до порядка 10³. Отметим, что вследствие погрешностей округления при решении задач на ЭВМ прямые методы на самом деле не приводят к точному решению системы.

Итерационные (или приближенные) методы являются бесконечными и находят решение системы как предел при k последовательных приближений x^(k), где k - номер итерации. Обычно задается точность и вычисления проводятся до тех пор, пока не будет выполнена оценка x^(k) - x^(k-1) < . Число итераций n(), которое необходимо провести для получения заданной точности, для многих методов можно найти из теоретических рассмотрений. Качество различных итерационных методов можно сравнивать по необходимому числу итераций n(). Эти методы особенно предпочтительны для систем с матрицами сᴨȇциального вида - симметричными, трехдиагональными, ленточными и большими разреженными матрицами.

Выбор среды программирования.

После проведенного обзора программных средств мы выбрали среду программирования наиболее подходящую нам как очень удобное средство для разработки данного программного продукта. DELPHI 5.0 является наиболее выгодной нам средой программирования.

Подход к решению задач линейного программирования

1Графический метод решения задачи линейного программирования основан на геометрической интерпретации задачи линейного программирования и применяется в основном при решении задач двумерного пространства и только некоторых задач трёхмерного пространства, так как довольно трудно построить многогранник решений, который образуется в результате пересечения полупространств. Задачу пространства размерности больше трёх изобразить графически вообще невозможно.2Симплекс-метод решения задач линейного программирования.

Симплекс-метод – один из наиболее эффективных методов численного решения задач ЛП. Суть понятия «симплекс» заключается в следующем. Для тела в k -мерном пространстве симплексом называется множество, состоящее из k +1 вершин этого тела. Так, при k = 2, т.е. на плоскости, симплексом будут вершины треугольника; при k = 3 симплексом являются вершины четырехгранника, например тетраэдра, и т.д. Такое название методу дано по той причине, что в его основе лежит последовательный перебор вершин ОДЗП с целью определения координат той вершины, в которой функция цели имеет кстремальное значение.

Решение задачи с помощью симплекс-метода разбивается на два основных этапа.На первом этапе находят одно из решений, удовлетворяющее системе ограничений . Системы, в которых переменных больше, чем ограничений N > m, называются неопределенными. Они приводятся к определенным системам (N = m) путем приравнивания к нулю N-m каких-либо переменных. При этом остается система m уравнений с m неизвестными, которая имеет решение, если определитель системы отличен от нуля. В симплекс-методе вводится понятие базисных переменных, или базиса. Базисом называется любой набор из m таких переменных, что определитель, составленный из коэффициентов при этих переменных в m-ограничениях, отличен от нуля. Остальные N-m переменных называются небазисными, или свободными переменными. Если принять, что все небазисные переменные равны нулю, и решать систему ограничений относительно базисных переменных, то получим базисное решени

Постановка задач интерполирования и экстраполирования функций. Многочлен Лагранжа.

Аппроксимация функций заключается в приближенной замене заданной функции f(x) некоторой функцией  (x) так, чтобы отклонение функции  (x) от f(x) в заданной области было наименьшим. Функция  (х) при этом называется аппроксимирующей. Типичной задачей аппроксимации функций является задача интерполяции. Необходимость интерполяции функций в основном связана с двумя причинами:

1. Функция f(x) имеет сложное аналитическое описание, вызывающее определенные трудности при его использовании (например, f(x) является спецфункцией: гамма-функцией, эллиптической функцией и др.).

2. Аналитическое описание функции f(x) неизвестно, т. е. f(x) задана таблично. При этом необходимо иметь аналитическое описание, приближенно представляющее f(x) (например, для вычисления значений f(x) в произвольных точках, определения интегралов и производных от f(x) и т. п.)

Постановка задачи интерполяции

 Простейшая задача интерполяции заключается в следующем. На отрезке [a, b] заданы n + 1 точки x_i = х₀, х₁, . . ., х_n, которые называются узлами интерполяции, и значения некоторой функции f(x)  в этих точках

f(x0) = y0, f(x1) =  y1,  . . ., f(xn) = yn.

(1)

Требуется построить функцию  (х) (интерполяционная функция), принадлежащую известному классу и принимающую в узлах интерполяции те же значения, что и f(x), т. е. такую, что

(x0) = y0, (x1) =  y1,  . . ., (xn) = yn.

(2)

Геометрически это означает, что нужно найти кривую y =  (х) некоторого определенного типа, проходящую через заданную систему точек M(x_i, y_i) (i = 0, 1, ..., n) (Рисунок 1).

 

Рисунок 1

 В такой общей постановке задача может иметь бесконечное множество решений или совсем не иметь решений.

Однако эта задача становится однозначной, если вместо произвольной функции  (х) искать полином  (х) (интерполяционныйполином) степени не выше n, удовлетворяющий условиям (2), т. е. такой, что

 (x0) = y0,  (x1) =  y1,  . . .,  (xn) = yn.

(3)

Полученную интерполяционную формулу

(4)

обычно используют для приближенного вычисления значений данной функции  (х) для значений аргумента х, отличных от узлов интерполяции. Такая операция называется интерполяцией функций.

Различают два вида интерполяции:

1. глобальная - соединение всех точек  (х) единым интерполяционным полиномом;

2. локальная - соединение точек отрезками прямой (по двум точкам), отрезками параболы (по трем точкам).

ЭКСТРАПОЛИРОВАНИЕ

экстраполяция, функции - продолжение функции за пределы ее области определения, при к-ром продолженная функция (как правило, аналитическая) принадлежит заданному классу. Э. функций обычно производится с помощью формул, в к-рых использована информация о поведении функции в нек-ром конечном наборе точек (узлах интерполяции), принадлежащих ее облает определения.  Понятие интерполирования функций употребляртся в качестве противопоставления понятию Э. функций (в узком смысле понимания этого термина), когда конструктивно восстанавливаются (быть может, приближенно) значения функций в областях их определений.  Иногда при Э. функций используется не вся ее область определения, а только ее часть, т. е. фактически производится Э. значений сужения заданной функции на указанной части. В этом случае экстраполяционные формулы дают, в частности, значения (вообще говоря, приближенные) функции в соответствующих точках ее области определения. Именно таким образом часто поступают при решении практич. задач, когда вне рассматриваемой части области определения нек-рой функции отсутствует достаточная информация, необходимая для вычисления ее значений.

Интерполяцио́нный многочле́н Лагра́нжа — многочлен минимальной степени, принимающий данные значения в данном наборе точек. Для n + 1 пар чисел  , где все x_i различны, существует единственный многочленL(x) степени не более n, для которого L(x_i) = y_i.

В простейшем случае (n = 1) — это линейный многочлен, график которого — прямая, проходящая через две заданные точки.

Постановка задачи численного интегрирования

Задача численного интегрирования функции заключается в вычислении определенного интеграла на основании ряда значений подынтегральной функции. Численное вычисление однократного интеграла называется Механической квадратурой.

Мы будем рассматривать способы приближенного вычисления определенных интегралов

, (2.1)

Основанные на замене интеграла конечной суммой:

, (2.2)

Где СK- числовые коэффициенты, а Xk Î [A, B], K = 0, 1, …, N.

Приближенное равенство

(2.3)

Называется квадратурной формулой, а XK – узлами квадратурной формулы. Погрешность квадратурной формулы определяется соотношением

. (2.4)

В общем случае погрешность квадратурной формулы (2.4) зависит как от выбора коэффициентов Ск , так и от расположения узлов Хк. Введем на отрезке [A, B] равномерную сетку с шагом H, тогда Xi = A + Ih, где (I = 0, 1, ..., N; H·N = B-A). Теперь выражение (2.1) можно представить в виде суммы интегралов по частичным отрезкам:

(2.5)

Таким образом, для построения формулы численного интегрирования на отрезке [A, B] достаточно построить квадратурную формулу на частичном отрезке [Xi-1, Xi] и воспользоваться формулой

Примеры решения практических задач с линейной и квадратичной приближающими функциями

Приведенный в предыдущем параграфе классический метод (метод множителей Лагранжа) можно использовать тогда, когда целевая функция и ограничения задачи НЛП обладают хорошими свойствами (гладкость, выпуклость и др.). В отсутствии такой возможности применяются приближенные методы. Они могут применятся и в тех случаях, когда задача (1)-(3) не имеет оптимального решения. Тогда решая обобщенную задачу НЛП приближенными методами, можно построить минимизирующую последовательность, сходящуюся к некоторому, практический приемлемому приближенному «оптимальному решению». Приближенные методы, как правило, являются прямыми методами, так как они решают непосредственно исходную экстремальную задачу. К непрямым методам относятся те, в которых решение исходной задачи получается путем решения другой задачи, к которой предварительно сводится исходная задача. Например, метод множителей Лагранжа является непрямым методом, так как решается задача, полученная из исходной с помощью необходимого условия минимума. В теории НЛП разработано большое число вычислительных методов, которые по тем или иным характеристикам могут быть разбиты на различные группы (классы). Ниже приводится краткие сведения о некоторых из них. Но часто такое разбиение носит условный характер, так как один и тот же метод может быть отнесен к разным группам. Например, методы проекции градиента и условного градиента могут считаться как градиентными методами, так и методами возможных направлений.

Решение уравнений с одной переменной методом хорд.

Метод хорд Метод секущих — итерационный численный метод приближённого нахождения корня уравнения. Будем искать нуль функции f(x). Выберем две начальные точки C1(x1;y1) и C2(x2;y2) и проведем через них прямую. Она пересечет ось абсцисс в точке (x3;0). Теперь найдем значение функции с абсциссой x3. Временно будем считать x3 корнем на отрезке (x1;x2). Пусть точка C3 имеет абсциссу x3 и лежит на графике. Теперь вместо точек C1 и C2 мы возьмём точку C3 и точку C2. Теперь с этими двумя точками проделаем ту же операцию и так далее, то есть будем получать две точки Cn+1 и Cn и повторять операцию с ними. Отрезок, соединяющий последние две точки, пересекает ось абсцисс в точке, значение абсциссы которой можно приближённо считать корнем. Эти действия нужно повторять до тех пор, пока не получим значение корня с нужным приближением.

Алгебраическое описание метода секущих

Пусть x1,x2 — абсциссы концов хорды, y=kx+b — уравнение секущей, содержащей хорду. Найдем коэффициенты k и b из системы уравнений: .Вычтем из первого уравнения второе: , затем найдем коэффициенты k и b: , тогда .Уравнение принимает вид: . Таким образом, теперь можем найти первое приближение к корню, полученное методом секущих: . Теперь возьмем координаты и и повторим все проделанные операции, найдя новое приближение к корню. Таким образом, итерационная формула метода секущих имеет вид: . Повторять операцию следует до тех пор, пока |Xi-Xi-1| не станет меньше или равно заданному значению погрешности.

Решение уравнений с одной переменной методом касательных (Ньютона).

Mетод касательных (Ньютона) Рассмотрим графическую иллюстрацию метода (рис.8).

Пусть на графике определено начальное приближение x0 корню. В точке x0 вычислим левую часть решаемого уравнения f0= f(x0) , а также производную в этой точкеf'(x0) = tg a Следующее приближение к корню найдем в точке x1, где касательная к функции f(x), проведенная из точки (x0, f0 ), пересекает ось абсцисс. Принимаем точку x1 за начальную и продолжаем итерационный процесс.Из рис.8 видно, что таким способом можно приближаться к корню . При этом с каждой итерацией расстояние между очередным xk+1 и предыдущим xk приближениями к корню будет уменьшаться. Процесс уточнения корня закончится, когда выполнится условие где e- допустимая погрешность определения корня. Из геометрических соотношений рис.8 получим основную формулу метода Ньютона: x1= x0 - f(x0) /f '(x0). В общем виде для k-го шага итерационного процесса последнее соотношение принимает вид: xk - f(xk) /f '(xk). Метод Ньютона обладает высокой скоростью сходимости. Так, абсолютная точность решения 10-5 - 10 -6 достигается через 5-6 итераций. Недостатком метода является необходимость вычисления на каждой итерации не только левой части уравнения, но и ее производной.

Решение уравнений с одной переменной методом половинного деления.

Зададим погрешность e, до которой будем вычислять корень. Разделим отрезок [X1, X2]пополам точкой С = (X1, X2)/2 (рис.5). Если , то возможны два случая: либо F(x)меняет знак на отрезке [X1, С] (рис.5, а), либо на отрезке [С, X2] (рис.5, б). Процесс продолжаем до тех пор, пока длина отрезка,на котором функция имеет противоположные знаки, не станет меньше заданной погрешности e. На рис.6 приведена блок-схема алгоритма уточнения выделенного корня на отрезке [X1, X2] с заданной точностью e методом дихотомии (половинного деления).

Метод дихотомии позволяет значительно уменьшить объём вычислений по сравнению с графическим методом. Так как за каждую итерацию интервал, где расположен корень, уменьшается в два раза, то через n итераций интервал будет равен (X1 - X2)/2 n . За 10 итераций интервал уменьшится в раз, за 20 итераций - в раз.

Решение нелинейных уравнений с одной переменной. Метод простой итерации и оценка погрешности метода

Во многих научных, инженерных и экономических задачах возникает необходимость решения уравнений вида

f(x, p₁,...,p_n)                                       (1.1)

где f - заданная функция;

x- неизвестная величина;

p₁,...,p_n  -   параметры задачи.

Как правило, исследователя интересует поведение решений в зависимости от параметровp_k . При каждом фиксированном наборе параметров p_k уравнение (1.1) может иметь либо конечное, либо бесконечное количество решений x, что соответствует определенному физическому или экономическому смыслу конкретной задачи.

Не нарушая общности задачи, можно поменять местами неизвестное x и любой из параметров p_k, т.е. решать уравнение (1.1) относительно другой неизвестной величины.

Решениями или корнями уравнения   (1.1) называются такие значения x, которые при подстановке в уравнение обращают его в тождество.В общем случае нелинейное уравнение (1.1) запишем в виде

F(x) = 0,                       (1.2)

где функция F(x) определена и непрерывна на конечном или бесконечном интервале [a, b].

Всякое число   ,обращающее функцию F(x)в нуль, т.е. такое, при котором   , называется корнем уравнения  (1.2).Нелинейные уравнения с одним неизвестным подразделяются на алгебраические и трансцендентные.

Уравнение (1.2) называется алгебраическим, если функция является алгебраической функцией. Путем алгебраических преобразований из всякого алгебраического уравнения можно получить уравнение в канонической форме:

P_n(x) =  a₀xⁿ + a₁x^n-1 +...+a_n = 0

 где  a₀ ,a₁,...,a_n - коэффициенты уравнения, а x- неизвестное.

Любое алгебраическое уравнение имеет по крайней мере один корень - вещественный или комплексный (см. [1]).

Если функция F(x) не является алгебраической, то уравнение (1.2) называется трансцендентным. Примерами трансцендентных уравнений являются:

x - sinx = 0;

2^x - 2cosx = 0;

lg(x+5) = cosx .

Большинство нелинейных уравнений с одной переменной не решается путем аналитических преобразований, т.е. точными методами. На практике их решают только численными методами. Хотя иногда даже при наличии аналитического решения, имеющего сложный вид, бывает проще провести численное решение по известному алгоритму, чем программировать громоздкую аналитическую формулу.Решить уравнение (1.2) - значит установить, имеет ли оно корни, сколько корней и найти значения корней с заданной точностью.

Численное решение уравнения (1.2) обычно проводят в два этапа. На первом этапе необходимо отделить корни уравнения, т.е. найти такие интервалы изменения переменной x, где расположен только один корень. По сути дела на этом этапе находят приближенные значения корней с погрешностью, задаваемой длиной каждого интервала. На втором этапе проводят уточнение отделенных корней, т.е. находят корни с заданной точностью; для этого известен богатый набор алгоритмов и программ, некоторые из которых будут рассмотрены ниже.

Решение систем нелинейных уравнений метод простой итерации.

Численное решение нелинейных ( алгебраических или трансцендентных ) уравнений

вида 0)(= xf (2.1)

заключается в нахождении значений x , удовлетворяющих ( с заданной точностью ) данному

уравнению и состоит из следующих основных этапов :

1. Отделение ( изоляция , локализация) корней уравнения.

2. Уточнение с помощью некоторого вычислительного алгоритма конкретного

выделенного корня с заданной точностью .

Целью первого этапа является нахождение отрезков из области определения функции

, внутри которых содержится только один корень решаемого уравнения. Иногда

ограничиваются рассмотрением лишь какой- нибудь части области определения,

вызывающей по тем или иным соображениям интерес. Для реализации данного этапа используются графические или аналитические способы . )(xf

При аналитическом способе отделения корней полезна следующая теорема [2]:

Метод простой итерации . При использовании метода простой итерации уравнен(2.1) заменяется эквивалентным уравнением с выделенным линейным членом )(xxϕ = (2.5) Решение ищется путем построения последовательности (2.6) ,... 2,1,0)()( )1(= =+kxx k kϕначиная с некоторого заданного значения . Если )0(x )(x ϕ - непрерывная функция , - сходящаяся последовательность , то значение являет решением уравнения (2.5). ,...)2,1,0()(= kxk∞→∗=kkxx )( )(lim

Условия сходимости метода и оценка его погрешности определяются теоремой [2]:

Решение систем нелинейных уравнений методом Ньютона.

Симплекс метод и таблица.

Симплекс-метод — алгоритм решения оптимизационной задачи линейного программирования путём перебора вершин выпуклого многогранника в многомерном пространстве. Метод был разработан советским математиком Канторовичем Л. В. в 1939 годуСимплекс-метод – один из наиболее эффективных методов численного решения задач ЛП. Суть понятия «симплекс» заключается в следующем. Для тела в k -мерном пространстве симплексом называется множество, состоящее из k +1 вершин этого тела. Так, при k = 2, т.е. на плоскости, симплексом будут вершины треугольника; при k = 3 симплексом являются вершины четырехгранника, например тетраэдра, и т.д. Такое название методу дано по той причине, что в его основе лежит последовательный перебор вершин ОДЗП с целью определения координат той вершины, в которой функция цели имеет кстремальное значение.

Решение задачи с помощью симплекс-метода разбивается на два основных этапа.На первом этапе находят одно из решений, удовлетворяющее системе ограничений . Системы, в которых переменных больше, чем ограничений N > m, называются неопределенными. Они приводятся к определенным системам (N = m) путем приравнивания к нулю N-m каких-либо переменных. При этом остается система m уравнений с m неизвестными, которая имеет решение, если определитель системы отличен от нуля. В симплекс-методе вводится понятие базисных переменных, или базиса. Базисом называется любой набор из m таких переменных, что определитель, составленный из коэффициентов при этих переменных в m-ограничениях, отличен от нуля. Остальные N-m переменных называются небазисными, или свободными переменными. Если принять, что все небазисные переменные равны нулю, и решать систему ограничений относительно базисных переменных, то получим базисное решение.

Численные методы решения систем линейных алгебраических уравнений. Метод исключения Гаусса Процесс решения по методу Гаусса состоит из двух этапов, называемых прямым и обратным ходом. На первом этапе система (3) приводится к треугольному виду; на втором (обратный ход) идет последовательное определение неизвестных из указанной треугольной системы.Для реализации метода Гаусса требуется примерно (2/3)n3 арифметических операций, причем основное число этих действий совершается на этапе прямого хода [1]. В качестве примера, иллюстрирующего метод Гаусса, рассмотрим следующую систему [6].

Пример 1.

1,2357x1 + 2,1742x2 - 5,4834x3 = - 2,0735,

6,0696x1 - 6,2163x2 - 4,6921x3 = - 4,8388,

3,4873x1 + 6,1365x2 - 4,7483x3 = 4,8755.

Все результаты расчетов представлены в виде чисел с плавающей запятой с пятью значащими цифрами.

Первый шаг гауссова исключения сводится сначала к умножению первого уравнения на (- 4,9119), а затем на (- 2,8221). Полученные уравнения складываются со вторым и третьим уравнениями системы (8). В результате получаем равносильную систему

1,2357x1 + 2,1742x2 - 5,4834x3 = - 2,0735,

-16,895x2 + 22,242x3 = 5,3462,

0,0007x2 + 10,727x3 = 10,727.

Чтобы сделать второй шаг, умножим второе уравнение на и сложим с третьим уравнением. С учетом этого получим систему треугольного вида

1,2357x1 + 2,1742x2 - 5,4834x3 = - 2,0735,

-16,895x2 + 22,242x3 = 5,3462,

10,728x3 = 10,727.

Решение указанной системы дает следующие значения неизвестных:

x1 = 0,99968, x2 = 0,99994, x3 = 0,9991.

Этот результат близок к точному решению системы (8)

x1 = x2 = x3 = 1.

Отметим, что первый этап метода Гаусса может быть использован для вычисления определителя системы (8). Действительно, прямой ход метода Гаусса основан на том, что многократно выполняется операция сложения одной из строк матрицы (5) с другой строкой, взятой с некоторым множителем. Известно [1, 4], что такая операция не меняет определителя. Определитель треугольной матрицы равен произведению ее диагональных элементов. В нашем случае для системы (8)

det R = 1,2357 " (-16,895) " 10,728 = - 223,97,

где R - треугольная матрица системы (9).

Подчеркнем, что метод Гаусса также устанавливает факт отсутствия решения системы (3) (несовместность), а также неединственность.

Пример 2. Решить систему уравнений методом Гаусса:

x1 + x2 + x3 = 3,

2x1 + 3x2 + 4x3 = 9,

2x1 + 2x2 + 2x3 = 6.

В результате применения метода Гаусса к данной системе получаем следующий результат:

x1 + x2 + x3 = 3,

x2 + 2x3 = 3,

0 " x3 = 0.

Отсюда видно, что указанная система имеет неединственное решение.

Пример 3. Решить систему уравнений методом Гаусса:

x1 + x2 + x3 = 3,

2x1 + 3x2 + 4x3 = 9,

2x1 + 2x2 + 2x3 = 7.

Используя процедуру Гаусса, получаем следующую систему:

x1 + x2 + x3 = 3,

x2 + 2x3 = 3,

0 " x3 = 1.

Таким образом, данная система не имеет решений, то есть несовместна:

x1 , x2 , x3 k .

УМЕНЬШЕНИЕ ОШИБОК ОКРУГЛЕНИЯ

Поменяем местами в системе (8) второе и третье уравнения. Полученную систему решим методом Гаусса. В результате после исключения из третьего уравнения x2 получим систему треугольного вида

1,2357x1 + 2,1742x2 - 5,4834x3 = - 2,0735,

0,0007x2 + 10,727x3 = 10,727,

258 930x3 = 258 910.

Определяя из нее последовательно x3 , x2 , x1 , найдем решение

x1 = 2,9021, x2 = 1,4286, x3 = 0,9992.

При осуществлении идеального вычислительного процесса без ошибок округления ответы (10), (11) должны совпадать с точным решением. В одном случае получается вполне разумный ответ (10), в другом (11) в ответе возникает большая ошибка. Причина такого различия связана с малым значением коэффициента второго уравнения при x2 , что, в свою очередь, приводит к резкому увеличению коэффициента в третьем уравнении.

Чтобы избежать нежелательного роста элементов матрицы во время прямого хода, обычно на каждом шаге производят перестановку строк матрицы, выбирая максимальный первый коэффициент. Существуют и другие более сложные и надежные схемы исключения, однако мы не будем останавливаться на их описании.

Любая специальная схема для повышения точности требует дополнительных вычислительных ресурсов. Но в конечном счете это себя оправдывает благодаря уменьшению ошибок округления.

Численные методы решения систем линейных алгебраических уравнений. Метод прогонки. Метод прогонки для решения систем линейных алгебраических уравнений(СЛАЧасто при решении задач математической физики(например краевая задача для обыкновенных дифференциальных уравнений 2-го порядка) встречаются матрицы, в которых большинство элементов равно нулю. Причем структура матрицы не хаотична, а вполне определена, а именно - матрица трехдиагональна, ненулевые элементы расположены на главной диагонали и двух прилегающих к ней.  Метод прогонки является частным случаем метода Гаусса, и также состоит из прямого и обратного хода. Для решения системы, матрицу сначала нужно привести к двухдиагональной: Поделив первую строку матрицы, приведенной выше, на -b₁ очевидно, что: и можно вывести формулу для прямого хода: Затем необходимо выполнить обратный ход - найти вектор X, из последней строки преобразованной матрицы следует, что x_n= Q_n. В тоже время остальные элементы вектора считаются по формуле: Следует заметить, что метод устойчив если(следует из диагонального преобладания матрицы А): и корректен, если(иначе формулы прямого хода не имеют смысла):

Численные методы решения систем линейных алгебраических уравнений. Метод простых итерации. Метод простойитерации(метод Якоби)Рассмотрим систему

A·x = f, (3.27)

где матрица A = [a_ij] (i,j = 1, 2, …m) имеет обратную матрицу;  x = (x₁, x₂, x₃,…x_m) – вектор неизвестных, f – вектор свободных членов.

Преобразуем систему (3.27) к следующему виду:

 (i = 1, 2, …m), (3.28)

где  ,  , при этом предполагаем, что a_ii неравно 0.

Условимся, как обычно, считать значение суммы равным нулю, если верхний предел суммирования меньше нижнего. Тогда при i = 1 уравнение (3.28) имеет вид

 (3.29)

В методе простой итерации (методе Якоби) исходят из записи системы в виде (3.28), итерации при этом определяют следующим образом:

 (3.30)

Начальные значения   – (i = 0, 1, … m) задаются произвольно. Окончание итерационного процесса определяют либо заданием максимального числа итераций n₀, либо следующим условием:

 (3.31)

где ε > 0.

В качестве нулевого приближения в системе (3.30) примем

. (3.32)

Если последовательность приближений x₁⁽⁰⁾, x₂⁽⁰⁾, ..., x_m⁽⁰⁾, x₁⁽¹⁾, x₂⁽¹⁾, ..., x_m⁽¹⁾, ..., x₁^(k), x₂^(k), ..., x_m^(k) имеет предел

, (3.33)

то этот предел является решением системы (3.28).

Достаточным условием сходимости решения системы (3.27) является то, что матрица A является матрицей с преобладающими диагональными элементами, то есть

 (3.34)

Численные методы решения систем линейных алгебраических уравнений. Метод Зейделя.ЗЕЙДЕЛЯ МЕТОД

- итерационный метод решения системы линейных алгебраич. уравнений Ах=b. Решение системы х* находится как пределпоследовательности   вычисляемой по правилу

i=l, 2, ..., п,

где a_ij- элементы матрицы А, b_i - компоненты вектора b;диагональные элементы матрицы Апредполагаются отличными от нуля. Вычисления (*) отличаются от простой итерации метода лишь тем, что на k-м шаге при вычислении i-й компоненты учитываются вычисленные k-в приближения первых (i-1) компонент.

В матричной записи 3. м. представляется следующим образом. Если А=В+С, где

то соотношение (*) соответствует матричному соотношению x^(k)=- В ^-1 Сх^(k-1)+В ^-1b. З. м. равносилен методу простой итерации, примененному к системе x=-B^-1Cx+B^-1b, эквивалентной исходной. Для сходимости 3. м. необходимо и достаточно, чтобы все собственные значения матрицы В ^-1 С по модулю были меньше 1. Иначе, чтобы все корни уравнения det(C+Вl)=0 были по модулю меньше 1.

На практике более удобны следующие достаточные условия сходимости 3. м. 1) Пусть при всех i,

 д<1. Тогда 3. м. сходится и для

скорости сходимости имеет место оценка:

2) Пусть А- эрмитова положительно определенная матрица. Тогда 3. м. сходится.

З. м. относится к классу релаксации методов, наиболее употребительным из к-рых является сверхрелаксации метод.

Известны модификации 3. м., использующие предварительное преобразование исходной системы в эквивалентную ей системуx=Mx+f (см. [4]).

Численное интегрирование. Приближенное вычисление с помощью формул трапеций.

На элементарном отрезке  заменим подынтегральную функцию интерполяционным полиномом первой степени:

Выполняя интегрирование на отрезке, приходим к локальной  формуле трапеций:

             (3.4)

Замечание. Название формулы связано с тем, что интеграл по элементарному отрезку заменяется площадью трапеции с основаниями, равными значениям  на краях отрезка, и высотой, равной

Суммируя (3.4) по всем отрезкам, получаем формулу трапеций для вычисления приближения к I:

                                                            (3.5)

В случае постоянного шага интегрирования формула принимает вид:

                                                                                                                    (3.5а)

О точности приближения  к  см. п. 3.3.

Численное интегрирование. Приближенное вычисление с помощью формул Симпсона.