Шпоры по вычмату / 005

Аппроксимация.

Постановка задачи аппроксимации: даны точек дискретной функции . Построить функцию , которая близка к данной в соответствии с выбранным критерием близости.

В качестве обычно рекомендуется выбирать регрессионную модель. В регрессионных моделях искомая функция является суммой некоторых простых функций, называемых регрессорами. Эти функции могут быть произвольными и основаниями для их выбора служат физические соображения, интуиция, опыт, соображения простоты. Регрессионная модель записывается в следующем виде:

,

(2.10)

где регрессоры выбирает исследователь, а стандартные методы позволяют определить оптимальные коэффициенты , обеспечивающие близость функций и . При этом обычно в качестве критерия близости выбирают критерий минимума суммы квадратов отклонений значений от значений - ,

где ,

(2.11)

Очевидно, что для выбранных регрессоров имеем и "настройка" функции идет через коэффициенты . Найденные коэффициенты соответствуют точке минимума функции многих переменных .

Отметим, что в регрессионной модели вместо скалярной переменной можно использовать массив , и это соответствует наличию многих входных параметров в математической модели. Следовательно, в регрессионной модели имеем: исходных точек; регрессоров; входных параметров; каждый регрессор может зависеть от одного или нескольких параметров.

Обычно значения и невелики, а . Случай соответствует интерполяции, т.к. при этом будет проходить через заданные точки. В этом случае обычно применяют не регрессионные модели, а кубические сплайны.

Вычисление коэффициентов регрессионной модели и метод наименьших квадратов.

Метод вычисления коэффициентов в (2.10) называют методом наименьших квадратов (сокращенно - МНК), если при этом используется критерий наименьших квадратов .

Для упрощения записи будем использовать скалярную переменную , что соответствует , но все формулы верны, если - это массив.

Запишем условия минимума функции многих переменных :

,

и определим эти частные производные, дифференцируя . Получаем:

(2.12)

Подставим сюда

, ,

изменим порядок суммирования и обозначим через значение -го регрессора в -ой точке. Получаем систему уравнений с неизвестными величинами .

,

(2.13)

Система является линейной и решается стандартными методами. В результате получаем оптимальные коэффициенты .

Вводя матрицу коэффициентов системы (2.13), ,

и векторы , , , запишем её в компактном виде:

(2.14)

Часто вводят регрессионную матрицу c элементами .

; транспонированная матрица: .

Она полезна при вычислениях , , где , .

Подчеркнем, что полученная система линейна относительно коэффициентов , а зависимость от входных параметров может быть произвольной.

Пример регрессионной модели.

Пусть имеем исходных точек, входных параметра , регрессора: , , , что соответствует регрессионной модели . Решив систему трех линейных уравнений, получим аппроксимирующую функцию с конкретными числовыми коэффициентами.

Регрессорами могут быть в частности полиномы или просто степени , например: , , , , т.е. , это аппроксимирующий полином.

Достоинства регрессионных моделей: простота, наглядность, представление данных в многомерном пространстве, наличие стандартных статистических методов для проверки их адекватности. Недостатки: простота, произвольный выбор регрессоров, малая область адекватности.

АППРОКСИМАЦИЯ ПОЛИНОМОМ. (МЕТОД НАИМЕНЬШИХ КВАДРАТОВ).

Задача. Даны 4 точки дискретной функции .

	1	2	3	4
	0	1	2	3
	0	3	5	4

Построить функцию , которая близка к данной в соответствии с выбранным критерием близости.

Регрессионная модель записывается в следующем виде (аппроксимирующая функция):

, .

Вводим регрессоры: , , , тогда:.

Вычисляем коэффициенты методом наименьших квадратов. Запишем систему 3-х уравнений, которая является линейной и решается стандартными методами:

- значение -го регрессора в -ой точке, где , ;

	1	2	3	4
	0	1	2	3
	0	3	5	4

Введем элементы матрицы ( и ) для нашей системы:

, , , .

Теперь система уравнений примет вид:

,

где

Получаем систему уравнений:

;

Решая данную систему, находим коэффициенты , , .

В результате получаем функцию:

	0	1	2	3
	-0.1	3.3	4.7	4.1