Инженерные методы.Слайды - часть 2

Задачи регрессионного анализа

При интерпретации полученных в опытах xi и yi необходимо ответить на следующие вопросы (с помощью регрессионного анализа):

1. Можно ли с заданной вероятностью утверждать, что существует связь между величинами x и y?

2.Если связь существует, то какой вид функции описывает результаты эксперимента?

3.Какие численные значения коэффициентов a, b, c, ... функции ϕ(x) обеспечивают наилучшее согласование экспериментальных и расчетных данных?

4.Согласуется ли с результатами эксперимента (адекватно ли математическое описание результатов) выбранный вид функции ϕ (x)?

5.В каком диапазоне с заданной вероятностью находится математическое

ожидание величины y(x)?

Метод наименьших квадратов (МНК)

МНК является составной частью регрессионного анализа и по существу является вычислительным приемом, обеспечивающим выбор числовых параметров функции таким образом, чтобы сумма квадратов отклонений расчетных и экспериментальных данных была минимальной.

Известно, что через любые n точек с координатами (xi,yi) всегда можно провести кривую, выражаемую аналитически полиномом степени n-1. Почему это решение, как правило, не устраивает?

3. Аппроксимация результатов эксперимента полиномом высокой степени может привести к тому, что при полном совпадении экспериментальных и расчетных значений функции в узлах сетки при x=xi для промежуточных значений х функция у будет иметь значения, существенно отличающиеся от экспериментальных.

3

Метод наименьших квадратов (МНК)

Типичная задача обработки экспериментальных данных – найти такой вид функции , которая по возможности точно отражает общую тенденцию зависимости y от x и, вместе с тем, сглаживает отклонения, связанные с влиянием случайных неконтролируемых факторов.

y = ϕ (x) - уравнение регрессии

Вид зависимости ϕ (x) должен быть предварительно выбран или задан. Задачей МНК является только подбор значений коэффициентов регрессии,

обеспечивающих наилучшее согласование расчетных и экспериментальных данных.

Основания для выбора вида регрессионной зависимости:

-физическая сущность процесса;

-расположение точек в координатах x0y;

-граничные условия (например, известно, что график должен проходить через определенные точки)

Обоснование метода наименьших квадратов

Если отклонение экспериментальных точек от истинной кривой обусловлено только лишь случайными ошибками, то в этом случае отклонения должны подчиняться нормальному закону распределения.

Будем считать, что в опытах случайная величина Y принимала значения, обладающие наибольшей вероятностью, т.е. при фиксированных значениях

x1, x2, …, xn наиболее вероятными являются наблюдаемые значения y1, y2, ..., yn.

Это так называемый принцип максимального правдоподобия.

Задача: подобрать математические ожидания ϕ(x1), ϕ (x2), ϕ (xn) таким образом, чтобы вероятность события, что при x1, x2, …, xn появились именно значения y1, y2, ..., yn, была максимальной.

Обоснование метода наименьших квадратов

Найдем вероятность того, что система случайных величин Y1, Y2, ..., Yn приняла значения y1, y2, ..., yn.

Определение коэффициентов регрессии по МНК

Наиболее часто в качестве уравнения регрессии используются алгебраические многочлены вида:

yˆ = b0 + b1x + b2 x2 +K+ bm xm

b0, b1, …, bm – коэффициенты регрессии

Уравнение регрессии, описывающее поведение математического ожидания функции отклика, можно представить в виде:

yˆ = b0 + b1x

Определение коэффициентов регрессии по МНК

Точность уравнения регрессии

Суммарной характеристикой отклонения всех точек от среднего значения является общая дисперсия

(yi − y)= (yˆi − y)+ (yi − yˆi )

å(yi − y)2 = å(yˆi − y)2 + 2å(yˆi − y)(yi − yˆi )+ å(yi − yˆi )2

å(yˆ − y)(y − yˆ )= å(b + b x − b − b x)[y − y − (y − y)]=

=b1 å(xi − x)[yi − y − b1(xi − x)]= b1 å[(xi − x)(yi − y)− b1(xi − x)2 ]

å(yi − y)2 = å(yˆi − y)2 + å(yi − yˆi )2i 0 i01 ii 1 ii

Точность уравнения регрессии

å(yi − y)2 = å(yˆi − y)2 + å(yi − yˆi )2

SSyy = SSyˆy + SSyyˆ