Обработка данных / [SHashkov_V.B.]_Obrabotka_yeksperimentalnueh_dannu(BookFi.org)

Таким образом, при крайних значенияхρ между величинами х и у

получаем функциональную линейную связь, т.е. коэффициент корреляции есть показатель того, насколько связь между случайными величинами близка к строгой линейной зависимости.

Рассмотрим такой пример. Имеем зависимость вида

Является ли величина х случайной величиной? Да, поскольку она имеет математическое ожидание, отличное от других, текущих значений этой величины. Является ли величина у случайной величиной? Да, поскольку она является функцией случайной величины.

В связи со случайным характером значений величины х, а, следова-

тельно, и величины у, неизбежно наличие стохастической связи между ними. Рассчитаем значение корреляционного момента для этого случая.

µ1{x,y}= M{(x-Mx)(y-My)}.

Подставим в это уравнение значение у согласно зависимости y =(x −Mx)2 .

Тогда µ1{x,y}= M{(x-Mx)[(x-Mx)2-M{(x-Mx)2} ]}.

Умножим выражение в квадратных скобках на множитель (x-Mx) и тогда

µ1{x,y}= M{(x-Mx)(x-Mx)2-(x-Mx)M{(x-Mx)2}.

Разнося символ математического ожидания по элементам в фигурных скобках, получаем

µ1{x,y}= M{(x-Mx)}M{(x-Mx)2}-M{(x-Mx)}M{(x-Mx)2}=0.

Таким образом, наличие стохастической связи налицо по условиям задачи, и в то же время µ1{x,y}=0, тогда как значение µ1{x,y} должно отличаться от нуля.

Причина этого «парадокса» проста: мы имеем параболическую зависимость y =(x −Mx)2 , в то время как и µ1{x,y} и коэффициент корреляции «работают» только при линейной связи.

8.3 Выборочный коэффициент корреляции. Свойства коэффициентов корреляции

По своей статистической природе векторы-столбцы х1,х2, …,уg в таблице экспериментальных данных представляют собой выборочные данные, моделирующие соответствующие генеральные совокупности. Поскольку в связи с матричными расчетами при решении задач регрессии процедура включает исследование наличия линейной связи между всеми парами векто-

ров х, постольку необходимо использовать выборочные коэффициенты корреляции r. Если неизвестны математическое ожидание и генеральная дисперсия, для расчета r приходится пользоваться их выборочными оценками, соот-

42

9 Лекция 9. Нахождение уравнения регрессии. Системы условных и нормальных уравнений

9.1 Условия (предпосылки) применения метода регрессионного анализа

Метод регрессионного анализа является наиболее распространенным способом обработки экспериментальных данных. Он включает:

-использование метода наименьших квадратов;

-отражение неизвестной функции истинного отклика ϕ(х), "спрятанной" в таблице экспериментальных данных, алгебраическим степенным по-

линомом η(х,b).

Метод регрессионного анализа применим при соблюдении следующих условий:

1) массив значений откликов объекта исследования на данной g-строке таблицы экспериментальных данных имеет нормальное распределение с ма-

тематическим ожиданием M{yg}=ϕ(х) и дисперсией воспроизводимости

σ2вос;

2)дисперсии σ2вос на всех строках таблицы (для g=1,2,3,…,n) одинаковы, т.к. определяются только природой объекта исследования. Поскольку, как мы отмечали ранее, дисперсия воспроизводимости характеризует точность, с которой мы получаем значение отклика объекта исследования, постольку опыты при g=1,2,3,…,n равноточные, т.е. эксперимент воспроизводится при разных наблюдениях с одинаковой точностью;

3)результаты наблюдения отклика уg и их ошибки δg в различных опы-

тах независимы, т.е. корреляционные моменты µ11{yjyq} и µ11{δjδq} равны нулю;

4) независимые от отклика факторы воздействия на объект х и производные от них базисные функции f(х) определяются в эксперименте без ошибок в силу двух факторов:

а) в случае наличия таких ошибок они "стекают" на отклик объекта, увеличивая рассеивание облака экспериментальных точек;

б) влияние этих ошибок на рассеивание облака точек пренебрежительно мало по сравнению с влиянием шума;

5) векторы факторов воздействия на объект х и векторы производных от них базисных функций f(х) линейно не зависимы, т.е. ни один вектор нельзя получить как линейную комбинацию других. В противном случае определители матриц будут равны нулю и матричные расчеты станут невозможны. Это условие и проверяется значением коэффициентов парной корреляции;

44

-вектора множителей при этих коэффициентах

который носит название вектора базисных функций.

Если индексами при коэффициентах b будем обозначать комбинацию базисных функций при данном коэффициенте, а индексами при факторах х – номер строки таблицы, то в алгебраическом виде построенная система уравнений будет следующей:

b0 + b1х11 + b2х21 + b12х11х21 + b11х11х11 + b22х21 х21 = у1; b0 + b1х12 + b2х22 + b12х12х22 + b11х12х12 + b22х22 х22 = у2; b0 + b1х13 + b2х23 + b12х13х23 + b11х13х13 + b22х23 х23 = у3;

b0 + b1х15 + b2х25 + b12х15х25 + b11х15х15 + b22х25 х25 = у5; b0 + b1х16 + b2х26 + b12х16х26 + b11х16х16 + b22х26 х26 = у6; b0 + b1х17 + b2х27 + b12х17х27 + b11х17х17 + b22х27 х27 = у7;

Однако, как отмечалось ранее, при воздействии на объект исследования факторами х, наличие и значение которых определяется самим экспериментатором, значение отклика уg формируется как за счет факторов х, так и за счет факторов w по уравнению (9).

Представим себе, что мы многократно повторяем наблюдение, задавая одинаковые значение факторов x1g , x2g , . . . . . xкg для одной и той же g-ой строки таблицы экспериментальных данных. Значения откликов при этом в силу наличия шума в целом будет разными, т.е. значение случайной ошибки наблюдения при повторных опытах будет меняться. Распределение таких ошибок обладает важной особенностью - ошибки, противоположные по знаку и близкие по абсолютной величине, в среднем встречаются одинаково часто, т.е. распределение случайных ошибок симметрично относительно

нуля.

Отсюда следует, что если все допустимые значения yg по данной строке есть генеральная совокупность, то истинный результат наблюдения есть математическое ожидание случайной величины yg по этой строке. Третья предпосылка регрессионного анализа гласит, что наблюдаемое значение отклика yg есть нормально распределенная случайная величина с центром

M{yg }=ϕ(xg ),

где M{yg }есть математическое ожидание случайной величины yg.

Таким образом, уравнение регрессии, которое получено в результате обработки экспериментальных данных, есть зависимость оценки матема-

тического ожидания отклика от факторов х.

46

сложен и трудоемок. Существует более простой способ построения системы нормальных уравнений путем пошагового преобразования системы условных уравнений.

9.3 Преобразование системы условных уравнений по методу Гаусса. Система нормальных уравнений

Пошаговая процедура преобразования системы условных уравнений в систему нормальных уравнений была разработана Гауссом. На первом шаге процедуры каждое условное уравнение системы (25) умножается на свой множитель при первом коэффициенте регрессии b0, после чего все преобразованные таким образом условные уравнения складываются сверху вниз; суммарное уравнение и будет первым нормальным уравнением. Если, например, искомым уравнением регрессии будет полином вида

то результат первого шага в алгебраическом виде будет следующим

n b0+b1 ∑x1+b2 ∑x2+b12 ∑x1 x2 +b11 ∑x12+b22 ∑x22=∑y,

поскольку множителем при первом коэффициенте b0 является единица.

На втором шаге каждое исходное условное уравнений умножается на свой множитель при втором коэффициенте b с последующим сложением уравнений и образованием второго нормального уравнения - и т.д. В итоге формируется система нормальных уравнений, число которых равно числу коэффициентов регрессии в уравнении (27). Для разбираемого примера это будет система шести уравнений, приведенная ниже.

Система нормальных уравнений совместна, имеет единственное решение и минимизирует остаточную сумму, т.е. обеспечивает наилучшее решение системы условных уравнений из всех возможных решений.

nb0+b1∑x1+b2∑x2+b12∑x1x2+b11∑x12+b22∑x22=∑y, b0∑x1+b1∑x12+b2∑x1x2+b12∑x12x2+b11x13+b22∑x1x22=∑yx1, b0∑x2+b1∑x1x2+b2∑x22+b12∑x1x22+b11∑x12x2+b22∑x23=

=∑yx2,

b0∑x1x2+b1∑x12x2+b2∑x1x22+b12∑x12x22+b11∑x13x2+ (28) +b22∑x1x23=∑yx1x2 ,

b0∑x12+b1∑x13+b2∑x2x12+b12∑x13x2+b11∑x14+b22∑x12x22=∑yx12, b0∑x22+b1∑x1x22+b2∑x23+b12∑x1x23+b11∑x12x22+b22∑x24=∑yx22.

48

Можно показать, что матрица моментов

M = FT F ,

где FT - транспонированная матрица F .

Если исходные факторы х преобразовать в нормированную форму (21),

то с учетом свойств нормированных величин матрица моментов М от формы (30) будет приведена к следующему виду:

Такой вид матрицы при решении задачи регрессии и будет свидетельством правильности промежуточных расчетов.

Правая часть системы уравнений (28) представляет собой суммы пар – ных произведений. Развернем эти суммы в ряды слагаемых

y11+y21+ y31+ y41+y51+ y61+y71; y1x11+y2x12+ y3x13+ y4x14+y5x15+ y6x16+y7x17; y1x21+y2x22+ y3x23+ y4x24+y5x25+ y6x26+y7x27;

y1x11x21+y2x12x22+ x14x24+y5x15x25+y6x16x26+y7x17x27; y1x112+y2x122+ y3x132+ y4x142+y5x152+ y6x162+y7x172; y1x212+y2x222+ y3x232+ y4x242+y5x252+ y6x262+y7x272.

Отсюда видно, что правая часть системы нормальных уравнений (28) является произведением некой матрицы на вектор откликов yg.

Выделяя матрицу, получим:

………………………………………………………….

…………………………………………………………..

50