Анализ данных в материаловедении. Часть 2. Регрессионный анализ. Учебное пособие

похожи, а отличаются только в деталях. При этом сами функции об- ладают совершенно разными статистическими характеристиками. Поэтому лучше сначала восстановить форму кривой, а затем уже из- влекать из нее содержательную информацию.

Рис. 8.2. Интенсивность излучения в зависимости от угла съемки

Для этой цели наиболее подходит регрессия ортогональными тригонометрическими базисными функциями. Пусть есть последова-

тельность n данных yi, заданная в равноотстоящих точках xi = i , i = 0,1, ..., n-1. Тригонометрические базисные функции определя- ются на множестве значений аргумента i = 0, 1, ..., n-1 как

m = n-1 (n нечетное) или m = n -1 (n четное) пар базисных функ- 2 2

ций. Ck (i) и Sk (i) – периодические функции с длиной волны λk = n . k

Следовательно, целое число k – число волн длиной λk, укладываю-

51

Следовательно, коэффициенты регрессии ak и bk – это коэффициенты Фурье, а функция регрессии (8.12) – это первые р членов разложения последовательности yi в ряд Фурье.

Выражения для стандартных ошибок коэффициентов регрессии (8.2) также упрощаются до

52

стандартные ошибки всех коэффициентов (кроме а0) одинаковы и все зависят только от остаточного стандартного отклонения se.

Пример 8.2. Имеется последовательность наблюдений интенсивно-

сти рентгеновского излучения: 5,06; 69,54; 133,34; 79,14; 149,94; 269,74; 317,54; 328,34; 492,14; 564,94; 838,74; 1102,54; 1268,34; 1634,14; 2016,94; 2367,74; 2809,54; 2986,34; 2923,14; 2745,94; 2584,74; 2116,54; 1694,34;

1261,14; 1076,94; 742,74; 484,54; 523,34; 324,14; 307,94; 108,74; 243,54; 36,34; 111,14; 70,94; 138,74; 38,34 (см. рис. 8.2). Построить регрессион-

ную модель с использованием ортогональных тригонометрических функций. Выбрать наилучшую модель.

Решение. Поместим результаты измерений интенсивности в ячейки D5:D41, номера точек счета в ячейки С5:С41 (табл. 8.9). В строке 4, начиная с ячейки Е4, будем записывать номер гармоники

k: E4 – “0”, F4 – “=E4+1”.

“=SIN(2*ПИ()*F$4*$C5/$C$43)” (табл. 8.10). В ячейках Е59:F59 и E99:F99 продублируем номер гармоники “=E4”.

Далее рассчитаем коэффициенты регрессии и статистические характеристики модели (табл. 8.11). В ячейке С43 рассчитаем количество данных “=СЧЁТ(C5:C41)”. В ячейках E44:F44 продублируем номер гармоники “=E4”. В ячейке Е48 вычислим ко- эффициент регрессии a0 = y функцией “=СРЗНАЧ(D5:D41)”, в ячейке F48 – коэффициент регрессии а1 (8.13) формулой

53

“=2*СУММПРОИЗВ(F60:F96;$D5:$D41)/$C$43”. Аналогичным об-

разом в ячейке F53 рассчитаем коэффициент регрессии b1 формулой

“=2*СУММПРОИЗВ(F100:F136;$D5:$D41)/$C$43”.

54

Теперь в диапазоне ячеек Е5:Е41 (см. табл. 8.9) рассчитаем значе-

“=E5+F$48*F60+F$53*F100”. В ячейки А5:А41 поместим формулу,

сохраняющую значения последней рассчитанной модели, необходи- мые для построения графика: “=СМЕЩ(B5;0;СЧЁТ(C5:Z5);1;1)”.

Далее в ячейках E45:F45 рассчитаем ч.с.с. остаточной дисперсии как n- nr , где nr – число коэффициентов регрессии: “=$C$43- СЧЁТ($E48:E48)-СЧЁТ($E53:E53)”, а в ячейке С45 сохраним ч.с.с. ос- таточной дисперсии последней рассчитанной модели: “=СМЕЩ(D45;0;СЧЁТ(E45:Z45);1;1)”. В ячейках E46:F46 вычислим по

(6.6) остаточное стандартное отклонение формулой

“=КОРЕНЬ(СУММКВРАЗН($D5:$D41;E5:E41)/(E45))”, а в ячейке С46

сохраним остаточное стандартное отклонение последней рассчитанной модели: “=СМЕЩ(D46;0;СЧЁТ(E46:Z46);1;1)”. В ячейке Е49 рассчита- ем стандартную ошибку коэффициента а0 формулой “=$C$46/КОРЕНЬ($C$43)”, а в ячейках F49 и F54 – стандартные ошиб- ки коэффициентов а1 и b1 (8.14): “=$C$46/КОРЕНЬ($C$43/2)”. Затем в ячейках E50:F50 и F55 рассчитаем t-критерии коэффициентов регрессии формулой “=E48/E49”, а в ячейках E51:F51 и F56 – уровни значимости t-критериев: “=СТЬЮДРАСП(ABS(E50);$C$45;2)”.

Теперь для расчета регрессионной модели, включающей вторую гармонику, достаточно целиком скопировать содержание столбца F в столбец G, третью – в столбец Н и т.д. Как видно из табл. 8.12, наи- меньшее остаточное стандартное отклонение se = 62,62 у модели, включающей первые четыре гармоники. Но если исключить из моде- ли шестую гармонику и синусную базисную функцию пятой гармо- ники (удалив формулу для b5 из ячейки J53), получим модель с меньшим остаточным стандартным отклонением se = 61,76 (табл. 8.13). Коэффициент а5 этой модели незначимо отличается от нуля. Поэтому окончательно остановимся на модели с четырьмя гар- мониками, в которой все коэффициенты регрессии значимы, а оста- точное стандартное отклонение только на 1,36 % больше минималь- ного (табл. 8.14). График именно этой модели приведен на рис. 8.3, где линия регрессии построена по ряду данных А5:А41.

55

56

Выводы. С использованием тригонометрических базисных функ-

ций построена регрессионная модель зависимости интенсивности рентгеновского излучения от угла съемки. Для описания зависимости выбрана модель с четырьмя гармониками, все коэффициенты регрес-

57

Рис. 8.3. Регрессионная модель зависимости интенсивности

излучения от угла съемки

Замечание. Выбор наилучшей модели до конца не формализован. (Подробнее об этом см. в гл. 10.) Условия минимального остаточного

стандартного отклонения и значимости всех коэффициентов регрессии далеко не всегда сочетаются в одной модели. В примере 8.1 не было

оснований предполагать сложную многоэкстремальную зависимость относительного удлинения от продолжительности нагрева. Это служило лишним аргументом в пользу квадратичной модели. В данном примере такого аргумента нет. Графики моделей с включенной базисной функ-

цией C5 (i) и без нее различаются незначительно. Поэтому исследова- телю остается определенная свобода выбора.

58

9.НЕЛИНЕЙНАЯ РЕГРЕССИЯ

Вмоделях нелинейной регрессии функция регрессии Y = F(β0, β1, …,

βp, X) не линейна по параметрам β0, β1, …, βp. В ней все или часть пара- метров являются аргументами функций, составляющих функцию рег-

β1, …, βp – оценок параметров β0, β1, …, βp – в моделях нелинейной рег- рессии такой же, как и в моделях линейной регрессии – минимизация суммы квадратов отклонений S2 (6.2). Условие минимума (6.2) порож- дает систему p + 1 уравнений вида

где j = 0, 1, ..., p . Эта система в общем случае не имеет аналитического решения, поэтому сумма S2 минимизируется по параметрам β0, β1, …, βn численно с использованием специализированных программ.

Некоторые модели нелинейной регрессии приводятся к моделям линейной регрессии путем преобразования переменных. Такая про-

цедура называется линеаризацией, а модели – линеаризуемыми. На-

пример, модель

после логарифмирования и введения переменной Z = lnY . Линеаризуемые модели допускают два метода расчета коэффици-

ентов регрессии – путем численной минимизации суммы квадратов

59

отклонений S2 в исходных переменных или с использованием про- цедур линейной регрессии в преобразованных переменных. Разные методы дают разные оценки коэффициентов регрессии. Причина не столько в точности численного метода (ее можно увеличивать в про- цессе расчета), сколько в разном содержании суммы квадратов от- клонений S2 . В численном методе минимизируется сумма

S2 =∑n (yi −Yi )2 ,

i=1

где yi – наблюдения, а Yi – значения функции регрессии, например (9.1) или (9.3). Для этих же моделей после преобразования перемен-

ных минимизируется другая сумма

S2 =∑n (ln yi − Zi )2 ,

i=1

где Zi – значения соответствующей линейной модели (9.2) или (9.4).

Выбор переменных – исходных или преобразованных, в которых следует проводить регрессию, зависит от распределения остатков. Метод наименьших квадратов предполагает, что остатки – случай- ные нормально распределенные величины. Остатки не должны зави- сеть от значений фактора, в том числе иметь разные по порядку аб- солютной величины значения в разных интервалах изменения факто- ра. Важно, чтобы распределение остатков было близким к нормаль- ному, т.е. на нормальном вероятностном графике остатков не было систематического отклонения точек от прямой линии.

Пример 9.1. Измерены значения скорости дислокации (дефекта кристаллической решетки) v в зависимости от приложенного напря- жения s. Предложены две теоретические модели этой зависимости:

регрессионный анализ экспериментальных данных, используя экспо- ненциальную и степенную модели. Оценить параметры моделей. По результатам анализа выбрать теоретическую модель, которая лучше описывает с экспериментальную зависимость.

Данные:

v, см/с: 0,0013; 0,0036; 0,0080; 0,0115; 0,0236; 0,0137; 0,0088; 0,0250; 0,0102; 0,0175; 0,0455; 0,0529; 0,0545; 0,0829; 0,370; 0,203; 0,0614; 0,151; 0,580; 0,119; 0,349; 0,500; 0,275; 0,430; 0,192; 0,275; 0,192; 0,616,

60