1.3 Построение и исследование регрессионных моделей
Зависимость между двумя случайными величинами называется – регрессией. Форма связи между случайными величинами определяется линией регрессии, показывающей, как в среднем изменяется “Y” при изменении величины “Х”, что характеризует условным математическим ожиданием (my/x), где X = x, таким образом, кривая регрессии “Y” на “X”, есть зависимость условного математического ожидания “Y” от условного “X”.
Задача регрессионного анализа ставится следующим образом: для каждого i-го опыта имеется набор значений входных параметров: x1i, x2i, x3i …, xniи соответствующему этому набору значений, выходного набора параметров yi.
Необходимо определить зависимость выходного параметра “Y” от входных факторов: x1i, x2i, x3i …, xni, которая в случае, например – линейной связи, может иметь следующий вид:
Y = b0 + b1·X1 + b2·X2 + … + bn·Xn (1.5)
Такая зависимость называется – линейной регрессией. Любая другая зависимость называется – нелинейной регрессией.
Задача сводится к тому, чтобы при измеренных во время опытов значения входных переменных: Х1, Х2, …, Хn; и выходной переменной “Y”, найти коэффициенты уравнения регрессии: b0, b1, b2, …, bn; которые с определенной степенью вероятности будут отражать влияние аргумента: Х1, Х2, …, Хn на Y.
Регрессионная зависимость: Y = f(Xi) называется однофакторной или парной и описывает связь между двумя элементами: X и Y. Регрессионная зависимость
Y = f(X1, X2, …,Xn) – это многофакторная или множественная зависимость, описывающая связь между несколькими входными аргументами “X” и одной входной “Y”.
Построение и исследование регрессионной модели можно разбить на 4 этапа:
1этап: Проверка наличия статической связи между следуемыми величинами. Для этого нужно определить по значению r – существует ли корреляционная связь между “X” и “Y”.
2 этап: Выбор типа уравнения регрессии. Вид уравнения регрессии выбирается исходя из особенностей изучения системы случайных величин. Один из возможных подходов – экспериментальный подбор типов уравнения регрессии по соответствующим критериям адекватности. В случае, когда имеется определенная априорная (доопытная) информация об объекте более эффективным является использование для этой цели теоретических представлений о процессах и типов связей между изучаемыми параметрами.
3
этап:
Расчет параметров (коэффициентов)
уравнения регрессии. Для определения
параметров (коэффициентов) уравнения
регрессии используется «метод
наименьших квадратов»
(МНК). Сущность метода заключается в
том, что выбирается такая линия регрессии,
при которой сумма квадратов разностей
между экспериментальными значениями
выходной переменной “Yi”,
полученными на объекте и значениями
рассчитанной по выбранной регрессионной
формуле (модели):
или
,
будет минимальной:
(1.6)
, где q – критерий близости модели и объекта, или невязка модели;
n – Количество экспериментальных данных.
В качестве нелинейных регрессионных моделей используются, чаще всего, полиномы разной степени:
Yi = b0 + b1·X1 + b2·(X2)2 + b3·(X3)3 + … + bm·(Xm)m-1 (1.7)
4 этап: Проверка адекватности структуры модели. Об адекватности структуры модели можно судить по коэффициенту корреляции r, гистограмме распределения остатков и содержательному анализу остатков модели (пункт 1.4, рисунок 1.1).Коэффициент корреляции изменяется от “-1” до “+1”.
Гистограмма распределения остатков модели строится следующим образом: весь диапазон изменения остатков (от минимального из остатков до максимального) разбивается на несколько равных интервалов или поддиапазонов (от 6 до 20), которые откладываются на оси абсцисс. Далее на оси ординат отмечается число показаний остатков в каждый интервал. Число попаданий ошибки можно откладывать как в натуральных показателях, так и в процентном отношении. При адекватности модели реальному объекту гистограмма распределения приобретает колоколообразный вид, она соответствует нормальному закону распределения.
Содержательный анализ остатков состоит в построении распределений остатков модели, в зависимости от входного параметра “X”. Попадание большинства данных в горизонтальную полосу, расположенную симметрично осиОх, свидетельствует об адекватности модели [1].