- •Лекция 5 регрессионный анализ
- •5.1. Общие положения
- •5.2. Линейная однофакторная зависимость
- •5.3. Аппроксимация экспериментальных данных нелинейными
- •5.4. Аппроксимация экспериментальных данных нелинейными
- •• • • •
- •5.5. Параболическая регрессия
- •5.6. Множественная регрессия
- •Применение дисперсионного анализа для оценки качества уравнений регрессии
5.2. Линейная однофакторная зависимость
Естественно желание представить регрессионную зависимость как можно проще и самое простое линейной зависимостью:
(5.2.1)
Требуется подобрать значения параметров: b0 и b1 так, чтобы выполнялось требование метода наименьших квадратов (5.1.1).
Продифференцируем (5.2.1) по b0 и b1:
(5.2.2)
Приведём запись уравнения в матричном виде и проведём его преобразование для получения формулы для вычисления коэффициентов полинома.
По (5.1.1) запишем два нормальных уравнения для вычисления b0 и b1:
(5.2.3)
(5.2.4)
В формулах (5.2.3) и (5.2.4) раскроем скобки и произведём суммирование:
(5.2.5)
(5.2.6)
Разделим оба уравнения (5.2.5) и (5.2.6) на n:
(5.2.7)
(5.2.8)
В уравнениях (5.2.7) и (5.2.8) заменим суммы, поделённые на n, на соответствующие им начальные моменты:
(5.2.9)
(5.2.10)
По уравнению (5.2.9) запишем формулу для вычисления b0 и подставим её в уравнение (5.2.10):
(5.2.11)
(5.2.12)
Преобразовав уравнение (5.2.12) получим формулу для вычисления b1:
(5.2.13)
Подставив в формулу (5.2.12) значение b1, вычисляемое по формуле (5.2.13), получим формулу для вычисления b0:
(5.2.14)
Тот же самый результат можно получить с помощью формулы для вычисления коэффициентов уравнения регрессии в матричном виде (5.1.10). В уравнение регрессии (5.2.1) к коэффициенту b0 подпишем так называемый фиктивный фактор x0, во всех случаях равный единице. Естественно, что его введение нисколько не меняет (5.2.1).
(5.2.15)
Составим матрицы
,В,
и в соответствии с (5.1.10) запишем:
(5.2.16)
Проведём несложные матричные преобразования и получим промежуточные формулы для вычисления коэффициентов полинома (5.2.15):


(5.2.17)
Требуется провести
обращение матрицы
,
т. е. получить матрицу
Умножение обратной
и «своей» прямой матрицы даёт в
произведении единичную матрицу, в
которой элементы главной диагонали
равны единице, а остальные элементы
равны нулю.
(5.2.18)
![]()
![]()
![]()
(5.2.19)
После несложных преобразований систем уравнений (5.2.19) получим расчётные формулы для вычисления коэффициентов элементов матрицы А.
![]()
![]()


(5.2.20)
![]()
![]()

![]()
Проведём проверку
результатов проведённых преобразований,
обозначив знаменатель у всех коэффициентов
:

![]()
![]()
![]()
![]()
Таким образом все преобразования проведены корректно. Всё решено правильно. Запишем окончательный результат:

![]()
(5.2.21)
Перейдём от матричной записи результатов вычислений (5.2.21) к обычным формулам, предварительно поделив в строках матрицы числители и знаменатели на n2, и проведя переход к моментам.
(5.2.22)
(5.2.23)
Формула (5.2.2) полностью совпадает с формулой (5.2.14), а формула (5.2.23) с формулой (5.2.13), полученные ранее другим методом, поэтому будем считать полученные результаты корректными. Отметим, что иногда в расчётах нет необходимости в вычислениях моментов и тогда можно пользоваться формулами (5.2.21).
Чтобы не
производить матричных вычислений, для
однофакторной линейной зависимости
получены простые формулы для вычисления
критериев Стьюдента.
![]()
(5.2.24)
где
![]()
(5.2.25)
Приведём
формулы для определения ошибок вычисления
:
(5.2.26)
и
:
(5.2.27)
Рассмотрим аппроксимацию экспериментальных данных частным случаем линейной зависимости без свободного члена:
.
(5.2.28)
Вычислим частную производную от (5.2.28):
(5.2.29)
Для вычисления коэффициента b составим нормальное уравнение:
(5.2.30)
Разделим уравнение (5.2.30) на n:
(5.2.31)
В уравнении (5.2.31) заменим суммы, поделённые на n, на соответствующие им начальные моменты:
(5.2.32)
Преобразовав уравнение (5.2.32) получим формулу для вычисления b1:
(5.2.33)
Формулу для вычисления коэффициента уравнения регрессии – b
получим по матричной форме.
(5.2.34)
Произведём промежуточные вычисления:
![]()
(5.2.35)



Получим формулу для вычисления коэффициента уравнения (5.2.28):
(5.2.36)
Поделив числитель и знаменатель формулы (5.2.36) на n получим:
(5.2.37)
Формула (5.2.37) совпадает с ранее полученной формулой (5.2.33) поэтому результаты вычислений по двум методам признаем корректными.
По уравнению регрессии проведём прямую линию на рис.5.1.1.


у
(5;9.8)




9
•
8
•
7
•
4
•
1 •

(0;-0.2) 1
2 3 4 5 х

Рис.5.1.1. Координаты экспериментальных точек и аппроксимиру-
щая
их линейная зависимость
![]()
Если линейное
уравнение регрессии не удовлетворяет
поставленным требованиям по каким-либо
параметрам, то рекомендуется перейти
к нелинейной регрессии;
![]()
Для таких степенных полиномов, как правило, коэффициенты вычисляют в матричном виде с применением ПК по (5.1.13). Если нелинейность сравнительно невысокая, то можно использовать и другие математические зависимости, например, сводимые к линейной зависимости с помощью логарифмирования.
