экспериментатор знает, для какой цели создается, и как в дальнейшем будет использоваться создаваемая модель.
В наш компьютерный век построение модели не является сложной задачей, если исследователь четко представляет цель и задачи исследования. Поэтому для уяснения сущности и упрощения выкладок остановимся на рассмотрении сущности метода наименьших квадратов.
6.2.Метод наименьших квадратов
Данный метод определения неизвестных коэффициентов уравнения регрессии был разработан Лежандром и Гауссом почти 200 лет назад.
Определение коэффициентов bj методом наименьших квадратов основано на выполнении требования, чтобы сумма квадратов отклонений экспериментальных точек от соответствующих значений
уравнения регрессии была минимальна. Математическая запись этого |
||||||||||||||||||||
ß 0 |
0 0 |
|
ª |
V/ " 0 0 0 |
= ( W |
|
: •‹• |
|
||||||||||||
требования выглядит следующим образом: |
|
|
|
|
|
|
|
|||||||||||||
где * n |
- число- |
|
|
|
|
|
|
|
|
-точек в рассматриваемомtà |
||||||||||
экспериментальныхT * |
||||||||||||||||||||
интервале изменения аргумента. |
|
|
|
|
|
|
|
ß 0* 0 0- |
||||||||||||
Необходимым условием |
минимума |
функции |
||||||||||||||||||
|
|
|
|
|
|
áß |
|
|
|
|
|
|
|
|
|
|
|
|||
является выполнение равенства |
|
|
|
|
|
|
|
|
|
|||||||||||
или |
|
|
|
|
|
á0 |
8 |
< < â 6 |
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
= ( W á/ " < < â 6 |
|||||||||||
|
RV/ " 0* 0 0- |
|||||||||||||||||||
|
T |
|
|
|
|
|
|
|
|
|
á/ " |
|
|
|
á/ " |
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
После преобразования получим |
á08 |
|
|
8 |
|
< |
|
|||||||||||||
|
R/ " |
0 0 0 |
|
|
8 |
ã R ( |
|
|
|
|||||||||||
|
T |
|
|
* |
|
|
- |
|
T |
|
|
|
|
|
|
|||||
Система уравнений ( |
) |
содержит столько же уравнений, сколько |
||||||||||||||||||
|
|
|
|
á0 |
|
|
|
á0 |
|
|
|
|||||||||
неизвестных |
|
коэффициентов |
|
|
|
|
|
, |
входит |
в |
уравнение |
|||||||||
регрессии, и |
|
называется |
в |
математической |
статистике |
системой |
||||||||||||||
|
|
|
|
0* 0 0- |
|
|
|
|
|
|
||||||||||
нормальных уравнений.
115
обязательно |
|
ß C < |
при любых |
0* 0 0- |
величина |
ß |
Поскольку |
|
|
|
|||
|
должна иметь |
хотя бы один минимум. Поэтому, если |
||||
система нормальных уравнений имеет единственное решение, оно и является минимумом для этой величины.
Расчет регрессионных коэффициентов методом наименьших квадратов можно применять при любых статистических данных, распределенных по любому закону.
6.3. Определение тесноты связи между случайными величинами
Определив уравнение теоретической линии регрессии, необходимо дать количественную оценку тесноты связи между двумя рядами наблюдений. Линии регрессии, изображенные на рис.6.1 (б и в) …
При корреляционном анализе предполагается, что факторы и отклики носят случайный характер и подчиняются нормальному закону распределения.
Тесноту связи между случайными величинами характеризуется
корреляционным |
|
отношением |
|
|
. Рассмотрим физический смысл |
|||||||||||||||
этого показателя, для чего |
необходимо ввести некоторые понятия: |
|||||||||||||||||||
|
|
|
äµ |
|
|
|
|
- характеризует |
||||||||||||
Остаточная |
|
дисперсия (остатки) |
|
|
||||||||||||||||
разброс экспериментально |
наблюдаемых точек относительно линии |
|||||||||||||||||||
|
|
|
|
|
|
«µ å æ |
|
|
||||||||||||
регрессии и |
представляет |
собой |
|
показатель |
ошибки предсказания |
|||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
параметра у по уравнению регрессии: |
|
RV( |
= / " 0* 0 0- W |
|||||||||||||||||
«µ å æ |
|
|
RV( = (Þ W |
|
|
|
|
|
||||||||||||
|
|
= 9 |
T |
|
|
|
|
|
|
|
|
|
|
T |
|
|
|
|||
где |
|
|
- число |
коэффициентов уравнения модели. |
|
|||||||||||||||
|
|
|
|
|
= = 6 |
|
-характеризует |
разброс |
||||||||||||
|
9 6 |
|
|
|
|
|
(общий) |
|
|
|||||||||||
Общая |
|
дисперсия |
|
|
|
относительно среднего значения, т.е. |
||||||||||||||
экспериментального материала |
||||||||||||||||||||
|
|
|
|
«µ |
|
|
|
|||||||||||||
«µ |
|
# |
ªT |
V( = (˜W |
|
|
|
|
|
|
|
|
|
|
||||||
линии С (см.рис.6.2) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
где |
(˜ |
|
|
|
|
|
|
|
|
|
|
|
|
|
линии |
регрессии от |
среднего |
|||
|
ª |
|
( |
отклонения |
||||||||||||||||
Средний |
|
квадратT |
|
|
|
|
|
|||||||||||||
значения линии С (средний) :
116
|
, |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
«µ |
RV( = (˜W |
|
|
RV/ " 0* 0 0- = (˜W |
|
|
||||||||
|
|
|
T |
|
|
|
|
|
T |
|
|
(сумма квадратов |
|||
Очевидно, |
6что |
общая |
|
дисперсия |
|
|
|||||||||
|
|
6 |
|
остаточной дисперсии |
|
||||||||||
относительно среднего значения) равна |
|
||||||||||||||
|
«µ |
|
|
средний |
|||||||||||
(сумма |
квадратов относительно линии |
регрессии) плюс |
|
«µ å æ |
|||||||||||
квадрат |
отклонения |
линии |
регрессии |
|
, |
(сумма квадратов, |
|||||||||
обусловленная регрессией). |
|
|
|
|
|
, |
|
|
|
|
|||||
|
|
|
|
|
«µ |
|
|
|
|
||||||
Разброс |
|
|
«µ |
«µ å æ «µ |
точек относительно |
||||||||||
|
|
экспериментально |
наблюдаемых |
||||||||||||
линии регрессии характеризуется безразмерной величиной – выборочным корреляционным отношением, которое определяет долю, которую привносит величина Х в общую изменчивость случайной величины у.
, |
© |
«µ |
= «µ å æ |
© |
«µ, |
|
«µ, |
||
ä µ |
|
|
|
|
|
µ |
|||
|
|
|
µ |
|
µ |
|
|||
Проанализируем свойства этого показателя. |
« |
||||||||
|
|
|
« |
|
|
« |
|
|
|
1. В том случае, |
когда |
связь является |
не стохастической, а |
||||||
функциональной, корреляционное отношение равно 1, так как все
точки |
корреляционного |
поля |
оказываются |
на |
µ |
линии регрессии, |
|||||
остаточная дисперсия равна |
µ å æ |
|
, а |
µ |
|
|
|||||
|
|
|
|
, |
|
|
|
||||
2. |
Равенство нулю |
корреляционного |
отношения указывает на |
||||||||
|
« |
|
< |
|
« |
|
« |
||||
отсутствие какой-либо тесноты связи между величинами х и у для данного уравнения регрессии, поскольку разброс экспериментальных
« «
точек относительно среднего значения и линии регрессии одинаков,
т.е. µ µ å æ
3. Чем ближе расположены экспериментальные данные к линии регрессии, тем теснее связь, тем меньше остаточная дисперсия и тем больше корреляционное отношение.
Следовательно, корреляционное отношение может изменяться в пределах от 0 до 1.
Для рассмотрения сути изучаемого вопроса нами был рассмотрен простейший случай статистической обработки,
117
методология решения более сложных задач принципиально не отличается.
118