Нов.ПМС-2

Определим стандартное отклонение свободного члена b0 и доверительный интервал для 0 .

Доверительный интервал для 0 и проверку гипотезы о том, что 0 равно или не равно некоторому заданному числу,

удается построить аналогично тому, как было получено для

1 .

Можем показать, что стандартное отклонение b0 есть

Замена на s дает оценку стандартному отклонению b0 . Отсюда получаем 100 (1 ) % доверительные пределы для

0 :

будет отвергать ее с 100 % уровнем значимости, если 00 попадет за доверительные границы, или не будет ее отвергать, если 00 попадет внутрь интервала.

и сравнивая ее с процентной точкой t(n 2,1 2 ) , так как

111

предсказание в центре области наблюдений X и не должны ожидать хорошего предсказания при удалении от центра. Дисперсия и оценка стандартного отклонения, которые мы рассмотрели, относятся к предсказываемому среднему значению Y при данном X 0 . Так как фактические значения Y

варьируют около ―истинного‖ среднего значения с дисперсией2 (не зависимой от D(Y ) ), то предсказанное значение

Доверительные пределы можно найти уже рассмотренным способом, Мы вычисляем 95% доверительный интервал для нового наблюдения, который будет симметричен

относительно Y0 и длина которого будет зависеть от оценки этой новой дисперсии

где v – число степеней свободы, на котором основана оценка

наблюдений Y0 находится аналогично, исходя из следующего.

наблюдений (для q >1) лежат внутри них.

F-критерий значимости регрессии

F -критерий известен из математической статистики и может быть использован для исследования моделей регрессии. Так как Yi – случайные величины, то любая функция от них

тоже будет случайной величиной. Например, две функции:

MSR – средний квадрат, обусловленный регрессией, и s 2 –

средний квадрат, обусловленный остаточной вариацией, тоже будут случайными. Они представлены в таблице дисперсионного анализа. Эти функции имеют свои

114

собственные распределения, средние, дисперсии и моменты. Их средние значения будут:

E(MSR ) 2 1 ( X i X )2 , E(s2 ) 2 ,

где E означает среднее или математическое ожидание случайной величины.

Положим, что ошибки i – независимые случайные величины с распределением N (0, 2 ) . Можно показать, что если 1 0 , то величина MSR , умноженная на свое число степеней свободы (в данном случае на 1), подчиняется 2 - распределению с тем же самым числом степеней свободы. Более того, (n 2)s2 2 тоже имеет 2 -распределение с (n 2) степенями свободы.

Так как эти две случайные величины независимы, то из статистической теории вытекает, что отношение

табличной точкой F(1, n 2) , чтобы посмотреть, можно ли на

основе имеющихся данных рассматривать β1 как число, отличное от нуля.

Для объяснения доли разброса мы определили, что

R 2 (Yi Y )2 ,(Yi Y )2

где суммирование ведется по i 1,2,...n . Тогда R 2 измеряет

долю общего разброса относительно среднего Y , объясняемую регрессией. Ее часто выражают в процентах, умножая на 100. Фактически R – это корреляция между Y и

115

Y , и ее обычно называют множественным коэффициентом

корреляции. Коэффициент R 2 самое большее может достигнуть величины 1 (или 100%), когда все значения X различны. Если в данных имеются повторяющиеся опыты, то величина R 2 не может достигнуть 1, как бы хороша ни была модель. Это объясняется вариацией в данных из-за ―чистой‖ ошибки опыта (ошибки воспроизводимости).

9.6. Проверка адекватности модели линейной регрессии

Обсудим методы анализа точности описания данных предложенной моделью. Рассмотрим, что такое

неадекватность и «чистая» ошибка.

Построенная линия регрессии – это расчетная линия, основанная на предположениях. Эти предположения мы должны рассматривать как предварительные. Мы можем при некоторых обстоятельствах (условиях) проверить, корректна ли наша модель. Мы будем изучать проявления предполагаемой некорректности модели.

величины, на которые действительные наблюдаемые значения Yi отличаются от Yi , вычисленных по уравнению. Было

показано, что ei 0 . Остатки содержат информацию о том,

почему построенная модель недостаточно правильно объясняет наблюдаемый разброс зависимой переменной Y .

и это верно независимо от того, будет ли модель правильна,

т.е. E(Yi ) i .

Можно показать, что qi коррелированны, и величина q12 ... qn2 имеет математическое ожидание, или среднее значение, (n 2) 2 ,

где 2 V (Yi ) – дисперсия ошибки.

Исходя из этого, можно показать, что остаточный средний квадрат, т.е. величина

имеет математическое ожидание, или среднее значение, 2 , если предложенная модель корректна, и

остаточный средний квадрат можно использовать как оценку дисперсии ошибки 2 .

Если модель не корректна, т.е. Bi 0 , то остатки содержат оба компонента: случайный qi и систематический Bi . Мы можем рассматривать их как случайную ошибку разброса и систематическую ошибку смещения. В простейшем

117

случае подбора прямой, как правило, можно определить ошибку смещения, непосредственно, исследуя график с данными (см. рис. 9.4 а, б, в, г).

Рис.9.4 а На рис.9.4 а представлен случай 1, когда проверяется

модель Y 0 1 X . В этом случае нет неадекватности,

Y b0 b1 X

Рис.9.4 б На рис.9.4 б представлен случай 2, когда проверяется

модель Y 0 1 X . В этом случае нет неадекватности, линейная регрессия незначима, используется модель

Yi Y b1 ( X i X )

118

Рис.9.4 в На рис.9.4 в представлен случай 3, когда проверяется

модель Y 0 1 X . В этом случае неадекватность значима, линейная регрессия незначима, следует проверить модель Y 0 1 X 2 X 2 .

Рис.9.4 г На рис.9.4 г представлен случай 4, когда проверяется

модель Y 0 1 X . В этом случае неадекватность значима, следует проверить модель Y 0 1 X 2 X 2 .

Если модель более сложна или включает больше переменных, то это невозможно (т.е. невозможно определить ошибку смещения из данных). Если существует априорная

оценка 2 (под «априорной оценкой» мы понимаем оценку, полученную на основе ранее выполненных опытов), то можно увидеть (или проверить по F -критерию), значимо ли

119

остаточная сумма квадратов превышает нашу априорную оценку. Если это так, то говорят, что имеет место неадекватность и следует пересмотреть модель.

Если априорной оценки нет 2 , но измерения Y повторялись (два или более раза) при одинаковых значениях X , то мы можем использовать эти повторения для получения оценки 2 .

Такую оценку называют «чистой» ошибкой, потому что если сделать X одинаковыми для двух наблюдений, то только случайные вариации могут влиять на результаты и создавать разброс между ними. Эти различия обеспечивают получение

оценки 2 , которая более надежна, чем оценки, получаемые из других источников. По этой причине имеет смысл ставить опыты с повторением.

Когда в данных содержатся повторные опыты, нужны дополнительные обозначения для множества наблюдений Y при одном и том же значении X .

Пусть мы имеем m различных значений X и к j -му из этих значений X i , где i 1,2,...m , относятся n j наблюдений. Тогда мы говорим, что