
- •Введение
- •1. Постановка задачи регрессионного анализа
- •2. Оценка неизвестных параметров регрессионной модели
- •2.1. Точечная оценка коэффициентов регрессии
- •Таблица 1
- •2.2. Точечная оценка дисперсии
- •3. Статистический анализ результатов
- •Таблица 2
- •3.2. Проверка адекватности регрессионной модели
- •Таблица 3
- •3.3. Проверка работоспособности регрессионной модели
- •4. Решение типовой задачи
- •Таблица 4
- •Таблица 5
- •5. Задача для самостоятельного решения
- •Таблица 6
- •Таблица 7
- •Список рекомендуемой литературы
- •Оглавление

N |
N |
|
|
|
b = ∑si ti |
∑ ti2 . |
|
|
|
i=1 |
i=1 |
|
|
|
Тогда, используя данные табл. 1, имеем |
|
|
||
b = 10 0,103 +20 0,183 +30 0,309 +40 0,422 +50 0,487 м |
= |
|||
102 +202 +302 +402 +502 |
55,19 м |
с |
|
|
|
= |
= 0,01 м/с. |
||
|
|
5500 с |
|
|
2.2. Точечная оценка дисперсии
Кроме точечных оценок параметров βi необходима оценка дисперсии σe2 случайной величины e.
Если N > d +1 и заранее известно, что модель адекватна объекту исследования, то единственной причиной различия между значением выходного параметра и значением, предсказанным с помощью уравнения регрессии, является случайная величина e. Тогда в качестве точечной оценки дисперсии σe2 можно использовать точечную оценку остаточной дисперсии
|
1 |
N |
|
||
Sост2 = |
∑(yi − yi )2 , |
(7) |
|||
ν |
|
||||
|
e |
i=1 |
|
||
|
|
|
где yi — значения, предсказанные с помощью уравнения регрессии; νe = N −d −1 — число степеней свободы Sост2 .
Пример 2. Определим точечную оценку дисперсии случайной величины e из примера 1.
Очевидно, что регрессионная модель из этого примера адекватна объекту исследования. Следовательно, точечная
оценка остаточной дисперсии Sост2 является здесь оценкой дисперсии случайной величины e, т. е. Se2 = Sост2 .
10

Используя формулу (7) для определения Sост2 , получаем искомую точечную оценку
Se2 = 5 1−1 (0,103 −0,1)2 + (0,183 −0,2)2 + (0,309 −0,3)2 +
+(0,422 −0, 4)2 +(0,487 −0,5)2 м2 = 0,00025м2 .
Замечание. Обычно вид адекватной модели заранее не известен. В этом случае дисперсия σe2 оценивается с использованием повторных опытов при фиксированных значениях факторов. Для этого, например, проводится специальная серия из L опытов при фиксированных значениях факторов, причем результаты этих опытов уже не используются для получения точечных оценок коэффициентов регрессии. Тогда точечную оценку дисперсии σe2 находим по формуле
|
1 |
L |
|
|
|
|
|
Se2 = |
∑(y j − y )2 , |
|
|
|
|
(8) |
|
|
|
|
|
|
|||
|
νe j=1 |
|
|
|
|
|
|
|
|
|
|
1 |
L |
|
|
где νe = L −1 — число степеней свободы Se2 ; y = |
|
∑yi |
— |
||||
|
|
||||||
среднее значение отклика. |
|
L i=1 |
|
|
|||
|
|
|
|
|
|||
2.3. Свойства точечных оценок, полученных |
|
|
|||||
методом наименьших квадратов |
|
|
|
|
|
||
Полученные МНК оценки bi, где i = 0, …, d, |
|
обладают |
|||||
следующими тремя свойствами. |
|
|
|
|
|
||
1. Несмещенность, т. е. M[bi] = βi. |
|
|
|
|
|
||
2. Эффективность, т. е. дисперсия D[b ] = σ2 c |
+1 |
то- |
|||||
|
|
i |
e i+1 i |
|
чечной оценки bi минимальна в классе линейных несмещенных оценок, где ci+1 i+1 — элемент матрицы С, причем кова-
риация случайных величин bi и bj равна σ2e ci +1 j +1 .
11
Свойства 1 и 2 справедливы независимо от вида закона распределения случайной величины e. Если дополнительно предположить, что случайная величина e подчиняется нормальному закону N (0, σe ) , то можно сформулировать еще
одно свойство точечных оценок МНК.
3. Точечные оценки b0, b1, ..., bd подчиняются совместному (d +1) -мерному нормальному закону распределения и
совпадают с оценками, полученными методом максимального правдоподобия.
Пример 3. Определим дисперсию точечной оценки b, полученной МНК в примере 1.
Согласно второму свойству, имеем
|
|
|
|
D[b] = σ2 c |
|
, |
|
|
|
|
|
|
e 11 |
|
|
|
|
|
|
N |
−1 |
|
|
|
|
|
где c11 = |
∑ti2 |
|
— элемент матрицы С. Тогда, используя |
|||||
|
i=1 |
|
|
|
|
|
|
|
числовые данные примера 1, получаем |
|
|
||||||
|
|
|
|
σ2 |
40c)2 +(50c)2 |
= |
σ2 |
|
D[b] = (10c)2 +(20c)2 +(30c)2 +( |
5500c2 . |
|||||||
|
|
|
|
e |
|
|
|
e |
Таким образом, дисперсия оценки b определена в долях от σe2.
Замечание. Если в примере 1 считать, что допустимо повторное проведение эксперимента и фактор t может изменяться в пределах от 0 до 50 с, то для достижения минимальной дисперсии D[b] следует выбрать t1 = ... = t5 = 50 с.
Тогда при одинаковом количестве опытов
D[b] = |
σ2 |
+(50c)2 |
+(50c)2 |
= |
|
σ2 |
(50c)2 +(50c)2 +(50c)2 |
12500c2 , |
|||||
|
e |
|
|
|
|
e |
что более чем в 2 раза меньше по сравнению с предыдущим вариантом.
12