Стандартная ошибка оценки

Очевидно, величины ошибок, полученных в процессе оценки Y по X, характеризуют точность оценивания. Для рассматриваемых данных, то есть n пар значений X и Y, разности между фактическими значениями Y и предсказанными значениями являются мерами ошибок, которые появились бы при использовании X для оценки Y. Эти ошибки называются ошибками оценки. Формула для ошибки i-гo объекта есть:

. (8.4)

Один из нескольких возможных способов измерения точности предсказания Y по X – применение дисперсии n ошибок оценки e_i. Она не будет зависеть от среднего значения, всегда равного нулю, и от количества остатков, потому что используется операция деления на n – 1. Дисперсия n оценок называется дисперсией ошибки оценки и обозначается символом .

. (8.5)

В конечном счете

. (8.6)

Уравнение (8.6) дает дисперсию ошибки оценки в терминах дисперсии Y и r_ху.

Положительное значение квадратного корня из дисперсии ошибки оценки называется стандартной ошибкой оценки:

. (8.7)

Стандартную ошибку оценки можно применить для определения пределов в окрестности предсказанного значения , в которые, вероятно, попадает фактическое значение для объекта. Если можно предположить, что объекты взяты из совокупности, приблизительно описываемой двумерным нормальным распределением (см. § 6.7), то можно сформулировать следующие утверждения. В большой группе объектов, для которых используется уравнение предсказания:

1. Около 69% объектов будут иметь фактические значения, лежащие в пределах одной s_e от их предсказанного значения .

2. Около 95% будут иметь фактические значения, лежащие в пределах двух s_e от их .

3. Примерно 99,7% будут иметь фактические значения, лежащие в пределах трех s_e от .

Эти утверждения обоснованны, так как если справедливо допущение о двумерной нормальности, то распределение фактических значений Y нормальное относительно среднего b₀ + b₁X со стандартным отклонением s_e для любого X. (Обратите внимание, что, хотя среднее нормального распределения Y меняется от одного значения X к другому, стандартное отклонение s_е не зависит от X). Эти соотношения показаны на рис. 8.3.

Рис. 8.3 – Пример стандартной ошибки оценки, s_е, на четырех уровнях X, когда можно предположить двумерное нормальное распределение X и Υ

Связи b0 и b1 с другими описательными статистиками

Как задачи подбора «наилучшей» линии предсказания, так и измерения корреляции двух переменных касаются пары переменных для группы объектов. В обоих случаях данные можно представить на диаграмме рассеивания.

Есть несколько интересных соотношений между r_xy, s_x, s_y и коэффициентами b₀ и b₁ для прямой метода наименьших квадратов.

, (8.8)

то есть b₁ равен ковариации X и Y, деленной на дисперсию X. Ковариация X и Υ для данных табл. 8.1 составляет 27,211, а  = 38,408. Отношение s_xy/  = 0,708, значению b₁, найденному из уравнения (8.2).

Вспомните, что . Таким образом, если мы просто умножим это уравнение на

,

то получим b₁:

. (8.9)

. (8.10)

Дисперсия предсказываемых значений, то есть значений , равна квадрату коэффициента корреляции X и Y, умноженному на дисперсию Y. Например, r_xy для данных табл. 8.1 равен 0,861;  = 25,958. Поэтому дисперсия 20 предсказанных значений Y равна:

.