Московский Государственный Институт

Электронной Техники (ТУ)

Курсовая работа по «Теории вероятностей и математической статистике»

« Анализ данных в линейной регрессионной модели»

Выполнил :

Кудинов П. В.

ЭКТ-21

Преподаватель:

Ремарова Т. В.

МОСКВА

2003 г

Статистическое описание и выборочные характеристики двумерного случайного вектора.

Пусть (x_i,y_i), i = 1,2,......,n ,- выборка объема n из наблюдений случайного двумерного вектора (X,Y). Предварительное представление о двумерной генеральной совокупности можно получить, изображая элементы выборки точками на плоскости с выбранной декартовой прямоугольной системой координат. Это представление выборки называется диаграммой рассеивания.

Построить диаграмму рассеяния нанести на нее уравнения регрессии Y на X

y=^*₀ +^*₁x и X на Y x=^*₀ +^*₁y.

Сначала вычислим суммы

x_i , y_i ,x²_i ,y²_i , x_iy_i , (x_i+y_i)²

Для контроля правильности вычислений используется тождество

 (x_i+y_i)²= x²_i + 2 x_iy_i + y²_i

Выборочные средние находятся по формулам

x^*=^*_1,0=(1/n) x_i , y^*=^*_0,1=(1/n) y_{i .} (1)

Затем вычисляются суммы квадратов отклонений от среднего и произведений отклонений от средних :

Q_x=(x_i – x^*)²=x²_i – (x)²_i/n , (2)

Q_y=(y_i – y^*)²=y²_i – (y)²_i/n , (3)

Q_xy=(x_i – x^*)(y_i – y^*)=x_iy_i – (x _i)(y_i )/n , (4)

Отсюда

D^*_x= (1/n) Q_x , D^*_y= (1/n) Q_y ,

R=(^*_1,1)/ (D^*_x D^*_y)^1/2= (Q_xy)/( Q_x Q_y)^1/2 (5)

Выборочная линейная регрессия Y на X по выборке (x_i , y_i ), i= 1,......, n определяется уравнением

y=^*₀ +^*₁x= y^* + r (D^*_y / D^*_x ) (x – x^*)

Коэффициенты ^*₀ и ^*₁ называются выборочными коэффициентами регрессии. Они вычисляются по формулам

₁^*=[n  x_iy_i – (x _i)(y_i )]/(n x²_i - (x_i)² ) = Q_xy / Q_x (6)

₀^* = y^*- ₁^*x^* (7)

Аналогично определяется выборочная линейная регрессия X на Y :

x=^*₀ +^*₁y = x^* + r (D^*_x / D^*_y ) (y – y^*)

₁^*=[n  x_iy_i – (x _i)(y_i )]/(n y²_i - (y_i)² ) = Q_xy / Q_y (8)

₀^*= x^*- ^*₁y^* (9)

Для контроля правильности расчетов используют соотношение

(₁^*₁^*)^1/2= r (10)

Прямые

y=^*₀ +^*₁x , x=^*₀ +^*₁y

Пересекаются в точке с координатами (x^*, y^* )

Функция y=^*₀ +^*₁x

Определяет выборочную (эмпирическую ) регрессию Y на x. Последняя является оценкой предполагаемой (теоретической) регрессии по результатам наблюдений. Разности между наблюдаемыми значениями переменной Y при x=x_i , i=1,2,....,n, и расчетными значениями ŷ_i=^*₀ +^*₁x называются остатками и обозначаются e_i :

e_i = y_i – ŷ _i, i = 1,2,......,n . Все остатки приведены в таблице 1. (11)

Качество аппроксимации результатов наблюдений (x_i,y_i), i = 1,2,......,n , выборочной регрессии определяется величиной остаточной дисперсии , вычисляемой по формуле

S²= e²_i /(n-2)=1/(n-2) [ y_i – (^*₀ +^*₁x_i)]²=Q_e/(n-2) (12)

Величина Q_e определяемая выражением

Q_e =  e²_i= (y_i – ŷ _i)² (13)

Называется остаточной суммой квадратов.

В практических вычислениях остаточную сумму квадратов получают из тождества

 (y_i – y^*_i)² =  (ŷ_i – y^*_i )² +  (y_i – ŷ_i) ² (14)

Которое записывается в виде

Q_y = Q_r + Q_e , где

Q_y=  (y_i – y^*_i)²=  y²_i – n*(y^*_i )²,

Q_r = (ŷ_i – y^*_i )²=^*₁ Q_xy=^2*₁ Q_x= Q²_xy/ Q_x (15)

Величина Q_r называется суммой квадратов, обусловленной регрессией

Полезной характеристикой линейной регрессии является коэффициент детерминации R² , вычисляемый по формуле

R²= Q_r / Q_y =1 – (Q_e / Q_y) (16)

Коэффициент детерминации R² равен той доле разброса результатов наблюдений (x_i,y_i), i = 1,2,......,n , относительно горизонтальной прямой y=y^* , которая объясняется выборочной регрессией . Величина R= + (R²)^1/2 является оценкой коэффициента корреляции между результатами наблюдений y_i и вычисленными значениями ŷ_i , предсказываемыми регрессией , т.е.

R= p^*_yŷ= r_yŷ

В случае линейной регрессии Yнаx(одной независимой переменнойx) между коэффициентомRи выборочным коэффициентом корреляцииr_xyимеется следующее соотношение :

r_xy = ( знак ^*₁ ) R .