Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Теория вероятностей и математическая статистика с применением Excel и Maxima. Учебное пособие
.pdf
нужно найти частные производные от S по каждому неизвестному
параметру и приравнять их к нулю и решить полученную систему
уравнений.
Рассмотрим применение метода наименьших квадратов, ког-
да для изображения экспериментальной зависимости выбрана парабола, т.е. y =
2
a x
+ bx + c. Тогда
Найдем частные производные
nnnnn
S
.
=
( 2)( )( ) 2( ),
a
iiiii
11111
nnnnn
S
.
=
(2)( ) 2( ),
b
iiiii
11111
nnnn
S
=
(2)( ) 2( ).
c
iiii
1111
22 2432
yaxbxcx yxaxbxcx
ii i i ii i i i
232
yax bxcx yxax b x c x
ii i i ii i i i
22
yax bxc ya x bxcn
ii i i i i
Так как для нахождения оценок неизвестных параметров
c нужно составить систему уравнений
дующую систему
nnnn
432 2
axbxcx yx
iiiii
1111
iiii
nnnn
32
axbxcx yx
iiiii
1111
iiii
nn n
2
axbxcn y
ii i
11 1
ii i
n
S y ax bx c
1
i
SSS
,,.
abc
2
ii
2
.
a , b,
S
0
a
S
0
, то получим сле-
b
S
0.
c
.
Решая эту систему трех уравнений с тремя неизвестными a , b,
c найдем значения параметров по методу наименьших квадратов.
221
►Пример 38. Изменение концентрации химиката А при производстве синтетического волокна влияет на время изготовления
волокна. Были проведены следующие измерения.
xi 2,5 3,0 3,3 5,0 5,2 5,4 5,5
yi 190 240 285 485 520 530 535
где X-концентрация химиката А в исходной смеси в процентах,
Y- время изготовления волокна в минутах. Считая, что зависи-
мость между переменными Y и X линейная, найти оценки параметров модели по методу наименьших квадратов и построить найденную прямую.
Решение.
Итак, y =
a x + b. Составим функцию
n
()
S y ax b
ii
1
i
2
и най-
дем, при каких значениях a и b функция S достигает минимума.
n
, т.е.
2( )( ) 0
yaxbx
ii i
1
i
n
2( )( 1) 0
yaxb
ii
1
i
.
Составим систему
Тогда имеем
nnn
2
axbx xy
iiii
111
iii
nn
a x bn y
ii
11
ii
S
0
a
S
0
b
Найдем
ixiy
i
1 2,5 190 6,25 475
2 3,0 240 9 720
3 3,3 285 10,89 940,5
4 5,0 485 25 2425
5 5,2 520 27,04 2704
6 5,4 530 29,16 2862
7 5,5 535 30,25 2942,5
222
29,9 2785 137,59 13069
2
x
i
xiy
i
137,59 29,9 13069,
ab
Следовательно,
29,9 7 2785
ab
Ищем решение этой системы, например по формулам
Крамера, так как определитель системы
137,59 29,9
Вычислим
= — 7574,95.
Δ=
29,9 7
13069 29,9
=
a
2785 7
=69,12 0.
= 8211,5; Δb =
137,59 13069
29,9 2785
Итак, a =
a
118,8;
b =
b
= -109,59
Тогда y = 118,8x – 109,59.
Построим эту прямую и точки – результаты измерений.
Рис. 22
Прямую y =118,8x – 109,59 строим по двум точкам.
223
Так как
X1 5
Y 9,21 484,41
то прямая проходит через точки М1(1;9,21) и М2(5;484,41).◄
Замечание 13.
В некоторых случаях нелинейные функциональные зависимости можно свести к линейным с помощью некоторых преобразований и соответствующих замен:
y=
a
bx
→ y=
*
ax b
y=
y=
y=
y=c
1
ax b
x
abx
y= a logcx+b → y=
ax be
a
→ lny=lnc+ a lnx → y*=
x
→
→
1
1
ax b → y
y
abx
y
→ y*=
*
ax b
*
= ax b
ax b
→ lny= ax b → y*= ax b
ax b
*
*
.
13.3 Условные средние
В качестве оценок условных математических ожиданий принимают условные сред ние, которые находят поданным наблюдений (по выборке).
Условным средним
y называют среднее арифметиче ское на-
x
блюдавшихся значений Y, соответствующих Х = х. Например, если
при x
= 2 величина Y приняла значе ния y1=5, y2=6, y3=10, то услов-
1
ное среднее
y = (5+6+10)/3=7.
x
224
Аналогично определяется условное среднее
средним
x называют среднее арифметиче ское наблюдавшихся
y
x . Условным
y
значений X, соответствующих Y=y.
13.4 Выборочные уравнения регрессии
Как известно из теории вероятностей уравнения регрес сии Y
на Х и Х на Y имеют вид
y=M(Y/X=x)=m
(x) и x=М(Х/Y=y)=mx(у).
y
Условное математическое ожидание М (Y/X) является функ-
цией от х, cледовательно, его оценка, т. е. услов ное среднее
y ,
x
также функция от х; обозначив эту функ цию через f*(х), получим уравнение
y = f*(х)
x
Это уравнение называют выборочным уравнением регрес-
сии Y на Х, функцию f*(х) называют выборочной регрессией
Y на X, а ее график — выборочной линией регрес сии Y на X.
Аналогично уравнение
*
x =φ
(y)
y
называют выборочным уравнением peгpессии Х на У; функцию
j*(y) называют выборочной регрессией Х на Y, а ее график — вы-
борочной линией регрес сии Х на Y.
Как найти по данным наблюдений параметры функ ций f*(x)
*
и φ
(y) , если вид их известен? Как оценить силу (тесноту) связи
между величинами Х к Y и устано вить, коррелированы ли эти величины? Ответы на эти вопросы изложены ниже.
225
13.5 Отыскание параметров выборочного ypaвнения
прямой линии среднеквадратичной регрессии
по несгруппированным данным
Пусть изучается система количественных признаков (X, Y).
В результате п независимых опытов получены п пар чисел (x
), ...,(xn, уn).
(x
2,y2
, y1),
1
Найдем по данным наблюдений выборочное ypaвнение пря-
мой линии среднеквадратической регрессии. Для определенности
будем искать уравнение
y =kx+b
x
регрессии Y на X.
Поскольку различные значения х признака Х и соответствующие им значения у признака Y наблюдались по одному разу, то
группировать данные нет необходимости. Также нет надобности
использовать понятие условной средней, поэтому искомое уравнение можно записать так:
у = кx+b
Угловой коэффициент прямой линии регрессии Y на X называют выборочным коэффициентом регрессии Y на X и обозначают через r
; он является оценкой коэффициента регрессии.
yx
Итак, будем искать выборочное уравнение прямой линии регрессии Y на Х вида
у = r
x+b (*)
yx
Подберем параметры r
, уn), построенные по данным наблюдений, на плоскости
...,(x
n
и b так, чтобы точки (x1, y1), (x2,y2),
yx
хОу лежали как можно ближе к прямой (*). Уточним смысл этого
требования. Назовем отклонением разность
Y
— yi (i=1,2,....,n),
I
где Y
— вычисленная по уравнению (*) ордината, соответствую-
i
щая наблюдаемому значению х
ответствующая х
226
i,
; yi – наблюдаемая ордината, со-
i
Подберем параметры ryx и b так, чтобы сумма квадратов отклонений была минимальной (в этом состоит сущность метода
наименьших квадратов).
Как было показано выше искомые параметры ищутся из решения следующей системы линейных уравнений
nnn
2
xbx xy
yx i i i i
111
iii
nn
xbn y
yx i i
11
ii
Аналогично можно найти выборочное уравнение прямой линии регрессии X на Y:
x = ρ
где ρ
— выборочный коэффициент регрессии X на Y.
xy
y+c,
y
xy
13.6 Корреляционная таблица
При большом числе наблюдений одно и тоже значение х может встретиться п
же пара чисел (x, у) может наблюдаться n
наблюдений группируются, т. е. подсчитывают частоты n
раз, одно и то же значение y – ny раз, одна и та
x
раз. Поэтому данные
xy
,. ny, n
x
xy
Все сгруппированные данные записывают в виде таблицы, которую называют корреляционной.
Поясним устройство корреляционной таблицы на npимере
следующей таблицы.
.
Y
10 20 30 40
n
0,4 5 0 7 14 26
0,6 0 2 6 4 12
0,8 3 19 0 0 22
X
n
x
8211318
n=60
y
227
В первой строке таблицы указаны наблюдаемые значения
(10; 20; 30; 40) признака Х, а в первом столбце наблюдаемые зна-
чения (0,4; 0,6; 0,8) признака Y. На пересечении строк и столбцов находятся частоты n
наблюдаемых пар значений признаков.
xy
Например, частота 5 указывает, что пара чисел (10; 0,4) наблюдалась 5 раз.
В последнем столбце записаны суммы частот строк.
Например, сумма частот первой строки равна n
= 5+7+14=26; это
y
число указывает, что значение признака Y, равное 0,4 (в сочетании
с различными значениями признака X), наблюдалось 26 раз.
В последней строке записаны суммы частот столбцов.
Например, число 8 указывает, что значение признака X, равное 10
(в сочетании с различными значениями признака Y), наблюдалось
8 раз.
В клетке, расположенной в нижнем правом углу таблицы,
помещена сумма всех частот (
Очевидно, Σn
Σn
=26+12+22=60.
y
=Σny=n. В нашем примере Σnx=8+21+13+18=60 и
x
общее число всех наблюдений n).
13.7. Отыскание параметров выборочного ypaвнения
прямой линии среднеквадратичной регрессии
по сгруппированным данным
Для определения параметров уравнения прямой линии ре-
грессии Y на X была получена система уравнений
nnn
2
xbx xy
yx i i i i
111
iii
nn
xbn y
yx i i
11
ii
(*)
Предполагалось, что значения Х и соответствующие им значения Y наблюдались по одному разу. Теперь же допустим, что
получено большое число данных (практически для удовлетвори-
228
тельной оценки искомых параметров должно быть хотя бы 50 наблюдений), среди них есть повторяющиеся, и они сгруппированы
в виде корреляционной таблицы.
Зaпишем систему (*) так, чтобы она отражала данные корре-
ляционной таблицы. Воспользуемся тождествами:
nn n n
xnx yny x nx xy nxy
ii i i
11 1 1
,, ,
iB iB i ii xyii
22
Подставив правые части тождеств в систему (*) и сократив
обе части второго уравнения на n, получим
2
() () ,
nx nx b n xy
Решив эту систему, найдем параметры ρ
yx B xy
()
xby
Byx B
(**)
и b и, следователь-
xy
но, искомое уравнение
yxb
.
xyx
Однако более целесообразно, введя новую величину – выборочный коэффициент корреляции, написать уравнение регрессии
в ином виде. Сделаем это. Найдем b из второго уравнения (**):
by x
.
ByxB
Подставив правую часть этого равенства в уравнение
yxb
, получим
xyx
yy xx
(***)
xB yx B
()
Найдем из системы (*) коэффициент регрессии, учитывая,
22 2
что
xx
Умножив обе части равенства на дробь
:
x
nxynxy nxynxy
yx
xy i i B B xy i i B B
22
()
nx x
B
2
n
x
x
y
.
:
229
nxy nxy
x
yx
yxy
xy i i B B
n
. (****)
Обозначим правую часть равенств через r
и назовем ее вы-
B
борочным коэффициентом корреляции
nxy nxy
r
B
xy i i B B
n
xy
.
Подставим rB в (****):
x
.
yx B
y
r
Отсюда
y
rr
.
yx B B
x
Подставим правую часть этого равенства в (***), окончательно получим выборочное уравнение прямой линии регрессии Y на
X вида
y
yyr xx
xBB B
()
x
Замечание 14. Аналогично находят выборочное уравнение
прямой линии регрессии X на Y вида
где
230
x
xx r yy
,
yBB B
r
Bxy
y
x
y
()
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]