Добавил:
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:

Лекции / Чернова Н.И. Лекции по математической статистике

.pdf
Скачиваний:
149
Добавлен:
07.09.2014
Размер:
1.29 Mб
Скачать

Оглавление

JJ

II

J

I

На стр. ... из 180

Назад

Во весь экран

Уйти

Стр. 101

6.4. Распределение Фишера

Определение 18. Пусть χ2k имеет распределение Hk, а χ2m — распределение Hm, причем эти случайные величины независимы. Распределение случайной величины

fk,m =

χk2

/k

 

=

m · χk2

χm2

/m

k · χm2

 

 

называют распределением Фишера с k, m степенями свободы и обозначают Fk,m.

Свойства распределения Фишера (или Фишера — Снедекора):

1.Если hk,m имеет распределение Фишера Fk,m, то 1/hk,m имеет распределение

Фишера Fm,k.

2. Распределение Фишера Fk,m слабо сходится к вырожденному в точке 1 распределению I1 при любом стремлении k и m к бесконечности.

Доказательство. Убедитесь по ЗБЧ, что любая последовательность случайных величин hk,m, распределение которой совпадает с распределением отношения двух средних арифметических

 

ξ2 + . . . + ξ2

 

η2

 

+ . . . + η2

 

 

 

1

k

 

и

1

 

 

m

,

 

k

 

 

 

m

 

 

 

 

 

 

 

 

 

 

 

сходится к 1

по вероятности при

 

k

 

 

,

m

 

 

. Здесь ξ1, ξ2, . . .

и η1, η2, . . .

— независимые последовательности,

составленные из независимых

случайных величин со стандартным

нормальным распределением.

 

 

→ ∞

 

 

→ ∞

 

Оглавление

JJ

II

J

I

На стр. ... из 180

Назад

Во весь экран

Уйти

Стр. 102

6.5. Преобразования нормальных выборок

Пусть X = (X1, . . . , Xn) — выборка из N0,1 (набор независимых и одинаково распределенных величин). Пусть C — ортогональная матрица (n × n), т.е.

CCT = E =

1 ...

0 ! ,

 

0

1

и Y = C · X — вектор с координатами Yi =

jn=1 CijXj.

P

Какое распределение имеют координаты вектора Y? Зависимы ли они? Чтобы ответить на этот вопрос, выясним, как изменится плотность распределения вектора после умножения его на произвольную невырожденную матрицу.

Вспомним, как найти плотность распределения случайной величины c · ξ по плотности рас-

пределения ξ:

f(y) = |c|−1 · fξ c−1 · y .

Поверим, без доказательства, аналогичному утверждению в многомерном случае. Те, кто знаком с заменой переменных в многомерном интеграле и не боится термина «якобиан», могут доказать его самостоятельно.

Изменение плотности совместного распределения при линейном преобразовании вектора.

Пусть случайный вектор X имеет плотность распределения fX(y1, . . . , yn)

= fX(y),

и C — невырожденная матрица. Тогда вектор Y = C · X имеет плотность распределения

fY (y) = fC·X(y) = |det C|−1 · fX C−1 · y .

(16)

Оглавление

JJ

II

J

I

На стр. ... из 180

Назад

Во весь экран

Уйти

Стр. 103

Докажем самое удивительное свойство нормального распределения.

Свойство 9. Пусть вектор X состоит из независимых случайных величин со стандартным нормальным распределением, C — ортогональная матрица, и Y = C · X. Тогда и координаты вектора Y независимы и имеют стандартное нормальное распределение.

Доказательство. Запишем плотность совместного распределения координат вектора X. В силу независимости это есть произведение плотностей координат вектора (то же самое, что функция правдоподобия):

fX(y1, . . . , yn) =

n

fXi (yi) =

1n/2 e− 2

P1

yi

=

1n/2 e2 kyk

.

 

Yi 1

 

 

1

n

2

 

 

1

2

 

 

(2π)

 

 

 

(2π)

 

 

=

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Здесь для произвольного вектора y квадрат нормы kyk2 есть

Xn

kyk2 = y2i = yT · y. i=1

Пользуясь (16), вычислим плотность распределения вектора Y = C · X. Матрица C ортогональна, поэтому C−1 = CT и det C = 1.

fY (y) = fX CT · y =

1

 

1 T

·yk

2

2 kC

 

 

e

 

 

.

(2π)n/2

 

 

Оглавление

JJ

II

J

I

На стр. ... из 180

Назад

Во весь экран

Уйти

Стр. 104

Но умножение на ортогональную матрицу не меняет норму вектора. Действительно,

kCT · yk2 = (CT · y)T · (CT · y) = (yT · C) · (CT · y) = yT · E · y = kyk2. (17)

Окончательно имеем

fY (y) =

1n/2 e2 kyk

= fX(y) =

1n/2 e− 2

P1

yi .

 

 

1

 

2

 

1

n

2

 

(2π)

 

 

(2π)

 

 

Итак, вектор Y распределен так же,

как и вектор X, т. е. состоит из независимых

случайных величин со стандартным нормальным распределением.

 

 

Упражнение. Вспомнить определение независимости случайных величин с абсолютно непрерывным распределением в терминах плотностей. Что можно сказать про независимость и про распределение координат вектора, если совместная плотность распределения координат вектора равна

 

 

1

n

2

 

 

 

 

 

yi2

 

1

e

2

P1

yi

=

n

1

e

2

?

n/2

 

 

Yi 1

 

 

 

(2π)

 

 

 

 

 

 

 

 

 

=

 

 

 

 

 

 

 

 

 

 

 

 

Упражнение. Пусть ξ и η независимы и имеют стандартное нормальное распреде-

 

 

1

 

 

 

 

 

1

 

ление. Зависимы ли случайные величины

 

(ξ−η) и

 

(ξ+η)? Какое распределение

2

2

имеют? Является ли ортогональной матрица

 

 

 

 

?

 

 

 

C =

 

12

 

1 2

 

 

 

 

 

1

 

 

 

1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

2

 

2

 

 

 

 

Оглавление

JJ

II

J

I

На стр. ... из 180

Назад

Во весь экран

Уйти

Стр. 105

Лемма Фишера. Пусть вектор X состоит из независимых случайных величин со стандартным нормальным распределением, C — ортогональная матрица, и Y = C·X. Тогда для любого k = 1, . . . , n

n

 

Xi 1

 

T(X) = Xi2 − Y12 − . . . − Yk2 не зависит от Y1

, . . . , Yk

=

 

и имеет χ2-распределение Hn−k с n − k степенями свободы.

 

Доказательство. Как мы видели в (17), нормы векторов X и Y = C · X совпадают:

n

 

n

 

Xi 1

Xi2 = kXk2 = kC · Xk2

Xi 1

 

 

= Yi2.

 

=

 

=

 

Поэтому

 

 

 

n

n

 

 

Xi 1

Xi 1

 

 

T(X) = Xi2 − Y12 − . . . − Yk2 = Yi2 − Y12 − . . . − Yk2 = Yk2+1

+ . . . + Yn2 .

=

=

 

 

Случайные величины Y1, . . . , Yn по свойству 9 независимы и имеют стандартное нормальное распределение, поэтому T(X) = Yk2+1 + . . . + Yn2 имеет распределение Hn−k и не зависит от Y1, . . . , Yk.

Оглавление

JJ

II

J

I

На стр. ... из 180

Назад

Во весь экран

Уйти

Стр. 106

Второй и третий пункты следующего утверждения выглядят неправдоподобно, особенно если вспомнить обозначения:

1

n

1

n

2

 

 

 

X

 

X

Xi

 

.

X

=

n

i=1 Xi, S02 =

n − 1

i=1

X

Основное следствие леммы Фишера. Если X1, . . . , Xk независимы и имеют нормальное распределение Na,σ2 , то

 

 

 

 

 

 

1)

 

 

X − a

имеет стандартное нормальное распределение;

n

 

 

σ

 

 

 

 

 

 

2

 

 

 

 

n

 

 

 

 

 

2

 

Xi 1

Xi − X

 

2)

 

(n − 1) S0

=

 

 

 

 

имеет χ2-распределение с n − 1 степенью свободы;

σ2

=

 

σ2

 

 

 

 

 

3)

 

 

 

 

 

 

 

случайные величины

 

и S2

независимы.

X

 

 

 

 

 

0

 

Взгляните: вопреки определению 16 распределения Hn−1, величина (n − 1)S202

— сумма не n−1, а n слагаемых, причем эти слагаемые зависимы из-за присутствия

в каждом X. К тому же они хоть и одинаково распределены, но их распределение

— не N0,1. а какое? разыскать!

Надеемся, что внимательный читатель, помня, что в невырожденном случае величины ξ и ξ + η всегда зависимы, и видя, как в выражении для S20 явным образом участвует X, придет в неподдельный восторг от независимости X и S20.

Отметим без доказательства, что независимость X и S20 — свойство, характерное только для нормального распределения. Точно так же как и способность сохранять независимость координат после умножения на ортогональную матрицу. Подробнее об этом можно прочесть

в замечательной книге В. Феллера [2, т. 2, гл. III, § 4].

Оглавление

JJ

II

Доказательство основного следствия леммы Фишера.

J

I

1. Очевидно. доказать, что очевидно!

 

 

2.

Покажем сначала, что можно рассматривать выборку из стандартного нормального

На стр. ... из 180

 

распределения вместо Na,σ2 :

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Назад

 

 

 

 

 

 

n

 

 

 

 

2

 

n

 

 

 

 

 

 

 

 

 

2

 

 

n

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

0

 

Xi 1

X

i σ

!

Xi 1

 

X

i σ

 

 

 

 

!

 

=

Xi 1

 

 

 

 

 

Во весь экран

 

 

σ2

 

=

=

 

 

 

 

σ

 

 

 

(zi − z)2,

 

 

 

(n − 1)S2

 

− X

 

 

 

 

 

− a X − a

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

=

 

 

 

 

 

=

 

 

 

 

 

 

 

 

 

 

 

 

=

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Xi − a

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

X − a

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

где zi =

 

 

имеют стандартное нормальное распределение, и

z =

 

 

.

 

 

 

σ

 

σ

Уйти

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Т. е. можно с самого начала считать, что Xi имеют стандартное нормальное распре-

 

 

 

 

 

 

деление, и доказывать пункт 2 следствия при a = 0, σ2 = 1.

 

 

 

 

 

 

 

 

 

 

 

 

Применим лемму Фишера.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

n

 

 

 

 

 

 

n

 

 

 

 

 

 

 

 

n

 

 

 

 

 

 

 

 

 

 

 

 

 

 

X

 

 

 

 

2

 

X

 

 

 

 

 

 

 

X

 

 

 

 

 

Стр. 107

 

 

T(X) = (n − 1)S02 = i=1 Xi − X

= i=1 Xi2 − n(X)2 = i=1 Xi2 − Y12.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Оглавление

JJ

II

J

I

На стр. ... из 180

Назад

Во весь экран

Уйти

Стр. 108

Мы обозначили через Y1 величину

 

 

 

 

 

 

 

 

 

 

 

 

 

X1

 

Xn

 

 

 

Y1 = n X =

 

+ . . . +

 

.

n

n

Чтобы применить лемму Фишера, нужно найти ортогональную матрицу C такую, что Y1 — первая координата вектора Y = C·X. Возьмем матрицу C с первой строкой

 

1

1

. Так как длина (норма) этого вектора — единица, его можно

 

, . . . ,

 

n

n

дополнить до ортонормального базиса в IRn (иначе — этот столбец можно дополнить до ортогональной матрицы). Тогда Y1 = n X и будет первой координатой вектора

Y = C · X.

Осталось применить лемму Фишера. непременно сделайте это!

3. Из леммы Фишера сразу следует, что T(X) = (n−1)S2

=

P

n

X2

−Y2

не зависит

0

 

i=1

i

1

 

от Y1 =

 

 

 

, то есть

 

и S02 независимы.

 

 

 

 

 

n

 

X

X

 

 

 

 

 

Очередное следствие из леммы Фишера наконец позволит нам строить доверительные интервалы для параметров нормального распределения — то, ради чего мы и доказали уже так много утверждений. В каждом пункте указано, для какого параметра мы построим доверительный интервал с помощью данного утверждения.

 

Следствие основного следствия леммы Фишера.

 

 

 

 

 

 

 

1)

 

 

X − a

имеет стандартное нормальное распределение (для a при σ известном);

n

 

 

σ

 

 

 

 

 

 

 

 

 

 

 

Оглавление

 

n

X − a

 

2

 

 

P

 

 

 

 

 

 

2)

i=1

i

 

 

имеет распределение Hn (для σ2 при a известном);

 

σ

 

 

 

n

X − X 2

 

n − 1)S2

 

JJ

II

3)

P

i σ

! =

(

 

σ2

0

имеет распределение Hn−1 (для σ2 при a неизвестном);

i=1

 

J

I

4)

nX − a = nX − a имеет распределение Tn−1 (для a при σ неизвестном).

 

 

На стр. ...

из 180

 

 

qS02

 

S0

 

 

 

Назад

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Во весь экран

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Доказательство следствия.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

1) и 3) — из леммы Фишера, 2) — из следствия 3. Осталось воспользоваться леммой

 

Фишера и определением 17 распределения Стьюдента, чтобы доказать 4).

 

 

 

 

Уйти

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

X − a

 

 

X − a

×

 

 

1

 

 

 

 

 

 

ξ0

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

n

 

 

 

 

 

 

= n

 

 

 

 

 

 

 

 

 

 

 

 

 

 

=

 

 

 

 

 

.

 

 

 

 

 

 

 

 

 

 

 

σ

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

S2

 

 

 

 

(n − 1)S2

1

 

χ2

 

 

 

 

 

 

 

q 0

|

 

 

 

 

 

 

 

v

 

σ2

0

n − 1

 

sn − 1

 

 

 

 

 

 

 

N0,1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

{z }

 

 

t

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

u

 

 

 

 

 

 

 

 

 

 

 

n−1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

u

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Стр. 109

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

независ.

 

 

 

 

H

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

| {z n−}1

 

 

 

 

 

 

 

 

 

 

 

По определению 17, такое

 

отношение имеет распределение Стьюдента T

 

.

 

 

 

 

-

 

%

 

 

 

 

 

 

 

 

 

 

 

n−1

 

 

 

 

6.6.Точные ДИ для параметров нормального распределения

1.

Для a при известном σ2. Этот интервал мы уже построили в

примере 23:

Оглавление

Pa,σ2

X −

1n

 

< a < X +

n

 

 

= 1 − ε, где Φ0,1

1−ε/2) = 1 − ε/2.

 

 

 

 

 

 

τ −ε/2

σ

 

 

 

τ1−ε/2

σ

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

2.

Для σ2 при известном a. По п. 2 следствия,

 

 

 

 

 

 

nS2

 

 

 

 

 

1

n

 

 

 

1

имеет распределение

Hn,

где

S12 =

Xi 1

 

JJ

II

σ2

 

 

 

 

 

n

=

 

 

 

 

 

 

 

 

 

 

 

J

I

Пусть g1 = χn,ε/22

и g2 = χn,12

−ε/2

— квантили распределения Hn

уровня ε/2

 

 

и 1 − ε/2. Тогда

 

 

 

 

 

 

 

 

На стр. ... из 180

 

 

1 − ε = Pa,σ2

g1 <

σ21 < g2

! = Pa,σ2

 

g21

 

< σ2 <

 

g11

! .

 

 

 

Назад

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

nS2

 

 

 

nS2

 

 

 

 

 

 

nS2

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Во весь экран

3.

Для σ2 при неизвестном a. По п. 3 следствия,

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

n

 

 

 

 

 

 

 

 

 

 

(n−1)S2

 

 

 

 

 

 

 

 

 

1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

0

имеет распределение

Hn−1, где

 

S02 =

 

 

 

 

 

(Xi − X)2.

 

 

 

 

 

 

 

n−1

 

 

 

Уйти

 

 

σ2

 

 

 

 

 

 

 

 

 

 

 

 

 

Xi 1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

=

 

 

 

 

 

 

 

 

 

 

Пусть g1 = χn2

−1,ε/2 и g2 = χn2

−1,1−ε/2 — квантили распределения Hn−1 уровня ε/2

 

 

 

 

и 1 − ε/2. Тогда

σ2 0 < g2

! = Pa,σ2

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

! .

Стр. 110

 

1 − ε = Pa,σ2

 

g1 < (

 

 

g2

 

0 < σ2

<

 

 

g1

0

 

 

 

 

 

 

 

 

n−1)S2

 

 

 

(n−1)S2

 

 

 

(n − 1)S2

 

 

 

Упражнение.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Найти 17 отличий п. 3 от п. 2.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Соседние файлы в папке Лекции