Добавил:
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:

книги / Эконометрика. Начальный курс

.pdf
Скачиваний:
16
Добавлен:
20.11.2023
Размер:
21.93 Mб
Скачать

Теория вероятностей и математическая статистика

521

Нетрудно проверить, что

 

 

Е х2 = п,

V(*2) = 2 n .

 

8. Распределение Стьюдента

(t-распределение).

Пусть £o,£i,

...,£„ — независимые стандартные нормальные случайные вели­ чины. Распределение случайной величины

t(n) =

называется распределением Стыодента или t-распределением с п степенями свободы. Плотность распределения величины i(n) задается формулой

р(х) = Г((п+1)/2) /

п )

(птг)1/2Г(п/2) \

При n = 1 соответствующее распределение называют распре­

делением Коши.

 

 

Можно показать, что при п > 2

 

Et(n) = 0,

V(i(n)) =

 

9. Распределение Фишера

(F -распределение). Пусть £ i,...,£ m,

щ , ... ,t]n — совокупность независимых стандартных нормальных случайных величин. Распределение случайной величины

jF(m, п)

£ Е™ , £i

^ Х 2(т)

п ЕГ=1 vi

М * >

 

называется распределением Фишера или F -распределением с

(т,п ) степенями свободы. Плотность распределения величины F(m, п) задается формулой

Г[(тп + п)/2]тпт /2пп/2

 

д.т/2—1

~

Г(т/2)Г(п/2)

( ш

+ п ) ^ ) / * ’

р(х) = 0,

х ^ 0.

 

 

 

Можно показать, что при п > 4

 

 

ЕF ( m

, « ) ^ , V(F(m ,n)) =

2n2(m + n —2)

 

 

 

 

m(n - 4)(n - 2)2'

522

Приложение МС

Распределения х2, Стьюдента и Фишера примеияются в ста­ тистике при построении доверительных интервалов для оценива­ емых параметров и при проверке гипотез.

В некоторых областях математической и прикладной стати­ стики используются нецентральные аналоги распределений х2» Стьюдента и Фишера.

10. Нецентральное х2-распределение. Пусть Х \ , . . . , Х п — неза­ висимые нормальные случайные величины: Xi ~ N(mi, 1). Тогда говорят, что случайная величина У = X2 4-... + X 2 имеет нецен­ тральное ^-распределение. Это распределение зависит только от двух параметров- п — число степеней свободы и А = тн2 — параметр сдвига (параметр нецептральности). Это распределение обозначается х2(я>А).

Покажем, что распределение х2(п>^) действительно зависит только от двух параметров. Обозначим через m = (mi, . . . , m,,)' вектор средних значений и через ||тп|| — его длину. Пусть Q — ор­ тогональная матрица, у которой первая строчка является векто­ ром т'/ЦтпЦ, а остальные дополняют вектор тп'/ЦтЦ до оргонормированного базиса. Обозначим вектор, состоящий из случайных величин Xi, через х = \ , . .. , Х п)', и пусть z = Q x его линейное преобразование; z — {Zi , . .. , Zn)'. В силу ортогональности матри­ цы Q имеем У = X *+.. .+Х 2 = ||*||2 = ||*||2 = Z$+.. .+Z2. В силу (приложение МС, н.4, N5) получаем, что Z \, ... ,Zn — независи­ мые нормальные случайные величины, такие что Z\ ~ N (||m ||,l) и Zi ~ N(0,1), г = 2,...,п . Отсюда следует, что распределение зависит только от ||т ||.

Нетрудно видеть, что при А = 0 нецентральное распределение Х 2( п , А) совпадает с распределением х2(п)-

Распределение х2(п >А) обладает следующими свойствами:

1)Пусть У ,Уг — две независимых случайных величины с рас­ пределениями У ~ Х2(га»,Aj), г = 1,2, тогда случайная вели­ чина У = У + Уг имеет тоже нецентральное х2-распределение:

У~ Х2(п>^)» где А = Ai + А2 и п = пх + «2-

2)Пусть У ~ х2(п»А), тогда Е(У) = п + Аи У(У) = 2n + 4А.

Теория вероятностей и математическая статистика

523

3) Плотность распределения x2(n>А) задается формулой

/ ч

f

х \

( х \

/2_1 \T 'X i

1

р(х) = е х

р

J ехр( - - )

E i i #

r« + n/2)

при х > 0 и р(х) = 0 при х ^ 0.

 

 

11. Нецентральное распределение Стыодента.

Нецентральным

распределением Стыодента с п степенями свободы и параметром сдвига т называется распределение случайной величины

ч/ f W

где случайные величины X и У независимы и имеют распределе­ ния соответственно N(m, 1) и х2(п)-

Плотность нецентрального распределения Стыодента задается

следующей формулой:

 

 

 

 

 

пп/2

ехр(—тп2/2)

 

 

 

 

р(х) = Г(п/2)Г(1/2) (п + т2)(«+1)/2

 

 

 

 

 

/ + г + 1 \

/

2х2 \

i/2

 

 

 

) г!

\ п

+ х 2)

(signor)1.

 

1=0

4

 

 

 

 

 

 

12. Нецентральное распределение Фишера.

Нецентральным рас­

пределением Фишера ^(пьПз.АьАз) со степенями свободы щ и П2 и параметрами сдвига Ai и А2 называется распределение слу­ чайной величины

У2/п 2'

где Yi и Y2 — независимые случайные величины с распределени­ ями соответственно x2(ni,Ai) и x2(n2iА2).

Обычно в приложениях используется распределение с А2 = 0. При «1 > 4 математическое ожидание и дисперсия распределения jP(nj, «2, Aj,0) равны:

E(Z) = та2(щ + AQ

гц(п2 -

2) ’

\r/>7 \ _ o { n2\ 2

(n i + ^O2 + (n i + 2Aj)(n2 - 2)

V(Z) 2 U J

--------- - 2 ) ^ - 4 ) --------------

524

Приложение МС

4 .

М н огом ер н ое н ор м ал ьн ое р а сп р ед ел ен и е

Случайный вектор х = (Xi,... , Х п)' называется невырожденным нормальным (гауссовским) случайным вектором, если плотность его распределения задается равенством

"М =

ехр(Ч (:с -

- ”*>)' 16й"'

 

 

(МС.10)

где т € Я” — (произвольный) вектор, Е —симметричная, поло­ жительно определенная матрица (т.е. Е = Е ' и Е > 0). В слу­ чае n = 1 получаем нормальную случайную величину, введенную в п. 3. Вектор т и матрица Е являются параметрами распреде­ ления, и обычно используется обозначение X ~ N (m , Е). Нор­ мальный вектор е, у которого m = 0, а Е = I (единичная мат­ рица), называется стандартным нормальным вектором. Бели матрица Е вырождена (но неотрицательно определена), то мож­ но определить вырожденное нормальное распределение. Пусть rank(E) = к < п н Ь = т + ЕЯ" — к-мерная гиперплоскость в Я” , где Е — линейный оператор в Я", задаваемый матрицей Е. Известно, что в подпространстве ЕЯ" оператор Е обратим, обозначим через |Е| (^ 0) определитель матрицы этого операто­ ра в ЕЯ”, а через Е -1 — матрицу соответствующего обратного оператора. Тогда распределение, сосредоточенное в L и имеющее плотность (МС.10) (относительно fc-мерного объема в L), назы­ вается вырожденным нормальным распределением. Перечислим без доказательства основные свойства многомерного нормально­ го распределения.

N1) Если х ~ N(m, Е), то Е(х) = m , V(x) = Е.

N2) Любой подвектор нормального вектора также является нор­ мальным вектором.

N3) Пусть х н у - два независимых нормальных вектора. Тогда объединенный вектор г — х также является нормальным.

У

Теория вероятностей и математическая статистика

525

N4) Если z — х нормальный вектор и его компоненты х и

У

у некоррелированы, то они независимы.

N5) Пусть В: Rn —>Rkлинейное преобразование простран­ ства Д* в Rk, В — его матрица и I — произвольный вектор в Rk. Тогда если х ~ N (m , Е), то случайный вектор у — Вх+1 является нормальным с параметрами Вт + 1 и B S B '. (Преобразование пространства Д” в R k вида у — В х +l, яв­ ляющееся композицией линейного преобразования В и па­ раллельного переноса на вектор I, называется аффинным преобразованием.)

В частности,

а) линейная комбинация компонент гауссовского вектора есть гауссовская случайная величина;

б) ортогональное линейное преобразование стандартного нормального вектора есть стандартный нормальный вектор.

Пусть х ~ ^ (m , Е). Поскольку матрица Е симметрична и неотрицательно определена, то, как известно (приложение ЛА, п. 15), все ее собственные значения А», г = 1 ,..., п, неотрицатель­ ны и существует ортогональная матрица Р , такая что Л = Р 'Е Р , где Л — диагональная матрица, на главной диагонали которой стоят числа А*, ъ = 1,..., п. Тогда вектор з = Р 'х Рв си­ лу N5) является гауссовским, а из (МС.7) следует, что Es = 0 и V(s) = Л. Это означает, что компоненты вектора s некоррелиро­ ваны, а в силу N4) и независимы. Таким образом,

х = P s + m ,

где матрица Р ортогональна, а вектор s имеет1пулевое среднее и независимые компоненты. Обозначим через Л 1/2 диагональную матрицу, полученную из Л извлечением квадратных корней из ее элементов, и пусть е — стандартный нормальный вектор. Тогда, вновь используя (МС.7), получаем, что вектор у = Р А 1/2е + т имеет среднее т и матрицу ковариаций Е, т. е. совпадает по рас­ пределению с вектором х. Итак,

526

Приложение МС

N6) Любой гауссовский вектор может быть получен аффинным преобразованием из стандартного гауссовского вектора и ор­ тогональным аффинным преобразованием из вектора с неза­ висимыми компонентами.

Из (МС.9) и N4) вытекает следующее свойство:

N7) Пусть е — стандартный n-мерный нормальный вектор и

х = А е + а , у = B e + Ь, где А: Л” —►ДО, В : Rn —* R? —

некоторые линейные преобразования и а € ДО, Ь € ДО — про­ извольные (неслучайные) векторы. Тогда Cov(x, у) = А В ', в частности, векторы х и у независимы тогда и только тогда, когда А В ' = О.

Пусть М — идемпотентная п х п матрица, rank(M ) = г (см. приложение ЛА, п. 16), a s - стандартный n-мерный гауссовский вектор. Как известно (см. приложение ЛА, п. 13, п. 16), матрицу М можно представить в виде М = (УАО, где О — ортогональная матрица, а А — диагональная матрица, на главной диагонали ко­ торой расположены единицы и нули, причем число единиц равно рангу М . Рассмотрим случайную величину х2 = s'M e . Имеем

X2 = е'М е — е'О'АОе = (Ое)'АОе = s'As,

где в силу N5) вектор s является стандартным гауссовским векто­ ром. Отсюда следует, что х2 представляет сумму квадратов неза­ висимых стандартных нормальных случайных величии в количе­ стве, равном рангу матрицы М . Таким образом,

N8) Случайная величина х2 = е'М е имеет распределение х2(г)> где г = rank(M).

Аналогичным образом устанавливается следующий резуль­ тат.

N9) Пусть х ~ N (m , Е) и п х п матрица Е невырождена. Тогда случайная величина (х —т ) /Е -1(х —т ) имеет распределе­ ние х2{п).

Теория вероятностей и математическая статистика

527

Выделим два важных частных случая применения свойств N7)

и N8). Рассмотрим п х п матрицу

 

 

1 ...

1

 

1 ...

1

 

Нетрудно проверить, что N идемпотеитная матрица: N 2 = N , и rank(JV) = 1. Легко также видеть, что для любого « х 1 вектора х = (Xj,... ,ХП)' вектор N x имеет одинаковые компоненты, рав­ ные X = jj Xi- Обозначим М = I — N , где I — единичная матрица n-го порядка. Тогда матрица М также идемпотеитная,

rank(M )

= n —1 и M N ' = M N =

0. Заметим, наконец, что

х ' М х =

х!М 2х = ((/ - JV)x)'((I -

N ) x ) = Х)Г=1 № “ * ) 2-

Предположим теперь, что Х \ , ... , Х п — независимые одинаково распределенные нормальные случайные величины с параметрами

7 _

X i -

т .

,

т и <7 . Тогда вектор е с компонентами £{ -------------, г =

1,..., п

является

стандартным нормальным вектором и

£ =

X т

---------,

п

1 п

 

 

 

У^(е —?)2 = ^ ( X f —X)2. Таким образом, в силу N7) и N8)

i = i

а »=1

имеем

N10) Случайные величины X и 5I”_1(Xi —X )2 независимы.

N11) Случайная величина ^ 5 3 ^ * ~ -^О2 имеет распределение

г=1

Х2(п - 1 ) .

Замечая, что V(e) = -4= и s/n

( X —m)

£".,(«-г)2

получаем следующее свойство:

528

Приложение МС

N12) Случайная величина

(X т)у/п

/ •' A £ T - i № - X ) 2

имеет распределение Стьюдента с п —1 степенями свободы. Свойства N10)-N12) широко используются в статистике при

построении интервальных оценок неизвестных параметров и про­ верке статистических гипотез.

Пусть я — «С — нормальный вектор, Бх = т х , Еу = т у , и

пусть матрица V(y) невырождена.

N13) Условное распределение х при условии у = у является нор­ мальным. При этом

Е(х | у = у) = Cov(x,y)[V(y)]-‘(y - т у) + т х .

Иными словами, функция регрессии х на у является линей­ ной.

5.Закон больших чисел. Центральная предельная теорема

Результаты, касающиеся асимптотического поведения последова­ тельностей случайных величин, в теории вероятностей принято называть предельными теоремами. Простейшими из них являют­ ся закон больших чисел (ЗБЧ) и центральная предельная теорема (ЦПТ). Введем необходимые понятия.

Определение

1.

Последовательность случайных величии Л ь

Лг,... сходится

почти наверное к случайной величине X

( Н т п_ о о Л п

= X

п.н.), если при каждой случайной реализации

и числовая последовательность Xi(w),X2(w),••• сходится к чис­ лу Л(ы).‘

‘В общепринятом определении требуется, чтобы сходимость имели место ие для каждой случайной реализации и, а для всех и» из множества полной вероятности. Однако определение этого понятия потребовало бы изложения более общей математической теории меры.

Теория вероятностей и математическая статистика

 

 

529

Определение 2.

Последовательность случайных

величин

Х \,

Х 2 , ■. • сходится

к случайной

величине X

по

вероятности

Х п = X , р = probability), если

 

 

 

 

 

lim Р(|ЛГ„ -

Х\ > е) = О

 

 

 

 

п—юо

 

 

 

 

 

 

для любого е > 0.

 

 

 

 

 

 

 

Определение 3.

Последовательность случайных

величин

Х \,

Хг,..., имеющих функции распределения FI (X ),F2 (X ),. .

схо­

дится по распределению к случайной величине X

с функцией

распределения F(x), (dlimn_ 00 Х п

= X)

или

Х п

— > X

(d =

distribution), если limn_ 00F„(a;)

=

F(x)

в каждой

точке х, где

функция F непрерывна.

Можно показать, что из сходимости почти наверное следует сходимость по вероятности, а из сходимости по вероятности сле­ дует сходимость по распределению. Кроме того, доказывается, что из последовательности, сходящейся по вероятности, можно извлечь подпоследовательность, сходящуюся почти наверное.

Приведем достаточно простую, по важную теорему.

Неравенство Чебышева. Пусть X — неотрицательная слу­ чайная величина. Тогда для любого числа с > 0 справедливо нера­ венство

Р (Х > с) ^

(МС.11)

Действительно, предполагая для простоты, что у случайной величины X есть плотность распределения р(х), имеем

г+оо г+оо г+оо

Е(Х) = / x p (x )d x ^ I

x p ( x ) d x ^ c l p{x)dx ^ сР(Х > с),

Jo

Jc

Jc

что эквивалентно (МС.11).

 

С ледст вие.

Д ля любой случайной величины Y и для любого

числа е > 0 справедливо неравенство

P (\ Y - Е(У)| > е) «

(МС.12)

530

Приложение МС

Действительно, полагая в (МС.11) X = (У — Е(У))2, с = е2 имеем:

Р(|У - ЕУ| > е) = Р((У - ЕУ)2 > £2) ^

Пусть X i, Х 2 , . . . — последовательность независимых одинако­ во распределенных случайных величин, E (X i) = m, V (X ,) = о 2. Обозначим

t=i

Закон больш их чисел в форме Чебышева. Имеет место равенство

 

 

 

 

plim —Sn = m.

 

 

 

 

n — 00 U

В

самом деле,

из

свойств Е1) и (МС.8) следует, что

Е ( V )

= т, v ( - S n\ = £ . i

\ п

}

\ п

/

п

У~ ^ п1получаем:

п

/

1 п

\

<т2

О при п —►оо

Р

- 5 „ —m

> е

} ^ —2

\

п

\ )

П£2

 

при любом е > 0.

С помощью более сложных рассуждений можно установить

более общий результат.

 

Усиленный закон больш их чисел.

Имеет место равенство

1 „

п.н.

шп —эп = т

п-*оо п

 

Введем случайную величину

 

Тп = Sn —mn

Oy/ii

 

Нетрудно проверить, что Е(Т„) =

0, V(Tn) = 1. Справедлив

следующий фундаментальный результат.

Ц ент ральная предельная теорема. Последовательность Г,,Т2>... сходится по распределению к стандартной нормальной