книги / Эконометрика. Начальный курс
.pdfТеория вероятностей и математическая статистика |
521 |
|
Нетрудно проверить, что |
|
|
Е х2 = п, |
V(*2) = 2 n . |
|
8. Распределение Стьюдента |
(t-распределение). |
Пусть £o,£i, |
...,£„ — независимые стандартные нормальные случайные вели чины. Распределение случайной величины
t(n) =
называется распределением Стыодента или t-распределением с п степенями свободы. Плотность распределения величины i(n) задается формулой
р(х) = Г((п+1)/2) / |
п ) |
|
(птг)1/2Г(п/2) \ |
||
При n = 1 соответствующее распределение называют распре |
||
делением Коши. |
|
|
Можно показать, что при п > 2 |
|
|
Et(n) = 0, |
V(i(n)) = |
|
9. Распределение Фишера |
(F -распределение). Пусть £ i,...,£ m, |
щ , ... ,t]n — совокупность независимых стандартных нормальных случайных величин. Распределение случайной величины
jF(m, п) |
£ Е™ , £i |
^ Х 2(т) |
|
п ЕГ=1 vi |
М * > |
||
|
называется распределением Фишера или F -распределением с
(т,п ) степенями свободы. Плотность распределения величины F(m, п) задается формулой
Г[(тп + п)/2]тпт /2пп/2 |
|
д.т/2—1 |
||
~ |
Г(т/2)Г(п/2) |
( ш |
+ п ) ^ ) / * ’ |
|
р(х) = 0, |
х ^ 0. |
|
|
|
Можно показать, что при п > 4 |
|
|
||
ЕF ( m |
, « ) ^ , V(F(m ,n)) = |
2n2(m + n —2) |
||
|
|
|
|
m(n - 4)(n - 2)2' |
522 |
Приложение МС |
Распределения х2, Стьюдента и Фишера примеияются в ста тистике при построении доверительных интервалов для оценива емых параметров и при проверке гипотез.
В некоторых областях математической и прикладной стати стики используются нецентральные аналоги распределений х2» Стьюдента и Фишера.
10. Нецентральное х2-распределение. Пусть Х \ , . . . , Х п — неза висимые нормальные случайные величины: Xi ~ N(mi, 1). Тогда говорят, что случайная величина У = X2 4-... + X 2 имеет нецен тральное ^-распределение. Это распределение зависит только от двух параметров- п — число степеней свободы и А = тн2 — параметр сдвига (параметр нецептральности). Это распределение обозначается х2(я>А).
Покажем, что распределение х2(п>^) действительно зависит только от двух параметров. Обозначим через m = (mi, . . . , m,,)' — вектор средних значений и через ||тп|| — его длину. Пусть Q — ор тогональная матрица, у которой первая строчка является векто ром т'/ЦтпЦ, а остальные дополняют вектор тп'/ЦтЦ до оргонормированного базиса. Обозначим вектор, состоящий из случайных величин Xi, через х = (Х \ , . .. , Х п)', и пусть z = Q x его линейное преобразование; z — {Zi , . .. , Zn)'. В силу ортогональности матри цы Q имеем У = X *+.. .+Х 2 = ||*||2 = ||*||2 = Z$+.. .+Z2. В силу (приложение МС, н.4, N5) получаем, что Z \, ... ,Zn — независи мые нормальные случайные величины, такие что Z\ ~ N (||m ||,l) и Zi ~ N(0,1), г = 2,...,п . Отсюда следует, что распределение зависит только от ||т ||.
Нетрудно видеть, что при А = 0 нецентральное распределение Х 2( п , А) совпадает с распределением х2(п)-
Распределение х2(п >А) обладает следующими свойствами:
1)Пусть У ,Уг — две независимых случайных величины с рас пределениями У ~ Х2(га»,Aj), г = 1,2, тогда случайная вели чина У = У + Уг имеет тоже нецентральное х2-распределение:
У~ Х2(п>^)» где А = Ai + А2 и п = пх + «2-
2)Пусть У ~ х2(п»А), тогда Е(У) = п + Аи У(У) = 2n + 4А.
Теория вероятностей и математическая статистика |
523 |
||||
3) Плотность распределения x2(n>А) задается формулой |
|||||
/ ч |
f |
х \ |
( х \ |
/2_1 \T 'X i |
1 |
р(х) = е х |
р |
J ехр( - - ) |
E i i # |
r« + n/2) |
|
при х > 0 и р(х) = 0 при х ^ 0. |
|
|
|||
11. Нецентральное распределение Стыодента. |
Нецентральным |
распределением Стыодента с п степенями свободы и параметром сдвига т называется распределение случайной величины
ч/ f W
где случайные величины X и У независимы и имеют распределе ния соответственно N(m, 1) и х2(п)-
Плотность нецентрального распределения Стыодента задается
следующей формулой: |
|
|
|
|
|
|
пп/2 |
ехр(—тп2/2) |
|
|
|
|
|
р(х) = Г(п/2)Г(1/2) (п + т2)(«+1)/2 |
|
|
|
|
||
|
0° |
/ + г + 1 \ |
/ |
2х2 \ |
i/2 |
|
|
|
|
) г! |
\ п |
+ х 2) |
(signor)1. |
|
1=0 |
4 |
|
|||
|
|
|
|
|
||
12. Нецентральное распределение Фишера. |
Нецентральным рас |
пределением Фишера ^(пьПз.АьАз) со степенями свободы щ и П2 и параметрами сдвига Ai и А2 называется распределение слу чайной величины
У2/п 2'
где Yi и Y2 — независимые случайные величины с распределени ями соответственно x2(ni,Ai) и x2(n2iА2).
Обычно в приложениях используется распределение с А2 = 0. При «1 > 4 математическое ожидание и дисперсия распределения jP(nj, «2, Aj,0) равны:
E(Z) = та2(щ + AQ
гц(п2 - |
2) ’ |
\r/>7 \ _ o { n2\ 2 |
(n i + ^O2 + (n i + 2Aj)(n2 - 2) |
V(Z) 2 U J |
--------- - 2 ) ^ - 4 ) -------------- |
Теория вероятностей и математическая статистика |
525 |
N4) Если z — х — нормальный вектор и его компоненты х и
У
у некоррелированы, то они независимы.
N5) Пусть В: Rn —>Rk — линейное преобразование простран ства Д* в Rk, В — его матрица и I — произвольный вектор в Rk. Тогда если х ~ N (m , Е), то случайный вектор у — Вх+1 является нормальным с параметрами Вт + 1 и B S B '. (Преобразование пространства Д” в R k вида у — В х +l, яв ляющееся композицией линейного преобразования В и па раллельного переноса на вектор I, называется аффинным преобразованием.)
В частности,
а) линейная комбинация компонент гауссовского вектора есть гауссовская случайная величина;
б) ортогональное линейное преобразование стандартного нормального вектора есть стандартный нормальный вектор.
Пусть х ~ ^ (m , Е). Поскольку матрица Е симметрична и неотрицательно определена, то, как известно (приложение ЛА, п. 15), все ее собственные значения А», г = 1 ,..., п, неотрицатель ны и существует ортогональная матрица Р , такая что Л = Р 'Е Р , где Л — диагональная матрица, на главной диагонали которой стоят числа А*, ъ = 1,..., п. Тогда вектор з = Р 'х —Р 'т в си лу N5) является гауссовским, а из (МС.7) следует, что Es = 0 и V(s) = Л. Это означает, что компоненты вектора s некоррелиро ваны, а в силу N4) и независимы. Таким образом,
х = P s + m ,
где матрица Р ортогональна, а вектор s имеет1пулевое среднее и независимые компоненты. Обозначим через Л 1/2 диагональную матрицу, полученную из Л извлечением квадратных корней из ее элементов, и пусть е — стандартный нормальный вектор. Тогда, вновь используя (МС.7), получаем, что вектор у = Р А 1/2е + т имеет среднее т и матрицу ковариаций Е, т. е. совпадает по рас пределению с вектором х. Итак,
526 |
Приложение МС |
N6) Любой гауссовский вектор может быть получен аффинным преобразованием из стандартного гауссовского вектора и ор тогональным аффинным преобразованием из вектора с неза висимыми компонентами.
Из (МС.9) и N4) вытекает следующее свойство:
N7) Пусть е — стандартный n-мерный нормальный вектор и
х = А е + а , у = B e + Ь, где А: Л” —►ДО, В : Rn —* R? —
некоторые линейные преобразования и а € ДО, Ь € ДО — про извольные (неслучайные) векторы. Тогда Cov(x, у) = А В ', в частности, векторы х и у независимы тогда и только тогда, когда А В ' = О.
Пусть М — идемпотентная п х п матрица, rank(M ) = г (см. приложение ЛА, п. 16), a s - стандартный n-мерный гауссовский вектор. Как известно (см. приложение ЛА, п. 13, п. 16), матрицу М можно представить в виде М = (УАО, где О — ортогональная матрица, а А — диагональная матрица, на главной диагонали ко торой расположены единицы и нули, причем число единиц равно рангу М . Рассмотрим случайную величину х2 = s'M e . Имеем
X2 = е'М е — е'О'АОе = (Ое)'АОе = s'As,
где в силу N5) вектор s является стандартным гауссовским векто ром. Отсюда следует, что х2 представляет сумму квадратов неза висимых стандартных нормальных случайных величии в количе стве, равном рангу матрицы М . Таким образом,
N8) Случайная величина х2 = е'М е имеет распределение х2(г)> где г = rank(M).
Аналогичным образом устанавливается следующий резуль тат.
N9) Пусть х ~ N (m , Е) и п х п матрица Е невырождена. Тогда случайная величина (х —т ) /Е -1(х —т ) имеет распределе ние х2{п).
528 |
Приложение МС |
N12) Случайная величина
(X —т)у/п
/ •' A £ T - i № - X ) 2
имеет распределение Стьюдента с п —1 степенями свободы. Свойства N10)-N12) широко используются в статистике при
построении интервальных оценок неизвестных параметров и про верке статистических гипотез.
Пусть я — «С — нормальный вектор, Бх = т х , Еу = т у , и
пусть матрица V(y) невырождена.
N13) Условное распределение х при условии у = у является нор мальным. При этом
Е(х | у = у) = Cov(x,y)[V(y)]-‘(y - т у) + т х .
Иными словами, функция регрессии х на у является линей ной.
5.Закон больших чисел. Центральная предельная теорема
Результаты, касающиеся асимптотического поведения последова тельностей случайных величин, в теории вероятностей принято называть предельными теоремами. Простейшими из них являют ся закон больших чисел (ЗБЧ) и центральная предельная теорема (ЦПТ). Введем необходимые понятия.
Определение |
1. |
Последовательность случайных величии Л ь |
Лг,... сходится |
почти наверное к случайной величине X |
|
( Н т п_ о о Л п |
= X |
п.н.), если при каждой случайной реализации |
и числовая последовательность Xi(w),X2(w),••• сходится к чис лу Л(ы).‘
‘В общепринятом определении требуется, чтобы сходимость имели место ие для каждой случайной реализации и, а для всех и» из множества полной вероятности. Однако определение этого понятия потребовало бы изложения более общей математической теории меры.
530 |
Приложение МС |
Действительно, полагая в (МС.11) X = (У — Е(У))2, с = е2 имеем:
Р(|У - ЕУ| > е) = Р((У - ЕУ)2 > £2) ^
Пусть X i, Х 2 , . . . — последовательность независимых одинако во распределенных случайных величин, E (X i) = m, V (X ,) = о 2. Обозначим
t=i
Закон больш их чисел в форме Чебышева. Имеет место равенство
|
|
|
|
plim —Sn = m. |
|
|
|
|
n — 00 U |
В |
самом деле, |
из |
свойств Е1) и (МС.8) следует, что |
|
Е ( V ) |
= т, v ( - S n\ = £ . i |
|||
\ п |
} |
\ п |
/ |
п |
У— ~ ^ п1получаем:
п
/ |
1 п |
\ |
<т2 |
О при п —►оо |
Р |
- 5 „ —m |
> е |
} ^ —2 |
|
\ |
п |
\ ) |
П£2 |
|
при любом е > 0.
С помощью более сложных рассуждений можно установить
более общий результат. |
|
Усиленный закон больш их чисел. |
Имеет место равенство |
1 „ |
п.н. |
шп —эп = т |
|
п-*оо п |
|
Введем случайную величину |
|
Тп = Sn —mn |
|
Oy/ii |
|
Нетрудно проверить, что Е(Т„) = |
0, V(Tn) = 1. Справедлив |
следующий фундаментальный результат.
Ц ент ральная предельная теорема. Последовательность Г,,Т2>... сходится по распределению к стандартной нормальной