- •Глава 1 Случайные события
- •1.1. Вводные понятия
- •1.2. Алгебра событий
- •1.4. Схема геометрической вероятности
- •1.5. Условные вероятности. Независимость событий
- •1.6. Правила вычисления вероятностей сложных событий
- •1.8. Обобщения схемы Бернулли
- •Глава 2 Случайные величины
- •2.1. Основные понятия, связанные со случайной величиной
- •2.3. Закон распределения случайной величины дискретного типа
- •2.5. Случайные величины непрерывного типа и их законы распределения
- •2.7. Нормальное распределение
- •Глава 3Случайные векторы
- •3.1. Основные понятия. Свойства функции распределения
- •3.2. Случайные векторы дискретного типа и их законы распределения
- •3.4. Числовые характеристики случайного вектора дискретного типа
- •3.5. Случайные векторы непрерывного типа и их законы распределения
- •Глава 4. Функции от случайных величин
- •4.1. Теоремы о математическом ожидании функций
- •4.3. Характеристическая функция и ее свойства
- •4.4. Законы распределения функций
- •Глава 5 Законы больших чисел и предельные теоремы теории вероятностей
- •5.1. Законы больших чисел
- •5.2. Центральная предельная теорема
- •5.3. Следствия ЦПТ для схемы Бернулли
- •Глава 6. Статистическое оценивание
- •6.1. Первичная обработка выборки
- •6.2. Точечное оценивание неизвестных характеристик генерального
- •6.4. Интервальное оценивание
- •Глава 7.Проверка статистических гипотез
- •7.1. Общие понятия. Методика проверки
- •7.2. Выбор критической области
- •7.4. Проверка гипотез о законе распределения
- •Глава 8.Корреляционный анализ
- •Глава 9Регрессионный анализ
- •Глава 10.Однофакторный дисперсионный анализ
- •Литература
5.2. Центральная предельная теорема
Теорема 5.1. (ЦПТ). Пусть для последовательности случайных величин Х1, Х2,.., Хn выполняются условия:
1)при любых n случайные величины Х1, Х2,.., Хn независимы в совокупности;
2)одинаково распределены;
3)существует M[X k 2 ] .
Обозначим:
n |
o |
o |
|
Y n , |
|||
Yn = ∑X k ; Y n = Yn − M [Yn ]; Zn = |
|||
k =1 |
|
σ n |
|
где σ2 = D[X k ], k N.
−t 2
Тогда lim EZ (t) = e 2 . n→∞ n
Заметим, что из утверждения теоремы согласно свойству 6) характеристической функции следует, что предельным законом для Zn при n → ∞ является нормальный. Из условия 3) следует, что существует
M [Xk ]= m , D[Xk ]= σ2 . |
Проверим, |
что |
|
Zn |
- |
стандартизованная слу- |
|||||||||||||||||
чайная величина. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
o |
|
|
|
|
|
|
o |
|
|
|
|
|
Действительно, |
M [Z |
|
]= M |
Y n |
|
= |
|
1 |
|
= 0, |
|
|
|||||||||||
n |
|
|
M Y n |
|
|
||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
σ |
|
n |
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
σ n |
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
o |
|
|
1 |
|
|
o |
|
1 |
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
Y n |
|
|
|
|
|
|
|
|
|
|
|
|||||||||
D[Zn ]= D |
σ |
n |
= |
σ2 |
D Y n |
= σ2 |
|
D ∑X k |
= |
|
|
|
|
|
|||||||||
|
|
|
|
|
n |
|
|
|
|
|
|
n |
k =1 |
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
X |
|
независимывсовокупности |
|
1 |
|
n |
|
|
|
n σ2 |
|||||||||||||
k |
|
|
∑D[X k |
]= |
|||||||||||||||||||
= |
|
|
|
|
|
|
|
|
|
|
|
= |
|
|
|
|
|
=1. |
|||||
|
|
|
|
|
|
|
|
|
|
σ |
2 |
|
n σ |
2 |
|||||||||
попарнонекоррелированы |
|
|
|
|
n k =1 |
|
|
|
|
|
|||||||||||||
Построим характеристическую функцию EZn (t) |
по этапам: |
||||||||||||||||||||||
|
|
|
|
|
|
E o (t) Eo (t) EZ n (t). |
|
|
|
|
|
||||||||||||
|
|
|
|
|
|
X k |
|
|
Y n |
|
|
|
|
|
|
|
|
|
|
|
|
||
Заметим, что
84
o |
|
|
n |
|
n |
|
|
|
|
|
|
n |
|
|
|
n o |
|
|
|
|||
Y n = Yn − M [Yn ]= ∑X k − M ∑X k |
= ∑(X k − M [X k ]) =∑X k . |
|
||||||||||||||||||||
|
|
k =1 |
|
k =1 |
|
|
|
k =1 |
|
|
|
k =1 |
|
|
|
|||||||
|
I этап. Ищем E o |
(t) . Таккак по условию3) существует M[ |
|
X k |
|
2 ] |
||||||||||||||||
|
|
|
||||||||||||||||||||
|
|
X k |
|
|
|
|
|
|
|
|
|
|
|
|
|
E' o |
|
(t) |
|
|||
по свойству 4) характеристической функции существует |
|
и |
||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
X k |
|
|
|
E'' o |
(t) . Разложим функцию E o |
(t) в ряд Тейлора до членов второго |
||||||||||||||||||||
X k |
|
|
|
X k |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
порядка включительно с остаточным членом в форме Пеано: |
|
|
|
|
|
|
||||||||||||||||
|
|
|
|
|
E' o |
(0) |
|
|
|
|
E'' o |
|
(0) |
|
|
|
|
|
|
|
||
|
E o (t) = E o (0) + |
X k |
|
|
|
|
t + |
X k |
|
t 2 + о(t 2 ), |
|
|
|
(5.2) |
||||||||
|
1! |
|
|
|
|
2! |
|
|
|
|
||||||||||||
E o |
X k |
|
X k |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
(0) =1 (по свойству 1) характеристической функции). |
|
|
|
|
|
|
||||||||||||||||
X k |
Далее согласно свойству 2) характеристической функции |
|
|
|
|
|
|
|||||||||||||||
|
|
|
|
|
|
|
||||||||||||||||
|
|
E' o |
(0) = i α1 |
= i M |
o |
|
= 0; |
|
|
|
|
|
|
|||||||||
|
|
X k |
|
|
|
|
|
|
|
|||||||||||||
|
|
|
X k |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
(0) = i2 α2 = i2 M |
o |
2 |
= i2 |
D[X k ]= −σ2. |
|
|
|
|
|
|
||||||||||
|
E'' o |
X k |
|
|
|
|
|
|
||||||||||||||
|
X k |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Подставим найденные значения производных в (5.2): |
|
|
|
|
|
|
|||||||||||||||
|
|
|
E o |
(t) =1− |
1 |
σ |
2 |
t |
2 |
+ о(t |
2 |
). |
|
|
|
|
(5.3) |
|||||
|
|
|
2 |
|
|
|
|
|
|
|
|
|
||||||||||
|
|
|
X k |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
o |
n |
o |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
II этап. Так как Y n |
= ∑X k |
{по свойству 3) характеристиче- |
|||||||||||||||||||
|
|
|
|
k =1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
ской |
функции} |
|
Eo |
(t) = ∏E o |
|
|
|
|
(t) = |
{по формуле |
(5.3)} |
= |
||||||||||
|
|
|
Y n |
k =1 |
|
X k |
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
=1 − 1 σ2t2 + о(t2 ) n.2
85
|
|
III |
этап. EZn (t) = {по свойству 2) характеристической функции} = |
|||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
t |
|
|
2 |
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
2 |
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
t |
|
|
t |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||
= |
Eo |
|
|
|
|
|
|
|
= |
1− |
|
+ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
о |
|
2 |
|
|
. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||
|
|
|
σ n |
|
|
|
|
|
|
|
|
2n |
|
|
|
σ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
|
Y n |
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Итак, |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
t |
2 |
|
|
|
|
|
|
t |
2 |
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
t |
2 |
|
|
|
|
|
|
|
t |
2 |
|
|
|||||||||
EZn (t) = 1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
− |
2n |
+ |
о |
2 |
|
|
|
|
ln(EZn (t) |
= n ln |
|
1 |
− |
2n |
+ о |
|
|
2 |
|
|
|
|
= |
|||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
σ |
|
|
|
||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
σ |
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
||||||||||
|
|
|
|
|
|
|
|
ε |
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
t |
2 |
|
|
|
|
t |
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
= { ln(1+ ε) = ε − |
|
|
|
+... , ε |
|
- малое} = n − |
|
+ |
о |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||
2 |
|
|
|
2n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
σ2 n |
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
t |
2 |
|
|
|
|
t |
2 |
|
|
|
|
|
t |
2 |
|
|
|
|
|
|
|
|
|
|
|
|
t |
2 |
|
|
|
|
|
t |
2 |
|
||||||
|
|
|
|
|
|
|
|
lim − |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||
lim ln EZn (t) = |
|
2 |
+ n о |
|
σ2n |
|
= − |
|
|
2 |
|
+ lim |
|
n |
о |
|
σ2n |
= − |
2 |
. |
||||||||||||||||||||||||||||||||||||||
n→∞ |
|
|
|
|
|
|
n |
→∞ |
|
|
|
|
|
|
|
|
|
|
|
|
n |
→∞ |
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
Замечание. Здесь дана одна из простейших формулировок центральной предельной теоремы. Все более поздние формулировки связаны с устранением пункта 2), из-за чего усложняется условие 3). Чаще всего оно формулируется в виде условия Линдеберга (гарантирует, что все слагаемые Хк вносятравномерномалыйвкладвобщуюдисперсию) [3, 4].
Центральная предельная теорема играет большую роль в приложениях теории вероятностей. Одним из характерных примеров применения этой теоремы на практике является баллистика, изучающая явления рассеивания снарядов при стрельбе по цели.
На траекторию полета снаряда действует множество независимых факторов: колебания атмосферного давления, влажности, температуры, отклонения величины заряда и веса снаряда от номинала, ошибка прицеливания, сила ветра на различных высотах и т.д. Результатом этих многочисленных воздействий, каждое из которых вносит свой равномерно малый вклад в общую сумму (ограниченность дисперсий!), является то, что отклонение точки попадания от цели хорошо описывается двумерным нормальным законом распределения.
Другим примером применения центральной предельной теоремы является теория и практика измерений. Всякое измерение неизбежно сопряжено с погрешностями. Реально наблюдаемая погрешность измерения является суммой элементарных погрешностей, вызванных много-
86
численнымифакторами, каждый из которых лишьнезначительно влияет на результат. В силу центральной предельной теоремы результирующая погрешность должна быть приближенно нормальной. Практика подтверждает это положение.
5.3. Следствия ЦПТ для схемы Бернулли
n
Пусть Yn ~B(n,p). Известно, что Yn = ∑Ik , где Ik ~B(l,p) - индика-
k =1
тор успеха в n опытах по схеме Бернулли. Легко видеть, что последовательность I1,I2,… удовлетворяет условиям ЦПТ. Отсюда следует, что стандартизованная сумма
|
|
|
o |
|
|
o |
|
|
|
|
|
|
Zn = |
|
Y n |
= |
|
Y n |
~ |
|
N (0,1). |
|
|
|
|
|
D[Y } |
|
|
npq n→∞ |
|
|
|
||
|
|
|
n |
|
|
|
|
|
|
|
|
Поэтому при достаточно больших n |
|
|
|
|
|
|
|||||
P{m ≤Y ≤ m |
|
}≈ Ф |
m |
2 |
−n p |
− |
m −n p |
||||
2 |
|
|
|
Ф |
1 |
. |
|||||
1 |
n |
|
|
|
npq |
|
|
|
npq |
|
|
|
|
|
|
|
|
|
|
|
|
||
Возникает вопрос: какая ошибка при этом совершается? Уточнение ЦПТ для конечных n приводит к следующей оценке абсолютной ошибки при замене FZn(x) на Ф(x) при конечных n (известной в литературе как неравенство Берри-Эссена [3]):
|
|
|
|
FZn (x) − Ф(x) |
|
≤ C |
M[| X k − M [X k ]|3] |
. |
(5.4) |
|||
|
|
|
|
|
||||||||
|
|
|
|
|
( D[X k ])3 n |
|||||||
|
|
|
|
|
|
|
||||||
Известно, что 1 |
< C < 0,7655. |
|
|
|||||||||
|
|
|
|
2π |
|
|
|
|
|
|
|
|
Применим оценку (5.4) для схемы Бернулли. Роль Хk выполняют Ik. |
||||||||||||
Вычислим |
M[ |
|
X k − M[X k ] |
3 |
) |
(абсолютный центральный момент |
||||||
|
|
] = µ3 |
||||||||||
третьего порядка).
87
Используя закон распределения Ik:
Ik |
0 |
1 |
p |
q |
p |
находим
M [Ik ]= p, D[Ik ]= q p;
M[ X k − M[X k ]3 ] = M[ Ik − p 3]
Оценим правую часть в (5.4):
|
) |
|
p |
q ( p2 + q2 ) |
C |
µ3 |
= C |
||
σ3 n |
( |
p q )3 n |
Отсюда следует:
P{m1 ≤ Yn ≤ m2}= Ф m2 − n p −Ф
n p q
= p3q + q3 p = p q( p2 + q2 ).
|
|
|
( p2 + q2 ) |
|
C |
|
|
|
|
= C |
|
|
= |
1 |
|
|
|
||
p q n |
p q n . |
|
|
||||||
|
m |
− n p |
|
|
1 |
|
|
|
|
|
|
1 |
|
|
|
|
|
. |
(5.5) |
|
|
|
+ О |
|
|
||||
|
|
|
|
|
|
|
|||
|
|
n p q |
|
|
n p q |
|
|
||
Равенство (5.5) составляет содержание так называемой интегральной теоремы Муавра - Лапласа.
Наряду с этим выполняется локальная теорема Муавра - Лапласа
(приводим без доказательства):
P{Y |
= m}= |
1 |
− |
(m−np)2 |
|
1 |
|
|
|||||||
e |
2npq |
+ О |
. |
||||
n |
|
npq |
2π |
|
|
|
|
|
|
|
|
npq |
|||
Пример 4. Сделано 100 выстрелов с вероятностью попадания р = 0,3. Вычислить вероятность P{24 ≤ Yn ≤ 36}, где Yn = {число попаданий при
n = 100 выстрелов}.
Поскольку npq = 100 0,3 0,7 = 21 >> 1, то можно применить интегральную теорему Муавра - Лапласа. При этом ошибка будет иметь
порядок ≈ 1 . Имеем
21 |
|
|
|
|
|
|
|
|
|
|
36 −30 |
|
|
24 −30 |
|
|
1 |
|
|
|
|
|
|
|
|
= |
|||
P{24 ≤ Yn ≤ 36}= Ф |
21 |
|
−Ф |
21 |
|
+ О |
21 |
|
|
|
|
|
|
|
|
|
|
6 |
|
|
1 |
|
|
|
|
|
|
≈ 2Ф (1,31) −1 ≈ 0,8098. |
||
= 2Ф |
21 |
|
−1+0 |
21 |
|
|
|
|
|
|
|
Точный ответ: 0,7578; относительная точность 7%. 
88
ВВЕДЕНИЕ В ТЕМУ"МАТЕМАТИЧЕСКАЯ СТАТИСТИКА"
Математическая статистика - раздел высшей математики, родственный теории вероятностей, разрабатывающий методы систематизации, обработки и анализа экспериментальных данных с целью получения объективных выводов о свойствах измеряемой случайной величины. Решаемые в рамках математической статистики задачи основываются на правилах и методах теории вероятностей, но имеют свою специфику и методологию. В некотором смысле математическая статистика решает задачи, обратные задачам теории вероятностей: она уточняет (или выявляет) структурувероятностныхмоделейреальных экспериментов.
Прежде чем ознакомиться с основными задачами математической статистики, дадим определение нескольких важных понятий, относящихся к выборке.
Определение 1. Генеральной совокупностью (генеральной случай-
ной величиной) называется исследуемая случайная величина (Х - ГСВ).
Определение 2. Выборка из генеральной совокупности объема n -
это n измеренных значений случайной величины Х, записанных в порядке поступления этих измерений (обозначается x1, x2, x3,…, xn).
Определение 3. Выборка апостериори - выборка после того, как она получена; ряд конкретных чисел x1, x2,…,xn.
Определение 4. Выборка априори - n случайных величин, одинаково распределенных и независимых в совокупности.
Определение 5. Выборочный вектор (X1,…,Xn) - n-мерный вектор,
у которого все компоненты одинаково распределены и независимы. Основные задачи математической статистики:
1)предварительная обработка выборки;
2)задача оценивания по выборке неизвестных характеристик генерального, включающая:
- точечное оценивание; - интервальное оценивание;
3)корреляционный и регрессионный анализ - исследование стохастической зависимости между случайными величинами;
4)проверка статистических гипотез;
5)дисперсионный анализ - исследование влияния отдельных факторов на результат эксперимента.
89
