Добавил:

Upload Опубликованный материал нарушает ваши авторские права? Сообщите нам.

Вуз:

Уральский Федеральный университет им. Б.Н. Ельцина «УПИ»

Предмет:

[НЕСОРТИРОВАННОЕ]

Файл:

07_ПредТеор_Часть_4_2005

.pdf

Скачиваний:

Добавлен:

23.02.2015

Размер:

249.23 Кб

Скачать

☆

Лекция 7 ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ ТЕОРИИ ВЕРОЯТНОСТЕЙ

В лекции рассматриваются теоретические обоснования основных положений теории вероятностей (закон больших чисел) и объясняется широкое распространение нормального закона распределения (центральная предельная теорема).

7.1.Закон больших чисел (предельные теоремы теории вероятностей)

7.1.1.Неравенство Чебышева

7.1.2.Теорема Чебышева

7.1.3.Теорема Маркова

7.1.4.Теорема Бернулли

7.2.Центральная предельная теорема

7.2.1. Формула Муавра-Лапласа как частный случай центральной предельной теоремы

1.1.Закон больших чисел (предельные теоремы теории вероятностей)

На практике часто рассматривают случайные величины, являющиеся, в свою очередь, суммами большого числа случайных величин. Вычисления непосредственно вероятностей распределения представляют собой определенные трудности. Однако при очень большом числе случайных явлений средний их результат практически не является случайным и может быть предсказан с большой степенью определенности. Например, если в каждом опыте случайная величина X принимает некоторое значение, то при возрастании n→∞ среднее арифметическое наблюденных значений случайной величины X становится устойчивым (сходится) к математическому ожиданию случайной величины X. Условия, при которых совокупный результат воздействия случайных факторов практически перестает быть случайным, описываются в нескольких теоремах, которые носят общее название закона больших чисел.

ТЛемма. Пусть случайная величина неотрицательна, X ≥0, тогда

P(X ≥ε) ≤ Mε(X) .

Предельные теоремы теории вероятностей

Доказательство:

Рассмотрим случай непрерывной случайной величины. Ее плотность

0, x < 0,

распределения, т.к. X ≥ 0, имеет вид: f (x) =

f (x), x ≥ 0.

P(X ≥ε) = ∞∫ f (x)dx ≤ ∞∫				x	f (x)dx + ∫ε			x	f (x)dx =
P(X ≥ε) = ∞∫ f (x)dx ≤ ∞∫				ε	f (x)dx + ∫ε			ε	f (x)dx =
	ε		ε				0
1	∞	1	∞			M (X )				M (X )
ε	∫xf (x)dx =	ε	∫ xf (x)dx =			ε	,	P( X ≥ε) ≤		ε	.
	0		−∞

7.1.1. Неравенство Чебышева

Вероятность того, что отклонение случайной величины X от ее математического ожидания (среднего значения) по абсолютной величине меньше

положительного числа ε , не меньше, чем 1− Dε(X2 ) :

P( X −mx <ε)≥1− Dε(X2 ) .

!Часто используется другая форма высказывания: P ( X −mx ≥ε)≤ Dε( X2 ) .

Доказательство:

Применим результат леммы к величине X − mx :

P( X −mx ≥ε) = P((X − mx )2 ≥ε2 ) =

P(Y ≥ε

) ≤

M (Y )

M (( X − m

)2 )

D(X )

ε2

− D(X2

) ,

X − mx

<ε)+ P(

X − mx

≥ε)=1 P(

X −mx

<ε)≥1

что и требовалось доказать.

Пример:

Оценить сверху вероятность того, что случайная величина X отклонится от своего среднего не меньше, чем на 3σx.

Решение:

Используя неравенство Чебышева, получаем	P(	X −m	≥ 3σ		) ≤	σx	2	= 1	,
				x

		x				(3σx )2		9

т.е., иными словами, вероятность того, что случайная величина X отклонится от своего среднего больше, чем на 3σx , не превышает 19 .

Для любой случайной величины вероятность невыполнения «правила трех

Лекция 7

сигма» не превышает 19 . Это справедливо для случайных величин с любым

законом распределения. Для большинства случайных величин, встречающихся на практике, ошибка «правила трех сигма» существенно меньше. Рассмотрим примеры на применение неравенства Чебышева при ε = 3σx и

сравним точное значение P{	x −mx	≥ 3σx }	с его верхней оценкой	1 .
сравним точное значение P{	x −mx	≥ 3σx }	с его верхней оценкой	1 .
				9
				9

Пример:

Случайная величина X распределена по показательному закону с плотностью f (x)= λe−λx , x > 0.

Характеристики распределения mx =σx = λ1 , т.к. mx −3σx , то отклонение X

от mx, больше, чем на 3σx , возможно только в большую сторону. Таким образом,

P{X

> mx +3σx }= P X >

P X >

=1− F

=…

(функция распределения F (x)=1−e−λx )

−e

−

λ4

= e −4 ≈ 0,0183 , что значительно меньше чем

≈ 0,1111.

…=1− 1

Показательное распределение – неблагоприятное для применения «правила трех сигма»: почти 2% значений с.в. X выходят за пределы mx +3σx .

Пример:

С.в. X распределена по нормальному закону с параметрами m и σ . Вероятность того, что с.в. X попадет в интервал [α; β]:

					β −m		α −m
		P{α < X < β}=Ф				−Ф		,
		P{α < X < β}=Ф			σ	−Ф	σ	,
					σ		σ
	1	x	t
где Ф(x)=		∫e−		dt - функция Лапласа.
			2
	2π		2
	2π	0

Вычислим вероятность выполнения «правила трех сигма».

P{x −m > 3σ}=1− P{x −m < 3σ}=1− P{m −3σ < X < m +3σ}= =1−2Ф(3), Ф(3)≈ 0, 49865 .

Таким образом, P{x − m > 3σ}≈1 − 2 0,49865 = 0,0027 , т.е. ничтожная доля значений с.в. (< 0,3%) выходит за пределы интервала m ±3σx .

Для большинства с.в., встречающихся на практике, «правило трех сигма» выполняется с довольно высокой точностью.

Пример:

С.в. X распределена равномерно на отрезке [a;b]. Найдем вероятность того,

что в результате опыта она отклонится от своего среднего больше, чем на

3σx .

Предельные теоремы теории вероятностей

Среднее значение mx

b +a

, длины

отрезков [a;mx ] и [mx ;b] равны b −a

f (x)

равномерно распределенная по отрезку

b - a

[a;b] случайная величина не может

отклониться от среднего значения

m -

3s x

b m + 3s x

b +a больше, чем на b −a .

σx = b −a ; 3σx =

3(b −a)

3 (b −a)

Так как

(b −a) <

3 (b −a)

P (

X −mx

> 3σx )= 0 .

7.1.2. Теорема Чебышева

Как видно из примеров, неравенство Чебышева дает весьма грубую оценку вероятностей отклонений с.в., однако оно оказывается весьма полезным при доказательстве различных форм закона больших чисел, так как оно справедливо для любой случайной величины. Перейдем к конкретным формулировкам закона больших чисел. Для независимых с.в. справедлива следующая теорема (Чебышева).

ТЕсли случайные величины X1 ,X2 ,...,Xn ,...1) попарно независимы и 2) их дисперсии ограничены, D (Xi )≤ C , то, как бы мало ни было положительное число ε ,

	1	n		1	n
		n			n
		∑Xi	−		∑M (Xi )		=1.
lim P		∑Xi	−		∑M (Xi )	<ε	=1.
n→∞	n i=1			n i=1

Иными словами, среднее арифметическое значений независимых случайных величин X1 ,X2 ,...,Xn ,... по мере роста числа слагаемых все

меньше отклоняется от среднего арифметического их математических ожиданий.

Доказательство:

Из условий 1), 2) следует

	1	n
D		∑Xi	=

n i =1

1	n	1		C
	∑D (Xi )≤		nC =		.
2		2
n	i =1	n		n

76 Лекция 7

Рассмотрим:

− 1

∑Xi

∑mxi

<ε

n i=1

1 ∑Xi

∑Xi

∑mxi

n i=1

1− P

−

≥ε

≥1

−

≥1

−

n i=1

nε

Устремим n→∞, при этом

→ 0 , следовательно,

nε2

∑

− 1

∑

<ε

→1.

n→∞

СЕсли X1, X2, …, Xn – попарно независимые случайные величины, имеющие одно и то же математическое ожидание a, и дисперсии этих величин ограничены, то

	1	n	X		−a		=1.

lim		∑i=1		i		<ε
n→∞	n

Таким образом, сущностью теоремы Чебышева является тот факт, что хотя отдельные случайные величины могут иметь значительный разброс относительно своих математических ожиданий, их среднее арифметическое рассеяно мало.

7.1.3. Теорема Маркова

Закон больших чисел может быть распространен и на зависимые случайные величины. Его формулировка для этих условий содержится в следующей теореме (Маркова).

ТЕсли X1, X2,…, Xn – зависимые случайные величины и если при n → ∞

∑n

D i=1 Xi →0 ,

n2 n→∞

то среднее арифметическое наблюденных значений с.в. X1, X2,…, Xn сходится по вероятности к среднему значению их математических ожиданий,

	1	n		1	n		→n→∞	1.

P		∑Xi	−		∑M (Xi )	< ε
	n i=1			n i=1

Доказательство:

Предельные теоремы теории вероятностей			77
		Y = 1	n
Рассмотрим случайную величину			∑Xi ; ее дисперсия
D (Y )= 12		n i=1
		D ∑Xi .
		n
	n	i=1

Применим к величине Y неравенство Чебышева:

P (Y −my ≥ ε)≤ Dε(Y2 ).

Так как по условию D (Y )→0 , то при достаточно большом n

n→∞

P (Y −my ≥ ε)≤ δ ,

или, для противоположного события,

∑Xi

∑mxi

P (

Y −my

< ε)= P

i=1

−

i=1

< ε

>1−δ , ч.т.д.

7.1.4. Теорема Бернулли

Связь между относительной частотой события и его вероятностью дает следующая теорема (Бернулли).

Т	Пусть	m – число успехов события А в n независимых испытаниях;
	p = P	(A) – вероятность появления события А в однократном испыта-
	p = P	(A) – вероятность появления события А в однократном испыта-

нии, тогда при стремлении числа испытаний n→∞ частота события А сходится по вероятности к вероятности события А,

P	m	− p	< ε	→1	для любого ε >0.
P	m	− p	< ε	→1	для любого ε >0.
	n			n→∞

Доказательство:

Рассмотрим случайную величину Xi – число появлений события А в i-м испытании. Ее ряд распределения

X	0	1

P	1-p	p

78							Лекция 7
M (Xi )= p , D (Xi )= p (1− p)=	1	− p −	1	2	≤	1	.
M (Xi )= p , D (Xi )= p (1− p)=	4	− p −	2	2	≤	4	.
	4		2			4

Пусть m – число успехов в n испытаниях, m = ∑Xi ;

i−1

По теореме Чебышева

=1,

lim P

∑Xi

−

∑M (Xi )

<ε

n→∞

n i=1

или

lim P

− p

<ε

=1, ч.т.д.

n→∞

m = ∑i=1 Xi .

n n

7.2. Центральная предельная теорема

Рассмотренные формулировки закона больших чисел утверждали, что некоторые случайные величины сходятся по вероятности к определенным постоянным. Другая группа предельных теорем – центральная предельная теорема (ЦПТ) – устанавливает вид предельной функции распределения некоторой случайной величины, одновременно оговаривая условия примени-

мости. Приведем вначале простейший вариант ЦПТ.

ТПусть случайные величины X1 ,X2 ,...,Xn ,... независимы, имеют одинаковое распределение, конечные математическое ожидание M (Xi )= a и дисперсию D (Xi )=σ2 . Распределение стандартной (т.е., центрированной и нормированной) суммы этих величин Sn при n→∞ стремится к стандартному нормальному:

				∑Xi	− M ∑Xi	∑Xi −na
				n	n			n
			Sn =	i=1	i=1		=	i=1		,
			Sn =	D ∑Xi			=	σ		,
				D ∑Xi				σ	n
					n
					i=1
F	(x)= P (S	n	< x)→F (x,0,1),					F	(x,0,1)=
Sn		n		n→∞	N			N

1	x	t2
	∫ e−		dt .
		2
2π
	−∞

Этот факт выражают и иным способом: если задана последовательность с.в. X1 ,X 2 ,...,X n ,... с одинаковыми математическими ожиданиями и дис-

Предельные теоремы теории вероятностей

персиями, то последовательность частичных сумм этой последователь-

ности асимптотически нормальна.

Утверждение ЦПТ о сходимости функции распределения части частичных сумм справедливо и при более широких предположениях. Одно из обобщений, не требующее одинаковости слагаемых – теорема Ляпуно-

ва.

ТПусть – X1 ,X2 ,...,Xn ,... независимые случайные величины с математиче-

скими ожиданиями m1 = M (X1 ), m2 ,…, mn ,… и	дисперсиями
D1 = D (X1 ), D2 …, Dn ,…. Закон распределения суммы Yn	n
D1 = D (X1 ), D2 …, Dn ,…. Закон распределения суммы Yn	= ∑Xi неог-
	i=1

раниченно приближается к нормальному с математическим ожиданием

∑Mi

M =	i		и дисперсией
		n

bk =ν3 (Xk )= M (X k − mk 3 )

величины X k .

∑Di ∑bk

D =	i	, если	k =1
D =	n	, если		3
			n
			n		2
			∑Dk
			k =1

→0 , где

n→∞

– третий абсолютный центральный момент

!1). Для нормального закона плотность и функция распределения имеют

	1		( x−a)2		x	1	x	( x−a)2
вид: f (x) =		e−		,	F (x) = ∫ f (x)dx =		∫e−		dx .
			2σ2					2σ2

	2πσ				−∞	2πσ −∞

2). Если для нормального закона a = 0 , распределение называют нормированным, если σ = 0 – центрированным. Нормированное и центрированное распределение называют стандартным.

				x2						x	x2
	f (x)=ϕ(x)=	1	e−			, F (x)= 12 +Ф(x)=			1	∫e−		dx ,
		1		2					1		2
		π		2					π		2
		2							2	−∞
			1		x		x2
где	Ф(x)=				∫e−			dx – функция Лапласа.
							2
			2π				2
			2π		0

7.2.1.Формула Муавра-Лапласа как частный случай центральной предельной теоремы

80 Лекция 7

Рассмотрим схему испытаний Бернулли: n – опытов, в каждом случае с вероятностью р может появиться событие А. Пусть Xi – случайная величина,

связанная с появлением				события А (индикатор события А):
Xi	0,	A не наступило,		n
Xi	=	A наступило,	Yn = ∑Xi – число появлений события А в n испы-
	1,	A наступило,		i

таниях. Величина Yn распределена по биномиальному закону, соответствующие вероятности Pn (m)=Cnm pmqn−m , m = 0,1,2,...,n . Среднее значение

M (Yn )= np , дисперсия D (Yn )= npq . Введем стандартную (центрированную и нормированную) случайную величину Zn = Yn npq−np . Проверим стандарт-

ность

(M (Zn )= 0,D (Zn )=1):

M (Z

)= M

Y −np

M (Yn )

− M (np)

np −np

= 0 ,

npq

− np

D(Yn )

npq

D(Z

)= D

=1.

npq

В соответствии с центральной предельной теоремой

→N

0,1

n→∞

( ), т.е.,

к нормальному распределению с mx			= 0 и σ =1, для которого плотность рас-
			f (x)=ϕ (x)=			1	e−	x2
пределения равна функции Гаусса						1		2 , а функция рас-
пределения равна функции Гаусса						2π		2 , а функция рас-
пределения выражается через функцию Лапласа						2π
пределения выражается через функцию Лапласа
		x		x2
F (x)=	1	∫ e−			dx = 12 +Ф(x).
	1			2
	π			2
	2	−∞

Найдем вероятность того, что в серии из n опытов число успехов m будет

лежать между k1

и k2 :

≤ m ≤ k

)= P(k

− np ≤ m − np ≤ k

−np

≤

m − np

≤

− np

− np)= P

npq

Предельные теоремы теории вероятностей

События, стоящие в аргументах вероятностей, равносильны, в последнем

стоят значения стандартной случайной величины

= Yn −np .

Считая, что

FZn (x)≈ FN (x),

npq

−np

k −np

≤

= FZ

− FZ

≈

npq

−np

≈ FN

− FN

=Ф

−Ф

npq

т.е. получена интегральная теорема Муавра-Лапласа.

На практике судят о замене биномиального распределение нормальным по выполнению критериев:

np −3 npq > 0, np + 3 npq < n .

Если они выполнены, замена правомерна.

Пример:

Станок с ЧПУ делает за смену n =1000 изделий, из которых 2% дефектов. Найти вероятность того, что за станком будет изготовлено не менее 970 не дефектных изделий.

Решение: p = 0,98 – вероятность изготовления доброкачественных изделий, Y – число нормальных изделий, n=1000;

Проверка условий: M (Y )= np = 980 ; σy =σ [Y ] = npq = 4.43 ,

np −3σy > 0 , np +3σy <1000 .

Пользоваться можно.

f(Y ≥970)= P(970 ≤Y < +∞)=Φ(∞)−Φ 970 −980 = 0,988 .

4,43

Соседние файлы в папке Лекции _4_сем pdf

#
23.02.2015109.97 Кб3300_Оглавление_с_ном.pdf
#
23.02.2015364.72 Кб3601_02_Сл_соб_Часть_1_2005.pdf
#
23.02.2015461.5 Кб3303_05_Сл_вел_Часть_2_2005.pdf
#
23.02.2015341.19 Кб3406_Системы_Сл_Вел_Часть_3_2005.pdf
#
23.02.2015249.23 Кб3407_ПредТеор_Часть_4_2005.pdf
#
23.02.2015263.64 Кб3808_Мат_Стат_Выборки.pdf
#
23.02.2015331.75 Кб3409_10_Оценки_пар.pdf
#
23.02.2015359.28 Кб3511_12_Проверка_стат_гипотез.pdf
#
23.02.2015303.9 Кб3413_14_Корр_и_регр_анализ.pdf
#
23.02.2015293.16 Кб3515_16 _Дисп_анализ.pdf