Добавил:

Upload Опубликованный материал нарушает ваши авторские права? Сообщите нам.

Вуз:

Донецкий национальный университет

Предмет:

[НЕСОРТИРОВАННОЕ]

Файл:

Лекции по ТВ и МС(ч.1)

.pdf

Скачиваний:

Добавлен:

13.04.2015

Размер:

3.56 Mб

Скачать

☆

<<< < Предыдущая 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 1718 / 1918 19 > Следующая >>>

Лекция № 17

Закон больших чисел

Втеории функций А.Я. Хинчин одновременно с Данжуа создал теорию аппроксимативных производных и обобщил понятие интеграла.

Втеории чисел А.Я. Хинчину принадлежат работы по метрической теории чисел и теории диофантовых приближений. Хорошо известны фундаментальные теоремы Хинчина, относящиеся к проблеме приближения действительных чисел рациональными числами.

А.Я. Хинчин является одним из создателей Московской школы теории вероятностей, исследования которой базируются на понятиях метрической теории функций, разработанной Н.Н. Лузиным и его учениками. Хинчиным получены важные результаты в области предельных теорем, открыт закон повторного логарифма. Он является создателем теории случайных процессов (совместно с А.Н. Колмогоровым) и теории массового обслуживания.

Методы и результаты теории вероятностей А.Я. Хинчин использовал в качестве математического аппарата статистической физики. Он ввел и разработал понятие о стационарных случайных процессах, которые представляют особый интерес для статистической физики.

А.Я. Хинчин был блестящим лектором. Он обладал талантом излагать самые сложные вопросы таким образом, что они становились понятными во всех деталях и хорошо усваивались слушателями. В своих лекциях он всегда освещал значение рассматриваемых проблем не только для читаемого курса, но и для математики в целом, и для естествознания. Наука и преподавание были для него неразрывны. Б.В. Гнеденко, рассказывая о курсах, которые читал Хинчин, отмечал: "И каждый раз на базе прочитанного писалась небольшая монография. Монографии писались параллельно чтению лекций, лекции служили как бы способом оценки правильности избранной системы изложения". А.Я. Хинчин воспитал большое число учеников, внесших значительный вклад в математику. Его учениками являются, в частности, А.О. Гельфонд и Б.В. Гнеденко.

Многое внимания уделял А.Я. Хинчин и преподаванию начального курса математического анализа. Здесь он придерживался принципов, в соответствии с которыми изложение следует вести на вполне современном научном уровне, но в то же самое время курс должен быть доступен рядовому студенту, по краткости и простоте изложения материал должен быть строго ограничен обязательными для каждого изучающего рамками программы. Эти идеи он блестяще реализовал в своем "Кратком курсе математического анализа", который вышел в свет в 1953 году. В предисловии к своему курсу А.Я. Хинчин писал: "…Все рассуждения в курсе доведены до мельчайших деталей, чтобы по возможности облегчить труд читателя. В особенности я не жалел слов на то, чтобы читателю в каждый момент была ясна закономерность того пути, по которому он идет. …Я стремился к тому, чтобы при введении новых понятий и построении новых теорий учащийся по возможности заранее был подготовлен воспринять эти нововведения как естественное и даже неизбежные. Я полагаю, что только этим путем можно добиться со стороны учащегося подлинного интереса к предмету и неформального его усвоения".

17.4. Теорема Маркова

Обобщение закона больших чисел для зависимых случайных величин был получено А.А. Марковым.

Если последовательность произвольных случайных величин {ξn }удовлетворяет условию

Теорема 17.4.

lim

∑ξk

= 0 ,

Теорема

→∞ n

k =1

Маркова

тогда для любого ε > 0 имеет место

−

Mξ

= 0 .

limP

∑k =1

> ε

n→∞

Доказательство. Рассмотрим случайную величину η =

1 ∑ξk , ее числовые

n k =1

характеристики

равны

Mη = M 1

∑ξk =

∑Mξk

Dη =

∑ξk .

n k =1

k =1

169

Закон больших чисел

Лекция № 17

Следовательно, на основании неравенства Чебышева имеем

1 n

∑ξk −

∑Mξk

> ε

≤

∑ξk .

n k =1

k =1

Откуда и следует утверждение теоремы.

МАРКОВ Андрей Андреевич (2(14).06.1856–20.07.1922) — русский математик, академик Петербургской АН (1890)

Родился в семье мелкого чиновника. Марков окончил Петербургский университет в 1878 г. С 1880 г. он - приват-доцент, с 1886 г. - профессор, а с 1905 г. — заслуженный профессор Петербургского университета.

Научные исследования Маркова тесно примыкают по своей тематике к работам старших представителей петербургской математической школы - П. Л. Чебышева, Е. И. Золотарева и А. Н. Коркина. Блестящих результатов в области теории чисел Марков достиг в магистерской диссертации "О бинарных квадратичных формах положительного определителя" (1880). Научное творчество Маркова весьма разнообразно, однако самые значительные его достижения принадлежат теории чисел и особенно теории вероятностей. Первые работы Маркова по теории вероятностей относятся к установлению наиболее общих условий, при которых имеет место закон больших чисел, и к доказательству центральной предельной теоремы теории вероятностей в очень широких условиях путем разложения в непрерывные дроби интеграла особого вида.

Исследования Маркова дали толчок к бурному развитию раздела теории вероятностей — теории марковских случайных процессов, играющей крупную роль в современной теоретической физике, а также в математическом оформлении многих технических и естественнонаучных теорий. Дальнейшие его работы по распространению основной предельной теоремы на последовательности зависимых величин привели к созданию теории цепей Маркова, которая позже нашла широкое приложение в работах М. Планка, А. Эйнштейна и других ученых.

Учебник Маркова "Исчисление вероятностей" (1900) оказал большое влияние на развитие этой науки, а по точности получаемых простыми средствами результатов представляет интерес до сих пор.

А. А. Марков был человеком с активной гражданской позицией. Когда Лев Толстой за свою деятельность был отлучён от православной церкви, Марков в письме к церковным властям тоже отрёкся от церкви. Он публично осуждал отказ царского правительства утвердить избрание А. М. Горького почетным членом Академии наук (1902) и отказался от получения пожалованных ему царских орденов (1903). Марков осуждал и разгон 2-й Государственной думы (1907), а также неоднократно выступал с протестами против мероприятий царского правительства и полиции по отношению к Университету и студентам. Одно время он даже был отставлен от должности профессора за эти выступления.

17.5. Метод Монте–Карло

Метод статистических испытаний или метод Монте– Карло — это численный метод решения математических Определение 17.1 задач, основанный на моделировании случайных величин или процессов с последующим построении статистических

оценок для искомых величин.

Наиболее простая схема метода Монте-Карло такова:

1.Для определения неизвестной величины a подыскивается случайная величина ξ, такая, что ее математическое ожидание Mξ = a .

170

Лекция № 17

Закон больших чисел

2.Генерируется последовательность реализации ξ1 ,ξ 2 ,K,ξN случайной величины ξ.

3.Если ξ1 ξ 2 ,K,ξN независимы, то при достаточно большом N по закону

больших чисел среднее арифметическое этих величин

(ξ +ξ

+L+ξ

)

будет приближенно равно а, вернее сказать, если ε >0 , то справедливо

1 N

∑ξk − a

> ε → 0 при N

→ ∞.

N k =1

Например, чтобы вычислить интеграл ∫g(x)dx , используя метод Монте–Карло

необходимо выполнить следующие шаги:

Генерируем

независимую

реализацию

ξ1 ,ξ 2 ,K,ξN

равномерно

распределенной на интервале [0;1] случайной величины ξ .

Полагаем

g(ξ1 )+K+ g(ξN )

∫g(x)dx ≈

Оценка погрешности вычисления а, в случае существования второго

центрального момента

Dξ =σ 2 ,

может получена

с помощью

неравенства

Чебышева и имеет вероятностный характер. Выберем некоторое достаточно

малое γ > 0 и положим ε =	σ		N	, тогда согласно неравенству Чебышева:
	γ
			1	N

P				∑ξk − Mξ	≤ ε	≥1−γ .	(17.1)

		N k =1

Таким образом, с вероятностью 1−γ среднее арифметическое независимых

реализаций ξ отличается от a не более чем на	σ	. При фиксированных γ и σ
	γ	N

−1

эта вероятность убывает со скоростью N 2 .

Но стоит заметить, что выражение (17.1), полученное на основании неравенства Чебышева, дает только верхнюю грань для погрешности.

171

Закон больших чисел

Лекция № 17

17.6. Рекомендуется изучить самостоятельно:

¾[2] – стр. 141 — 147;

¾[3] – стр. 184 — 195;

¾[5] – стр. 57 — 60.

17.7. Теоретические вопросы, выносимые на экзамен:

1.Закон больших чисел. Теорема Чебышева.

2.Закон больших чисел. Теорема Бернулли.

3.Закон больших чисел. Теоремы Хинчина и Маркова.

17.8. В результате успешного усвоения материала лекции студент должен знать:

9понятия:

¾закона больших чисел;

¾метода Монте–Карло;

9теоремы:

¾Чебышева;

¾Бернулли;

¾Хинчина;

¾Маркова;

уметь:

9доказывать теоремы:

¾Чебышева;

¾Бернулли;

¾Маркова;

9решать задачи, используя понятия:

¾закона больших чисел;

¾метода Монте–Карло.

17.9. Задачи и упражнения

1. Пусть {ξn } последовательность независимых случайных величин, причем,

172

Лекция № 17			Закон больших чисел
ξn принимает два значения − nα и nα	с вероятностями	1	. При каких значениях
		2

αк последовательности {ξn } применим закон больших чисел?

2.Пусть {ξn } — последовательность независимых одинаково

распределенных случайных величин: Mξk = a , Dξk =σ 2 , P{ξk = 0}= 0. Доказать,

что последовательность случайных величин

η	=		ξ1	+K+ξn
n			ξ2	+K+ξ2
		1		n

сходится по вероятности, и вычислить предел.

3. Пусть {ξn } — последовательность независимых равномерно распределенных на отрезке [0;1] случайных величин. Доказать, что

ηn = en ∏n ξk n p →1.

k =1

4. Последовательность независимых одинаково распределенных случайных величин {ξn } определена равенствами:

а) P{ξn

= 2k −ln k −2 ln ln k }=

(k =1,2,3,K);

б) P{ξ

= k}=

−1

∞

k ≥ 2, c

∑

k =2 k

Применим ли к данным последовательностям закон больших чисел?
5. Случайные величины	ξ1,ξ2 ,K независимы и			имеют	стандартное
нормальное распределение,	ηn = cos	ξn	, n =1,2,K	Удовлетворяют ли

	ξn+1
последовательности η1,η3 ,η5 ,K и η2 ,η4 ,η6 ,K закону больших чисел?
6. Последовательность ξ1,ξ2 ,K образована независимыми					случайными
величинами, имеющими нормальные распределения,
Mξk = 0 , Dξk = Ckα , C > 0 , α ≥ 0 , k =1,2,K

Описать множество значений α , при которых последовательность ξ1,ξ2 ,K

удовлетворяет закону больших чисел.

173

Усиленный закон больших чисел

Лекция № 18

Тема:

Усиленный закон больших чисел

18.1. Усиленный закон больших чисел

На предыдущей лекции было установлено, что при определенных условиях среднее арифметическое случайных величин сближается по вероятности со средним арифметическим их математических ожиданий. Но из сходимости по вероятности случайных величин нельзя сделать никакого вывода о том, как они ведут себя в отдельном эксперименте, в то время как на практике мы встречаемся со случайными величинами именно в отдельных экспериментах. Для того чтобы можно было судить о предельном поведении последовательности случайных величин в отдельных экспериментах, необходима сходимость последовательности с вероятностью 1. Теоремы, формулирующие условия? при которых разность

1	n	1	n
	∑ξk −		∑Mξk
n k =1		n k =1

сходится к нулю с вероятностью единица, называют усиленным законом больших чисел.

18.2. Неравенство Колмогорова

Теорема 18.1.

Неравенство

Колмогорова

Пусть ξ1,ξ2 ,K,ξn — независимые случайные величины, для

которых Mξk = 0, k =

Dξk

< ∞, k =

Положим

1, n

ζk =ξ1 +ξ2 +... +ξk . Тогда для всех ε > 0

P sup

≥ ε

≤

∑

Dξ

(18.1)

ε2

≤

1 k

k =1

Доказательство. Введём в рассмотрение случайные величины ηk , k =1,n ,

определяемые следующим образом:

ηk = 1, если ζ1 < ε,K, ζk −1 < ε; ζk ≥ ε;

0, в противном случае.

174

Лекция № 18

Усиленный закон больших чисел

Среди величин ηk

лишь одна может быть равной 1. ∑ηk =1 тогда и только тогда,

k =1

когда sup

ζ k

≥ ε , если же

sup

ζk

< ε , то ∑ηk

= 0 . Поэтому

1≤k ≤n

k =1

M ∑ηk

≥

(18.2)

= P sup

ε .

k =1

1≤k ≤n

Величина ηk не зависит от

ξk +1,K,ξn ,

так как полностью определяется

случайными величинами ξ1,ξ2 ,K,ξk . Следовательно

Mζn2

≥ M ∑ηkζn2 = M ∑ηk [ζn2 + 2[ζn −ζk ]ζk + (ζn −ζk )2 ]≥

k =1

≥ M ∑n ηk [ζk2 + 2[ζn −ζk ]ζk ].

k =1

Заметим далее, что

Mηkζk2 ≥ ε2 M ∑ηk ,

k =1

Mηkζk (ζn −ζk )

= Mηkζk ∑ξi

∑Mηkζk Mξi = 0 ,

i =k +1

так как ξi , i =

k +1, n

не зависят от ηkζk , следовательно,

Mζn2

≥ ε2 M ∑ηk . Из

k =1

последнего неравенства, соотношения (18.2) и равенства

Mζn2 = ∑Dξk следует

k =1

утверждение теоремы.

Пусть

{ξk }

— бесконечная последовательность случайных

∞

Следствие 18.1

величин Mξk = 0 , Dξk < ∞, k =1,2,K и ∑Dξk < ∞. Положим

k =1

∞

ζk =ξ1 +ξ2 +K+ξk . Тогда P sup

≥ ε ≤

ζk

∑Dξk .

k =1

Доказательство

. Действительно для любого n

∞

P sup

≥ ε

≤

∑

Dξ

≤

∑

Dξ

(18.3)

ε2

≤

1 k

k =1

175

Усиленный закон больших чисел

Лекция № 18

Поскольку

ζk

, то переходя к пределу в соотношении

sup

> ε

= U sup

> ε

1≤k ≤n

(18.3) при n → ∞, получим требуемое.

18.3. Усиленный закон больших чисел в форме Колмогорова

Пусть {ξk } — последовательность независимых случайных

Теорема 18.2.

величин, для которых определены,

Dξk

< ∞ ,

k =1,2,K Если

∑ 12 Dξk < ∞, то

∞

Колмогорова

k =1 k

(ξ

− Mξ

=1.

(18.4)

P lim

∑k =1

)= 0

n→∞ n

Доказательство. Не ограничивая общности, можно считать, что Mξk = 0 ,

k =1,2,K. Обозначим ηn = sup ∑ξk . Поскольку при 2n−1 ≤ m ≤ 2n

m≤2n k=1

1 m

−n+1

∑ξk ≤ 2

sup

∑ξk

= 2

ηn ,

то

для

доказательства

теоремы

достаточно

m k =1

m≤2n

k =1

показать,

что

P{lim 2−nηn = 0}=1.

Чтобы выполнялось

это

соотношение,

n→∞

достаточно, чтобы для

всякого

ε > 0 ∑∞

P{lim 2−nηn > ε}= ∞ ,

это

следует из

n=1

n→∞

теоремы Бореля-Кантелли. Воспользуемся неравенством Колмогорова

P{2−nηn > ε}= P{ηn > 2n ε}≤					1		2n
					1		∑Dξk .
				ε	2	2n	∑Dξk .
Поэтому				ε	2		k =1
Поэтому		2n
∞	∞	2n	∞					∞
∑P{2−nηn > ε}≤ ε −2	∑	2−2n ∑Dξk ≤ ε −2 ∑Dξk ∑4−n						≤ε −2 ∑Dξk
n=1	n=1	k =1	k =1		2n >k			k =1

k −2		< ∞ .
1−	1

	4

Что и требовалось доказать.

Нередко из теоремы Бернулли делают совершенно необоснованный вывод о том, что частота события A при безграничном увеличении числа испытаний стремится к вероятности события A . На самом деле теорема Бернулли

176

Лекция № 18

Усиленный закон больших чисел

устанавливает только тот факт, что для достаточно большого числа испытаний n вероятность одного единственного неравенства:

µnn − p < ε

может быть сделана больше чем 1−δ при произвольном δ > 0 .
		Предположим, что рассматривается последовательность
		Предположим, что рассматривается последовательность
Следствие 18.2		независимых испытаний, в каждом из которых появляется
Следствие 18.2		успех У с вероятностью		p		или неудача Н с вероятностью
Теорема		q = p −1. Пусть µn — число успехов при n испытаниях. Тогда
Бореля		q = p −1. Пусть µn — число успехов при n испытаниях. Тогда
Бореля
				µ			(18.5)
			P		n → p =1.		(18.5)
			n
							n
Справедливость этого утверждения вытекает из того, что µn =							n
Справедливость этого утверждения вытекает из того, что µn =							1 ∑ξk , где
						n	n k =1
	ξk = 1,		если в k - ом испытании произошел успех,
		0,	если в k - ом испытании произошла неудача,

последовательность независимых случайных величин. Условия теоремы 18.2 выполнены, так как Dξk = p(1− p) , равенство (18.5) вытекает из (18.4), потому что Mξk = p .

Замечание 18.1

Теорема 18.3.

Колмогорова

для одинаково распределенных величин

Следует иметь ввиду, что утверждается сходимость частоты к вероятности лишь с вероятностью 1, т.е. частоту можно использовать для вычисления вероятности, но не для логического определения.

Пусть {ξn } — последовательность независимых одинаково распределённых величин с конечным математическим ожиданием Mξn = a . Тогда

	1	n	ξ			=1.
P lim		∑k =1		k	= a
n→∞ n

Доказательство. Введём в рассмотрение величины

177

Усиленный закон больших чисел Лекция № 18

если

≤ n,

ξn'

если

> n.

Пусть ξn'' =ξn −ξn' .

Заметим, что

среди величин ξn'' только конечное число

отличных от нуля (на основании леммы Бореля-Кантели), так как

∑∞ P{ξn'' ≠ 0}= ∑∞ P{

ξn

> n}= ∑∞ P{

ξ1

> n}= ∑∞ ∑∞ P{m <

ξ1

≤ m +1}=

n=1

n=1 m=n

= ∑∞ m P{m < ξ1 ≤ m +1}≤ M ξ1 < ∞.

m=1

Следовательно,

=1.

(18.6)

P lim

∑k =1

= 0

n→∞ n

Рассмотрим далее величины ξn' . Пусть

Fξ (x) -функция распределения величины

ξk . Тогда

Dξk' ≤ M(ξk' )2 = ∫x2dF (x) ,

−k

∞

∑

∫x2dF (x) =

∑

∫x2dF (x) =

n=1 n −n

n=1 n

k =1 k −1<

≤k

∞

= ∑

∫x2dF (x)∑

≤

∑

∫

dF (x) k ∑

k =1 k −1<

≤k

n=k n

k =1 k −1<

≤k

n=k n

∞

Поскольку k ∑

— величина ограниченная, а ∑ ∫

dF (x) = M

ξ1

< +∞, то

∞

n=k n

k =1 k −1<

≤k

∑

Dξn'

< ∞.

n=1 n

Следовательно, на основании теоремы 18.2,

	1	n	(ξ'	− M ξ'		=1.
P lim		∑k =1			)= 0
n→∞ n			k	k

По теореме Штольца

	1	n			n
lim	1	∑Mξk'	= limMξn'	= lim	∫xdFξ (x) = a .
n→∞ n n=1			n→∞	n→∞	−n

178

<<< < Предыдущая 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 1718 / 1918 19 > Следующая >>>

Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]

#
13.04.201543.25 Кб12Лекции ПИС.docx
#
23.12.2018248.32 Кб54Лекции по литературе.doc
#
16.03.2016374.78 Кб219Лекции по налогообложению ДНР.doc
#
11.09.2019402.94 Кб6Лекции по обязательствам.doc
#
11.09.2019591.36 Кб7Лекции по политэкономии.doc
#
13.04.20153.56 Mб70Лекции по ТВ и МС(ч.1).pdf
#
15.11.201817.05 Mб3Лекции по УТП.doc
#
16.03.2016470.02 Кб36Лекции по финансам.doc
#
13.11.20191.01 Mб10Лекции с|г.doc
#
15.11.2019717.31 Кб17Лекции ФДСХ.doc
#
09.11.20191.04 Mб11Лекции, часть 1 испр..doc