Добавил:

Upload Опубликованный материал нарушает ваши авторские права? Сообщите нам.

Вуз:

Пермский государственный национальный исследовательский университет

Предмет:

[НЕСОРТИРОВАННОЕ]

Файл:

Binder1

.pdf

Скачиваний:

Добавлен:

30.03.2015

Размер:

2.59 Mб

Скачать

☆

<<< < Предыдущая 1 2 3 4 5 6 7 8 9 10 1112 / 1712 13 14 15 16 17 > Следующая >>>

i j

0 2 ln

Rn 2

M 2

L( , x)L( ,

lnL( , X )

				2
x)dx			ln L( , x)		L( , x)dx
x)dx			ln L( , x)		L( , x)dx
	R	n
	R

D U ( , X )

In ( )

Следствие 3. Пусть Tn – статистическая оценка g		со смещением bn , которое является
дифференцируемой функцией параметра . Тогда D Tn	[g ( ) bn ( )]2
			.

		In ( )

Если эффективную оценку для заданной параметрической функции не удалось найти с помощью неравенства Рао–Крамера, то можно попытаться это сделать с помощью неравенства Бхаттачария.

Неравенство Рао–Крамера в многомерном случае.

Имеется функция g , 1, , r T – r-мерный параметр. Обозначим:

	U1						T
U ; X	U1		; X		, ,Ur ; X		,


U j ( ; x)				ln L( ; x),		j 1, r .
U j ( ; x)		j		ln L( ; x),		j 1, r .
		j

Роль информации Фишера в многомерном случае играет информационная матрица Фишера

In = D U = M		T	=	Iij	.
	UU

Другая форма представления элементов информационной матрицы: Iij M

ln L( ; X ) .

Пусть Tn – несмещенная оценка скалярной функции g

с многомерным параметром ; выполнены

условия регулярности. Тогда

DTn

g( )

In 1

g( )

,...,

( )

,...,

grad T g( ) In 1 ( ) grad g( ) .

Неравенство обращается в равенство, когда имеет место представление:

Tn g B1 , , Br U , X .

	,	a, неизвестные параметры распределения.
Пример. Пусть X – НПВ из ГС N a; 2

1)Вычислить информацию Фишера i I1 для одного наблюдения.

2)Проверить эффективность выборочного среднего X в качестве оценки для M a.

		1					( x a)2
Решение. По условию f X (x)					e			2 2
								2 2

			2
			2
1) Вычислим: ln L ln L( , x) ln							1			ln				(x a)2			;
														2 2
								2
								2
									2 ln L			2			x a		;
									a			2				3	;
									a							3
	ln L			1		(x a)2					;		2 ln L					1
							3				;			2			2
							3							2			2

ln L	x a	;	2 ln L	1	;
a	2		a2	2

3(x a)2 .

	Тогда			I
		I1 ( )			11
				I12
I11	2 ln L				1
	M
		a	2			2

I12	1/ 2		0	, поскольку
				, поскольку
I22		0	2 / 2

2 ln L 2

;I12 M a 3 M[ X

I22	2 ln L		1		3
	M
		2		2		4

a] 0 ;

M[ X a]2 2

2) Статистика X является

	n		1
ln L( , x) ln L( , xi		) n ln

			2
	i 1		2

несмещенной			оценкой	для	a.	Вычислим
	1		n
n ln	1		(xi a)2
n ln	2	2	(xi a)2
	2		i 1

ln L( , X )

; X

( X i a)

i 1

U2 ; X

ln L( , X )

i 1

Проверяем выполнение равенства

n X a ;

( X i a)2 .

( X

a)2 T

X a ;

X a B1

, B2

i 1

( X

a)2

X a B2

i 1

Если выберем B2 0 , то B1

что и означает эффективность оценки X .

Байесовские оценки


Пусть X X1, , X n	- независимая повторная выборка из генеральной совокупности X ,
распределение которой	принадлежит	параметрическому семейству P ;	L , X - функция
правдоподобия случайной величины		X , . Имеется также дополнительная информация о

параметре в виде априорного распределения этого параметра, которое может быть задано либо с помощью функции плотности f t , либо с помощью ряда вероятностей P t j , j 1, , N .

При этом считается, что значение параметра от одной серии наблюдений к другой может изменяться и априорное распределение несет в себе информацию о распределении параметра в

предыдущих испытаниях. Задача заключается в оценке

параметра

по

выборке

использованием априорной информации в виде априорного распределения.

Байесовской

оценкой

параметра

по

выборке

соответствующей априорному

X ,

распределению

f t

( P t j

, j 1, , N ),

называется статистика

t q t |

dt,

в случае непрерывного распределения ,

| X

, в случае дискретного распределения .

t j P t j

| X

В этом выражении:

j 1

f t L t, x

t j L t j , x

q t | x

P t j

| x

LX x

f t L t, x dt,

в случае непрерывного распределения ,

LX x

в случае дискретного распределения ,

P t j L t j , x ,

j 1

функция

правдоподобия

выборки

для

распределения случайной

величины

L t, X -

параметром t.

Основное

свойство

байесовской

оценки.

Байесовская

оценка

минимизирует

среднеквадратичное уклонение

min M

T X

Пример

1. Пусть

X1, , X n

независимая повторная выборка из генеральной

совокупности

X N a;1 , a N 0; 2 , известный

параметр. Найти

байесовскую

оценку

параметра a.

Решение. В данном случае параметр a имеет плотность распределения

fa t

t R,

exp

2 2

а случайная величина X при заданном значении параметра a имеет плотность распределения

f X x | a

Последовательно вычислим:

	n	1
L t, x	f X xi \| t
L t, x	f X xi \| t	2	n / 2
	i 1	2

L a, x			1				x a	2		x R.
			1	exp			x a		,
				exp			2		,
			2				2

	1 n				2
exp		xi t				,
exp		xi t				,
	2 i 1

t 2

exp

n / 2

2 2

2 i 1

qa t | x

t 2

C1 x

exp

x exp

2tn x x

2 i 1

n x

C2 x exp

tn x

C3 x

exp

Таким

образом

случайная

величина

при

имеет

нормальное

распределение

;

. Поэтому aB

M a | X

X1, , X n

Пример 2.

Пусть

- независимая повторная выборка из генеральной

совокупности

плотностью

распределения

x | L , x

, x 0, , если

параметр

имеет плотность распределения

t 3t2 , t 0;1 .

Найти байесовскую оценку

параметра .

Решение. Последовательно вычислим:

2xi

2n xi

I 0 x 1 x n

t ,

f X

xi | t

I 0 xi t

i 1

L t, x

2 n

i 1

2n xi

I 0 x 1

x n t dt

i 1

f t L t, x dt 3t

0 t 1

3 2n

i 1

dt 3 2

2 2n

dt 3 2

i 1

1 ,

2n 3

i 1

3 2n

x n

2n xi

0 t

i 1

I 0 x 1 x n

2n 3 x2nn 3I x n

t 1

t 2n

qa t | x

2n 3

2n 2

1 x n

i 1

2n 3

x2n 3

Вычислим байесовскую оценку

2n 3 x2nn 3I x n

t 1

1 2n 3 x2nn 3

M | X

t q

t | X

2 n 3

2n 3

2 n 2

2n 3

1 x

2n 3

4 2n

2n 3

2n 4

2n 3

2n 3 x n

1 x n

2n 3 x n

x n

1 x2n 3

2n 4 x2n 4

1 x2n 3

2n 4

Пример 3.

Пусть

X X1, , X n

- независимая повторная выборка из генеральной

совокупности

X ,

имеющей геометрическое распределение с параметром p , причем параметр p

Построить байесовскую оценку параметра p.

равномерно распределен на множестве

Решение. В данном случае параметр p имеет ряд распределения

P p t

t, t

, а ряд

распределения случайной величины X определяется выражением

P X x | p L p, x pqx , x 0,1, 2, .

Последовательно вычислим:

1 t

L t, x P X xi | t t 1 t

i 1

3nx

n 1

1 3

n 1 x

3nx

LX x P p t j L t j , x

t j

1 t j

3 4

n 1

j 1

3 j 1

1 t j

t j

n 1

P p t j

P p t j L t j , x

t j

| x

n 1

Вычислим байесовскую оценку

3 4n 1

1 t j

n 1

t j

pB M p | X

t j P p t j | X t j

n 1

j 1

3nx

3n 1

n 1

4n 1 x 1

2n 1 x 1

4n 1 x 1

3nx 2n 1 x

1 3n

n 1

n 1 x

Интервальное статистическое оценивание

Основная особенность точечной статистической оценки неизвестной величины g – она является случайной величиной, и поэтому ее значение может и притом существенно отличаться от истинного значения g . Возникает проблема оценки точности точечной оценки.

Оказывается решение проблемы оценивания неизвестной величины можно совместить с оценкой ее погрешности. Для этого следует воспользоваться интервальной оценкой.


Пусть	имеется НПВ	X X1, , X n из	ГС X ,	которая	имеет однопараметрическое
распределение с неизвестным параметром . Надо оценить g .
Оценку будем строить в виде интервала, содержащего				g . По крайней мере одна из границ

такого интервала является случайной – некоторой статистикой. Интервал вида T1 X ,T2							X
называется двусторонним доверительным интервалом с уровнем доверия						(другие		ее
названия:	надежность,	коэффициент доверия,	уровень	доверия)	для величины	g ,	если

выполняется неравенство:

(*)	P T1 X g T2 X			,
т.е. этот интервал содержит неизвестную оцениваемую величину c заданной вероятностью .
			, T2
В том случае, когда обе статистики T1 X				X имеют распределения непрерывного типа знак
неравенства в правой части (*) можно заменить на знак равенства.
Интервалы вида
	T1
		X g		и g T2 X

называют соответственно левосторонним и правосторонним доверительными интервалами. Выбор типа интервала определяется характером решаемой содержательной задачи.

Ширина двустороннего интервала характеризует точность интервального оценивания неизвестной величины g .

При прочих равных условиях ширина интервала зависит от значения и объема выборки n .

Чем больше доверительная вероятность, тем шире интервал. Предпочтительные значения :							0,8;
0,9; 0,95; 0,99.		С	увеличением			объема выборки ширина интервала уменьшается, обычно	со
			1
			1
скоростью O					, T X	– точечная оценка, используемая для построения интервала.
				X
	D T			X

Если подобная оценка строится для многомерной неслучайной величины, то ее называют доверительным множеством. Интервальная оценка для будущего значения случайной величины – интервал предсказания.

Метод центральной статистики построения доверительных интервалов

Случайная величина U U X , называется центральной статистикой для параметра по

НПВ X , если она удовлетворяет условиям:

1)ее распределение не зависит от ;

2)она является строго монотонной по параметру при любом фиксированном значении выборки.

Центральная статистика всегда является случайной величиной непрерывного типа. Пусть FU u – ее функция распределения.

Построение двустороннего доверительного интервала (ДИ) для параметра реализуется по

следующей схеме.	P u1 U u2 FU u2 FU u1
1) Находим u1 u2 :


2) Решаем неравенство u1 U X , u2	относительно . Решение этого неравенства и
является искомым доверительным интервалом.
Примечание. Уравнение FU u2 FU u1	имеет бесконечное множество решений u1,u2 .

Поэтому при выборе значений u1,u2 используют дополнительные соображения.

Подход 1. Минимизируем разность u2 u1 . Это позволяет, как правило, получить доверительный

интервал минимальной длины. Реализация подхода сводится к решению задачи на условный экстремум:

		u2 u1 min					(1)
F		u	2	F	u	.	(1)
	U		2	U	1

Подход 2. Используем принцип равной вероятности попадания центральной статистики на хвосты

ее распределения. В этом случае: u1

x1 [U ], u2 x1 [U ].

СВ U имеет

Замечание.

Если

симметричное

распределение относительно нуля,

т.е.

fU u fU u

FU u 1 FU u , то из соображений симметрии

x1 [U ] x1 [U ]. В

вероятностью

этом случае

выполняется

неравенство

x1 [U ].

Поэтому

при

использовании подхода 2 (а в некоторых случаях и при реализации подхода 1) построение двустороннего доверительного интервала сводится к решению относительно неравенства:

			x1 [U ].

		U X ,			(2)
				2
Построение правостороннего доверительного интервала для					параметра		реализуется по
следующей схеме.				либо уравнение P U u FU u ,
1)	Находим u, решая			либо уравнение P U u FU u ,		либо уравнение
	P U u 1 FU u			в зависимости от того, является функция U x, возрастающей
	или убывающей относительно параметра .

2)	Решаем либо неравенство U X , u , либо неравенство				u U X ,		относительно .
	Решение этого неравенства и является искомым доверительным интервалом.
Построение левостороннего				доверительного интервала для	параметра		реализуется по

аналогичной схеме, поступая с точностью до наоборот по сравнению с построением с правосторонним интервалом.

Построение доверительных интервалов для параметров нормального распределения

Постановка задачи. Имеется X1 , , X n – НПВ из ГС X N a, 2 . Требуется построить доверительные интервалы для параметров a, с надежностью .

Для решения задачи используются вспомогательные утверждения, справедливые при сделанных

предположениях.

Лемма 1. Статистики

, SX2

независимые СВ.

Лемма 2.

N 0;1 ,

1)sX

nSX

2 n 1 .

Лемма 3. Если U N 0;1 ,

то с вероятностью

выполняется неравенства:

N 0;1

, U x

0;1 ,

U x N 0;1 .

Примечание. Лемма 3 сохраняет свою силу, если вместо стандартного нормального распределения использовать распределение Стьюдента.

Существуют 4 варианта сочетания параметров, для которых поставленная задача имеет решение.

1. Доверительный интервал для a при известном .

Решение. В этом случае центральной статистикой является случайная величина

					a
			n	X
	U U X , a					.

По лемме 2 U

	X , a N 0;1 , при этом функция U x, a монотонна относительно a .
Ищем интервал минимальной длины, следуя		подходу 1, учитывая, что в данном случае
FU u2 FU u1 u2 u1 :

u2 u1

min

u2 u1 .

Составляем функция Лагранжа: L = L u ,u ,

u u

. Применяем к

ней необходимое условие экстремума:

1 (u2 ) 0,

1 (u 1 ) 0.

Равенства в системе возможны при (u2 ) (u1 )

, поэтому нетривиальным решением

системы

являются значения

u1 , u2 ,

связанные соотношением

u1 u2 .

Достаточное условие

минимума

в стационарной точке выполняется.

u u

Используя соотношение u1 u2 , решим относительно u2

уравнение

u2 u1 u2 u2 2 u2 1 .

Очевидно, что u

N 0;1 .

Т.о., установили, что с вероятностью

выполняется неравенство

N 0;1 или,

X , a

что, то же самое, выполняется неравенство

0;1 .

Решая последнее неравенство, получаем решение задачи

0;1

N 0;1

a :

N 0;1

(3)

N 0;1

Запись

вида X x

является

компактной

формой записи

двустороннего

интервала.

Примечание (построение односторонних доверительных интервалов). В соответствие с леммой 3 с вероятностью выполняются неравенства

X a

U U

X , a

x N 0;1

U U

X , a

x N 0;1 .

Решая эти неравенства, получим соответственно левосторонний и правосторонний доверительные интервалы

0;1

(3)

N 0;1

(4)

2. Доверительный интервал для a при неизвестном .

Решение. В этом случае центральной статистикой является случайная величина

n 1

которая при сделанных предположениях имеет распределение Стьюдента Tn 1 , поскольку ее

можно представить в виде

N (0,1)

					a /
U		n	X		a /
						.
						.
	1			n 1 sX2
	n 1			n 1 sX2
	n 1				2

				2
					n 1

Далее действуя таким же образом, как и в предыдущем случае, получим следующие доверительные интервалы:

x1 Tn 1

a :

x1 Tn 1

n 1

x Tn 1

(6)

x1 Tn 1

n 1

3.Доверительный интервал для при известном a .

Решение. В этом случае центральной статистикой является случайная величина

xi a

2 .

i 1

(5)

(7)

(8)

Тогда в соответствие с принципом равной вероятности попадания на хвосты распределения

центральной статистики с вероятностью выполняется неравенство x1		2	U	x1		2
		n	U	x1		n .
	2				2

Решая это неравенство относительно , используя левую часть (8), получим двусторонний доверительный интервал

n			n
xi a 2			xi a 2
i 1			i 1		.	(9)
		2
				2
x1		n	x1	n
	2		2

Односторонние доверительные интервалы для имеют вид

n			2
xi a			2
i 1					,		(10)
		2			,		(10)
		2
x		n
		n
	xi a 2
	i 1					.	(11)
						.	(11)
		x1		2
		x1		n

4. Доверительный интервал для при неизвестном a .

В этом случае с учетом Леммы 2 центральной статистикой является случайная величина

U	nSX2	2	.
	2
		n 1

Доверительные интервалы для имеют вид

	nS 2			.			(12)
x [ 2			]	.			(12)
		n 1

		nS 2				.	(13)
		x	[ 2		]	.	(13)
		1		n 1

Построение доверительных интервалов с помощью универсального преобразования

Существует еще один класс распределений, для которого центральная статистика существует всегда и имеет простой вид.

Лемма (об универсальном преобразовании). Если с.в. X имеет непрерывную ф.р. F x ,то с.в. Y F X имеет равномерное распределение R 0;1 .

Доказательство. При 0 y 1

FY y P F X y P F 1 F X F 1 y P X F 1 y F F 1 y y.

Теорема. Если F x;

- ф.р. элементов выборки непрерывна по x и монотонна по , то

с.в. U X ; ln F X i ; имеет гамма-распределение с плотностью Эрланга

i 1

f u

un 1e u

, u 0.

Доказательство.

По

лемме

Ui F X i ; R 0;1 .

Тогда

нетрудно показать, что

Yi lnUi

E 1 . Но сумма независимых стандартных показательных случайных величин

имеет распределение Эрланга с плотностью f u .

Пример.

Доверительный интервал

с надежностью

для

неизвестного

параметра

равномерного распределения R 0;

по повторной выборке X X1, , X n .

Решение.

В данном

случае

F x;

, x 0; .

Функция

удовлетворяет

условию

теоремы. Найдем u1 u2 из условия

f u du . Тогда с вероятностью выполняется

неравенство

<<< < Предыдущая 1 2 3 4 5 6 7 8 9 10 1112 / 1712 13 14 15 16 17 > Следующая >>>

Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]

#
30.03.201527.26 Кб24bilety_borovykh.docx
#
10.09.2019671.23 Кб8bilety_gram-814.doc
#
29.03.2015144.9 Кб47Bilety_po_grazhdanskomu_pravu_1_chast.doc
#
27.04.2019168.43 Кб10Bilety_po_teorii_politiki_1.docx
#
10.08.201928.03 Кб4Bilet_4.docx
#
30.03.20152.59 Mб30Binder1.pdf
#
30.03.20152.73 Mб72biohimiyaverstka.pdf
#
29.03.2015629.76 Кб7BIZNES_Posobie_dlya_Geniev.doc
#
21.11.201984.48 Кб1BLACK HOLE COMPUTERS.doc
#
18.11.201942.5 Кб1Breaking logjams.doc
#
30.03.20152.76 Mб7BuridanovOsel.pdf