Многомерный статистический анализ (128

Московский государственный технический университет имени Н.Э. Баумана

Г.Д. Карташов, В.И. Тимонин, Л.М. Будовская

МНОГОМЕРНЫЙ СТАТИСТИЧЕСКИЙ АНАЛИЗ

Методические указания к выполнению курсовой работы

М о с к в а Издательство МГТУ им. Н.Э. Баумана

2 0 0 7

УДК 519.2 ББК 22.172

К27

Рецензент В.Ю. Чуев

Карташов Г.Д., Тимонин В.И., Будовская Л.М.

К27 Многомерный статистический анализ: Методические указания к выполнению курсовой работы. – М.: Изд-во МГТУ им. Н.Э. Баумана, 2007. – 48 с.: ил.

Изложены основные понятия и методы статистического анализа многомерных результатов технических экспериментов. Приведены теоретические сведения о свойствах многомерных гауссовских распределений.

Длястудентовстаршихкурсовфакультетафундаментальныхнаук. Ил. 2. Библиогр. 5 назв.

УДК 519.2 ББК 22.172

♥ МГТУ им. Н.Э. Баумана, 2007

ВВЕДЕНИЕ

Основное внимание в пособии уделяется методам анализа зависимостей между многомерными величинами, наблюдаемыми в ходе эксперимента. Результатом эксперимента, рассматриваемого в пособии, является случайный вектор, распределенный по нормальному закону. Приводятся методы обработки статистических данных, наиболее часто используемые в промышленности и науке.

При усвоении материала (особенно в разд. 6) требуется определенный навык работы с матрицами. Предполагается также, что студенты знают такие базовые понятия, как несмещенность, состоятельность и эффективность точечных оценок неизвестных параметров; размер критерия, его критическая область и др.

Некоторые математические сведения, необходимые для понимания выкладок, содержатся в приложении. Для наглядного представления получаемых результатов рекомендуется пользоваться пакетами SAS или «STATISTICA», изучение которых входит в спецкурс «Статистические программные комплексы».

3

1. МНОГОМЕРНОЕ НОРМАЛЬНОЕ РАСПРЕДЕЛЕНИЕ

1.1. Многомерная нормальная плотность

Часто результатом эксперимента является совокупность чисел, характеризующая некоторый исследуемый объект.

Например, при обследовании пациентов в больнице у них могут измерять температуру тела ( ξ1 ) и артериальное давление ( ξ2 ).

Ясно, что у различных пациентов пара ( ξ1, ξ2 ) принимает различные значения, поэтому с полным основанием можно говорить о случайном векторе ξ = (ξ1, ξ2 ).

Определение 1.1. Случайный вектор размерности p ξ = = (ξ1,ξ2 ,…,ξp ) называется нормальным (гауссовским), если его совместная плотность распределения имеет вид

рый числовой вектор; D – симметричная, положительно-опреде- ленная матрица; «'» – знак транспонирования; D – определитель

матрицы .

В дальнейшем всегда под вектором будем понимать векторстолбец. Кроме того, для краткости совместную плотность будем

обозначать f ( x). Запись в виде ξ~ N (μ, D) означает, что вектор

ξ имеет p-мерное нормальное распределение.

4

Теорема 1.1. Вектор μ состоит из математических ожиданий компонент вектора ξ, матрица D является матрицей ковариаций компонент ξ, т. е.

Eξ1

где Е – знак математического ожидания.

Доказательство. Пусть η – случайныйвектор, ξ = Bη+b – линейное преобразование η, где B – квадратная матрица размеров p × p; b – числовой вектор. Обозначим Dξ, Dη матрицы ко-

вариаций ξ, η. В пособии [1] показано, что векторы средних

ортогональная матрица, составленная из собственных векторов матрицы D; Λ – диагональная матрица с собственными числами λi > 0 матрицы D поглавнойдиагонали. Рассмотримпреобразование

где Λ−1/ 2 ={λij } , λij = 0, i ≠ j; λii =1/ λi , i =1, p.

Пусть η= L(ξ) – случайный вектор. Совместная плотность его

компонент ηi , i =1, p , определенная по общим правилам (см. приложение), равна

5

1– собственные значения матрицы D−1.

λi

собственные векторы матрицы D−1.

6

Рис. 1

График плотности представлен на рис. 2.

Рис. 2

7

Получен колокол, растянутый в большей степени вдоль той оси, которая соответствует большему значению λ.

1.2. Оценивание параметров нормального распределения

Пусть ξ1, ξ2 ,…, ξn – выборка из p-мерной нормальной сово-

купности, т. е. ξi ~ N (μ, D) , i =1, n. Основной задачей первичной статистической обработки является оценка вектора средних μ и

матрицы ковариаций D. Получим оценки методом максимального правдоподобия.

Функция правдоподобия имеет вид

Учитывая правила дифференцирования функционалов по векторному или матричному аргументам (см. [1]), получим

1 n

Здесь ξ = n ∑i=1 ξi . Так как матрица А невырождена, то решением уравнения является оценка μ = ξ.

8

Аналогично получаем

Из свойств оценок максимального правдоподобия (см. приложение) следует, что оценка D имеет вид

При анализе зависимостей между компонентами нормального вектора необходимо оценивать коэффициенты корреляции ρij .

9

Следствие 1.1. Оценки максимального правдоподобия коэф-

взаимно однозначно отображается на множество параметров σij ,

i =1, p; j =1, p . Тогда утверждение следует из свойств оценок максимального правдоподобия (см. приложение).

1.3. Оценивание зависимости между компонентами нормального вектора

Подробный анализ связей между компонентами нормальных векторов проводят в связи с тем, что их маргинальные и условные распределения также являются нормальными. Кроме того, линейные комбинации компонент нормального вектора являются нормальными случайными величинами. В этом разделе рассмотрены основные свойства распределения нормального вектора (свойства, необходимые для дальнейшего изложения, приведены в приложении).

Пусть ξ~ N (μ, D). Разобьем ξ на два подвектора ξ1 размер-

ности r и ξ2 размерности m, т. е. r + m = p.

Всоответствии с этим разбиением получим представление для

μи D :